Компанія OpenAI оголосила про майбутнє нововведення, яке дозволить чат-боту ChatGPT вести більш відверті розмови, зокрема у сфері еротики, але лише для підтверджених повнолітніх користувачів. Цю заяву надав генеральний директор OpenAI Сем Альтман.
Варто відзначити, що OpenAI не стане першою компанією, яка спробує отримати прибуток від сексуалізованого штучного інтелекту. З сексуальним контентом винахідники AI інструментів зіткнулися майже одразу після вибухового зростання популярності генерації зображень та текстів на основі штучного інтелекту у 2022 році. Проте ті компанії, що рано взяли на озброєння дорослий AI-контент, стикалися зі значними юридичними й соціальними проблемами, а також із випадками зловживань, пов’язаних із тим, що дедалі більше людей звертаються до подібних технологій як до джерела спілкування чи з метою сексуального збудження.
Генеральний директор OpenAI поставив під сумнів доцільність довготривалих жорстких заборон на дорослий контент і зазначив:
1. Компанія не вважає себе «виборними моральними поліцейськими» у світі.
2. Вона готова надати більше свободи для повнолітніх користувачів.
3. Для неповнолітніх будуть запроваджені нові обмеження.
За словами Сема Альтмана, аналогію можна провести з політикою суспільства щодо відповідних вікових обмежень на контент, наприклад, рейтинг R для кінофільмів. Він повідомив це в соціальній мережі X, власником якої є Ілон Маск — творець анімованого AI-персонажу, що фліртує з платними підписниками.
Наразі платні підписки на ChatGPT переважно орієнтовані на професійне використання, на відміну від чат-бота Grok Ілона Маска, який активно пропонує інтимні розмови. Однак можливість перетворити чат-бота на друга чи романтичного партнера може стати способом для найбільшої стартап-компанії світу, що поки що зазнає збитків, збільшити прибуток та виправдати її оцінку у 500 мільярдів доларів.
Дослідниця з Оксфордського університету Зілан Цянь зазначає:
– Підписки у ChatGPT не приносять суттєвих доходів.
– Введення еротичного контенту дозволить генерувати швидкий дохід.
– На сьогодні існує близько 29 мільйонів активних користувачів AI-чат-ботів, спрямованих переважно на романтичні чи сексуальні зв’язки.
– Ця цифра не включає користувачів, які звертаються до традиційних чат-ботів з подібними цілями.
Крім того, не враховано користувачів платформи Character.AI, яка стикається з позовом через випадок з чат-ботом, змодельованим за героїнею “Гри престолів” Дейєнеріс Таргарієн. Заявлено, що він встановив сексуально аб’юзивні стосунки з 14-річним хлопцем і навіть підштовхував його до самогубства. OpenAI також перебуває під позовом від родини 16-річного користувача ChatGPT, який покінчив життя самогубством у квітні.
Зілан Цянь наголошує на потенційній шкоді реальним людським стосункам, особливо враховуючи, що популярні чат-боти схильні до лести та тепер можуть бути цілодобово доступні для спілкування зі сексуальним підтекстом. Вона додала, що з розвитком голосових і візуальних версій ChatGPT, що вже існують в деяких варіаціях, такі можливості ставатимуть лише ширшими.
Історія людської захопленості машинами, схожими на людину, завжди була популярною темою в літературі — від античного міфу про Пігмаліона та його ідеалізовану статуетку з слонової кістки до наукової фантастики минулого століття. Проте створення подібної машини видавалося нетиповим кроком для OpenAI, яка була заснована близько десяти років тому як неприбуткова організація із місією безпечного розвитку штучного інтелекту, що перевищує людські можливості.
У серпні на подкасті Сем Альтман заявив, що компанія намагається утриматися від спокус запускати продукти, які допомагали б зростанню чи приносять додатковий дохід, але не відповідали б довгостроковій місії. На конкретному прикладі він навів — ChatGPT поки що не має аватара-сексуального робота.
Прикладом складної роботи на ринку дорослого AI контенту є стартап Civitai з Айдахо — платформа для створення AI-генерованого мистецтва, яка відкрито дозволяла дорослий контент від самого запуску. Ко-засновник і генеральний директор компанії Джастін Майєр розповів:
– Їхня платформа підтримувала дорослий контент цілком свідомо.
– Венчурний фонд Andreessen Horowitz, один із ключових інвесторів OpenAI, підтримував Civitai.
– Поява популярних інструментів Stable Diffusion і Midjourney, що дозволяють перетворювати текстові описи у зображення, сприяла виникненню нової категорії синтетичного порнографічного контенту.
– Дослідження показали, що тренування моделей на «дорослих темах» поліпшувало їхню здатність правильно відтворювати людську анатомію і підвищувало якість моделей.
– Компанія прагнула дозволити розвиток, який би виграв для всієї спільноти користувачів, незалежно від того, цікавилися вони дорослим матеріалом чи, приміром, анімаційними стилями Pixar.
– Головним пріоритетом залишалося надання контролю користувачам щодо того, що вони хочуть бачити на сайті, та забезпечення безпеки.
Однак свобода публікації дорослого контенту призвела до зловживань. У минулому році Civitai посилила моніторинг та видалення сексуальних зображень із зображенням дітей, але платформа залишилася головним осередком AI-порно, включно з хибними фотографіями знаменитостей. Зі зростанням тиску з боку платіжних систем та прийняттям закону проти поширення небажаних зображень, підписаного президентом Трампом, Civitai на початку року заборонила створення дипфейків реальних осіб, що спричинило падіння активності користувачів.
Інша компанія, Baltimore-based Nomi, також не відмовляється від зрілого контенту, однак її засновник і CEO Алекс Кардинелл підкреслює, що чат-боти призначені виключно для користувачів, старших за 18 років, і не маркетуються для підлітків. Ці чат-боти не створені перш за все для сексу, але, на думку Кардинелла, користувачі, які побудували платонічні стосунки з ботом, час від часу можуть перейти до романтичних.
За його словами:
– Особливості користувацьких емоційних потреб бувають дуже різними і залежить від того, кого саме людині не вистачає в реальному житті.
– Він утримується від оцінки, скільки користувачів Nomi ведуть еротичні розмови з чат-ботом, порівнюючи це з багатогранністю справжніх стосунків.
– Компанія не здійснює моніторинг змісту користувацьких діалогів подібного характеру.
Автор цього матеріалу — журналістка, що працює для Associated Press.
