Генеральний директор OpenAI Сем Альтман оголосив, що незабаром ChatGPT зможе створювати еротичний контент для підтверджених користувачів повнолітнього віку. Це рішення, яке Альтман охарактеризував як прагнення «ставитись до дорослих користувачів як до дорослих», ухвалене на тлі зростаючої уваги до впливу чат-ботів штучного інтелекту на психічне здоров’я користувачів у контексті випадків так званої «AI-психозу». Таке рішення також відображає тенденції конкурентів, зокрема компанії xAI, заснованої Ілоном Маском, яка вже інтегрувала на свої платформи більш відвертих сексуальних «компаньйонів»-чати.
Існує значний попит на чат-боти штучного інтелекту, здатні взаємодіяти у романтичному чи сексуальному форматі. Зокрема, у квітні дослідження Harvard Business Review серед 6000 активних користувачів штучного інтелекту виявило, що найбільш популярним сценарієм використання є «компанійство та терапія». Натомість аналітики Ark Invest відзначили суттєве зростання платформ, орієнтованих на дорослу аудиторію: минулого року їх частка ринку зросла до 14,5%, що означає відтік користувачів від OnlyFans, де цей показник раніше утримувався на рівні 1,5%.
Популярні альтернативні компаньйони, такі як Character.ai і Replika, також задовольняють зростаючий запит аудиторії на такого роду взаємодію. На початку року xAI запровадила режим «компаньйона» для чат-бота Grok, який дозволяє користувачам взаємодіяти з різними персонажами, серед яких – сексуалізований аніме-персонаж під ім’ям «Ані».
Джесіка Лі, старший науковий аналітик Центру безпеки та новітніх технологій в Університеті Джорджтауна, коментує Fortune, що OpenAI опинилась у складній ситуації, адже компанія помітила виразний попит з боку користувачів. Вона підкреслює, що «у відносинах, які люди будують із моделями, еротичний або дорослий контент також належить до аспектів емоційної взаємодії з цими моделями».
Зі свого боку, Лі вважає, що ця ініціатива може бути спробою OpenAI «триматися на межі», намагаючись зберегти існуючу частку ринку за допомогою опційного модераційного контролю контенту для непристойних матеріалів, а одночасно залучити нову аудиторію, відверто зацікавлену у нішевих послугах, які пропонують, наприклад, такі сервіси як Replika.
За словами Лі, OpenAI продовжує вести діяльність, подібну до технологічної платформи або соціальної медіа-компанії, що розташовує себе між двома різними наративами:
1. Презентація для інвесторів і політиків про створення загального штучного інтелекту, який позитивно вплине на економіку.
2. Реальні маркетингові та користувацькі потреби, які вимагають більш гнучкого підходу.
Проте ескалація присутності дорослого контенту у діяльності OpenAI викликала критику з боку захисників безпеки дітей, а також відомих фахівців галузі. Вони висловили занепокоєння, що, незважаючи на вжиті заходи перевірки віку, еротичний матеріал може стати доступним для неповнолітніх.
Зокрема, підприємець і ведучий ток-шоу Марк Кубан застеріг, що план OpenAI може «серйозно обернутися проти них», підкресливши, що батьки не довірятимуть фільтрам віку компанії для захисту дітей від відвертого контенту. Федеральна торговельна комісія США вже почала розслідувати методи взаємодії AI-чатботів з неповнолітніми, а законодавці штатів працюють над посиленням регулювання цифрових компаньйонів та сексуалізованого AI-контенту. Дженні Кім, партнер юридичної фірми Boies Schiller Flexner, наголосила у коментарі BBC, що OpenAI «використовує людей як піддослідних щурів» і поставила під сумнів здатність компанії уникнути доступу дітей до дорослого контенту.
У відповіді на запити OpenAI повідомили, що розробляють систему оцінки віку, яка зможе визначати, чи користувач є повнолітнім. Якщо вік підтвердити не вдасться з високою впевненістю, бот автоматично надаватиме досвід, адаптований під користувача до 18 років, водночас пропонуючи дорослим можливість верифікувати свій вік для отримання доступу до контенту, призначеного для повнолітніх.
Після деякої критики у мережі X (раніше Twitter) Сем Альтман зауважив, що дискусія навколо питання еротичного контенту роздулася сильніше, ніж він очікував. Він наголосив, що зміни є лише одним із прикладів забезпечення більшої свободи користувачам, які є повнолітніми, та не означають послаблення заходів безпеки або зменшення уваги до психічного здоров’я.
Альтман зазначив: «Ми не є виборчими моральними поліціянтами у світі», і наголосив, що ChatGPT й надалі «надаватиме пріоритет безпеці над приватністю та свободою для підлітків», водночас дозволяючи дорослим більше автономії.
### Хвиля критики через оновлення GPT-4o
OpenAI також стикнулася з несподіваною хвилею невдоволення після рішення замінити версію ChatGPT на базі GPT-4o новішою моделлю GPT-5. Користувачі висловили протест, апелюючи до втрати емоційних зв’язків із попередньою ітерацією чат-бота, в тому числі дружніх і романтичних взаємин. Петиція з вимогою зберегти GPT-4o зібрала майже шість тисяч підписів.
Автори петиції зазначали: «Для багатьох GPT-4o — це унікальний і незамінний досвід, що поєднує якості і можливості, які ми цінуємо, незалежно від показників продуктивності. Ми продовжуємо отримувати від GPT-4o користь у різних важливих аспектах».
Хоча OpenAI врешті повернула GPT-4o, учасники руху #keep4o повідомили Fortune про занепокоєння тим, що компанія направляла користувачів до GPT-5 без їхнього попереднього погодження або повідомлення.
Джесіка Лі висловила припущення, що оприлюднення цієї ініціативи OpenAI може бути знаком для користувачів, які висловили потребу в дорослому контенті: «Дуже публічне оголошення дає зрозуміти, що компанія чує користувачів і реагує на їхні запити».
Ця стратегія не є новою і базується на тих незначних змінах, які були внесені раніше цього року в Model Spec OpenAI. У лютому компанія пом’якшила заборони на сексуальний та насильницький контент, характеризуючи це як крок назустріч відходу від «штучного патерналізму».
Нові вказівки дозволяють створювати письмовий еротичний та інший делікатний контент у відповідних контекстах. OpenAI також повідомила Fortune, що нещодавнє оголошення є частиною плану розвитку згідно з актуалізованою Model Spec, водночас дотримуючись обмежень для запобігання шкідливому використанню, як-от розповсюдження дипфейків.
