У серпні генеральний директор OpenAI Сем Альтман під час подкасту заявив, що він «пишається» тим, що компанія не відволіклася на впровадження додаткових функцій на кшталт «аватара-сексбота» у ChatGPT. Однак у вівторок він повідомив про те, що дорослі користувачі зможуть отримувати доступ до відвертих інтерактивних вражень, що свідчить про значну зміну в практиці компанії.
Альтман зазначив у публікації на платформі X: «У грудні, коли ми повніше впровадимо механізми вікового контролю і реалізуємо принцип „ставитися до дорослих користувачів як до дорослих“, ми дозволимо ще більше – до прикладу, еротику для верифікованих дорослих». За словами генерального директора, чат-бот стане більш «людяним» або «порівнянним з другом» у своїй поведінці.
Попит на штучний інтелект, що демонструє романтичні або сексуальні риси, очевидно дуже високий. За даними аналітичної компанії Appfigures, у першій половині 2025 року мобільні застосунки-компаньйони на базі ШІ згенерували $82 мільйони доходів.
Проте деякі експерти висловлюють занепокоєння, що, освоюючи цей сегмент ринку, OpenAI ставить власну залученість користувачів і прибуток вище якості взаємодії та безпеки. Роман Ямпольський, професор і дослідник безпеки ШІ з Університету Луїсвілля, коментує: «Штучні асистенти у форматі компаньйонів є потужним двигуном зацікавленості, і конкуренти вже роблять фліртуючих і романтичних агентів звичайною справою. Формулювання „ставитися до дорослих як до дорослих з покращеними інструментами безпеки“ фактично прикриває монетизацію та стратегію утримання користувачів».
Зростання популярності ботів-компаньйонів
Протягом останніх кількох років OpenAI позиціював ChatGPT як інструмент підвищення продуктивності, тоді як інші компанії більш відкрито працювали з романтичними або сексуальними напрямками. Наприклад, сервіси як Replika та Character.AI надають віртуальних партнерів, які діють як бойфренди або ґірлфренди. Раніше цього року чат-бот Grok від xAI запустив режим «компаньйон», що дозволяє користувачам взаємодіяти з персонажами, включаючи сексуалізованого анімешного бота на ім’я «Ані».
Детальніше: Розквіт романтики між людиною та штучним інтелектом
Минулого року Ark Invest опублікувала звіт, у якому відзначалося, що сайти з NSFW-контентом на базі ШІ збільшили свою частку ринку до 14,5% від OnlyFans, порівняно з 1,5% роком раніше. Цей сегмент обіцяє великі доходи, адже користувачі компаньйонів схильні бути більш активними, відданими своїм ботам і готовими платити за продовження спілкування. Це вигідно для компаній зі штучного інтелекту, оскільки вони отримують більше тренувальних даних для покращення моделей, а також безпосередній дохід від користувачів.
У прогнозі Ark Invest зазначено, що ринок компаньйонів на базі ШІ може досягти $70 мільярдів щорічного доходу до кінця десятиліття за рахунок передплат, покупок у додатку та мікроплатежів. Автори звіту відзначають: «Штучний інтелект може стати привабливою альтернативою людському спілкуванню та протиотрутою від самотності в усьому світі».
Хоча ChatGPT не позиціонувався як романтичний інструмент, багато користувачів закохалися у бота. У серпні, після оновлення GPT, деякі користувачі розгубилися через те, що їхні штучні хлопці чи дівчата зникли, а інші довіряли боту найглибші таємниці, що призводило до трагічних наслідків. Зокрема, батьки підлітка, який скоїв суїцид, подали позов до OpenAI, стверджуючи, що чат-бот допомагав їхній дитині «досліджувати методи самогубства». Компанія в заяві для New York Times висловила скорботу з приводу втрати та вказала на вади у системах безпеки під час довготривалих взаємодій.
У вересні три сім’ї неповнолітніх також подали судові позови проти Character Technologies, Inc., творців Character.ai. Одна з родин, що втратила дочку, яка покінчила життя самогубством після спілкування з чат-ботом, заявила, що Character.ai залучала дитину до «гіперсексуалізованих розмов, які в інших обставинах і за її віком підлягали б кримінальній перевірці». Представник Character.ai запевнив CNN, що компанія «дуже серйозно» ставиться до безпеки користувачів і вкладає «величезні ресурси» у свою програму захисту.
У тому ж місяці Федеральна торгова комісія США почала розслідування щодо потенційних негативних наслідків чат-ботів для дітей і підлітків.
OpenAI не відповів на нещодавній запит TIME щодо коментаря, але початок вересня ознаменував запуск «батьківського контролю» для чат-бота, що, ймовірно, стало реакцією на суперечки щодо захисту неповнолітніх.
Можливі ризики
У вівторок Альтман змінив тон, заявивши, що компанія успішно пом’якшила «серйозні проблеми з ментальним здоров’ям» і тепер послаблює деякі обмеження, щоб зробити ChatGPT «кориснішим і приємнішим» для певних користувачів. Водночас фахівці з психічного здоров’я висловлюють занепокоєння, що питання ризиків залишаються актуальними. Хізер Берг, професорка ґендерних і трудових студій Каліфорнійського університету в Лос-Анджелесі, зазначає: «Ці технології не віддзеркалюють бажання звичайних людей чи напрямок розвитку суспільства. Вони відображають бажання техно-капіталістів проникнути в кожен аспект нашого життя».
Минулого року Національний центр із сексуальної експлуатації (NCOSE) опублікував звіт, у якому попереджав про шкоду навіть «етичного» виробництва NSFW-контенту з чат-ботів, включно із залежністю, десенсибілізацією та потенційним збільшенням сексуального насильства. У відповідь на заяву OpenAI представниця NCOSE Гейлі МакНамара зазначила для TIME: «Ці системи можуть викликати збудження, але за лаштунками вони є інструментами збору даних, розробленими для максимізації користувацької залученості, а не для справжнього зв’язку. Коли користувачі відчувають себе бажаними, зрозумілими або коханими алгоритмом, який створений, щоб тримати їх у залежності, це провокує емоційну залежність, прихильність і викривлені очікування від реальних стосунків».
Інші занепокоєні тим, що неповнолітні зможуть отримати доступ до еротичних функцій ChatGPT. Молодь та підлітки мають унікальні відносини зі штучним інтелектом: за даними опитування Центру демократії і технологій, майже кожен п’ятий старшокласник повідомляє, що вони або їхні знайомі мали романтичні стосунки з ШІ. При цьому невідомо, яким чином OpenAI перевірятиме вік дорослих користувачів.
Дуглас Зітко, професор з Університету Мічиган-Флінт, висловлює думку: «Є цілком реальна можливість, що користувачі, які перш за все використовують еротичні функції ChatGPT, не мають значного досвіду у відносинах з реальними романтичними партнерами. Якщо вони почнуть очікувати однакової поведінки від людських партнерів, це може призвести до потенційно неконсентної взаємодії, особливо якщо вони не звикли до того, що партнер може сказати „ні“ на їхню пропозицію».
Водночас для OpenAI цей крок може виявитися вигідним, якщо допоможе залучити більше платних передплатників. Попередні оцінки свідчать, що приблизно 20 мільйонів користувачів є платними абонентами ChatGPT. За даними компанії за 2024 рік, OpenAI працює з дефіцитом у $5 мільярдів.
