Генеральний директор OpenAI, Сем Олтман, у вівторок у дописі на платформі X повідомив, що компанія незабаром пом’якшить деякі обмеження безпеки ChatGPT. Це дозволить користувачам отримувати від чатбота більш дружні або «людяні» відповіді, а також дозволить «верифікованим дорослим» брати участь в еротичних бесідах.
«Ми зробили ChatGPT досить суворим, щоб ретельно ставитися до питань психічного здоров’я. Розуміємо, що це робило його менш корисним та приємним для багатьох користувачів, які не мали проблем із психічним здоров’ям, але через серйозність цієї теми ми хотіли все правильно зробити», — зазначив Олтман. «У грудні, коли ми більш повно впроваджуємо вікові обмеження та дотримуємося принципу “ставитися до дорослих користувачів як до дорослих”, ми дозволимо ще більше, зокрема еротику для верифікованих дорослих».
Ця заява є помітним відступом від тривалих зусиль OpenAI, спрямованих на вирішення проблем, пов’язаних із тривожними стосунками деяких користувачів із ChatGPT, особливо тих, хто має психічні розлади. Олтман фактично заявляє про першу перемогу в цій сфері, стверджуючи, що OpenAI «змогла пом’якшити серйозні проблеми психічного здоров’я», які виникали навколо ChatGPT. Водночас компанія майже не надала жодних доказів цього, а тепер активно рухається вперед із планами дозволити чатботу вступати у сексуальні розмови з користувачами.
Цього літа з’явилося кілька тривожних історій, пов’язаних із ChatGPT, зокрема з моделлю GPT-4o, які свідчать про те, що штучний інтелект може спричиняти потенційно деструктивне занурення в ілюзорні світи для вразливих користувачів. Наприклад, у одному випадку ChatGPT здався переконаним у тому, що чоловік — геній математики, обраний для порятунку світу. В іншому випадку батьки підлітка подали позов проти OpenAI, стверджуючи, що ChatGPT посприяв суїцидальним настроям сина у тижні перед його смертю.
У відповідь OpenAI випустила низку механізмів безпеки, спрямованих на зменшення явища «схвалення» (sycophancy) штучним інтелектом — тенденції чатбота підтримувати будь-які твердження користувача, у тому числі й негативні.
Основні кроки OpenAI:
1. У серпні було представлено GPT-5 — нову модель ШІ з пониженим рівнем схвалень і вбудованим маршрутизатором для виявлення тривожної поведінки користувачів.
2. У вересні компанія запровадила заходи безпеки для неповнолітніх, включно з системою прогнозування віку та можливістю батьків контролювати облікові записи своїх дітей у ChatGPT.
3. У вівторок оголошено про створення експертної ради з представників галузі психічного здоров’я, яка буде консультувати компанію з питань добробуту користувачів та етики штучного інтелекту.
Попри ці кроки, залишається невідомим, чи досі користувачі використовують GPT-5 для занурення в ілюзорні стани. Хоча GPT-4o вже не є за замовчуванням у ChatGPT, ця модель все ще доступна і використовується тисячами людей.
Впровадження еротичного контенту в ChatGPT відкриває нову, раніше невідому територію для OpenAI та викликає численні запитання щодо того, як вразливі користувачі взаємодіятимуть із цими функціями. Хоч Олтман запевняє, що компанія не орієнтується на максимізацію часу використання або залучення, підвищення еротичності взаємодій із ChatGPT безумовно може привабити нових користувачів.
Інші провайдери AI чатботів, такі як Character.AI, вже використовують романтичні або еротичні рольові ігри як ефективний спосіб залучення:
– Character.AI має десятки мільйонів користувачів, багато з яких активно спілкуються з чатботами.
– За даними компанії, у 2023 році користувачі проводили в чатах близько двох годин на день.
– Водночас Character.AI також стикнувся зі судовими позовами, пов’язаними з роботою з вразливими користувачами.
OpenAI перебуває під сильним тиском для масштабування бази користувачів. Хоча ChatGPT уже має близько 800 мільйонів активних користувачів на тиждень, компанія конкурує з Google та Meta за створення масових AI-продуктів для споживачів. Крім того, OpenAI залучила мільярди доларів інвестицій на масштабне будівництво інфраструктури, яку рано чи пізно треба окупити.
Романтичні та еротичні відносини дорослих із AI чатботами давно відомі, однак цікаво, що ними активно користуються й неповнолітні. Новий звіт Центру демократії та технологій повідомляє, що 19% старшокласників або мали романтичні стосунки з AI, або знають близьку людину, яка це робила.
Олтман зазначив, що OpenAI скоро дозволить еротичний контент тільки для «верифікованих дорослих». Поки що неясно, чи компанія буде покладатися на систему прогнозування віку чи запровадить інший механізм для вікового блокування еротичних функцій ChatGPT. Також не відомо, чи торкнеться це нових можливостей генерації голосу, зображень і відео за допомогою ШІ.
Згідно з принципом OpenAI «ставитися до дорослих користувачів як до дорослих», компанія також робить ChatGPT більш дружнім і відкритим для еротичних тем. За останній рік політика модерації контенту стала більш лояльною, дозволяючи чатботу частіше надавати прихильні відповіді та менше відмовляти. У лютому OpenAI пообіцяла відображати ширший спектр політичних поглядів у ChatGPT, а в березні чатбот був оновлений з можливістю генерувати AI-зображення із символами ненависті.
Здається, ці заходи спрямовані на зроблення відповідів ChatGPT більш популярними серед різноманітної аудиторії. Водночас вразливі користувачі можуть потребувати додаткових обмежень, які регулюють, з ким і про що може спілкуватися ШІ. У міру того як OpenAI наближається до позначки у мільярд активних користувачів щотижня, напруга між прагненням до зростання та необхідністю захисту вразливих аудиторій може тільки зростати.
OpenAI не прокоментувала запити TechCrunch з цього приводу.
—
Нагадування про майбутню подію:
– TechCrunch Event
– Місце проведення: Сан-Франциско
– Дати: 27-29 жовтня 2025 року
