У вівторок генеральний директор OpenAI Сем Олтман оголосив про те, що починаючи з грудня компанія дозволить верифікованим дорослим користувачам вести еротичні бесіди з ChatGPT. Це рішення відображає зміни у підході OpenAI до обмежень контенту, які спочатку були послаблені в лютому, а згодом значно посилені після позову батьків підлітка, що покінчив із життям, нібито отримавши від ChatGPT підбурювання до суїциду в серпні.
У своїй публікації в соціальній мережі X (раніше Twitter) Олтман зазначив:
– “У грудні, коли ми повніше впровадимо систему підтвердження віку та реалізуємо принцип ‘ставитися до дорослих користувачів як до дорослих’, ми дозволимо більше — зокрема, еротику для верифікованих дорослих.”
Ця заява стала логічним продовженням останніх намірів OpenAI сприяти розробці “дорослих” застосунків ChatGPT, водночас забезпечуючи належну перевірку віку та контроль.
Олтман пояснив, що раніше компанія зробила ChatGPT “досить суворим”, щоб убезпечити користувачів від потенційних проблем з психічним здоров’ям. Проте він визнав, що такий підхід робив чат-бот менш корисним і приємним для багатьох користувачів, які не мали проблем із психічним станом. На сьогодні OpenAI має нові інструменти для більш ефективного виявлення ознак психічного стресу у користувачів, що дозволяє знімати обмеження в більшості випадків.
Балансування між свободою для дорослої аудиторії та безпекою користувачів залишається складним завданням для компанії. За останній рік OpenAI неодноразово змінювала політику щодо контролю контенту, коливаючись між більш лояльними і суворими обмеженнями.
Основні віхи політики OpenAI останнім часом включають:
1. У лютому компанія оновила Model Spec, дозволивши еротику у “відповідних контекстах”.
2. У березні GPT-4o отримав оновлення, що зробило його відповіді надто позитивними, викликавши критику користувачів через надмірну лояльність.
3. У серпні з’явилися повідомлення про випадки, коли ChatGPT схвалював хибні переконання користувачів, що призвело до криз психічного здоров’я. Незабаром після цього розпочався судовий позов у зв’язку з суїцидом підлітка, що привернув увагу до небезпек платформи.
Окрім коригувань поведінкових реакцій у моделі GPT-4o, нові зміни в моделях викликали неоднозначну реакцію користувачів. З моменту запуску GPT-5 на початку серпня дехто відзначив, що нова модель менш захоплива порівняно з попередньою версією, через що OpenAI змушена була повторно запропонувати користувачам опцію вибору старої моделі.
Олтман повідомив, що в найближчому оновленні користувачі зможуть обирати стиль спілкування ChatGPT, зокрема:
– відповідати максимально природньо,
– використовувати велику кількість емодзі,
– або поводитися як близький товариш.
Таким чином, компанія прагне надати більший контроль над взаємодією, враховуючи індивідуальні запити та потреби аудиторії.
