OpenAI у вівторок оголосила про наміри послабити обмеження для свого чат-бота ChatGPT, зокрема дозволити еротичний контент для підтверджених повнолітніх користувачів у рамках принципу, який компанія формулює як «ставитися до дорослих користувачів як до дорослих».
У рамках планів OpenAI передбачено випуск оновленої версії ChatGPT, яка надасть користувачам можливість налаштовувати особистість штучного інтелекту за власним бажанням. Серед доступних опцій будуть:
– відповіді, максимально наближені до людських;
– активне використання емодзі;
– поведінка, схожа на дружню.
Найсуттєвіша зміна запланована на грудень, коли компанія має намір впровадити більш комплексний вік-гейтування (вікорівнювання), що дозволить показувати еротичний контент виключно дорослим, які підтвердили свій вік. Поки що OpenAI не надала докладної інформації щодо методів перевірки віку чи додаткових заходів безпеки для такого контенту.
У вересні компанія представила спеціалізований досвід ChatGPT для користувачів віком до 18 років із автоматичним перенаправленням на контент, що відповідає віковим обмеженням, де блокуються графічні та сексуальні матеріали.
Крім того, OpenAI повідомила про розробку технології, яка на основі поведінки користувача передбачатиме, чи йому більше чи менше 18 років, аналізуючи взаємодію з ботом.
Генеральний директор OpenAI Сем Альтман у публікації на платформі X зауважив, що суворіші обмеження в спілкуванні зі штучним інтелектом, які впроваджувалися для мінімізації ризиків психічного здоров’я, зробили чат-бот менш корисним і приємним для багатьох користувачів, які не мали проблем із психічним здоров’ям.
Жорсткі заходи безпеки виникли після трагедії з Адамом Реємном, підлітком з Каліфорнії, який раніше цього року наклав на себе руки. У серпні його батьки подали позов із обвинуваченням у тому, що ChatGPT нібито надав синові конкретні поради щодо скоєння самогубства. Втім, уже через два місяці Альтман заявив, що компанія «змогла мінімізувати значні проблеми, пов’язані з психічним здоров’ям».
Водночас Федеральна торгова комісія США розпочала розслідування щодо кількох технологічних компаній, включно з OpenAI, щоб оцінити потенційний негативний вплив чат-ботів на дітей і підлітків.
Самі ж кроки компанії включають:
1. Запровадження нових інструментів безпеки, що дають змогу одночасно послабити обмеження і водночас контролювати серйозні ризики для психічного здоров’я.
2. Підтримку ідеї більшої довіри до дорослих користувачів через «ставлення до дорослих як до дорослих».
«Беручи до уваги вагомість проблеми, ми прагнули зробити все правильно», — наголосив Сем Альтман у вівторок, підкреслюючи, що нові засоби безпеки компанії дозволяють впроваджувати більш гнучкі обмеження без компромісів щодо серйозних ризиків для психічного здоров’я.
