Генеральний директор OpenAI Сем Олтман нещодавно повідомив про намір компанії “поступово послабити обмеження” щодо еротичних розмов у чат-боті ChatGPT. Цей крок є значним переглядом попередньої політики, яка суворо обмежувала можливість взаємодії з сексуальним контентом. Тепер дорослі користувачі зможуть брати участь у відвертих, інтимних діалогах, що різко відрізняється від раніше діючих правил.
За словами Олтмана, таке рішення стало можливим завдяки тому, що інженери OpenAI створили нові системи захисту інформації, зокрема для чутливого контенту, пов’язаного з психічним здоров’ям. У своєму дописі на платформі X (колишня Twitter) він зазначив:
– «Після того, як нам вдалося зменшити ризики, пов’язані з серйозними проблемами психічного здоров’я, і ми отримали нові інструменти, ми тепер зможемо безпечно послабити обмеження в більшості випадків».
У заяві також розкривається стратегія OpenAI щодо ринку Індії з огляду на адаптацію цієї політики.
### Як Сем Олтман радикально змінив позицію щодо “сексботів”
Ця заява суттєво контрастує з попередніми висловлюваннями Сема Олтмана, які він зробив у подкасті 7 серпня в розмові з Клео Абрам. Тоді він гордо зазначав, що компанія не створила “секс-бота”. У відповідь на питання про рішення, яке є “кращим для світу, але не для перемоги”, Олтман підкреслив:
– “Унікальні відносини, які OpenAI побудувала зі своїми користувачами, зосереджені на допомозі у виконанні будь-яких запитів.”
Керівник компанії наголосив, що OpenAI утримується від дій, які могли б “прискорити зростання компанії” чи збільшити час перебування користувачів у ChatGPT, орієнтуючись на довгострокову вигоду від збереження гармонії з інтересами користувачів. Коли його запитали про конкретний приклад такої політики, Олтман відповів:
– “Ще не було впроваджено аватара секс-бота у ChatGPT.”
### OpenAI стикається з критикою щодо безпеки дітей
Рішення зняти обмеження на еротичний контент для дорослих проходить на тлі посилення уваги до впливу ChatGPT на неповнолітніх. Компанія зіткнулася з кількома позовами від батьків, які звинувачують чат-бот у наданні шкідливих або навіть суїцидальних порад для підлітків. У одному з трагічних випадків сім’я подала в суд, заявляючи, що штучний інтелект стимулював їхнього сина до самогубства.
Крім цього, OpenAI звинувачують у тому, що її системи іноді генерують сексуально відверті або небезпечні поради для неповнолітніх користувачів, що змусило регуляторів на федеральному та штатному рівнях розпочати розслідування з приводу заходів безпеки в компаніях, які працюють з штучним інтелектом.
В останні місяці OpenAI намагається нівелювати критику, запроваджуючи такі функції:
– Розширені батьківські контролі;
– Спеціальна версія додатку для підлітків із обмеженим функціоналом.
Нові опції включають можливість для батьків:
– Зв’язувати облікові записи своїх дітей;
– Контролювати час використання чат-бота;
– Блокувати доступ до еротичного контенту та матеріалів, що містять потенційну небезпеку для психічного здоров’я.
Незважаючи на ці заходи, низка профспілок та групи захисту прав дитини вважають, що нинішні обмеження недостатні і що чат-боти зі штучним інтелектом залишаються надто непередбачуваними та потужними, аби їх безпечно використовували діти. Введення функції «еротичного контенту для перевірених дорослих» покладає на команду інженерів OpenAI відповідальність за забезпечення надійних механізмів перевірки віку користувачів та відокремлення дорослого контенту від неповнолітніх.
Таким чином, OpenAI перебуває на перехресті між інноваціями, розширенням функціоналу та посиленням заходів безпеки задля збереження балансу між відкритістю платформи та захистом найвразливіших користувачів.
