Реакція на оголошення Сема Олтмана у вівторок щодо майбутніх змін у ChatGPT, зокрема додавання можливості генерувати еротику, стала несподіванкою для генерального директора OpenAI.
Олтман повідомив у своєму дописі на платформі X, що відповідь аудиторії «вибухнула» саме з приводу еротичного контенту значно більше, ніж він очікував. За його словами, це мала бути лише одна з ілюстрацій того, що компанія планує надати дорослим користувачам більше свободи у взаємодії з інструментом.
У вівторок він анонсував, що до грудня ChatGPT отримає оновлення із більш “пікантним” функціоналом, що дозволить йому конкурувати з такими рішеннями, як Grok від xAI Ілона Маска, у сфері створення контенту для дорослих, включно з еро-матеріалами.
Водночас у середу Олтман уточнив, що цей крок не означає скасування чинних правил чатбота, пов’язаних із тематикою психічного здоров’я. Навпаки, нові можливості мають на меті надати дорослим користувачам ширші права для індивідуального користування сервісом.
Серед ключових позицій, озвучених Олтманом:
– OpenAI не виступає в ролі «вибраного морального регулятора» світу.
– Компанія прагне застосовувати подібний підхід до встановлення меж, як це робить суспільство в інших сферах, наприклад, з рейтингами фільмів R.
– Безпека підлітків залишатиметься пріоритетом, і пріоритет буде віддаватися захисту неповнолітніх, адже вони потребують значних запобіжних заходів у користуванні технологіями.
– Користувачам, що перебувають у кризі психічного здоров’я, чатбот буде надавати особливого роду підтримку та не допускатиме генерування матеріалів, які можуть завдати шкоди іншим.
Критики, серед яких колишній учасник «Shark Tank» Марк Кубан, висловили занепокоєння, що заплановані вікові обмеження навряд чи ефективно блокуватимуть неповнолітніх від доступу до контенту для дорослих. За його словами, таке обмеження «обернеться проти OpenAI», оскільки батьки не повірять у надійність вікового цензурування, і діти звертатимуться до інших мовних моделей.
Олтман також підкреслив, що ChatGPT відрізнятиме користувачів, які переживають психічні проблеми, від тих, хто не перебуває у кризовому стані, надаючи їм різний тип допомоги.
Однак він не навів конкретних прикладів шкідливого контенту, який буде заборонено до генерації, і не розкрив механізми визначення користувачів у стані кризи та характер відповідей для таких осіб.
Компанія OpenAI наразі не надала додаткових коментарів або роз’яснень щодо деталей нововведень.
За словами Олтмана, без надмірної піклувальності та жорсткого контролю чатбот намагатиметься допомагати користувачам у досягненні їхніх довгострокових цілей.
