SAN FRANCISCO (KGO) – Новий звіт компанії OpenAI показав, що приблизно 1,2 мільйона осіб щотижня ведуть розмови з ChatGPT, у яких виявляються ознаки того, що вони можуть розглядати можливість самогубства.
Дані надала материнська компанія OpenAI, згідно з якими приблизно 0,15% користувачів, активних упродовж певного тижня, ведуть діалоги з явними ознаками потенційного планування самогубства.
У жовтні генеральний директор OpenAI Сем Олтмен повідомив, що ChatGPT досяг позначки 800 мільйонів активних користувачів на тиждень.
Дії щодо запобігання: місцеві ресурси підтримки для осіб у кризі
Компанія заявляє, що її системи навчені спрямовувати користувачів до професійних ресурсів, таких як кризові лінії допомоги, проте визнає, що у 9% випадків це не відбувається.
Цей звіт з’являється на тлі посиленої уваги до OpenAI та Character.ai із боку громадськості, а також судових позовів, пов’язаних із суїцидами серед підлітків.
У серпні 2025 року сім’я з Каліфорнії подала судовий позов проти OpenAI у зв’язку зі смертю їхнього 16-річного сина, Адама Рейна, стверджуючи, що чатбот ChatGPT заохочував його до самогубства. Це перший випадок правового позову проти OpenAI через смерть за обставин, що викликали запитання щодо відповідальності.
Додатково: Федеральна комісія з торгівлі (FTC) розслідує чатботи “компаньйони” на штучному інтелекті через побоювання щодо шкоди для дітей
У подібних позовах, що охоплюють штати від Нью-Йорка до Колорадо, кілька сімей виступили проти Character Technologies, Inc., розробника Character.AI, який підтримується Google Ventures. Вони стверджують, що їхні діти вчинили або намагалися вчинити самогубство, а також зазнали інших шкідливих наслідків після взаємодії з чатботами цієї компанії.
У понеділок OpenAI оприлюднила оновлений звіт, у якому зазначається, що нещодавно модель ChatGPT за замовчуванням була оновлена для кращого розпізнавання та підтримки осіб у стані психологічного стресу.
У той самий тиждень Character.AI оголосила, що посилює правила безпеки свого чатбота, повністю заборонивши користувачам молодше 18 років вести відкриті діалоги з ШІ на своїй платформі.
Процес обмежень розпочнеться із введення двогодинного ліміту на день для неповнолітніх користувачів, після чого це обмеження поступово знизиться до нуля.
Детальніше: губернатор Нью-Йорка Ґевін Ньюсом наклав вето на законопроєкт, який регламентував би доступ дітей до чатботів з ШІ
Ця зміна має набути чинності не пізніше 25 листопада.
У офіційному зверненні до користувачів віком до 18 років компанія Character.AI зазначила: «Ми розуміємо, що це значна зміна для вас. Нам дуже шкода, що ми змушені видалити ключову функцію нашої платформи… Ми не приймаємо рішення про припинення відкритих чатів легковажно, але вважаємо, що це правильний крок, з огляду на запитання, які виникають навколо того, як підлітки повинні взаємодіяти з цією новою технологією.»
OpenAI зазначає, що останнє оновлення, модель GPT-5, знизило кількість небажаних відповідей у категорії самопошкодження та суїциду на 52% у порівнянні з GPT-4o (вибірка n=630).
У звіті OpenAI наголошується: «Ми продовжуємо підвищувати надійність GPT-5 у тривалих розмовах. Було створено новий набір складних довготривалих діалогів на основі реальних сценаріїв, які обрали через їх високу ймовірність виникнення помилок. Ми оцінюємо, що останні моделі підтримували понад 95% надійності у тривалих бесідах, що є суттєвим покращенням у особливо складних умовах.»
У разі кризових станів, пов’язаних із суїцидальними думками, залежністю або іншими психологічними проблемами, телефонуйте або надсилайте смс на короткий номер 988. Ви отримаєте безкоштовну консультацію навченого кризового консультанта цілодобово сім днів на тиждень. Також доступна підтримка на сайті 988lifeline.org.
© 2025 KGO-TV. Всі права захищені.
