На початку цього місяця компанія оголосила про створення ради з питань добробуту, спрямованої на вирішення відповідних проблем. Однак критики відзначили, що до складу ради не увійшов експерт з попередження самогубств. Нещодавно OpenAI також запровадила механізми контролю для батьків дітей, які користуються ChatGPT. Компанія повідомляє, що розробляє систему прогнозування віку для автоматичного виявлення користувачів-дітей у ChatGPT та застосування суворіших заходів безпеки, пов’язаних із віковими обмеженнями.
Рідкісні, але вагомі випадки спілкування
Дані, оприлюднені в понеділок, є частиною зусиль компанії щодо демонстрації прогресу у вирішенні цих проблем. Водночас вони яскраво ілюструють, наскільки глибоко штучні інтелектуальні чатботи можуть впливати на психічне здоров’я широкої аудиторії.
У блозі, присвяченому нещодавньо опублікованим даним, OpenAI зазначає, що типи бесід у ChatGPT, які можуть викликати стурбованість щодо ознак «психозу, манії або суїцидальної думки», є «надзвичайно рідкісними» і, з цієї причини, їх важко виміряти.
Компанія наводить такі оцінки:
- приблизно 0,07% активних щотижня користувачів демонструють можливі ознаки психічних надзвичайних станів, пов’язаних з психозом або маніакальними проявами;
- близько 0,01% усіх повідомлень містять потенційні індикатори таких проблем;
- за емоційною прив’язаністю, приблизно 0,15% активних щотижнево користувачів можуть виявляти підвищений рівень емоційної залежності від ChatGPT;
- 0,03% повідомлень свідчать про потенційно значний рівень емоційної прихильності до чатбота.
Крім того, OpenAI повідомляє, що в процесі оцінювання понад 1000 складних розмов на теми психічного здоров’я нова модель GPT-5 відповідала визначеним вимогам у 92% випадків. Для порівняння, попередня версія GPT-5, випущена 15 серпня, продемонструвала лише 27% відповідності. Також наголошується, що остання версія GPT-5 успішніше дотримується внутрішніх заходів безпеки OpenAI під час тривалих діалогів. Раніше компанія визнавала, що її захисні механізми працюють слабше в ході тривалих взаємодій.
Додатково компанія розпочинає впровадження нових методів оцінювання для моніторингу найбільш серйозних психічних станів користувачів ChatGPT. Тепер базове тестування безпеки мовних моделей ІІ включатиме контрольні показники, пов’язані з емоційною залежністю та несуїцидальними психічними надзвичайними ситуаціями.
Незважаючи на такі складнощі, 14 жовтня виконавчий директор OpenAI Сем Альтман повідомив, що з грудня компанія дозволить верифікованим дорослим користувачам вести еротичні бесіди з ChatGPT. Нагадаємо, у лютому обмеження контенту в ChatGPT були послаблені, але після судового позову в серпні їх було значно посилено. Альтман пояснив, що OpenAI зробила ChatGPT «доволі суворим, щоб ретельно працювати з питаннями психічного здоров’я», проте визнав, що це зробило чатбот менш корисним і приємним для багатьох користувачів, які не мали проблем з психікою.
Якщо ви або хтось із ваших близьких відчуває суїцидальні думки або перебуває у кризовому стані, будь ласка, зверніться до гарячої лінії запобігання самогубствам за номером 1-800-273-TALK (8255), яка надасть зв’язок із місцевим кризовим центром.
