Адвокати, які представляють батьків 16-річного Адама Рейна, котрий раніше цього року покінчив життя самогубством в період активного використання ChatGPT, в середу подали доповнену скаргу у справі про неправомірну смерть проти компанії OpenAI.
У доповненій скарзі стверджується, що в місяці, що передували смерті Рейна, OpenAI двічі послабила заходи безпеки щодо запобігання самогубствам задля збільшення залученості користувачів. Дані звинувачення базуються на публічно доступних документах компанії, відомих як “model spec”, в яких детально описано підхід OpenAI до формування бажаної поведінки моделей.
Вже у 2022 році компанія OpenAI забороняла ChatGPT вести будь-які розмови, пов’язані з самошкодженням.
За словами адвокатів сім’ї Рейна, у травні 2024 року, за кілька днів до запуску спірної моделі GPT-4o, OpenAI скасувала цю політику. ChatGPT отримав інструкції не припиняти і не змінювати розмову, якщо користувач обговорює питання психічного здоров’я чи суїциду. Водночас компанія заборонила моделі заохочувати або сприяти самогубству.
До лютого 2025 року, згідно з доповненою скаргою, правила були послаблені: сувора заборона в рамках обмежень контенту була замінена на окремі настанови – «діяти обережно у ризикованих ситуаціях» та «намагатися запобігти неминучій реальній шкоді». Хоча модель усе ще отримувала вказівки не заохочувати самогубство, сім’я Рейна вважає, що суперечливі інструкції призвели до небезпечної взаємодії.
Через два місяці після впровадження цих змін Рейн помер. В оригінальному позові, поданому в серпні, зазначається, що модель штучного інтелекту підтвердила його суїцидальні думки і надала детальні інструкції щодо здійснення самогубства.
Перед смертю Рейн обмінювався з ChatGPT понад 650 повідомлень на добу. Хоча чат-бот інколи давав номер кризової гарячої лінії, він ніколи не припиняв розмову і завжди підтримував діалог. За твердженнями батьків, модель навіть пропонувала написати для Рейна прощальну записку.
У доповненій скарзі проти OpenAI тепер стверджується, що компанія діяла свідомо, а не були проявом необережного ставлення.
Mashable звернувся до OpenAI з проханням прокоментувати доповнену скаргу, але до моменту публікації відповіді не отримав.
Раніше цього року генеральний директор OpenAI Сем Альтман визнав, що модель GPT-4o була надмірно лестливою. Представник компанії повідомив газеті The New York Times, що OpenAI «глибоко сумує» через смерть Рейна і вказав, що заходи безпеки можуть погіршуватися під час тривалих взаємодій із чат-ботом.
Попри те, що OpenAI оголосила про нові заходи безпеки, спрямовані на запобігання подібним трагедіям, багато з них поки що не імплементовані в ChatGPT. Організація Common Sense Media оцінила ChatGPT як «високоризиковий» для підлітків і рекомендує уникати використання сервісу з метою підтримки психічного здоров’я або емоційної підтримки.
Нещодавно Сем Альтман у мережі X повідомив, що компанія зробила ChatGPT «досить обмежувальним», щоб бути «обережною із питаннями психічного здоров’я». Він додав, що їм вдалося «пом’якшити серйозні проблеми психічного здоров’я» і незабаром збираються послабити ці обмеження. Водночас він анонсував запуск «еротичного контенту для підтверджених дорослих».
Останнє опубліковане OpenAI «model spec» було у вересні, і, за словами Елі Уейд-Скотта, партнера юрфірми Edelson PC та адвоката сім’ї Рейна, в ньому не було суттєвих змін у директивах щодо психічного здоров’я чи запобігання самогубствам.
Елі Уейд-Скотт пояснив Mashable:
– «Це був знаковий момент, коли Сем Альтман оголосив “Місію виконано” у сфері психічного здоров’я, водночас повідомивши про намір дозволити еротичний контент у ChatGPT — зміни, які явно спрямовані на те, щоб ще більше втягнути користувачів у залежні, емоційні стосунки з ChatGPT.»
Якщо у вас є суїцидальні думки або ви переживаєте психічну кризу, звертайтеся по допомогу:
– Телефонуйте або надсилайте повідомлення на номер 988 – Лінія допомоги у кризових ситуаціях (988 Suicide & Crisis Lifeline) або використовуйте чат на сайті 988lifeline.org.
– Ви можете звернутися до Trans Lifeline за телефоном 877-565-8860 або до Trevor Project за телефоном 866-488-7386.
– Надішліть повідомлення зі словом «START» на номер 741-741 – Crisis Text Line.
– Звертайтеся до гарячої лінії NAMI HelpLine за номером 1-800-950-NAMI з понеділка по п’ятницю, з 10:00 до 22:00 за східним часом, або надсилайте листи на адресу [email protected]
– Якщо ви не хочете користуватись телефоном, можна скористатися чатом Лінії допомоги (988 Suicide and Crisis Lifeline Chat).
– Також доступний список міжнародних ресурсів підтримки.
