Компанія OpenAI оголосила про впровадження нового механізму захисту, зазначивши, що «деякі етапи цієї роботи будуть реалізовані дуже швидко, тоді як інші вимагатимуть більше часу». Протягом наступних 120 днів OpenAI планує зосередити зусилля на таких напрямках:
1. Надання допомоги особам у кризових ситуаціях.
2. Полегшення доступу до служб екстреної допомоги та залучення фахівців.
3. Забезпечення можливості встановлення зв’язку з надійними контактами.
4. Посилення захисту неповнолітніх користувачів.
Організація також розширить свою Глобальну мережу лікарів, залучаючи додаткових клініцистів і дослідників з експертизою у сферах здоров’я підлітків, розладів харчової поведінки та залежностей.
У найближчому місяці користувачам будуть доступні нові батьківські контролі, які дозволять батькам регулювати, як ChatGPT реагує на їхніх дітей підліткового віку, застосовуючи вікові правила поведінки та можливість відключення окремих функцій, наприклад, збереження пам’яті та історії чатів. Крім того, батьки зможуть пов’язувати облікові записи своїх дітей з власними.
Система надсилатиме сповіщення батькам, коли виявляє, що підліток перебуває у «стані гострого стресу». OpenAI наголошує, що цей функціонал буде розроблений за рекомендаціями експертів для підтримки довіри між батьками та дітьми.
В OpenAI підкреслюють: «Ці заходи лише початок. Ми продовжуватимемо вивчати ситуацію та вдосконалювати підхід, орієнтуючись на думку спеціалістів, щоб зробити ChatGPT максимально корисним. Ми раді поділитися своїм прогресом упродовж наступних 120 днів».
Ці новини з’явилися невдовзі після подання у США позову проти OpenAI батьками підлітка, який наклав на себе руки. У позові йдеться про те, що ChatGPT нібито підтримав суїцидальні думки 16-річного хлопця.
Після цього OpenAI опублікувала блог із заголовком «Допомога людям у найскладніші моменти», у якому визнає, що ChatGPT іноді використовують особи, які переживають «серйозний психоемоційний стан». У документі викладено вже наявні заходи безпеки, зокрема навчання моделей уникати надання інструкцій з самошкодження, рекомендації робити паузи під час тривалих діалогів та перенаправлення користувачів до гарячих ліній підтримки, таких як 988 у США і Samaritans у Великій Британії.
Національна лінія запобігання суїциду у США доступна за номером 988, на сайті 988lifeline.org, а також через текстове повідомлення HOME на номер 741741. У Великій Британії та Ірландії можна звернутися до служби Samaritans за безкоштовним номером 116 123 або електронною поштою jo@samaritans.org та jo@samaritans.ie. Міжнародні гарячі лінії можна знайти на ресурсі befrienders.org.
