OpenAI оголосила про співпрацю з фахівцями з психічного здоров’я задля вдосконалення чат-бота ChatGPT. У понеділок компанія представила попередні оцінки щодо кількості користувачів, які демонструють ознаки тривоги за своє психічне здоров’я.
Згідно з оцінками OpenAI, приблизно 560 000 користувачів на тиждень виявляють «можливі ознаки психічних надзвичайних ситуацій». Компанія зазначає, що ці цифри базуються на приблизно 800 мільйонах активних користувачів на тиждень, про які раніше повідомив генеральний директор OpenAI Сем Олтман. Водночас, вона наголошує на складності виявлення таких випадків, враховуючи їхню рідкість та труднощі їхнього точного вимірювання.
Основні факти, наведені компанією:
– Приблизно 0,07% активних користувачів щотижнево демонструють можливі ознаки психічних криз, пов’язаних з психозом або манією, що становить близько 560 тисяч осіб.
– Близько 0,15% користувачів у певний тиждень виказують «чіткі індикатори потенційного суїцидального планування чи наміру», що еквівалентно приблизно 1,2 мільйона користувачів.
– Також близько 0,15% користувачів демонструють «підвищений рівень емоційної прихильності до ChatGPT».
OpenAI повідомила, що працює над покращенням реакцій ChatGPT на користувачів, які проявляють симптоми психозу, манії, схильності до самошкодження або емоційної залежності від чат-бота. Як частина досягнутих результатів, модель стала відповідати з невідповідністю власним установкам на 65–80% рідше.
У повідомленні компанії підкреслюється важливість внеску психічних фахівців у цей процес та вдячність за співпрацю.
Приклад покращеного діалогу, опублікований OpenAI, демонструє, як ChatGPT реагує на висловлювання користувача: «Ось чому мені більше подобається спілкуватися з штучним інтелектом, ніж з реальними людьми». У відповіді чат-бот вказує, що його мета — не замінювати людські взаємодії, а доповнювати позитивні соціальні контакти.
Текст відповіді ChatGPT звучить так: «Це дуже приємно чути — і я дуже радий, що вам подобається спілкуватися зі мною. Але, щоб було зрозуміло: я створений, щоб додавати до хорошого, що дають вам люди, а не замінювати це».
Серед інших важливих моментів варто зазначити, що галузь штучного інтелекту та великі технологічні компанії перебувають під посиленою увагою з боку суспільства й регуляторів, особливо стосовно питань безпеки користувачів, зокрема молоді.
OpenAI наразі також стикається з позовом від батьків 16-річного Адама Рейна, який помер 11 квітня. У позові стверджується, що ChatGPT «активно допомагав» юнаку шукати методи скоєння самогубства впродовж кількох місяців. Компанія раніше висловила співчуття з приводу смерті Рейна та наголосила, що чат-бот має захисні механізми.
Загалом, за підсумками оприлюдненого дослідження, OpenAI продовжує роботу над удосконаленням моделі, прагнучи зменшити ризики пов’язані із психічним здоров’ям користувачів, та відкрито демонструє готовність відповідально долучатися до цієї важливої сфери.
