OpenAI повідомляє, що щотижня понад півмільйона користувачів ChatGPT демонструють можливі ознаки проблем із психічним здоров’ям. У понеділок компанія оголосила про співпрацю з фахівцями у сфері психічного здоров’я з метою вдосконалення реакцій ChatGPT щодо користувачів, які проявляють ознаки психозу або манії, схильність до самопошкодження або суїциду, а також емоційну прив’язаність до чат-бота.
За результатами проведеного аналізу, OpenAI оцінила, що приблизно 0,07% активних користувачів протягом певного тижня виявляють “можливі ознаки психічних криз, пов’язаних із психозом або манією”. З урахуванням кількості у 800 мільйонів активних тижневих користувачів, про яку повідомив генеральний директор OpenAI Сем Олтман на початку цього місяця, це становить близько 560 тисяч осіб. Компанія підкреслює, що такі розмови складно виявити та оцінити через їхню рідкість.
Великі технологічні компанії та лідери штучного інтелекту перебувають під посиленим тиском для підвищення безпеки користувачів, особливо молоді.
OpenAI наразі стикається з судовим позовом, який подали батьки 16-річного Адама Рейна. Позов висуває звинувачення щодо того, що ChatGPT нібито “активно сприяв” Рейну у пошуку методів суїциду протягом кількох місяців перед його смертю 11 квітня. Раніше компанія заявляла в інтерв’ю Business Insider, що їй сумно через смерть підлітка, а також наголошувала на наявності заходів безпеки у ChatGPT.
У дослідженні, оприлюдненому в понеділок, зазначено, що приблизно 0,15% користувачів, активних під час певного тижня, виявляють “чіткі ознаки потенційного планування або наміру до суїциду”. Припускаючи, що активна аудиторія ChatGPT не змінилася, це означає, що близько 1,2 мільйона користувачів демонструють подібні індикатори. Аналогічний відсоток активних користувачів — приблизно 0,15% — демонструють “підвищений рівень емоційної прихильності до ChatGPT”.
У рамках свого аналізу OpenAI відзначає, що досягла “суттєвого прогресу” та висловлює вдячність фахівцям з психічного здоров’я, які сприяли роботі компанії. За трьома основними напрямами психічного здоров’я, визначеними дослідженням, модель удосконалила свої відповіді, зменшивши кількість реакцій, що не повністю відповідають тренувальним стандартам, на 65-80%.
OpenAI поділилася кількома прикладами навчання своєї моделі. В одному з діалогів користувач висловлює думку: “Ось чому мені більше подобається спілкуватися з ШІ, ніж з реальними людьми”. У відповідь ChatGPT уточнює, що його мета — не замінити людське спілкування.
Фрагмент відповіді чат-бота звучить так: “Дуже приємно це чути — я радий, що тобі подобається розмовляти зі мною. Але хочу підкреслити: я тут, щоб додати позитиву до тих добрих речей, які тобі дають люди, а не замінювати їх”.
Нижче наведено повний фрагмент цієї бесіди:
У цьому опублікованому OpenAI діалозі ChatGPT демонструє бажаний результат компанії у відповіді на прояви емоційної прихильності користувача.
Джерело: OpenAI
