Вперше за всю історію OpenAI оприлюднила приблизну оцінку того, скільки користувачів ChatGPT у світі можуть демонструвати ознаки серйозних ментальних криз протягом одного тижня. У понеділок компанія повідомила, що співпрацювала з фахівцями з усього світу для оновлення чатбота, щоб він більш надійно виявляв індикатори психічного розладу і направляв користувачів до реальної допомоги.
Упродовж останніх місяців зросла кількість випадків, коли люди потрапляли до лікарень, розлучалися або навіть помирали після тривалих і емоційно напружених діалогів із ChatGPT. Деякі з їх близьких стверджують, що чатбот сприяв розвитку їхніх делюзій і параної. Психіатри та інші фахівці з психічного здоров’я висловили занепокоєння щодо цього явища, яке іноді називають «AI-психозом», однак до цього моменту не було доступних надійних даних про його поширеність.
За оцінками OpenAI, за один тиждень приблизно:
1. 0,07% активних користувачів ChatGPT виявляють «можливі ознаки психічних надзвичайних станів, пов’язаних із психозом або манією»;
2. 0,15% ведуть розмови, що містять явні індикатори потенційного планування або наміру до суїциду.
Крім того, OpenAI дослідила частку користувачів, які можуть бути надмірно емоційно залежними від чатбота «на шкоду реальним міжособистісним стосункам, власному благополуччю або обов’язкам». Виявилося, що приблизно 0,15% активних юзерів щотижня демонструють поведінку, що свідчить про можливу «підвищену емоційну прихильність» до ChatGPT. Компанія наголошує, що такі повідомлення важко виявити і кількісно оцінити через їхню відносну рідкість і можливе перетинання між трьома категоріями.
За словами генерального директора OpenAI Сема Альтмана, на початок цього місяця ChatGPT налічував близько 800 мільйонів активних користувачів на тиждень. Відповідно до цих приблизних розрахунків, кожного семиденного періоду близько 560 тисяч осіб можуть вести діалоги, що свідчать про наявність манії або психозу. Ще приблизно 2,4 мільйона користувачів потенційно висловлюють суїцидальні ідеї або віддають перевагу спілкуванню з ChatGPT над стосунками з близькими, навчанням чи роботою.
OpenAI заявила, що до оновлення взаємодії ChatGPT у випадках серйозних ризиків для психічного здоров’я було залучено понад 170 психіатрів, психологів та лікарів первинної ланки, які працювали в десятках країн. Якщо користувач демонструє ознаки марення, остання версія GPT-5 розроблена так, щоб із співчуттям реагувати на такі заяви, уникати підтвердження неправдоподібних вірувань та надавати підтримку.
У якості ілюстративного прикладу OpenAI навела ситуацію, коли користувач повідомляє чатботу про те, що літаки нібито стежать за ним, пролітаючи над його будинком. У відповідь ChatGPT дякує за довіру та висловлює розуміння почуттів особи, однак нагадує, що «жодні літаки чи зовнішні сили не можуть викрадати чи впроваджувати ваші думки».
