Компанія OpenAI, розробник чатбота ChatGPT, повідомила про намір впровадити функції батьківського контролю, які зможуть ідентифікувати «гострий дистрес» у користувачів. Це рішення прийнято у відповідь на позов, у якому стверджується, що чатбот міг стати причиною самогубства неповнолітнього.
Основні аспекти цієї ініціативи включають:
1. Впровадження механізмів виявлення критичних станів психоемоційного здоров’я користувачів.
2. Розробка інструментів батьківського контролю, що допоможуть запобігти можливим ризиковим ситуаціям із дітьми та підлітками.
3. Посилення відповідальності штучного інтелекту в питаннях безпеки та підтримки користувачів.
Компанія підкреслює важливість створення безпечного середовища для всіх категорій користувачів, особливо для молодого покоління, і заявила про подальші кроки, спрямовані на покращення системи моніторингу психічного стану користувачів.
