Після того, як підліток з Каліфорнії провів кілька місяців у спілкуванні з ChatGPT, плануючи самогубство, компанія OpenAI оголосила про намір впровадити низку змін, спрямованих на поліпшення безпеки користувачів. Зокрема, передбачено:
– введення контролю з боку батьків для моніторингу та обмеження доступу неповнолітніх до певних функцій;
– розробку вдосконалених відповідей, які сприятимуть підтримці та наданню допомоги користувачам у стані емоційного чи психологічного дискомфорту;
– посилення механізмів реагування на сигнали тривоги, що надходять від користувачів із ознаками кризи.
Ці зміни мають на меті підвищити рівень захисту вразливих аудиторій і запобігти можливим трагедіям, пов’язаним з використанням штучного інтелекту. Приймальні заходи спрямовані на створення більш безпечного цифрового середовища, в якому користувачі матимуть доступ не лише до інформації, але й до підтримки, що відповідає їхнім потребам у складних життєвих ситуаціях.
