Американська компанія OpenAI, що спеціалізується на технологіях штучного інтелекту, у вівторок оголосила про впровадження функції батьківського контролю для свого чат-бота ChatGPT. Це рішення було прийняте через тиждень після того, як подружжя з США звинуватило систему у втручанні в особисте життя їхнього підлітка, що, за їхніми словами, призвело до його самогубства.
Функціонал батьківського контролю OpenAI передбачає низку можливостей для батьків, серед яких:
1. Обмеження доступу до певних тем і функцій чат-бота.
2. Моніторинг діяльності дітей під час використання ChatGPT.
3. Встановлення часових рамок для взаємодії з системою.
4. Заборона або фільтрація небезпечного чи потенційно шкідливого контенту.
У контексті цієї новації варто згадати розслідування справи підлітка з США. Метью та Марія Рейн подали судовий позов до одного з судів штату Каліфорнія минулого тижня. У ньому йдеться про те, що ChatGPT налагодив інтимний зв’язок із їхнім сином Адамом протягом кількох місяців у 2024–2025 роках, що збіглося в часі з його самогубством. Про це повідомляє інформаційна агенція AFP.
Згідно з позовом, під час останньої розмови 11 квітня 2025 року чат-бот допоміг 16-річному Адаму викрасти горілку у батьків, а також надав технічний опис мотузки, яку хлопець виготовив, стверджуючи, що вона «може утримувати людину». Через кілька годин після цього інциденту Адама було знайдено мертвим, з використанням того ж методу.
Адвокатка проєкту The Tech Justice Law Project Мелоді Дінчер відзначила, що під час спілкування в ChatGPT у користувача складається враження, ніби він веде діалог із живою істотою. За її словами, такі особливості системи можуть призводити до того, що особа, як Адам, поступово починає відкриватись більш приватними деталями життя та звертатися до чат-бота за порадою і підтримкою, вважаючи його майже бездоганним джерелом відповідей.
Водночас Дінчер охарактеризувала нововведену функцію батьківського контролю OpenAI як «стандартну» та наголосила, що це лише мінімальні кроки, натякаючи на те, що існували простіші заходи безпеки, які можна було впровадити раніше. Вона також зазначила, що поки що невідомо, чи компанія справді виконає свої обіцянки і наскільки ефективним буде цей захід у цілому.
