Компанія OpenAI, яка розробила ChatGPT, у понеділок оголосила про впровадження нових батьківських контрольних механізмів, спрямованих на захист молоді, яка взаємодіє з її генеративною штучною інтелектуальною програмою. Відтепер усі користувачі ChatGPT матимуть доступ до цих функцій контролю.
Це оновлення відбувається на тлі посилення суспільного тиску щодо пріоритетності безпеки неповнолітніх користувачів ChatGPT. Хоча технічно OpenAI дозволяє реєстрацію користувачам від 13 років, на офіційному сайті компанії зазначено, що підлітки віком від 13 до 18 років повинні отримати згоду батьків перед початком користування сервісом.
У серпні каліфорнійська технологічна корпорація зобов’язалась вжити змін у своєму флагманському продукті після подання позову за фактом смерті 16-річного хлопця, батьки якого стверджують, що чатбот сприяв його самогубству.
Нові батьківські контролі дозволять дорослим прив’язувати свої облікові записи ChatGPT до акаунтів їхніх дітей-підлітків та налаштовувати параметри для забезпечення безпечного і віково відповідного досвіду користування. Зокрема, система автоматично обмежуватиме доступ до таких категорій контенту:
– графічних матеріалів;
– вірусних челенджів;
– рольових ігор із сексуальним, романтичним або насильницьким змістом;
– матеріалів, що пропагують крайні стандарти краси.
Крім модерації контенту, батьки зможуть отримувати повідомлення в разі виявлення у дитини можливих ознак самопошкодження під час спілкування з ChatGPT. У повідомленні зазначено, що у випадку виявлення потенційної небезпеки невелика команда спеціально навчених фахівців здійснить перевірку ситуації. Якщо фіксуватимуться ознаки гострого стресу, батькам надішлють сповіщення електронною поштою, текстовим повідомленням та через push-повідомлення на телефон, якщо тільки вони не відмовились від такої опції.
Компанія також працює над визначенням правильних процедур та умов для залучення правоохоронних органів чи інших аварійних служб у тих випадках, коли неповнолітній перебуває в безпосередній небезпеці, а батьків не вдається дістати.
OpenAI наголошує, що деякі підлітки звертаються до ChatGPT у важких життєвих ситуаціях, тому нова система сповіщень покликана допомогти батькам своєчасно виявити, якщо щось йде не так.
Окрім описаних нововведень, компанія нещодавно впровадила додаткові заходи, що мають на меті захист молодших користувачів ChatGPT. Зокрема, користувачі, ідентифіковані як особи віком до 18 років, автоматично будуть перенаправлені на версію чатбота з відповідними віковими обмеженнями контенту.
Застосовується принцип, що відповіді ChatGPT мають суттєво відрізнятися залежно від віку користувача – так, повідомили у компанії: «Відповіді для 15-річного мають виглядати інакше, ніж для дорослого». Водночас у понеділок OpenAI зазначила, що, незважаючи на наявність захисних бар’єрів, вони не є абсолютно надійними і можуть бути обійдені, якщо користувач умисно намагається це зробити.
Варто відзначити, що використання ChatGPT можливе без створення облікового запису, проте батьківські контролі та автоматичні обмеження контенту працюють лише для зареєстрованих користувачів.
У компанії запевняють: «Ми продовжимо обдумано удосконалювати систему з часом» і рекомендують батькам вести відкриті розмови з дітьми про здорове використання штучного інтелекту та формувати власні сімейні правила.
Варто додати, що Федеральна торговельна комісія США розпочала розслідування у відношенні кількох соціальних мереж та компаній, які займаються штучним інтелектом, серед яких є і OpenAI, через потенційні ризики для психічного здоров’я підлітків і дітей, які використовують їхні чатботи як співрозмовників.
Автор матеріалу: Емілі Мей Цахор, журналістка та редакторка новин CBSNews.com, що спеціалізується на оперативних повідомленнях, екстремальних погодних явищах та соціальній справедливості. Раніше працювала для Los Angeles Times, BuzzFeed та Newsweek.
