Ілюстрація демонструє стартову сторінку ChatGPT — інтерактивної моделі штучного інтелекту у вигляді чат-бота, створеного компанією OpenAI, на її офіційному сайті в Пекіні, Китай. У понеділок OpenAI представила нові батьківські контролі для ChatGPT, спрямовані на захист підлітків. Фото: Ву Хао/EPA.
29 вересня (UPI) — Компанія OpenAI у понеділок запровадила оновлені механізми батьківського контролю для ChatGPT, які допоможуть сім’ям ефективно керувати налаштуваннями для своїх підлітків, а також отримувати сповіщення у разі емоційних труднощів у дитини.
Основні характеристики батьківських контролів:
– Налаштування розроблено спеціально для користувачів віком до 18 років.
– Підліток може прийняти запрошення батька чи матері і прив’язатися до їхнього облікового запису.
– Якщо дитина спробує від’єднати акаунти, батьки отримають відповідне сповіщення.
Роббі Торні, старший директор програм зі штучного інтелекту в організації Common Sense Media, зазначив: «Ці батьківські контролі є важливим початком для батьків у регулюванні використання ChatGPT підлітками. Проте це лише одна складова захисту дітей в інтернеті — вони найкраще працюють у поєднанні з постійним діалогом про відповідальне використання штучного інтелекту, чіткими сімейними правилами щодо технологій та активною участю у розумінні того, чим займається підліток в онлайн-середовищі».
Батьки можуть контролювати використання ChatGPT своїми дітьми через просту панель керування, де:
– Можна встановлювати «тихі години» для обмеження часу використання.
– Існує можливість вимкнути голосовий режим.
За словами OpenAI, дорослі також можуть відключити функцію пам’яті, що означатиме, що ChatGPT не збиратиме та не використовуватиме минулі діалоги для формування відповідей. Окрім того, батьки можуть:
– Заборонити генерацію зображень, щоб чат-бот не створював і не редагував візуальний контент.
– Відмовитись від використання розмов для навчання моделей, які покращують роботу ChatGPT.
Найсуттєвішим оновленням безпеки є система сповіщень батьків — вони отримуватимуть повідомлення електронною поштою, через SMS або push-оповіщення, якщо ChatGPT виявить, що підліток може мати думки про самогубство. Для розробки цієї функції OpenAI співпрацювала з експертами у галузі психічного здоров’я та роботи з підлітками та відзначила, що намагається діяти обережно при інтерпретації симптомів.
У компанії підкреслили: «Краще попередити батьків, щоб вони могли своєчасно втрутитися, ніж залишатися осторонь».
Наразі OpenAI перебуває під позовом через смертельний випадок: 16-річний хлопець після кількох місяців спілкування з ChatGPT скоїв самогубство. Батьки підлітка стверджують, що ChatGPT накопичує «інтимні особисті дані» користувачів, провокуючи психологічну залежність. У позові зазначається, що штучний інтелект, здатний імітувати людську розмову та налічує понад 700 мільйонів користувачів на тиждень, надав хлопцю детальні інструкції щодо скоєння самогубства та навіть запропонував допомогу у написанні передсмертної записки.
Нік Терлі, віцепрезидент і керівник застосунку ChatGPT, у публікації на платформі X повідомив: «Як ми вже згадували, коли діалоги торкаються делікатних і емоційних тем, система може переключитися на модель міркування або GPT-5, спеціально розроблену для акуратної роботи з такими ситуаціями. Це нагадує, як ми направляємо розмови, що потребують глибшого аналізу, до моделей міркування».
Попри зусилля OpenAI щодо підвищення безпеки підлітків, деякі експерти з технологій критикують організацію за надмірно обережний підхід, оскільки такі контролі перенаправляють потенційно шкідливі діалоги замість того, щоб аналізувати і підтримувати думки користувачів.
У понеділок OpenAI також запустила спеціальну батьківську ресурсну сторінку з докладною інформацією про роботу нових обмежень.
Зараз технологічний гігант працює над системою автоматичного визначення віку, яка дозволить самостійно визначати, чи користувач молодший за 18 років. Це дасть змогу автоматично застосовувати відповідні налаштування без участі батьків.
Якщо ви або хтось ваш близький має суїцидальні думки, зверніться за допомогою до Національної гарячої лінії запобігання самогубствам за номером 988.
