LONDON (AP) — Компанія OpenAI оголосила у понеділок про впровадження батьківського контролю в ChatGPT, що покликаний забезпечити підліткам безпечніше та більш «відповідне віку» користування популярною платформою.
Цей крок став реакцією на нещодавні випадки, які привернули увагу громадськості та медіа до безпеки штучного інтелекту для молоді. Неодноразово повідомлялося про трагедії серед підлітків, які сталися після взаємодії з чатботом ChatGPT.
У Сполучених Штатах Федеральна торговельна комісія вже розпочала розслідування стосовно декількох технологічних компаній щодо потенційних ризиків для дітей та підлітків, які використовують їхні AI-чатботи в якості компаньйонів.
У публікації блогу від понеділка OpenAI детально описала нові інструменти контролю для батьків. Ось основні положення:
1. Початок роботи
– Батьківський контроль буде доступний усім користувачам.
– Для активації функції батькам і підліткам потрібно мати окремі акаунти.
– Щоб започаткувати зв’язок, батько або опікун має надіслати електронного листа або SMS-повідомлення з запрошенням підлітку для підключення акаунтів.
– Підліток також може відправити запрошення батьку.
– Запит можна надіслати через меню налаштувань у розділі «Батьківський контроль».
– Підлітки можуть у будь-який момент розірвати зв’язок акаунтів, однак батьки отримають сповіщення про це.
2. Автоматичні заходи безпеки
– Після поєднання акаунтів обліковий запис підлітка отримає ряд вбудованих захистів.
– Батьківський контроль передбачає автоматичне обмеження доступу до:
* графічного контенту;
* вірусних викликів;
* сексуального, романтичного або насильницького рольового відтворення;
* надмірно ідеалізованих стандартів краси.
– Такі обмеження спрямовані на забезпечення вікового відповідного досвіду користування.
– Батьки мають змогу деактивувати ці фільтри, натомість підлітки такої опції не отримують.
– OpenAI зазначає, що незважаючи на застосування охоронних заходів, вони не є стовідсотково надійними та можуть бути обійдені, якщо користувач навмисно намагається це зробити.
– Компанія радить батькам вести відкриту розмову з дітьми про безпечне та відповідальне використання штучного інтелекту.
3. Налаштування параметрів
– Батьки отримають панель управління, де зможуть змінювати широкий спектр параметрів, зокрема і вимикати обмеження на чутливий контент.
– Наприклад, можна встановити «тихий час», щоб обмежити використання ChatGPT у нічні години.
– Інші налаштування включають:
* відключення функції збереження пам’яті AI — це означає, що розмови не будуть збережені й не використовуватимуться для удосконалення моделей;
* відключення генерації або редагування зображень;
* відключення голосового режиму;
* відмову від використання чатів для навчання штучного інтелекту ChatGPT.
4. Оповіщення про надзвичайні ситуації
– OpenAI впроваджує проактивну систему сповіщення батьків у разі можливих проблем із психічним станом підлітка.
– Нова система інформуватиме батьків, якщо буде виявлено потенційно серйозні ознаки тривоги чи наміру завдати собі шкоди.
– За ситуацію відповідатиме невелика група спеціалістів, яка оцінюватиме рівень ризику.
– У рідкісних випадках, коли зафіксовано ознаки гострого занепокоєння, батьки отримають сповіщення електронною поштою, SMS та пуш-повідомленням, якщо вони не відмовилися від такого інформування.
– OpenAI наголошує, що при цьому збережеться конфіденційність підлітка — передаватиметься лише необхідна інформація для надання допомоги батьками або службами екстреного реагування.
– Компанія визнає, що система не ідеальна і може іноді фіксувати хибні тривоги, проте вважає за доцільне вчасно повідомляти батьків для потенційного запобігання небезпечним ситуаціям.
Якщо вас цікавить якась конкретна тема у сфері технологій, автори пропонують надсилати свої запити та пропозиції щодо майбутніх випусків «One Tech Tip» за адресою: onetechtipap.org.
