З сьогоднішнього дня OpenAI розпочинає впровадження інструментів безпеки ChatGPT, призначених для батьків, які бажають контролювати спілкування своїх підлітків із чатботом. Це глобальне оновлення передбачає можливість для батьків та правоохоронних органів отримувати сповіщення у разі, якщо дитина, тобто користувач віком від 13 до 18 років, веде розмови з чатботом на теми, пов’язані з саморуйнівною поведінкою або суїцидом.
Ці зміни вводяться на фоні судових позовів, поданих батьками, які звинувачують ChatGPT у тому, що чатбот нібито сприяв трагічній смерті їхньої дитини. За інформацією The New York Times, підліток, який переживав суїцидальні настрої, нібито отримав від чатбота рекомендацію сховати мотузку у своїй кімнаті так, щоб члени сім’ї її не бачили.
Загалом оновлення значно трансформує досвід користування ChatGPT підлітками. У блозі OpenAI сказано, що після підключення акаунтів батьків і дітей на підлітковому акаунті автоматично активуються додаткові захисні механізми. Зокрема, вводяться обмеження на:
– перегляд контенту з графічно жорстокими чи травматичними деталями;
– участь у вірусних викликах;
– сексуальні, романтичні чи насильницькі рольові ігри;
– недопущення нав’язування екстремальних ідеалів краси.
У разі введення користувачем-підлітком запиту, що стосується самопошкодження або суїцидальних думок, цей запит автоматично передається на розгляд команді фахівців. Саме вони ухвалюють рішення, чи слід надіслати потенційне сповіщення батькам.
Лорен Хабер Джонас, очільниця відділу OpenAI, відповідального за благополуччя молоді, зазначає: «Ми намагатимемося зв’язатися з батьками у найбільш повному обсязі — через текстові повідомлення, електронну пошту та сповіщення в додатку ChatGPT». Відповідні сповіщення, які можуть отримати батьки, надходитимуть орієнтовно протягом кількох годин після того, як розмова буде визнана потенційно небезпечною під час модерації. Хоча у кризових ситуаціях такі затримки викликають роздратування у батьків, OpenAI вже веде роботу над скороченням часу між виявленням ризику та повідомленням.
Сповіщення, яке надійде батькам, матиме загальний характер і повідомлятиме про можливу наявність запиту дитини, пов’язаного з суїцидом або самопошкодженням. До нього також можуть включити поради від експертів з психічного здоров’я щодо підтримки діалогу з підлітком. У демонстраційній версії, представленій WIRED, тема електронного листа акцентувала увагу на безпекових проблемах, але не містила прямих згадок про суїцид. Батьки не отримуватимуть прямі цитати з розмови — ні запитів, ні відповідей чатбота. Однак у разі потреби вони можуть звернутися з проханням надати часові позначки конкретних фрагментів спілкування.
За словами Лорен Хабер Джонас, баланс полягає у тому, щоб «надати батькам достатньо інформації для дій і розмови з підлітком, зберігаючи при цьому певний рівень конфіденційності для дитини», оскільки розмови можуть містити й інші чутливі деталі.
Для активації цих функцій безпеки необхідне добровільне підключення обох акаунтів — батьківського та підліткового. Це означає, що батьки мають надіслати запрошення дитині на моніторинг їх акаунта, і підліток повинен його прийняти. Також ініціатива може виходити від самої дитини.
У випадках, коли команда модераторів виявить загрозу для життя підлітка, а зв’язок з батьками через сповіщення неможливий, OpenAI може звертатися за допомогою до правоохоронних органів. Проте остаточний формат і масштаби такої співпраці, особливо на міжнародному рівні, наразі залишаються неузгодженими.
