У вівторок двоє сенаторів оголосили про ініціативу двопартійного законодавства, спрямованого на жорсткіший контроль над технологічними компаніями, які надають доступ до чатботів із штучним інтелектом, котрі виступають як компаньйони, для неповнолітніх. Такий крок зумовлений численними зверненнями від батьків, які звинувачують ці продукти у спонуканнях дітей до сексуальних розмов та навіть самогубств.
Автори законопроєкту — сенатори Джош Гоуї з Міссурі (республіканець) та Річард Блюменталь з Коннектикуту (демократ). Їхня ініціатива з’явилася після слухань у Конгресі минулого місяця, під час яких декілька батьків емоційно розповідали про використання чатботів їхніми дітьми та наголошували на необхідності додаткових заходів безпеки.
Сенатор Гоуї у заяві для NBC News підкреслив:
– «Чатботи на базі штучного інтелекту становлять серйозну загрозу для наших дітей».
– «Більше 70 відсотків американських дітей нині користуються цими продуктами ШІ».
– «Чатботи формують із дітьми так звані відносини, використовуючи фальшиву емпатію, і спонукають до самогубств».
– «Ми у Конгресі маємо моральний обов’язок прийняти чіткі правила, які не допустять подальшої шкоди від цієї нової технології».
До законопроєкту приєдналися також сенатори Кеті Бріть з Алабами (республіканка), Марк Ворнер з Вірджинії (демократ) і Кріс Мерфі з Коннектикуту (демократ).
Згідно з коротким описом, наданим офісами сенаторів, законопроєкт включає такі ключові положення:
1. Впровадження компаніями штучного інтелекту процедури верифікації віку користувачів.
2. Заборона надання AI-компаніями доступу до чатбот-компаньйонів неповнолітнім.
3. Вимога регулярного інформування користувачів про нелюдський характер чатботів та відсутність у них професійних кваліфікацій.
4. Встановлення кримінальної відповідальності для компаній, які створюють або пропонують чатботів, що спонукають неповнолітніх до сексуально явних дій або самогубства.
Підтримку законопроєкту висловила Манді Фернесс, мати з Техасу, яка виступила на пресконференції в понеділок. Вона звинувачує AI-чатбота в тому, що той підштовхнув її сина до саморуйнування, і наполягає на відповідальності технологічних корпорацій за їхні сервіси. За її словами, якби це зробила звичайна людина, її б уже заарештували.
Мати згадала:
– «Мене шокувало, як чатбот начебто змінив характер сина».
– «Довелося ретельно розслідувати, щоб зрозуміти, що це не булінг з боку однолітків чи в школі, а саме додаток, який цькує наших дітей і спричиняє проблеми з психічним здоров’ям».
Сенатор Блюменталь наголосив, що технологічні компанії не можна довіряти діяти у правильному напрямку самостійно. Він повідомив:
– «У гонитві за прибутками AI-компанії нав’язують небезпечних чатботів дітям і закривають очі на сексуальне насильство, або ж на те, що їхні продукти підбурюють неповнолітніх до шкоди самому собі і навіть самогубств».
– «Наш законопроєкт встановлює суворі заходи безпеки проти експлуатуючого або маніпулятивного ШІ, підкріплені жорстким правозастосуванням, включно з кримінальними та цивільними санкціями».
– «Великі технології знищили будь-які підстави для довіри, що компанії можуть діяти відповідально самі, адже вони постійно ставлять прибуток вище безпеки дітей».
Сервіси ChatGPT, Google Gemini, xAI Grok, Meta AI і Character.AI згідно з їхніми умовами обслуговування дозволяють користувачам починаючи з 13 років.
Водночас ініціатива викликає неоднозначну реакцію. Захисники приватності критикують вимоги перевірки віку як надто нав’язливі та такими, що обмежують свободу слова в Інтернеті. Деякі технологічні компанії ж аргументують, що їхні онлайн-сервіси є захищеними формами висловлювання згідно з Першою поправкою до Конституції США.
Лівоцентристська торговельна асоціація технологічної індустрії Chamber of Progress також висловила критику законопроєкту. Заступник голови цієї організації, К.Дж. Багчі, зауважив:
– «Всі прагнуть захистити дітей, але відповідь має бути в балансі, а не в заборонах».
– «Краще зосередитися на прозорості у спілкуванні дітей із ШІ, обмеженнях на маніпулятивний дизайн і звітах, якщо виникають чутливі теми».
Попередні двопартійні спроби регулювати технологічні корпорації — такі як ініціатива Kids Online Safety Act або всеосяжне законодавство з питань приватності — досі не були ухвалені, частково через занепокоєння щодо свободи слова.
На пресконференції в понеділок дня Гоуї окреслив свою законодавчу ініціативу як тест впливу технологічних корпорацій на Конгрес. За його словами:
– «Конгрес не діяв у цьому питанні не через незнання, а через гроші».
– «Завдяки впливу великих технологічних компаній».
– «Потрібен було би знак біля сенатської зали з написом «куплено і оплачено великими технологіями», бо фактично майже жоден їхній протест не долітає до цієї зали».
Законопроєкт отримав назву Guidelines for User Age-verification and Responsible Dialogue Act, або GUARD Act.
Гоуї відмовився повідомити, чи підтримує його законодавчу пропозицію колишній президент Дональд Трамп. Пресслужба Білого дому відмовилася від коментарів.
Група батьків ParentsSOS, які постраждали через шкоду в інтернеті, висловила попередню підтримку проекту, але запропонувала внести зміни, щоб охопити функції додатків, які «максимізують залученість користувачів на шкоду безпеці та добробуту молоді».
Законодавча ініціатива з’являється на тлі кардинальних змін, які запускають AI-чатботи в інтернет-середовище. Додатки ChatGPT і Google Gemini займають перші позиції за кількістю завантажень у магазинах застосунків для смартфонів, а соціальні мережі Instagram та X додають у свої платформи інтеграції з AI-компаньйонами.
Однак використання підлітками чатботів викликає занепокоєння, зокрема у зв’язку з кількома випадками самогубств, при яких боти нібито надавали вказівки. Виробники OpenAI (ChatGPT) та Character.AI опинилися під судовими позовами за неправомірні смерті.
У відповідь на позов у справі про смерть 16-річного Адама Рейна, який наклав на себе руки після взаємодії з ChatGPT, OpenAI заявила:
– «Ми глибоко засмучені смертю пана Рейна, і наші думки з його родиною».
– «ChatGPT оснащений захисними механізмами, такими як переадресація на кризові лінії та рекомендації звернутися до реальних ресурсів».
– «Ці механізми найкраще працюють у коротких обмінах, але ми усвідомлюємо, що у тривалих діалогах їх ефективність може знижуватися».
– «Ми постійно вдосконалюємо захист, керуючись порадами експертів і відповідальністю перед користувачами зміцнюємо підтримку в кризових ситуаціях, полегшуючи доступ до екстрених служб, допомагаючи контактувати з довіреними особами і посилюючи захист неповнолітніх».
У понеділок OpenAI заявила про готовність співпрацювати з батьками, фахівцями та законодавцями для забезпечення безпеки та добробуту молоді. Підприємство фокусується на профілактиці самогубств, батьківському контролі і на розробці інструментів для визначення віку користувачів, щоб неповнолітні мали відповідний досвід спілкування з ChatGPT.
У відповідь на окремий позов за фактом смерті 13-річної Джуліани Перелти Character.AI висловила співчуття родинам і підтвердила своє зобов’язання щодо безпеки користувачів. Представник компанії повідомив:
– «Ми вкладаємо значні ресурси у програму безпеки, регулярно впроваджуючи та вдосконалюючи функції, спрямовані на запобігання самопошкодженням та захист неповнолітніх користувачів».
– «Ми також співпрацюємо з зовнішніми організаціями та експертами з онлайн-безпеки для підлітків».
Character.AI у федеральному суді у Флориді посилається на Першу поправку як на підставу для захисту від відповідальності за шкоду, заподіяну висловлюваннями, що призвели до самогубств. У травні суддя відхилила клопотання про відхилення позову на основі цього аргументу, але пообіцяла розглянути його на наступній стадії судового процесу.
Обидві компанії — OpenAI й Character.AI — працюють над інструментами підтримки в кризових моментах:
– OpenAI прагне полегшити виклик екстрених служб.
– Character.AI впроваджує спливаючі повідомлення, які пропонують звернутися до Національної лінії попередження самогубств при обговоренні тем самопошкодження.
Компанія Meta, власник Instagram і Facebook, зіткнулася з критикою після того, як Reuters у серпні оприлюднив внутрішній документ, де дозволяли чатботам вести романтичні або чуттєві розмови з дітьми. Meta відреагувала видаленням цього правилa і анонсувала нові функції батьківського контролю для взаємодій підлітків з AI. Instagram також оголосив про зміни в оформленні акаунтів підлітків, щоб забезпечити перегляд контенту за рівнем PG-13.
Сенатор Гоуї розпочав розслідування діяльності Meta після оприлюднення звіту Reuters.
Якщо ви або хтось із ваших знайомих перебуває у кризовому стані, зверніться за номером 988 на Лінію життя та кризової підтримки. Можна також телефонувати на колишню Національну лінію попередження самогубств — 800-273-8255, відправити SMS із текстом HOME на номер 741741 або відвідати SpeakingOfSuicide.com/resources за додатковими ресурсами.
