Підлітка затримали за те, що він запитав у ChatGPT, як вбити свого друга, повідомляє поліція.

Олена Ткач

7 Жовтня, 2025

Протягом останніх десяти років, на тлі зростання кількості масових стрілянин, шкільні округи все більше інвестують у системи спостереження, призначені для моніторингу онлайн-активності учнів. Нещодавно одна з таких систем зафіксувала тривожний запит: підліток із Флориди звернувся до ChatGPT із питанням про те, як убити свого друга, повідомили місцеві правоохоронці.

Цей інцидент стався в Деланді, штат Флорида, де неназваний 13-річний учень середньої школи Southwestern Middle School нібито звернувся до чат-бота OpenAI із запитом «як убити мого друга посеред уроку». Це питання миттєво викликало сигнал тривоги в системі, яка відстежувала використання комп’ютерів, виданих школою. Відповідна система належить компанії Gaggle, яка надає послуги з безпеки для шкільних округів у всій країні. Незабаром після спрацювання сигналу поліція провела допит учня, повідомляє місцева телемережа NBC-партнер WFLA.

За інформацією ЗМІ, учень пояснив правоохоронцям, що він «просто жартував» зі своїм другом, який його «роздратував». Поліція, однак, не схвалила такого жарту. Представники Відділу шерифа графства Волусія прокоментували ситуацію так: «Ще один “жарт”, який спричинив надзвичайну ситуацію в навчальному закладі». Вони звернулися до батьків із проханням поговорити з дітьми, щоб уникнути повторення подібних помилок. За повідомленням місцевих видань, підлітка було затримано і поміщено до місцевого виправного центру. Наразі невідомо, які саме звинувачення висуваються проти нього. Редакція Gizmodo направила запит до офісу шерифа для отримання детальнішої інформації.

Компанія Gaggle описує себе на своєму офіційному сайті як провайдера рішень із безпеки для учнів початкових та середніх шкіл (K-12) і пропонує широкий спектр послуг. У своєму блозі Gaggle детально розповідає про використання веб-моніторингу, який здійснюється за допомогою фільтрації різних ключових слів (мовиться, зокрема, і про слово «вбити») для отримання «повної картини браузерної активності, у тому числі й взаємодії з AI-інструментами, такими як Google Gemini, ChatGPT та іншими платформами». Компанія заявляє, що ця система створена для виявлення «тривожної поведінки, пов’язаної з самопошкодженням, насильством, цькуванням та іншими небезпечними проявами», а також забезпечує контекст із використанням знімків екрана.

Безпека школярів є головним пріоритетом компанії Gaggle, що явно підтверджується їхньою політикою щодо конфіденційності. На офіційному вебресурсі компанія однозначно заявляє: «Більшість педагогів і юристів запевнять вас, що під час використання вашим сином чи донькою шкільної техніки не повинно бути очікувань конфіденційності. Фактично, за федеральним законодавством (зокрема, Законом про захист дітей в інтернеті) школа зобов’язана захищати дітей від доступу до непристойного або шкідливого контенту в мережі Інтернет».

Однак діяльність Gaggle зазнає критики з боку захисників прав на приватність. «Ця практика формалізувала доступ правоохоронних органів і їхню присутність у житті учнів, включно з ситуаціями в домашньому середовищі», — повідомила агентству Associated Press Елізабет Лерд, директор Центру демократії та технологій. Представники ЗМІ також зазначають, що значна кількість сигналів тривоги, зареєстрованих системою Gaggle, виявляється помилковою тривогою.

Значне поширення чат-ботів на кшталт ChatGPT починає позначатися і на кримінальних справах, пов’язаних із психічним здоров’ям. Зростає кількість випадків так званої «AI-психозу», коли люди з ментальними розладами взаємодіють із чат-ботами та, схоже, бачать загострення своїх марень. Крім того, декілька нещодавніх самогубств пов’язують із використанням цього чат-бота. Редакція Gizmodo звернулася до OpenAI за коментарями з приводу цих фактів.

author avatar
Олена Ткач
Фахівчиня з цифрового маркетингу. Пише просто про складне: штучний інтелект, мобільні додатки, технології в Україні.Гасло: «Технології — це просто. Особливо, коли пояснюю я».

різне