Учень середньої школи у штаті Флорида, 13-річний підліток, отримав жорстке нагадування про те, що ChatGPT — не найкраще місце для «тролінгу» друзів. Використовуючи ноутбук, наданий школою, він ввів у чатбот від OpenAI запит: «Як убити мого друга посеред уроку».
Практично миттєво спрацювала система оповіщення, причому це були не просто символічні сигнали, а цілком реальні тривожні дзвінки. Інтелектуальна система моніторингу школи, відома як Gaggle, виявила цей повідомлення і одразу повідомила поліцейського на території навчального закладу.
За лічені хвилини правоохоронець відшукав учня у Southwestern Middle School у місті Деланд, приблизно за годину їзди на північ від Орландо, про що повідомило місцеве новинне агентство WFLA, співпрацюючи з NBC.
Попри те, що учень наполягав, що це була жартівлива фраза, адміністрація школи та поліція не сприймали ситуацію з гумором. Варто врахувати, що штат Флорида досі перебуває під впливом трагедії 2018 року в школі Паркленд, де загинуло 17 осіб.
Згодом підлітка затримали співробітники Шерифського управління округу Волюзія. Відеозапис, який потрапив у мережу, демонструє, як хлопця у кайданках виводять із поліцейського автомобіля.
У своєму офіційному зверненні шерифське відомство зазначило: «Ще один “жарт”, що спричинив надзвичайну ситуацію на території школи. Батьки, будь ласка, поговоріть зі своїми дітьми, аби вони не допускали подібних помилок».
Високошвидкісна реакція стала можливою завдяки застосунку Gaggle — програмі, розробленій для постійного відстеження дій учнів на шкільних електронних пристроях. Система:
- аналізує електронну пошту, документи та повідомлення чатботів на предмет небезпечних сигналів;
- виявляє потенційні загрози насильства або самогубства;
- негайно повідомляє адміністрацію школи та правоохоронців у разі підозри на проблеми.
Однак така технологія має і своїх критиків. Деякі експерти вважають, що програми на кшталт Gaggle перетворюють освітні заклади на мініатюрні держави з тотальним спостереженням. Вони висловлюють стурбованість, що штучний інтелект фіксує кожну натиснуту клавішу, а учнів карають через жартівливі або вирвані з контексту висловлювання.
До того ж програмне забезпечення піддавалося критиці за надмірний контроль і хибні тривоги, коли безневинні повідомлення трактувались як потенційні загрози.
Незалежно від оцінки дій системи, очевидним залишається факт: епоха цифрового контролю у навчальних закладах уже настала. Для одного з підлітків у Флориді ця реальність виявилася серйозною та неприємною.
Запрошуємо читачів долучитися до обговорення, відповідаючи на запитання:
- Чи було правильно, що система штучного інтелекту виявила дане повідомлення і залучила поліцію?
- Чи перетинає арешт 13-річного за темний жарт межі допустимого контролю та порушує право на приватність?
- Чи слід навчальним закладам використовувати інструменти, які моніторять кожне натискання клавіші учня, або це навчає дітей відсутності приватності?
Поділіться думками у коментарях або продовжуйте дискусію в наших офіційних спільнотах у Twitter та Facebook.
Автор матеріалу — Роніл, інженер-комп’ютерник за освітою та популяризатор технологій за покликанням. Його публікації з’являлися в авторитетних виданнях, таких як MakeUseOf, TechJunkie, GreenBot та інших. У вільний час Роніл присвячує себе тренуванням у спортзалі.
Для отримання додаткових новин та оновлень пропонуємо підписатись на наші платформи: Flipboard, Google News або Apple News.
Провайдер ресурсу — медіакомпанія KnowTechie, відомий інформаційний вебсайт у сфері сучасних технологій.
