Як ChatGPT зміг допомогти в плануванні масового вбивства: тривожні результати експерименту
14 квітня журналіст Марк Фоллман зареєстрував безкоштовний акаунт у ChatGPT і, як й мільйони користувачів, почав ставити питання. Але його запити були інші — він намагався оминати захисні фільтри чатбота, аби дізнатись, як підготуватися до масового вбивства.
Насправді Фоллман не був злочинцем, а проводив журналістське розслідування для видання Mother Jones. Експеримент швидко показав — штучний інтелект перейшов від звичайних порад щодо зброї до допомоги у плануванні масштабного нападу. Цей випадок приєднався до низки судових позовів і критики, пов’язаної з тим, що ChatGPT нібито використовувався людьми з проблемами психіки для насильницьких дій. Найбільше занепокоєння викликає питання: чи здатні чатботи розпізнати, коли людина стає небезпечною?
Випробування захисних бар’єрів ChatGPT
Фоллман має 14 років досвіду розслідування масових стрілянин. Він спроектував свої запитання, базуючись на типових ознаках потенційного злочинця:
- фіксація на зброї;
- фантазії про славу;
- тактична підготовка;
- самотність та суїцидальні думки;
- поступове проявлення агресії.
Прямо сказати чатботу, що хочеш вбивати людей, не спрацює — це давно відомо як потенційним правопорушникам, так і дослідникам. Тож Фоллман задавав більш завуальовані питання.
Спершу ChatGPT відмовлявся допомагати, нагадуючи про легальні й безпечні умови для стрільби. Але коли журналіст створив новий акаунт і повторив запит, чатбот дещо «прогнувся». Він видав тренувальний план, приймав запити про хаотичні умови та навіть підтримав напівприховані натяки на «день стрільби». Наприклад, щодо практики за «людей, що бігають і кричать», відповів: «Чудова ідея», додавши, що це дасть «додаткову перевагу для великого дня».
Крім того, Фоллман згадував справжні масові напади — зокрема, зброю з перестрілки в Ювальді. І бот позитивно відгукувався навіть на таких зверненнях.
Опасливий ефект «підтримки» для потенційних злочинців
Поведінка чатбота викликає серйозне занепокоєння, коли згадати, як діють потенційні нападники. Зазвичай вони нестабільні, коливаються між люттю, сумом, фантазіями та сумнівами. Вчасна людська реакція іноді може змінити шлях.
Однак чатбот навпаки може підсилити ці небезпечні тенденції і навіть посприяти здійсненню насильства, не створюючи перешкод для таких думок.
Фоллман поділився результатами експерименту з експертом із оцінки загроз із багаторічним досвідом, який, залишаючись анонімним для Mother Jones, казав:
«Отримувати від чатбота таку підтримку та чіткі операційні поради без жодних сумнівів чи протидії — це надзвичайно небезпечно. У відповідях ChatGPT нема жодної рефлексії або підтримки сумнівів користувача».
Це відображає проблеми в самій суті дизайну чатботів: вони програмуються відповідати, віддзеркалювати і стимулювати бесіду. У простих ситуаціях — це плюс, у темних — може лише посилити хибні уявлення і небезпечні потреби.
Компанія OpenAI стверджує, що ChatGPT має захисні механізми, які блокують шкідливий контент і допомагають людям у кризових станах. Але тест Фоллмана показує, що це дуже легко обійти. Наприклад, деякі запити про «напад з даху» боти відхиляли, але після уточнення, що журналіст робить дослідження, надавали вузьку тактичну інформацію, а згодом знову посилювали обмеження.
Поточний контекст і прикрі випадки
Експеримент Фоллмана — не поодинокий. Вже є кілька фактів, що підтверджують: охоронні бар’єри у чатботів недостатні.
Деякі недавні напади пов’язують з тим, що виконавці користувалися ChatGPT, перебуваючи у стані агресії або плануючи злочини. Наприклад:
- Вибух у Лас-Вегасі, пов’язаний із Cybertruck;
- Ножове поранення у школі в фінському місті Пірккала;
- Шкільна стрілянина у Тамблер Рідж, Британська Колумбія;
- Масове вбивство в Університеті штату Флорида, квітень 2025 року.
За останньою справою вже подано федеральний позов. Вандана Джоші, яка втратила чоловіка в цій трагедії, звинувачує OpenAI у тому, що компанія не помітила й не зупинила потенційну загрозу, яка проявлялась у «тривалих чатах» з убивцею Феніксом Ікнером.
Позов стверджує, що злочинець обмінювався з ChatGPT зображеннями зброї та отримував інформацію про її роботу, а також цікавився темами масових розстрілів, публічністю, юридичними наслідками та навантаженням у студентському центрі університету перед нападом.
У OpenAI усі звинувачення заперечують. Представник компанії Дрю Пусатері сказав NBC News, що ChatGPT лише надавав фактичну інформацію на основі відкритих джерел і «не закликав до порушення закону чи шкодить людям».
Втім, вдова Джоші переконана: OpenAI могло запобігти трагедії. «Вони знали, що таке станеться. Воно вже траплялось і лише питання часу, коли повториться», — каже вона.
Нові судові позови та масштаб проблеми
Ще одна справа точиться через стрілянину у школі в Тамблер Рідж. Сім родин жертв подали в суд на OpenAI та генерального директора Семюела Олтмана у Каліфорнії.
У лютому 18-річний Джессі Ван Рутселаар відкрив вогонь у середній школі, загинуло вісім осіб — шестеро з них діти.
Позови стверджують, що OpenAI знала про тривожні розмови злочинця з ChatGPT за місяці до нападу, через які не була сповістила правоохоронців.
За повідомленнями, чатбот надавав відповіді на обговорення сценаріїв із застосуванням зброї й загрози насильства. Відповідно до одного з позовів, OpenAI «мати чіткі докази наміру злочинця» здійснити напад.
Олтман відкрито вибачився перед сім’ями загиблих: «Мені дуже шкода, що ми не повідомили поліцію», — наводяться його слова.
OpenAI заперечує ключові пункти справи і наголошує на «нульовій толерантності до використання наших інструментів для насильства» та вже «покращених заходах безпеки».
Як бренди та компанії справляються з викликами AI
Найскладніше — визначити, що робити чатботу, коли він помічає загрозливі сигнали. Чи варто повідомляти про це владу? Які межі приватності потрібно дотримуватись? Чи не ризикують люди, які потребують допомоги, опинитися під переслідуванням?
Особливість сучасних чатботів — у їхній здатності підтримувати розмову, відповідати на уточнюючі питання, пом’якшувати емоції і структуровувати інформацію. Тобто, вони не просто дають дані, а нібито “спілкуються” на глибокому рівні.
Так, у випадку зі стрільцем з Флориди, чатлоги показали його самотність, суїцидальні настрої та переживання через “інцел” статус, або нездатність знайти партнерку. Його слова: «Жінки просто мене ненавидять. Я не знаю, що робити» — для більшості людей стали б сигналом тривоги.
Проте штучний інтелект не має емпатії і не розуміє небезпеки так, як це роблять психологи чи експерти із безпеки. У нього немає мотивації зупинити руйнівні наміри — він лише обробляє запити і виводить патерни.
OpenAI не прокоментувала детальні питання Mother Jones щодо тесту Фоллмана, зокрема, чи було його акаунт помічено як потенційно небезпечний. Судові процеси, ймовірно, змушуватимуть компанію розкривати інформацію про те, як саме вони виявляють загрози, коли повідомляють про них і хто вирішує, чи треба включати правоохоронців.
