Екс-пастор з Флориди судиться з OpenAI: Чи може чат-бот поставити під загрозу життя?
Скотт Вiнтерс, колишній пастор із Флориди, подав до суду на OpenAI та її генерального директора Сема Альтмана. Його звинувачення звучать вражаюче — медичні поради ChatGPT ледь не коштували йому життя.
У позові, поданому у Вищий суд округу Сан-Франциско у липні 2026 року, зазначено, що протягом 2025 року Вiнтерс неодноразово звертався до ChatGPT-4o з проблемою запаморочення і нестабільного артеріального тиску. За словами позивача, чат-бот применшував тривожні симптоми і радив залишатися «прикрісельним», мовляв, знадобиться ще 8-10 епізодів, щоб дійсно бентежитися.
Невдовзі потім чоловік пережив серйозну легеневу емболію — тромб у легенях, який один із його власних лікарів пов’язав із тривалим знерухомленням, рекомендованим ШІ.
Що сталося у день надзвичайної ситуації
У той самий день, коли з ним стався інцидент, Вiнтерс знову звернувся до чат-бота з питанням про болючість у паху, цікавлячись, чи варто їхати до відділення швидкої допомоги. Відповідь виявилася незвичайною — чат-бот апелював до його релігійної віри, наголошуючи, що «Бог не створював твоє тіло для постійних поразок». За кілька годин чоловік ледь не помер.
OpenAI заявляє, що ChatGPT ніколи не був створений, щоб замінити медичного спеціаліста, і користувачі попереджаються не покладатися на нього винятково для отримання медичної допомоги. Адвокати Вiнтерса вимагають матеріальної компенсації й призупинення роботи функції ChatGPT Health до проведення незалежної оцінки безпеки.
Подібні випадки: проблема не поодинока
Цей позов — не єдиний серед останніх. У травні подружжя з Техасу подало позов на OpenAI після того, як їхній син помер від передозування. Вони заявили, що він скористався інформацією про наркотики, отриманою від ChatGPT, і що компанія проігнорувала власні бар’єри безпеки.
Усі ці справи ставлять під сумнів, наскільки компанії, які розробляють штучний інтелект, несуть відповідальність за наслідки, коли люди звертаються до чат-ботів під час медичних або психологічних криз.
Що каже наука: AI як діагност часто випереджає лікарів
Дослідження останніх років показують, що у контрольованих умовах штучний інтелект часто працює не гірше від досвідчених фахівців. Наприклад, у 2024 році журнал JAMA Internal Medicine опублікував дослідження, де GPT-4 змагався з 21 лікарем-спеціалістом і 18 резидентами на 20 клінічних випадках. Результати: ChatGPT отримав середню оцінку 10 із 10, тоді як лікарі-спеціалісти – 9, а резиденти – 8.
Але було й інше дослідження того ж року у JAMA Network Open, у якому 50 лікарів змагалися з шістьма складними випадками. Результат: ChatGPT показав 90% точності діагнозів, лікарі без підтримки – 74%, а з допомогою штучного інтелекту – лише 76%. Причина — багато медиків не довіряли рекомендаціям бота або сумнівалися в них.
Великий експеримент із AI в діагностиці
У 2025 році в дослідженні для журналу Nature Google представив модель AMIE, яка випробовувалась на 302 реальних випадках разом із 20 клініцистами. AI зміг правильно поставити діагноз у 59% випадків у своїх списках, а лікарі без AI — лише у 34%. Коли клініцисти користувалися AMIE як помічником, їхні діагнози були кращими, ніж при самостійному використанні звичайних пошукових систем і медичних довідників.
Також метааналіз в npj Digital Medicine, що об’єднав 50 робіт про 25 AI-моделей, показав, що AI-системи часто працюють не гірше, а в деяких спеціальностях — навіть краще за практикуючих лікарів при діагностиці й розставлянні пріоритетів пацієнтів.
Критика і сумніви: коли AI може підвести
Проте всі ці експерименти мають одну спільну рису: жорстко контрольоване середовище з чіткими правилами — письмові випадки чи структуровані завдання. В реальному житті ситуація набагато складніша:
- пацієнти часто дають неповну або переважно суб’єктивну інформацію;
- нема можливості провести фізичний огляд чи заміряти життєві показники;
- діалог із ботом — відкритий і непередбачуваний;
Це зовсім не те саме, що обирати правильну відповідь у тесті.
Проблема «галюцинацій» і фальшивих діагнозів
Одне з головних занепокоєнь — здатність AI «галюцинувати», тобто вигадувати інформацію. Дослідження у Communications Medicine показало, що під час тестування шести чат-ботів, серед яких GPT-4o і DeepSeek, із підробленими клінічними деталями (вигадані аналізи, діагнози, патології), моделі у 50-83% випадків підтримували і розширювали ці фальсифікації.
Навіть попередження в одному з запитів знижувало таку поведінку, але не знищувало її повністю.
Великий тест на потенційну шкоду
Інше дослідження, очолюване Стенфордською лабораторією, проаналізувало 20 моделей штучного інтелекту на 1100 випадках за шкалою можливого ризику втрат від рекомендацій. Виявилось, що 24,6% порад могли бути серйозно шкідливими для пацієнта. Понад 80% таких помилок було викликано упущеннями — коли чат-бот не попередив про небезпечний симптом або стан, а не вигадував неправду.
Опитування серед понад 1000 лікарів у 2025 році показало, що 94% мають серйозні побоювання щодо використання пацієнтами AI-систем для медичних консультацій через ризики помилкових діагнозів або затримок у лікуванні.
AI в медицині: потенціал і виклики у повсякденному житті
Отже, наука свідчить про те, що в структурованих завданнях, де є ясні правила та обмеження, штучний інтелект часто може конкурувати з лікарями або навіть переважати їх у точності. Але саме життя — це не тест, а нескінченна низка відкритих ситуацій із багатьма невідомими. Умови, за яких у справі Вiнтерса чат-бот давав тривожне та некваліфіковане заспокоєння замість термінового направлення в лікарню, — це те, що може значно відрізнятися від контрольованих лабораторних дослідів.
Здається, справа не стільки в «розумі» моделі, скільки в тому, як і де її використовують. Лише за умови ретельного і продуманого впровадження AI може розкриватися його справжній потенціал, не ставлячи під ризик здоров’я й життя користувачів.
Регулятори, медичні установи та дослідники зараз стоять перед викликом: як зробити так, щоб AI став надійним помічником, а не джерелом небезпеки, особливо коли мова йде про здоров’я у реальному, несприятливому світі.
