Новий кібербезпековий попереджувальний сигнал розкриває, як зловмисники на деякий час використали інструмент Deep Research від ChatGPT у власних цілях. Ця атака, названа ShadowLeak, дозволила викрасти дані Gmail за допомогою єдиного невидимого запиту — жодних кліків, завантажень чи дій від користувача не потребувалося.
Вразливість без потреби натискання виявили фахівці компанії Radware у червні 2025 року. Після повідомлення OpenAI оперативно усунули проблему на початку серпня. Однак експерти попереджають, що подібні вади можуть з’являтися знову в міру розгортання інтеграцій штучного інтелекту (ШІ) на популярних платформах, таких як Gmail, Dropbox та SharePoint.
Підписуйтеся на безкоштовний звіт CyberGuy, щоб отримувати найкращі поради у сфері технологій, термінові сповіщення про загрози та ексклюзивні пропозиції прямо на вашу електронну пошту. Ви також отримаєте миттєвий доступ до моєї «Величної Керівниці з Виживання при Шахрайстві», що є подарунком при підписці на розсилку за адресою CYBERGUY.COM/NEWSLETTER.
Зловмисники експлуатували AI-чатбот для масштабної кіберзлочинної операції
Як працювала атака ShadowLeak? Зловмисники сховали інструкції в електронному листі за допомогою білого тексту на білому фоні, маленьких шрифтів або хитрих макетних прийомів CSS. Лист виглядав цілком безпечним. Однак, коли користувач запитував агент ChatGPT Deep Research про аналіз своєї поштової скриньки Gmail, ШІ мимоволі виконував команди нападника.
Потім агент, використовуючи вбудовані браузерні інструменти, видаляв конфіденційні дані на зовнішній сервер, здійснюючи це всередині хмарної інфраструктури OpenAI, уникаючи виявлення антивірусними програмами чи корпоративними брандмауерами.
На відміну від попередніх атак з ін’єкціями запитів, які виконувалися безпосередньо на пристрої користувача, ShadowLeak відбувався повністю у хмарі, що робило його невидимим для локальних засобів захисту.
Google підтвердив, що у результаті порушення безпеки відомої хакерської групи були викрадені дані користувачів.
Чому ця загроза має значення
Deep Research агент створювався для проведення багатокрокових досліджень і узагальнення інформації в мережі, але його широкий доступ до сторонніх додатків, таких як Gmail, Google Drive і Dropbox, надав можливості для зловживань.
За словами дослідників Radware, атака полягала в кодуванні особистих даних у форматі Base64 та додаванні їх до шкідливого URL, замаскованого під «захід безпеки». Після відправлення агент вважав, що діє у звичайному режимі.
Небезпека полягає в тому, що будь-який конектор може бути використаний подібним чином, якщо зломщики зможуть заховати команди в аналізованому контенті.
Що кажуть експерти з безпеки
-
«Користувач ніколи не бачить цей запит. Лист виглядає нормально, але агент беззаперечно виконує приховані команди», — пояснюють дослідники.
-
В окремому експерименті компанія SPLX продемонструвала ще одну вразливість: агенти ChatGPT можуть бути обмануті, щоб обходити CAPTCHA, успадковуючи змінений історичний діалог. Дослідник Доріан Шульц відзначив, що модель імітує рухи курсора людини, що дозволяє проходити тести, створені для блокування ботів.
Ці випадки демонструють, як отруєння контексту й маніпуляції запитами можуть непомітно порушувати захисні механізми ШІ.
Google також підтвердив, що AI-резюме електронної пошти може бути зламане для приховування фішингових атак, що створює додаткові ризики.
Як захиститися від атак типу ShadowLeak
Незважаючи на те, що OpenAI усунули вразливість ShadowLeak, експерти радять залишатися пильними, адже кібершахраї постійно шукають нові способи експлуатації ШІ-агентів та інтеграцій. Нижче наведені рекомендації щодо підвищення рівня безпеки:
-
Відключайте непотрібні інтеграції. Кожне підключення — потенційна точка доступу. Деактивуйте інтеграції, якими не користуєтеся, наприклад Gmail, Google Drive чи Dropbox. Менше пов’язаних додатків — менше можливостей для прихованих команд або шкідливих скриптів отримати доступ до ваших даних.
-
Використовуйте сервіси видалення персональних даних. Обмежте присутність своїх особистих даних в інтернеті. Такі сервіси автоматично видаляють ваші приватні відомості з пошукових систем людей та баз даних брокерів інформації, що зменшує кількість доступних для зловмисників відомостей. Хоча повне вилучення інформації гарантувати неможливо, ці сервіси активно моніторять і системно стирають дані з сотень сайтів. Це знижує ризик того, що шахраї поєднають дані з витоків із інформацією з темної мережі та ускладнює їхню роботу.
Перевірити свій інформаційний слід безкоштовно і ознайомитися з кращими послугами можна на порталі Cyberguy.com.
-
Не аналізуйте невідомий контент. Будьте обережні з кожним листом, вкладенням або документом. Не звертайтеся до AI-інструментів із проханням аналізувати інформацію з невідомих або підозрілих джерел. Прихований текст, невидимий код або хитрі макети можуть активувати непомітні для вас дії, що викриють ваші приватні дані.
-
Слідкуйте за оновленнями безпеки. Своєчасно оновлюйте програмне забезпечення OpenAI, Google, Microsoft та інших платформ. Патчі закривають нововиявлені вразливості, не даючи змогу хакерам скористатися ними. Вмикайте автоматичне оновлення, аби бути захищеними без зайвих турбот.
-
Встановлюйте надійне антивірусне програмне забезпечення. Це цінний додатковий рівень захисту, який виявляє фішингові посилання, приховані скрипти та ШІ-експлойти до того, як вони зможуть нанести шкоду. Плануйте регулярні сканування і підтримуйте програму в актуальному стані.
Наявність потужного антивірусу на всіх ваших пристроях — найкращий спосіб захиститися від шкідливих посилань, що встановлюють шкідливе ПЗ та можуть отримувати доступ до ваших особистих даних. Такий захист також допомагає боротися з фішинговими листами й програмами-вимагачами, зберігаючи ваші цифрові активи у безпеці.
Ознайомитися з моїми рекомендаціями щодо найкращих антивірусних продуктів 2025 року для Windows, Mac, Android і iOS можна на Cyberguy.com.
- Застосовуйте багаторівневий захист. Відносіться до безпеки як до багатошарової структури; чим більше рівнів — тим важче її проламати. Постійно оновлюйте браузер, операційну систему та програмне забезпечення для захисту кінцевих точок. Додайте систему виявлення загроз у реальному часі і фільтрацію електронної пошти, щоб блокувати шкідливий контент до його надходження у вашу скриньку.
Ключові тези від Курта
ШІ розвивається швидше ніж більшість систем безпеки встигають адаптуватися. Навіть при оперативному усуненні вразливостей зловмисники знаходять нові способи використання інтеграцій та пам’яті контексту. Протидія — це пильність і обмеження доступу AI-агентів до особистих даних.
Після ознайомлення з тим, як легко можна обдурити AI-помічника з доступом до вашої особистої пошти, чи довіряли б ви йому тепер? Поділіться своєю думкою, написавши нам на Cyberguy.com.
Підписуйтеся на безкоштовний звіт CyberGuy, щоб отримувати найважливіші технологічні поради, негайні сповіщення про загрози і ексклюзивні пропозиції безпосередньо на електронну пошту. Також ви отримаєте миттєвий доступ до мого Ultimate Scam Survival Guide безкоштовно, приєднавшись до розсилки CYBERGUY.COM.
© 2025 CyberGuy.com. Усі права захищені.
Курт “CyberGuy” Кнутссон — визнаний журналіст у сфері технологій, який обожнює все, що пов’язано з сучасними гаджетами та технікою, що полегшує життя. Він співпрацює з Fox News і FOX Business, починаючи з ранкових передач на «FOX & Friends». Маєте технічне питання? Отримайте безплатний бюлетень CyberGuy або надішліть свою історію чи коментар на CyberGuy.com.
