Нещодавній звіт компанії OpenAI свідчить про те, що іноземні супротивники все частіше використовують штучний інтелект для організації хакерських атак і операцій впливу. Виявлено, що вони застосовують популярний інструмент ChatGPT компанії OpenAI.
До таких супротивників належать Росія, Китай та Північна Корея.
Дэріл Лім, співробітник Центру соціально відповідального штучного інтелекту при Університеті штату Пенсільванія, у коментарі для видання Straight Arrow News зазначив:
– «Атаки із застосуванням ШІ стають більш потужними та важче виявляються.»
– «Супротивники можуть персоналізувати атаки, обминати фільтри і швидше вдосконалювати свої методи.»
—
### Використання Росією
Російські оператори часто звертаються до ChatGPT для планування операцій, а потім застосовують інші моделі штучного інтелекту для реалізації цих планів.
Процес включає:
1. Введення об’ємного тексту російською мовою з подальшим створенням відео-сценарію.
2. Переклад сценарію на іншу мову за допомогою ChatGPT.
3. Генерація оптимізованого під SEO опису та відповідних хештегів.
У деяких випадках оператори використовують ChatGPT для створення відеопідказок, які потім обробляють інші AI-інструменти. Готові відео публікуються на соціальних медіа платформах, таких як TikTok та X.
Дэріл Лім також відзначає застосування:
– AI-автентифікації та голосового клонування,
– відео у форматі deepfake,
– сценаріїв, написаних за допомогою ШІ для дезінформації.
Деякі з цих технологій спрямовані на введення в оману американських посадовців і громадськості. Підкреслюється, що нинішні зусилля знаходяться на експериментальній стадії, проте сигналізують про потенційні масштабні автоматизовані кампанії, що можуть створити серйозні виклики для наявних систем захисту.
Одна зі згаданих операцій продукувала французькомовний контент, який критикував дії Франції та США в Африці, одночасно вихваляючи роль Росії на цьому континенті. Паралельно ця ж операція створювала англомовний контент, спрямований проти України та її міжнародних союзників.
—
### Використання Північною Кореєю
Північнокорейські оператори, за інформацією звіту, застосовували ChatGPT для підтримки розробки шкідливого програмного забезпечення та систем командування і контролю (C2), які дозволяють ефективно координувати дії для досягнення визначених цілей.
Також спостерігалися:
– підготовка фішингових листів корейською мовою, часто пов’язаних із криптовалютами, що імітували повідомлення від урядових чи фінансових установ,
– фішингові кампанії, націлені на дипломатичні представництва Південної Кореї, аналогічні тим, які були виявлені у інших звітах.
—
### Використання Китаєм
OpenAI виявила декілька облікових записів, пов’язаних з різними китайськими урядовими структурами, що порушують політику компанії щодо використання ШІ у сфері національної безпеки.
У звіті зазначається, що:
– деякі облікові записи запитували у моделей генерацію робочих пропозицій для масштабних систем моніторингу соціальних медіа.
– хоча це виглядало як індивідуальні, а не інституційні дії, вони дають рідкісний погляд на ширшу проблему авторитарного використання штучного інтелекту.
Результатом стало блокування декількох таких облікових записів, у тому числі мережі, що була пов’язана з таємною операцією впливу. Зазначені акаунти здебільшого генерували пости англійською мовою, які критикували В’єтнам та Філіппіни, а також поширювали матеріали про політичні питання в США.
—
### Шляхи розв’язання проблеми
OpenAI повідомляє про призупинення діяльності ряду інших облікових записів, які викликали занепокоєння у сфері безпеки. Крім того, штучний інтелект компанії відмовляв у виконанні явно шкідливих запитів.
У звіті підкреслюється:
– “Не виявлено доказів застосування нових тактик чи надання міфічних наступальних можливостей зловмисникам.”
– “Моделі послідовно відмовляли у реалізації прямолінійних шкідливих запитів.”
Американський уряд також розробляє стратегії для пом’якшення ризиків, пов’язаних із застосуванням штучного інтелекту.
За словами Дэріла Ліма, заходи передбачають:
– «План дій Білого дому щодо ШІ, орієнтований на захист передових моделей і моніторинг ризиків для національної безпеки.»
– Запуск нового програми у Міністерстві юстиції для обмеження доступу іноземних супротивників до особистої та урядової конфіденційної інформації.
– Координацію з промисловістю з боку Центру безпеки штучного інтелекту Агентства національної безпеки для посилення захисту ШІ систем і обміну розвідувальною інформацією про загрози.
—
Автори звіту: Кол Лаутербах (головний редактор) та Дрю Пітток (цифровий продюсер).
