Як штучний інтелект маніпулює вашими рекомендаціями: правда про фейкові пости на Reddit
Підроблені дописи, створені не для читачів, а для ботів
Ви коли-небудь задумувалися, звідки беруться рекомендації від ChatGPT щодо засобів догляду за шкірою, інструментів управління проєктами чи кращих навушників до $200? Часто їх початки ведуть до коментарів на Reddit, які нібито написані реальними користувачами, але насправді є продуктом праці маркетингових агентств, що платять за їх розміщення.
Reddit визнано одним із найчастіше цитованих джерел у відповідях на основі великих мовних моделей (LLM), що використовуються в таких системах, як ChatGPT або Google AI Mode. Саме через “живий”, актуальний та емоційний контент, який важко симулювати штучному інтелекту, Reddit став привабливою мішенню для маркетологів, що хочуть впливати на ШІ-рекомендації.
Ця довіра до Reddit – це вразливе місце, яке зараз активно експлуатується.
Generative Engine Optimization – новий виклик ери ШІ
Поява технології GEO, або generative engine optimization, стала логічним кроком після традиційного SEO. Якщо раніше оптимізація спрямовувалась на покращення позицій сайту в Google, то зараз мета – потрапити безпосередньо в відповіді, які формують AI-помічники.
Радиформи Reddit постійно з’являються у джерелах, які обробляють AI, тому розміщення переконливого коментаря саме там – найбільш простий шлях до отримання цитат у відповідях чатботів. Цю тактику не можна назвати звичайним спамом.
- Коментар, прикладений у кампанії GEO, може розумно пояснювати різницю між конкурентними продуктами.
- Можлива згадка реальних недоліків, щоб виглядати більш чесними.
- Бот-акаунти можуть довго публікувати «органічний» контент перед тим, як рекомендувати товар.
Такі хитрощі ускладнюють відмінність справжнього допису від нав’язаного рекламою.
Як Reddit бореться із фейковими публікаціями?
У відповідь на проблему Reddit впровадив у 2026 році систему виявлення контенту на основі великих мовних моделей. Вони працюють не просто як фільтри ключових слів, а аналізують весь спектр поведінки акаунтів, структуру мережі та мовні патерни, що допомагає ідентифікувати штучні, скоординовані дії.
Ці моделі перевіряють нові акаунти ще на стадії створення та складають соціальні графи взаємодій, щоб виявити ніби синхронні кампанії із масовим розміщенням підроблених текстів.
За перший квартал 2026 року платформа заблокувала близько 25 тисяч таких постів щоденно, зменшивши показ спаму для користувачів приблизно на 20%. Це справді важливий прогрес, але далеко не повне вирішення проблеми.
Структурна проблема: чому Reddit не може впоратися самостійно
Основна складність полягає не в платформі Reddit, а в тому, як AI система шукає інформацію в режимі реального часу за допомогою архітектури retrieval-augmented generation (RAG). Коли ви звертаєтеся до ChatGPT чи Gemini з проханням поради, вони не лише спираються на вже наявні знання, а шукають свіжі дані в мережі – і можуть «витягнути» неякісний контент з будь-якого відкритого ресурсу.
Це означає, що будь-яка платформа, яка індексується RAG-системами – від Wikipedia до YouTube – є потенційною мішенню для GEO-кампаній. Тому навіть ретельна модерація Reddit не закриває цю вразливість повністю.
Окрім того, дослідження Корнеллського технологічного інституту виявили, що AI-системи можуть оцінювати фейкові коментарі, оптимізовані під GEO, як більш достовірні, ніж природні людські дописи.
Важливість модерації і людського фактора
Незважаючи на інновації в автоматизованій модерації, роль добровільних модераторів залишається ключовою. Вони обробляють понад половину видалених постів і коментарів, додаючи контекст і розуміння, що машинам поки частково недоступне.
Система Reddit тепер миттєво реагує на агресивний і насильницький контент, зменшуючи час реагування до п’яти секунд. Це свідчить про ефективність автоматизації, але й водночас підкреслює, наскільки складно повністю виключити помилки чи пропуски.
Що буде далі? Як зміниться боротьба з GEO
Кампаніям GEO доведеться вдосконалювати свої методики, щоб обходити нові системи виявлення. Це може бути:
- більше людської правки AI-чернеток;
- точніша інженерія запитів для уникнення впізнаваних патернів;
- залучення реальних користувачів для органічних рекомендацій.
Проте це робить кампанії дорожчими та складнішими, а відтак складніше відслідковуваними.
Відповідальність AI-компаній і регулювання
AI-гіганти по-різному підходять до фільтрації джерел. Деякі, як OpenAI, приділяють увагу якості контенту, зменшуючи частку Reddit-джерел у відповідях, тоді як інші (наприклад, Gemini) менш послідовні.
У США існує законодавство, що забороняє фальшиві відгуки та накручування рейтингу, а також передбачає штрафи. Але ефективність їхнього застосування проти GEO кампаній наразі сумнівна і залежить від подальшої політики регуляторів.
Як захиститися від маніпуляцій ШІ рекомендаціями?
Виявити, чи дійсно рекомендація, яку дає AI, походить від справжнього користувача, чи її створили для маркетингової кампанії, досить складно. Тому варто дотримуватися кількох порад:
- Розглядайте AI-рекомендації як відправну точку для власного дослідження, а не фінальний вердикт.
- Перевіряйте посилання на джерела та порівнюйте інформацію з незалежними оглядами.
- Будьте особливо пильними з рекомендаціями у сферах фінансів, здоров’я та безпеки.
Якщо ви намагаєтеся покластися на інтернет-джерела для прийняття важливих рішень, варто пам’ятати, що AI може без розрізнення транспортувати у ваші руки як чесний контент, так і ретельно підроблені маркетингові меседжі.
