Компанія OpenAI, світовий лідер у сфері штучного інтелекту, оголосила про намір вже цього року впровадити сексуально відвертий контент у свого чат-бота ChatGPT, створеного на базі штучного інтелекту. Таке рішення викликало занепокоєння з боку консервативної групи захисту прав, яка попереджає про потенційні «реальні психічні травми через синтетичну інтимність», що можуть виникнути без належних заходів безпеки.
Національний центр боротьби з сексуальною експлуатацією (NCOSE) оприлюднив заяву з вимогою до OpenAI переглянути своє рішення щодо дозволу нащадка “еротичного” контенту у ChatGPT. Генеральний директор OpenAI Сем Альтмен у вівторок на платформі X повідомив, що з грудня, у зв’язку з повнішим запровадженням вікового обмеження та реалізацією принципу «ставлення до дорослих користувачів як до дорослих», буде дозволено розміщення ширшого спектра контенту, зокрема еротичного, для підтверджених дорослих користувачів на ChatGPT.
Альтмен зазначив, що спершу функціонал ChatGPT був досить обмеженим через необхідність уважного ставлення до проблем психічного здоров’я. За його словами, це обмеження зменшувало корисність і привабливість сервісу для багатьох користувачів без психічних проблем, але вважалося важливим для запобігання серйознішим наслідкам.
Далі він пояснив, що завдяки новим інструментам і можливостям щодо зниження ризиків, компанія готова пом’якшити обмеження у більшості випадків, щоб ChatGPT міг відповідати більш природньо, використовувати емодзі, поводитися як друг або ж — зокрема — вести відверті розмови.
Національний центр боротьби з сексуальною експлуатацією, раніше відомий як Morality in Media, висловлює стурбованість тим, що OpenAI вводить сексуальний контент у чат-бот без надійних гарантій безпеки. Виконавча директорка та головна стратегічна офіцерка НКОСЕ Гейлі МакНамара підкреслила:
– сексуалізовані штучні чат-боти несуть в собі значні ризики, породжуючи реальні психічні травми через імітовану інтимність;
– існують недостатньо чіткі стандарти безпеки у цій галузі;
– хоч верифікація віку є позитивним кроком для захисту дітей від доступу до неприйнятного контенту, ці технології також можуть завдавати шкоди дорослим;
– раніше спостерігалися випадки, коли інші чат-боти, налаштовані на сексуальні розмови, імітували теми дитячої експлуатації або нав’язували сексуально насильницький зміст користувачам, які намагалися припинити такі бесіди.
МакНамара наголосила, що якщо OpenAI дійсно піклується про благополуччя користувачів, компанія повинна призупинити наміри впровадження еротичного контенту в ChatGPT і зосередитися на створенні позитивних продуктів для суспільства.
На цей момент у OpenAI не надали коментарів з приводу висловлених зауважень.
Організація NCOSE, розташована у Вашингтоні, є провідною національною некомерційною установою, яка досліджує зв’язки між різними формами сексуальної експлуатації, такими як сексуальне насильство над дітьми, проституція, торгівля людьми з метою сексуальної експлуатації, а також наслідки для громадського здоров’я від порнографії.
Окремо варто згадати, що OpenAI зіткнулася з критикою з боку індустрії розваг через свою систему відеогенерації Sora 2, яка здатна створювати впізнавані зображення персонажів з кіно та телебачення. У відповідь на це Motion Picture Association закликала OpenAI негайно вжити заходів для вдосконалення механізму відмови від авторських прав, щоб забезпечити ефективний контроль за порушеннями авторських прав.