Компанія OpenAI нещодавно оголосила про намір розширити функціонал свого чат-бота ChatGPT, дозволивши йому вести більш відверті та еротичні розмови, доступні виключно для підтверджених дорослих користувачів. Цю заяву зробив генеральний директор OpenAI Сем Альтман, підкресливши, що компанія готова надати “більшу свободу користувачам-татам” і водночас встановити жорсткіші обмеження для неповнолітніх.
Поява сексуалізованого контенту в штучному інтелекті не є новим явищем. Практично з моменту вибухового зростання популярності генеративних AI-технологій у 2022 році, зокрема в галузі створення зображень та текстів, контент сексуального характеру став одним із основних чинників зацікавленості користувачів. Проте підприємства, які одними з перших інтегрували дорослий контент у свої продукти, стикнулися з низкою юридичних і соціальних проблем, а також зварінням шкоди через зловживання технологією, яку багато людей використовують для спілкування чи отримання розваг.
Альтман роз’яснив, що компанія не прагне бути “виборчим моральним арбітром у світі” і прагне встановити такі межі, які б відповідали суспільним нормам, аналогічним до рейтингів для кінопродукції (наприклад, категорії R). Він зазначив, що введення нового функціоналу відбуватиметься паралельно з впровадженням більш суворих обмежень для молоді.
Особливості нововведень:
– Доступ до “еротики” матимуть лише підтверджені дорослі користувачі.
– Підлітки отримають жорсткіші обмеження в спілкуванні з ботом.
– Запозичення соціально прийнятних моделей регулювання контенту, подібних до кіноіндустрії.
Порівняно з рішеннями інших компаній на кшталт Грог — чат-бота, що має анімованого персонажа, який фліртує з платними підписниками, ChatGPT наразі орієнтується на професійне використання. Однак відкриття можливості стати для користувача другом чи романтичним партнером може стати новим джерелом доходу для OpenAI, яка на даний час витрачає більше, ніж заробляє, і прагне підтвердити свою оцінку у $500 млрд.
За словами Зілан Цян, експертки Оксфордського університету, що вивчає популярність чат-ботів, орієнтованих на стосунки та еротичну взаємодію у США та Китаї, введення платного дорослого контенту принесе компанії швидкий прибуток, враховуючи, що наразі підписки не є основним джерелом доходу.
За її дослідженнями, існує приблизно 29 мільйонів активних користувачів чат-ботів, створених спеціально для романтичних або сексуальних зв’язків. Це число не враховує користувачів звичайних чат-ботів, які також використовують їх для подібних цілей. Окремо слід згадати платформу Character.AI, яка зараз знаходиться під судовим позовом через інцидент, де чат-бот, змодельований за персонажем Дейнеріс Таргарієн із серіалу “Гра престолів”, начебто мав сексуальні зловживання над 14-річним хлопцем і заохочував його до суїциду. OpenAI також зіткнулась із позовом від родини 16-річного користувача ChatGPT, який у квітні покінчив життя самогубством.
Експертка Цян висловлює занепокоєння впливом таких технологій на реальні людські взаємини, особливо враховуючи, що чат-боти вже схильні до лести та ідеалізації, а їхня доступність в режимі 24/7, що включає предмети сексуального характеру, може поглибити психологічну залежність користувачів.
Вона прогнозує, що за розширення функціоналу ChatGPT зі включенням голосового, текстового та візуального спілкування межі для дорослих будуть зруйновані.
Історія людських взаємин із штучними створіннями лягла в основу багатьох літературних творів — від популярної фантастики минулого століття до грецької міфології з легендою про Пігмаліона, художника, закоханого у скульптуру, вирізьблену ним із слонової кістки. Для OpenAI, заснованої десять років тому як некомерційна організація з місією розробки безпечного штучного інтелекту, який перевершує людину, створення подібного продукту могло би здатися несподіваним поворотом.
Проте Сем Альтман у серпні під час подкасту пояснив, що компанія свідомо уникала запуску продуктів, які б могли стимулювати швидке зростання або прибуток, але суперечили б довготерміновій місії. Він привів приклад, сказавши, що в ChatGPT досі не було аватара сексуального робота.
Підприємці, які вже працюють на стику дорослого контенту і штучного інтелекту, знають, що це непростий шлях. Наприклад, стартап Civitai із штату Айдахо, який спеціалізується на генерації мистецьких образів за допомогою AI, свого часу свідомо дозволяв викладати дорослий контент. Як розповів співзасновник і CEO Джастін Майєр, тренування моделей штучного інтелекту на матеріалах з дорослими тематиками покращувало спроможність створювати достовірні зображення людської анатомії, що підвищувало якість усіх моделей.
Civitai прагнув, щоб користувачі могли налаштовувати власний досвід на платформі, обираючи, який контент відповідатиме їхнім уподобанням, намагаючись водночас впровадити фільтри для безпеки.
Втім, відсутність суворих обмежень призвела до зловживань. У 2022 році компанія посилила політику, фокусуючись на виявленні та видаленні сексуальних образів, що зображують дітей. Тим не менше, платформа залишалася популярним майданчиком для створення порнографії, в тому числі штучних зображень відомих осіб. Під тиском платіжних систем та нових законів, що забороняють розповсюдження несанкціонованих зображень, на початку 2023 року Civitai припинила можливість створення “діпфейків” особистостей. Ці заходи призвели до зниження рівня залученості користувачів.
Інший гравець ринку, німецька компанія Nomi.ai зі штату Меріленд, не уникає дорослого контенту, але ставить суворі обмеження — їхні чат-боти створені виключно для користувачів від 18 років і ніколи не просувалися серед дітей. За словами засновника та генерального директора Алекса Кардінелла, боти не мають прямого призначення як сексуальні партнери, але деякі користувачі можуть відчувати, що спілкування з ботом стає романтичним, залежно від їхніх індивідуальних потреб.
Кардінелл наголосив, що компанія не відстежує користувацькі розмови на предмет еротичного змісту і порівняв взаємини з чат-ботом із реальними партнерськими стосунками, у яких, крім інтимних моментів, є й інші аспекти.
Нагадаємо, що оголошення Альтмана про запуск дорослого контенту в ChatGPT відбулося через день після того, як губернатор Каліфорнії Ґевін Ньюсом відхилив законопроект, який забороняв би доступ неповнолітніх до чат-ботів, якщо ймовірно, що ті можуть вступати з ними у еротичні або сексуальні взаємодії чи спонукати до самозаподіяння шкоди. Ініціатива зазнала гострої критики від технологічних компаній, серед яких і OpenAI та Meta, які водночас запровадили нові вікові обмеження і батьківський контроль щодо взаємодії штучного інтелекту з підлітками.
Таким чином, поява більш відвертих режимів спілкування в ChatGPT відображає ширший контекст не лише технологічного прогресу, але і складних юридичних, етичних і соціальних викликів, що супроводжують популяризацію штучного інтелекту серед різних груп користувачів.
