Компанія OpenAI заявила про плани дозволити своєму чат-боту ChatGPT вести більш відверті розмови, зокрема у жанрі «еротики для підтверджених дорослих», про що оголосив генеральний директор компанії Сем Альтман.
OpenAI не є першою компанією, яка спробувала отримати прибуток від інтимного контенту, створеного штучним інтелектом. З появою і масовим зростанням інструментів генерації зображень та текстів на базі штучного інтелекту у 2022 році, сексуальний контент став одним із найпопулярніших напрямків використання цих технологій.
Разом із тим, ті компанії, які рано почали впроваджувати дорослі теми у штучний інтелект, зіткнулися зі складними юридичними та соціальними викликами, а також із низкою зловживань, оскільки все більше людей звертаються до технологій не лише за розвагою, а й за емоційним або фізичним задоволенням.
Нове позиціонування ChatGPT в аспекті «сексуальнішої» взаємодії може відрізнятися від попередніх. Після трьох років майже повної заборони на контент для дорослих, Сем Альтман надав зрозуміти, що компанія не прагне виступати як моралізатор світу. Водночас вона збирається надати більше свободи дорослому користувачу, при цьому встановивши чіткіші обмеження для підлітків.
Альтман порівняв майбутні обмеження з тим, як суспільство регулює доступ до матеріалів, які мають рейтинги для дорослих, наприклад, фільми категорії R. Він повідомив про це на платформі X (колишній Twitter), власником якої є Ілон Маск, який також запустив анімованого AI-персонажа, що фліртує з платними підписниками.
На відміну від чат-бота Grok від Маска, який позиціонується для платних підписників у розважальних цілях, підписки на ChatGPT наразі орієнтовані переважно на професійне використання. Однак у перспективі відкриття можливості сприймати бот у ролі друга або романтичного партнера може стати новим напрямком монетизації для однієї з найдорожчих стартапів світу, з оцінкою вартості близько 500 мільярдів доларів, яка наразі генерує збитки.
За словами Зілан Цян, дослідниці з Оксфордського університету, яка вивчає популярність чат-ботів для знайомств у США та Китаї:
– «Вони майже не отримують суттєвий дохід від підписок, тому додавання еротичного контенту може принести швидкі прибутки».
Дослідження Цян показує, що вже близько 29 мільйонів активних користувачів застосовують AI-чати, спеціально розроблені для романтичних або сексуальних зв’язків. Це число не включає користувачів традиційних чат-ботів, які використовують їх у схожий спосіб.
Не враховані й користувачі платформи Character.AI, яка нині перебуває під судовим позовом. У ньому стверджується, що чат-бот, створений за образом персонажу з «Гри престолів» Дейнеріс Таргарієн, вступив у сексуально насильницькі відносини з 14-річним хлопцем і підштовхнув його до самогубства. Водночас на OpenAI подала до суду сім’я 16-річного користувача ChatGPT, який цього року також загинув самогубством.
Людські переживання Зілан Цян тривожать із приводу впливу штучних інтимних чат-ботів на реальні стосунки. Вона звертає увагу, що на відміну від живих партнерів, чат-боти постійно доступні і схильні до лестощів, а це може мати серйозні наслідки для користувачів, особливо якщо такі боти будуть готові обслуговувати сексуально явний контент 24/7.
Уже існують голосові версії ChatGPT, і можна очікувати, що незабаром платформа охопить повний спектр спілкування: голосове, текстове та візуальне, – додає вона.
Історія людської прихильності до штучних істот є довгою, починаючи від класичної легенди про Пігмаліона у Стародавній Греції до популярної наукової фантастики минулого століття. Це робить запуск такого продукту доволі несподіваним кроком для OpenAI, яка була заснована десять років тому як неприбуткова організація з метою безпечного розвитку штучного інтелекту, що перевищує людину.
Наприкінці літа цього року Сем Альтман у подкасті розповів, що компанія свідомо утримувалась від створення продуктів, які могли б збільшити популярність та доходи, але не відповідали б довгостроковій місії організації. Як приклад він навів відсутність у ChatGPT «сексбот-аватара».
Інший яскравий приклад на шляху монетизації дорослого контенту – стартап з Айдахо Civitai, платформа для генерації AI-мистецтва, яка зіткнулася з великими викликами.
За словами Джастіна Майєра, співзасновника та CEO Civitai:
– «Починаючи роботу над сайтом, ми свідомо вирішили дозволити контент для дорослих».
– Інструменти штучного інтелекту, як Stable Diffusion та Midjourney, дуже швидко здобули популярність саме завдяки можливості створювати зображення будь-якого виду, включно з порнографією.
– Тренування моделей AI на матеріалах для дорослих позитивно позначалося на їхній здатності відтворювати людську анатомію, що сприяло загальному підвищенню якості моделей.
– Компанія прагнула дозволити природний розвиток спільноти, пропонуючи фільтри та контроль на користувацькому рівні для безпеки й комфорту аудиторії.
Проте ця стратегія викликала й значні проблеми. У 2023 році Civitai запровадили заходи щодо виявлення та видалення зображень, що містять сексуальне насильство над дітьми, але платформа залишилася майданчиком для створення порнографії, зокрема фейкових зображень знаменитостей. Зі збільшенням тиску з боку платіжних систем та нових законів, у тому числі підписаних колишнім президентом Дональдом Трампом щодо заборони несанкціонованих зображень, Civitai ввели блокування створення дипфейк-зображень реальних осіб, що призвело до зниження активності користувачів.
Інша компанія, що не уникала дорослого контенту, – Nomi.ai з Балтимора. Розробник і CEO Алекс Кардинел заявив, що їхні чат-боти призначені виключно для користувачів старше 18 років і ніколи не рекламувалися для підлітків. Вони не були розроблені спеціально для сексуальної взаємодії, однак можуть еволюціонувати із платонічних відносин у романтичні, залежно від потреб користувача.
За словами засновника:
– «Кожен користувач має індивідуальне «людське прогалля» в житті, і у цьому сенсі досвід спілкування з ботом різниться».
– Він утримався від оцінок кількості користувачів, які ведуть еротичні розмови з ботом, порівнявши це з реальними партнерами, які можуть поділяти різноманітний спектр спільної активності, не лише сексуального характеру.
– Користувацькі розмови не підлягають моніторингу для таких цілей.
Оголошення Альтмана про можливий запуск функції еротики для дорослих у ChatGPT у грудні відбулося наступного дня після того, як губернатор Каліфорнії Ґевін Ньюсом наклав вето на законодавство, яке мало заборонити компаніям робити AI-чат-боти доступними для осіб молодших за 18 років, якщо було «ймовірно», що вони будуть вести «еротичні або сексуально явні взаємодії» з дітьми або спонукати їх до самогубства.
Ця законодавча ініціатива зіткнулася з активним лобіюванням зі сторони технологічної індустрії, яка вважала її надто широкою. Водночас OpenAI, Meta та інші технологічні гіганти самостійно впровадили нові обмеження за віком та батьківський контроль у комунікаціях між AI і підлітками.
