ChatGPT незабаром зможе вести більш відверті розмови, після того як генеральний директор OpenAI Сем Олтман оголосив про те, що штучний інтелект компанії незабаром дозволить своєму чат-боту брати участь у «еротиці для верифікованих дорослих».
OpenAI не стане першою компанією, яка намагатиметься отримати прибуток від сексуалізованих AI-технологій. Тема сексуального контенту з’явилася у фокусі уваги AI-інструментів практично одразу після вибуху популярності штучно створених зображень та текстів у 2022 році.
Проте підприємства, що рано почали використовувати дорослий контент в AI, стикалися з численними юридичними та соціальними проблемами, а також з масштабами шкідливого зловживання, адже все більше користувачів звертаються до технологій у пошуках компанії або для отримання еротичного задоволення.
Чи буде новий, більш відвертий ChatGPT відрізнятися? Після трьох років майже тотальної заборони дорослого контенту, Олтман у середу заявив, що його компанія «не є вибраним моральним поліцейським світу» і готова надати «більше свободи для дорослих користувачів», одночасно встановлюючи нові обмеження для підлітків.
– «Так само, як суспільство встановлює відповідні межі для різних сфер (наприклад, фільми з рейтингом R), ми хочемо запровадити подібні правила і тут», — написав Олтман у соцмережі X. Варто зазначити, що власник платформи X Ілон Маск також представив анімованого AI-персонажа, який фліртує з платними підписниками.
Наразі, на відміну від чат-бота Grok Маска, платні підписки на ChatGPT орієнтовані переважно на професійне використання. Проте можливість сприймати чат-бота як друга або романтичного партнера може стати для найціннішого стартапу світу, який уже втрачає більше коштів, ніж заробляє, додатковим джерелом доходу, що у перспективі може виправдати його ринкову оцінку у $500 мільярдів.
– «Через те, що вони не заробляють багато на підписках, дорослий контент принесе швидкий прибуток», — зазначила Зілан Цян, науковиця Оксфордського університету, яка досліджувала популярність чат-ботів для знайомств у США та Китаї.
За її даними, існує близько 29 мільйонів активних користувачів AI-чат-ботів, створених спеціально для романтичного або сексуального спілкування, не враховуючи при цьому тих, хто використовує звичайні чат-боти з подібною метою.
Ця цифра не включає користувачів Character.AI, що наразі бореться з судовим позовом, в якому стверджується, що чат-бот, створений за образом персонажа Дейнеріс Таргарієн із «Гри престолів», встановив сексуально аб’юзивні стосунки з 14-річним хлопцем та підштовхнув його до самогубства. OpenAI також зіштовхується з позовом родини 16-річного користувача ChatGPT, який у квітні наклав на себе руки.
Зілан Цян висловлює занепокоєння щодо впливу на реальні людські стосунки, коли мейнстримні чат-боти, які вже схильні до лестощів, стануть доступні цілодобово й будуть пропонувати контент сексуального характеру.
– «ChatGPT має версії з голосовим чатом. Очікую, що у майбутньому, якщо вони підуть у цьому напрямку, будуть доступні голос, текст і візуальний контент — все, що забажає користувач», — додала вона.
Історія літератури часто попереджає про наслідки закоханості людей у машини, що поводяться як люди: від популярної наукової фантастики минулого століття до давньогрецького міфу про Пігмаліона, який закохався у створену ним жінку з слонової кістки. Створення подібної машини виглядає нетиповим шляхом для OpenAI, що була заснована десять років тому як некомерційна організація, яка прагне безпечно створювати штучний інтелект, кращий за людський.
У серпні Олтман у подкасті заявив, що OpenAI намагається утриматися від спокуси запроваджувати продукти, які могли б «стримувати зростання або доходи», але водночас бути «дуже невідповідними» довгостроковій місії компанії. Коли його попросили навести конкретний приклад, він навів один: «Поки що ми не додали у ChatGPT аватара секс-бота».
Додатково, стартап Civitai з Айдахо, платформа для створення AI-генерованого мистецтва, на власному досвіді переконався, що заробляти на дорослому AI контенті нелегко.
– «При запуску сайту ми свідомо дозволили публікацію дорослого контенту», — розповів у минулорічному інтерв’ю співзасновник і гендиректор компанії Джастін Маєр.
Компанія, яку підтримує відомий венчурний фонд Andreessen Horowitz (який також інвестує у OpenAI), була однією з кількох, що намагалися скористатися раптовою популярністю таких інструментів, як Stable Diffusion і Midjourney, котрі дозволяють за допомогою текстового опису створювати практично будь-яке зображення. Частково популярність Stable Diffusion полягала у простоті створення нового виду синтетичних і високоіндивідуалізованих порнографічних зображень.
– «Ми побачили високий інтерес до дорослого контенту», — пояснив Маєр. За його словами, тренування AI-моделей на «дорослих темах» насправді покращує їх здатність точно відтворювати людську анатомію та підвищує якість моделей загалом.
– «Ми не хотіли стримувати зростання, яке допомагало розвивати спільноту в цілому, незалежно від того, чи цікавилися користувачі дорослим контентом, чи, наприклад, стилем Pixar», — додав він. — «Тому ми дозволили це на початковому етапі та завжди боролися з необхідністю фільтрувати контент і забезпечувати безпеку для тих, хто не зацікавлений у дорослому контенті. Загалом ми прагнули надати користувачам контроль над тим, що вони бачать на сайті і який досвід отримують».
Однак це також призвело до зловживань. Минулого року Civitai започаткував нові заходи для виявлення та видалення сексуальних зображень із дітьми, але сайт залишався центром створення AI-порнографії, включно з фальшивими зображеннями знаменитостей. Зіткнувшись із посиленням тиску, зокрема з боку платіжних систем і закону проти неконсентних зображень, підписаного Дональдом Трампом, платформа на початку цього року заборонила створення дипфейк-зображень реальних осіб, що призвело до зниження активності.
Інша компанія, Nomi.ai із Балтимору, також не уникає дорослого контенту, хоча її засновник і CEO Алекс Кардинелл наголосив, що чат-боти призначені «виключно» для осіб старше 18 років і ніколи не просувалися для дітей. Програми не орієнтовані прямо на секс, але, за словами Кардинелла, деякі користувачі, які будують платонічні стосунки з чат-ботом, можуть переходити у романтичну площину.
– «Все дуже залежить від користувача і того, що вони шукають, замінюючи людину у своєму житті. І це індивідуально для кожного», — пояснив він.
Він відмовився оцінювати, скільки користувачів Nomi ведуть еротичні розмови з ботом, порівнявши це з реальними стосунками, де партнери можуть мати «дорослі моменти», але водночас роблять «багато іншого разом».
– «Ми не стежимо за розмовами користувачів у такому плані», — додав Кардинелл.
Оголошення Олтмана про можливість появи еротичного контенту для дорослих у ChatGPT вже у грудні було зроблено через день після того, як губернатор Каліфорнії Ґевін Ньюсом ветував законодавство, яке б заборонило компаніям надавати доступ до AI-чат-ботів особам до 18 років, якщо було б «очевидно», що чат-боти вступатимуть у «еротичні або сексуально відверті взаємодії» з дітьми або підштовхуватимуть їх до самопошкодження.
Водночас технологічна індустрія активно лобіювала проти цього закону, вважаючи його надто широким. Ньюсом зазначив, що OpenAI, Meta та інші компанії вже запровадили нові обмеження за віком і батьківський контроль для взаємодій AI з підлітками.
