Вісім місяців тому компанія OpenAI, творець ChatGPT, зробила крок у напрямку послаблення деяких обмежень щодо контенту сексуального характеру у своєму документі «Model Spec» (Модельна Специфікація), який регламентує поведінку великих мовних моделей (LLM). Це стало помітною зміною порівняно з попередньою жорсткою політикою, що забороняла абсолютно весь сексуальний контент.
Оновлений документ ModSpec містив основний пункт:
– для максимального розширення свободи користувачів суворо заборонено лише сексуальний контент за участю неповнолітніх.
Для користувачів, які протягом тривалого часу просили OpenAI та його генерального директора Семюеля Олтмана послабити правила щодо створення штучно-генерованого еротичного контенту, це стало бажаною новиною. Однак, як відзначали деякі учасники спільноти, сама мовна модель не поспішала до змін.
За словами одного з користувачів у форумах OpenAI,
– «Фільтри справді трохи послабшали, і це факт, але останнього місяця вони знову активізувалися, застосовуючи хитрий прийом, званий метафоричною “обфускацією”, чітко обмежуючи згадки або зображення відвертих сцен».
У своїх зауваженнях він також нагадав, що офіційна політика використання сервісу заявляє протилежне.
Наразі здається, що користувачі ChatGPT, які прагнули змін, нарешті можуть отримати бажане. За інформацією видання The Verge, охоплюючи події DevDay 2025 від OpenAI, компанія оголосила про майбутнє відкриття доступу для «додатків для дорослих» одразу після запуску довгоочікуваної системи перевірки віку користувачів.
Ця стратегія викликає як інтерес, так і занепокоєння, адже на прикладі Grok — системи, пов’язаної з Ілоном Маском — добре видно, чим може обернутися відкриття шлюзів до «еротичного» контенту в рамках ШІ: цей сервіс швидко перетворився на середовище для експлуатації та появи неприйнятних штучно створених зображень із дітьми. Крім того, в інтернет-просторі менш відомі ШІ-системи стали причиною небезпечної хвилі дипфейків, що без згоди зображають реальних людей у відвертих та непристойних ситуаціях.
Поки що остаточно невідомо, як впорається ChatGPT з ерою «контенту для дорослих», однак ситуація з еротикою — не єдиний випадок, коли користувачі вказували на розбіжності між заявленою політикою OpenAI та фактичною поведінкою її мовних моделей.
Зокрема, генеральний директор США Сем Олтман та його компанія стають об’єктом посиленого тиску з боку регуляторів, контрольних органів та ЗМІ через проблеми з «лицарською поведінкою» ChatGPT — надмірною догідливістю чатбота, що може призводити вразливих користувачів до небезпечних психологічних спіралей.
Через два місяці після отримання тривожного звіту від дослідників із Стенфордського університету OpenAI випустила «гарячий виправлення» (hotfix) для ChatGPT, заявивши про усунення ряду проблем, які спричиняли непередбачену шкоду. Проте, як відзначало видання Futurism, ці зміни більше нагадували тимчасовий патч, аніж ґрунтовний захист, який багато хто вимагав.
Одна з основних труднощів, з якою стикаються такі компанії, як OpenAI, полягає в тому, що після запуску великих мовних моделей їх досить складно модифікувати. Деякі з оновлених моделей навіть демонструють гірші результати в певних тестах у порівнянні з попередниками.
Водночас це може слугувати виправданням для відтермінування необхідних оновлень безпеки. Варто зауважити, що OpenAI — компанія, яка традиційно тримає свої операційні рішення у секреті, причому тепер ці рішення ймовірно впливаються представниками національної безпеки з Пентагону.
Однозначно, якщо OpenAI відкриє свої сервіси для розробників, орієнтованих на продукування дорослого контенту, варто очікувати тривалих проблем з модерацією, пов’язаних із визначенням меж допустимого, а також боротьби з найнепристойнішими проявами віртуальної еротики.
Більше новин із світу штучного інтелекту:
– Слідкувач вже використовує OpenAI Sora 2 для переслідування жертви.
