Дуже часто не справедливо вимагати від технологічних компаній бути вірними своїм місіям. Від Google із їхнім гаслом «Не будь злим» до WeWork, який прагне «піднести світову свідомість», місії зазвичай формулюють на ранніх етапах існування компаній — у той ніяковий період, коли амбіції простягаються до горизонту, венчурні інвестори сповнені оптимізму, а поняття «фідуціарна відповідальність» залишається маловідомим. Це все одно, що оцінювати людину за написаним у випускному альбомі зразка шкільного юнацтва.
Проте OpenAI вийшла за межі звичного.
Перейшовши на сторінку «Про компанію», можна побачити слова, які вперше з’явилися в її статуті 2018 року, через три роки після заснування: «Наша місія — забезпечити, щоб штучний загальний інтелект (AGI) — системи, що перевершують людину за розумом — приносив користь усьому людству». Проте, як показувало деяке висвітлення діяльності OpenAI у Future Perfect, компанія не завжди відповідала цим намірам. (Нагадаємо, що Vox Media входить до числа кількох видавництв, які уклали партнерські угоди з OpenAI, але редакційна політика залишається незалежною.)
Якби вас запитали, яка була моя дитяча мрія, скажімо, у трирічному віці, я б відповів: «Стати першим баскетболістом НБА, який полетить на Марс». Не завжди все складається за планом: пріоритети змінюються, не виростаєш до 2,18 метра, а страх космосу раптово стає реальністю.
Проте з новим продуктом — соціальною мережею на базі відео, створеного штучним інтелектом, Sora 2 — OpenAI встановила, можливо, рекорд за відстанню між гаслом та реальними діями.
Безкінечна подача штучно створеного контенту
Найкраще розуміти Sora 2 як поєднання, ймовірно, найгіршої особливості великих мовних моделей, таких як ChatGPT — їхньої здатності викликати залежність у користувачів — з найсумнішою рисою сучасних медіа: нескінченним стрічанням беззмістовних вертикальних відео, які, серед іншого, руйнують нашу здатність концентрувати увагу.
Це схоже на суміш героїну з… Хоча важко згадати інший препарат, настільки ж залежний, що трансформує користувача в бездумно затамованого перед екраном і значно зменшує його інтелектуальні можливості. Можливо, це героїн з додатковою дозою героїну? Втім, мої знання з фармакології в цьому питанні обмежені.
Основні проблеми, які поставили реалістично виглядаючі відео, створені штучним інтелектом, виявилися одразу після запуску Sora 2 на початку цього тижня.
-
Порушення авторських прав. Одне з перших відео на Sora 2, яке я побачив, було ідеально змодельованою зустріччю Ріка і Морті з Губкою Бобом Квадратні Штани — і так, мені трохи прикро було про це писати. За замовчуванням OpenAI дозволила використання матеріалів, захищених авторським правом, перекладаючи відповідальність на власників інтелектуальної власності — їм доводиться самостійно звертатися з проханням видалити контент. Хоча OpenAI і виконує такі запити, вона все одно отримує вигоду з шуму в соціальних мережах на хвилі популярності цих клонів Ріка і Морті, як це було з епізодичним захопленням, коли люди «пригадували» свої фото у стилі Studio Ghibli.
-
Діпфейки. Однією з привабливих функцій Sora 2 є можливість завантажити власне фото і використовувати його в будь-якому AI-створеному відео. Це ж може зробити ваша аудиторія або, в разі «хаотично-нейтрального» підходу — будь-хто, хто має доступ до платформи. Як повідомляв Washington Post, буквально через кілька секунд після запуску почали з’являтися фальшиві відео — поліцейські боді-камери, люди в нацистській формі, реалістичні, але вигадані історичні події, а також сцени, де гендиректор OpenAI Сем Альтман нібито краде в магазині.
Це означає, що коли президент США публікує схожі AI-створені діпфейки, OpenAI передала американцям — принаймні тим, хто має код доступу до Sora 2 — інструмент для створення цілком реалістичних підробок вдруге на крокі натискання кнопки.
- Хоча OpenAI встановила правила — заборона на імітацію особистостей, шахрайство, а також механізми блокування оголення і насильства — це виглядає так, ніби легально оснащена автоматична зброя є абсолютно безпечною.
Враховуючи, що компанія нещодавно була оцінена в 500 мільярдів доларів — більше, ніж SpaceX, і в той час, коли розмови про «бульбашку» на ринку штучного інтелекту стають все гучнішими, — це виглядає як явна вигода бізнесу OpenAI.
Погляд Сам Альтмана
Генеральний директор OpenAI Сем Альтман з 2013 року веде блог, у якому роздумував і про існування позаземних цивілізацій. Щодо Sora 2, він назвав це «мить „ChatGPT для творчості“», здатну спричинити «кембрійський вибух», при якому «якість мистецтва і розваг зможе значно зрости».
Проте після кембрійського періоду з’явилися дивні істоти, такі як Tullimonstrum, або «монстр Таллі» — тварина з очима на стеблинці і хоботком-щипцями, яка нагадує щось, що могло б вийти, якби Бог мав код доступу до Sora 2. Якщо майбутня творчість — це бездумна машина для генерації діпфейків, такий AI, що прагне максимуму, виглядає цікавіше.
Невикористаний потенціал
Ще гірша риса Sora 2 та подібних генераторів штучного інтелекту, пропонованих Meta, — це те, що вони заглушують реальні досягнення у галузі, які могли б насправді принести користь людству. Того ж тижня, коли OpenAI випустила Sora 2, група колишніх працівників великих AI-компаній оголосила про запуск Periodic Labs — стартапу, який використовує штучний інтелект для прискорення відкриттів у фізиці, хімії та інших наукових сферах, тобто для справді корисних речей.
Можливо, надто спрощено вимагати від найталановитіших і найкраще оплачуваних розробників у сфері AI робити одне замість іншого. Зрештою, OpenAI — це бізнес (або некомерційна організація? Або корпорація з суспільною користю? Відповідь наразі не зовсім очевидна). Компанія слідує за ринковими законами. Тож останньою лінією захисту залишаються ми — користувачі, які можуть сказати: «Ні, я відмовляюся споживати цей неякісний вміст».
Водночас, за останньою інформацією, Sora опинилася на третьому місці в рейтингу найпопулярніших додатків для iPhone. Судячи з цього, ситуація виглядає доволі складною для контролю.
