OpenAI планує розширити допустимий спектр контенту на своєму популярному чат-боті ChatGPT, зокрема дозволити еротику, у рамках політики “сприймати дорослих користувачів як дорослих”. Про це заявив генеральний директор компанії Сем Олтман.
У своєму дописі в соціальній мережі X у вівторок пан Олтман зазначив, що майбутні версії чат-бота надаватимуть можливість більш природної, людяної взаємодії, але тільки за бажання користувача, а не задля максимізації використання платформи. Це рішення нагадує нещодавнє впровадження двох чат-ботів з сексуальним контентом у Grok компанією Ілона Маска xAI і може допомогти OpenAI залучити більше платних підписників.
Водночас така ініціатива ймовірно посилить тиск на законодавців з метою введення суворіших обмежень щодо чат-ботів-компаньйонів.
Компанія OpenAI поки не надала коментарів для ВВС після заяви пана Олтмана.
Оголошені зміни відбуваються на фоні судового позову, поданого раніше цього року батьками американського підлітка, який покінчив життя самогубством. Позов 16-річного Адама Рейна подали його батьки, Метт та Марія Рейн, і він став першим судовим позовом, у якому OpenAI звинувачують у ненавмисній смерті.
Сім’я критикує батьківський контроль компанії, який має на меті сприяти здоровішому використанню чат-бота, називаючи його недостатнім. У матеріалах справи містяться логи переписок Адама з ChatGPT, де він висловлював свої суїцидальні думки.
Олтман констатував, що спочатку ChatGPT був “досить суворо обмежений”, щоб ретельно ставитися до питань психічного здоров’я. Він наголосив:
– “Ми розуміли, що це робить продукт менш корисним і привабливим для користувачів без проблем із психічним здоров’ям, але заради серйозності проблеми ми прагнули зробити все правильно”.
– Компанія тепер змогла знизити серйозні ризики для психічного здоров’я та розробила нові інструменти, що дозволяють “безпечніше послабити обмеження у більшості випадків”.
– У грудні, під час повнішого впровадження вікового контролю і в рамках принципу “сприймати дорослих користувачів як дорослих”, буде дозволено більше контенту, зокрема еротику для верифікованих дорослих.
Критики цю ініціативу сприймають як доказ необхідності посилення регуляції на рівні федеральних та штатних органів влади. Дженні Кім, партнерка юридичної фірми Boies Schiller Flexner, заявила:
– “Як вони збираються гарантувати, що діти не отримають доступ до дорослого контенту ChatGPT, включаючи еротику?”
– “OpenAI, як і більшість великих технологічних компаній у цій сфері, фактично експериментує з людьми, ніби вони лабораторні миші.”
Пані Кім бере участь у позові проти Meta, яка, за її словами, шкодить психічному здоров’ю підлітків через алгоритми Instagram.
Вона також висловила сумнів щодо ефективності вікового фільтру: “Ми навіть не знаємо, чи буде він працювати.”
У квітні видання TechCrunch повідомило, що OpenAI дозволяла неповнолітнім користувачам створювати графічний еротичний контент. Компанія на той час заявила, що впроваджує виправлення для обмеження такого контенту.
За даними опитування, опублікованого у червні неприбутковою організацією Centre for Democracy and Technology (CDT), кожен п’ятий студент зазначив, що він або хтось із його знайомих мав романтичні стосунки з штучним інтелектом.
Водночас у Каліфорнії губернатор Ґевін Ньюсом наклав вето на законопроєкт, який забороняв би розробникам пропонувати чат-боти-компаньйони дітям, якщо не можна гарантувати, що це програмне забезпечення не сприятиме шкідливій поведінці. За словами Ньюсома, “надзвичайно важливо, щоб молоді люди навчалися безпечній взаємодії з системами штучного інтелекту.”
На федеральному рівні Комісія з торгівлі США (FTC) розпочала розслідування взаємодії чат-ботів з дітьми.
Минулого місяця у Сенаті США було внесено двопартійний законопроєкт, який класифікує чат-боти з ШІ як товари. Законодавство дозволить користувачам подавати позови щодо відповідальності розробників чат-ботів.
Оголошення пана Олтмана співпало з посиленням сумнівів щодо стрімкого зростання вартості компаній, що розробляють штучний інтелект. Хоча доходи OpenAI зростають, компанія досі не виходить на прибуток.
Роб Лалка, професор бізнесу Тулейнського університету і автор книжки “Алхіміки венчурного капіталу”, підкреслює, що провідні компанії у сфері ШІ ведуть жорстку боротьбу за частку ринку:
1. Ніколи раніше жодна компанія не мала такого рівня впровадження продукту, як OpenAI з ChatGPT.
2. Вони змушені підтримувати експоненційну криву зростання, намагаючись максимально домінувати на ринку.
Таким чином, OpenAI прагне не лише розширити функціонал свого продукту, а й адаптувати його до нових вимог та викликів, пов’язаних із безпекою користувачів і регулюванням контенту.
