Рух у напрямку збільшення кількості платних підписників та зростання прибутковості часто розглядається як головна мотивація даного кроку. Оскільки OpenAI є приватною компанією, вона не публікує звіти для акціонерів у відкритому доступі. Проте, за даними Bloomberg, нещодавно компанія уклала угоду, що дозволяє працівникам продавати акції компанії за оцінкою у 500 мільярдів доларів. За словами Семюела Алтмана, ChatGPT вже має близько 800 мільйонів активних користувачів на тиждень. Такий масштаб інвестицій ставить компанію під значний тиск, щоб збільшити кількість підписників. Крім того, OpenAI залучила мільярди доларів для будівництва інфраструктури, що є масштабним історичним проектом, інвестиції в який компанія згодом має окупити.
Женіфер Кінг, спеціалістка з питань приватності та політики даних при Інституті людсько-орієнтованого штучного інтелекту Стенфордського університету, наголосила, що «сексуальний контент є однією з найбільш популярних та прибуткових складових інтернету». Вона додала, що майже 20 штатів США прийняли закони, які вимагають перевірку віку користувачів перед доступом до дорослого контенту в онлайн-середовищі.
З її слів, відкриття бізнес-моделей, що дозволяють доступ до дорослого контенту, стало серйозним викликом для таких провайдерів, як OpenAI. Вони мусять гарантувати надійні методи запобігання доступу дітям до 18 років і, можливо, навіть особам до 21 року.
Каліфорнійська депутатка Ребекка Бауер-Каган прокоментувала, що штучні інтелектуальні чатботи починають нагадувати соціальні мережі, зокрема в контексті викликів безпеки дітей. Її законопроєкт, що передбачав захисні механізми для дитячої безпеки під час взаємодії з компаньйон-челботами, був відхилений на початку тижня.
До ключових зауважень Бауер-Каган належать:
1. Ризик створення більш шкідливої та залежної версії соціальних медіа для молоді.
2. Негативний вплив таких чатботів на формування стосунків дітей із реальними людьми.
3. Підтвердження цієї проблеми численними експертними дослідженнями.
OpenAI відмовилася від коментарів щодо цієї історії, однак компанія повідомляла про роботу над версією ChatGPT для користувачів до 18 років, яка спрямовуватиме неповнолітніх на відповідний за віком контент. Нещодавно також були презентовані нові безпекові функції для дітей, які включають:
– Систему прогнозування віку користувача.
– Можливість батьківського контролю за обліковими записами підлітків.
Цього тижня OpenAI оголосила про створення консультативної ради з експертами в галузі психічного здоров’я для надання порад із питань добробуту та впливу штучного інтелекту.
Серед важливих кроків регуляторних органів слід відзначити розслідування Федеральної торгової комісії (FTC), розпочате в середині вересня. Воно охоплює сім розробників чатботів із штучним інтелектом, зокрема xAI, Meta та OpenAI, з метою вивчення того, як ці компанії оцінюють, тестують і контролюють потенційні негативні наслідки своєї технології для дітей та підлітків.
Зазвичай регулювання в цій сфері активно просувають близько двох десятків штатів США та їхні генеральні прокурори, які впровадили такі ініціативи, як:
– Верифікація віку.
– Обов’язкова перевірка особистості користувачів онлайн-платформ перед наданням доступу.
Зокрема, представниця району Іст-Бей Бафі Вікс змогла здобути підтримку великих технологічних компаній для свого законопроєкту AB 1043, який було підписано губернатором Каліфорнії Гевіном Ньюсомом.
Проте, як зауважила Ребекка Бауер-Каган, батьки добре знають, що діти легко обходять такі обмеження або домовляються з братами, сестрами чи друзями, які допомагають їм отримати доступ до забороненого контенту. Вона також підкреслила збіг подій між відхиленням свого найжорсткішого законопроєкту, оголошеним у понеділок, та публікацією оголошення Алтмана у вівторок:
– Законопроєкт передбачав чіткі вимоги безпеки у створенні AI для дітей із реальною відповідальністю.
– Схоже, ця ініціатива стала надто жорсткою для індустрії, і вони не захотіли, щоб Каліфорнія увела такі стандарти.
– Суперечливий момент у відмові законопроєкту та одночасному анонсі доступу до еротичного контенту створює враження збігу, що не можна ігнорувати.
Таким чином, цей комплекс питань відображає складність балансу між технологічним прогресом, бізнес-амбіціями та необхідністю захисту молоді від потенційних ризиків цифрової доби.
