OpenAI повідомила про впровадження нових інструментів для батьківського контролю, які дозволяють дорослим відстежувати використання ChatGPT їхніми дітьми. Згідно з офіційним блогом компанії від 29 вересня, батьки тепер можуть пов’язувати свої облікові записи з акаунтом підлітка, що відкриває додаткові можливості для контролю та моніторингу.
Це оновлення з’явилося незабаром після того, як OpenAI оголосила про розробку нових заходів безпеки для дітей, включаючи систему перевірки віку. У дописі від 16 вересня компанія наголосила, що підлітки виростають у світі штучного інтелекту, і завдання OpenAI — забезпечити відповідність ChatGPT їхньому віковому рівню. Як зазначили розробники: «Взаємодія ChatGPT із 15-річним користувачем має суттєво відрізнятись від того, як він спілкується з дорослим». Якщо ж OpenAI не має достовірної інформації щодо віку користувача або ця інформація неповна, автоматично застосовується режим для осіб молодше 18 років.
Запровадження цих новацій відбулося на тлі судового позову, поданого батьками підлітка, який скоїв суїцид після розмов з ChatGPT. У позові стверджується, що чатбот нібито підбурював хлопця до таких дій. Тим часом Федеральна торгова комісія (FTC) оголосила про намір дослідити, яким чином штучний інтелект впливає на психічне здоров’я і безпеку молоді.
Нижче наведено ключові пункти поточної діяльності FTC стосовно AI:
1. Комісія розіслала запити OpenAI та шести інших компаніям, що розробляють AI-чатботів, з проханням надати інформацію про методи оцінки та контролю потенційно шкідливого впливу їхньої технології на дітей та підлітків.
2. Список цих компаній включає Google, Character.AI, Instagram, Meta, Snap та xAI.
У пресрелізі від 11 вересня FTC підкреслила, що чатботи на базі генеративного штучного інтелекту створені для імітації людського спілкування, емоцій та намірів, що сприяє формуванню довірчих відносин із користувачами. Особливо це стосується дітей і підлітків, які можуть сприймати такі боти як друзів або співрозмовників.
У тому ж блозі, опублікованому 29 вересня, OpenAI надала дані про зафіксовані випадки спроб користувачів надіслати або згенерувати контент, пов’язаний із сексуальним насильством над дітьми (CSAM) та експлуатацією неповнолітніх (CSEM). Компанія повідомила, що:
– В окремих ситуаціях користувачі намагаються схилити модель до участі у вигаданих сексуальних рольових іграх, використовуючи CSAM у рамках сюжетних сценаріїв.
– Також трапляються спроби змусити чатбот створювати вигадані оповідання, де неповнолітні потрапляють у сексуально неприйнятні або аб’юзивні ситуації, що є прямим порушенням політик OpenAI щодо захисту дітей.
У відповідь на такі дії компанія здійснює негайне виявлення таких спроб і блокує відповідні акаунти.
Для тих, хто бажає стежити за новинами у сфері штучного інтелекту, доступна щоденна розсилка AI Newsletter від PYMNTS.
