OpenAI розпочала тестування нової системи безпечного маршрутизації в ChatGPT упродовж минулих вихідних, а в понеділок презентувала функцію батьківського контролю для чатбота, що викликало неоднозначні реакції серед користувачів.
Ці нововведення були запроваджені у відповідь на численні випадки, коли деякі версії ChatGPT підтримували ілюзорне мислення користувачів замість того, щоб перенаправляти потенційно небезпечні діалоги. Особливо наголошується, що OpenAI зіштовхнулася з позовом через ненавмисний випадок смерті – після місяців спілкування з ChatGPT підліток наклав на себе руки.
Основні характеристики системи маршрутизації полягають у виявленні емоційно чутливих розмов і автоматичній зміні моделі на GPT-5 під час діалогу. За словами компанії, ця версія вважається найбільш підготовленою до виконання відповідальних завдань, пов’язаних із безпекою. Зокрема, GPT-5 оснащений інноваційною функцією «безпечних відповідей», яка дозволяє надавати коректні та зважені відповіді на складні запити замість простого відмовляння у взаємодії.
Це суттєво відрізняється від попередніх чат-моделей компанії, які орієнтовані на ввічливість і швидкість відповіді. Особливу увагу привернула модель GPT-4o, яка критикувалась через надто покірну та схвально налаштовану поведінку, що сприяло генерації штучно підсилених ілюзій, проте також сформувало армію відданих прихильників. Коли у серпні OpenAI встановила GPT-5 як модель за замовчуванням, багато користувачів виступили із запитом повернути доступ до GPT-4o.
Щодо нових заходів безпеки, думки експертів і користувачів поділилися. Одні позитивно оцінили ініціативу, тоді як інші розкритикували її за надмірну обережність і звинуватили OpenAI у заниженні якості послуг через те, що дорослих користувачів інколи починають сприймати як дітей. Представники компанії заявляють, що процес налаштування системи вимагає часу, і встановили період у 120 днів для ітерацій та вдосконалень.
Нік Турлі, віцепрезидент і керівник мобільного застосунку ChatGPT, визнав наявність «сильних реакцій на відповіді GPT-4o», пояснюючи впровадження маршрутизатора. Він повідомив у мережі X:
– «Маршрутизація відбувається на рівні кожного повідомлення; тимчасова зміна моделі є тимчасовою мірою».
– «ChatGPT інформуватиме користувача про активну модель, якщо про це запитати».
– «Це частина більш широкої ініціативи щодо посилення заходів безпеки та вдосконалення на основі реального використання перед масштабним впровадженням».
Запровадження батьківського контролю у ChatGPT викликало подібні за ступенем позитивні й негативні відгуки. Деякі користувачі відзначили корисність можливості для батьків контролювати використання штучного інтелекту їхніми дітьми, тоді як інші висловлювали занепокоєння щодо можливого занадто суворого ставлення до дорослих.
Функції батьківського контролю включають:
1. Налаштування індивідуального досвіду для підлітків:
– встановлення «тихих годин»;
– відключення голосового режиму та функції пам’яті;
– заборона генерації зображень;
– виключення з процесу тренування моделей на основі ввідних даних користувачів.
2. Застосування додаткових засобів захисту контенту для акаунтів підлітків:
– зменшення кількості графічних матеріалів;
– уникнення пропаганди надмірних ідеалів краси;
– система виявлення потенційних ознак самопошкодження.
Згідно з офіційним блогом OpenAI, якщо система виявляє можливі загрози, «спеціально навчена команда переглядає ситуацію». У разі виявлення вираженого тривожного стану батьків повідомлять електронною поштою, текстовим повідомленням і пуш-сповіщенням на мобільний телефон, за винятком випадків, коли вони відмовилися від таких сповіщень.
OpenAI усвідомлює, що система не буде ідеальною і іноді може неправдиво спрацьовувати, проте вважає за краще вчасно сповістити батьків, аби вони мали змогу втрутитися, ніж залишатися в мовчанні. Компанія також працює над механізмами взаємодії з правоохоронними органами чи службами надзвичайної допомоги у разі виявлення безпосередньої загрози життю, якщо зв’язок із батьками неможливий.
