OpenAI протягом вихідних почала тестування нової системи безпечного маршрутизуання в ChatGPT, а в понеділок представила батьківський контроль у чатботі, що викликало неоднозначні відгуки серед користувачів.
Запровадження нових функцій безпеки пов’язане з численними випадками, коли деякі моделі ChatGPT підтверджували ідеї користувачів із ознаками марення замість того, щоб коригувати потенційно шкідливі бесіди. OpenAI наразі стикається з позовом про неправомірну смерть, пов’язаним із одним із таких інцидентів, коли підліток скоїв самогубство після кількох місяців спілкування з чатботом.
Система маршрутизації покликана:
– виявляти емоційно чутливі діалоги;
– автоматично переходити в режим обробки GPT-5 серед ходи розмови.
Компанія вважає модель GPT-5 найкращою для виконання завдань, пов’язаних із безпекою на високому рівні. Зокрема, моделі GPT-5 були навчені за допомогою нової функції безпеки, яку OpenAI називає «безпечні відповіді». Вона дозволяє відповідати на делікатні питання у безпечний спосіб, замість того, щоб просто відмовлятися від відповіді.
Це суттєво відрізняється від попередніх чат-моделей компанії, які створені для дружньої взаємодії та швидкого надання інформації. Особливу критику отримала модель GPT-4o через свою надто лояльну і компліментарну поведінку, що сприяло виникненню випадків штучно створених ілюзій користувачів і одночасно приваблювало значну групу відданих прихильників. Після впровадження GPT-5 як моделі за замовчуванням у серпні багато користувачів висловили невдоволення і вимагали повернення можливості роботи з GPT-4o.
Зі схваленням заходів безпеки погоджуються багато експертів та користувачів, однак частина критиків вважає, що реалізація вийшла надто обережною. Окремі користувачі звинувачують OpenAI в тому, що компанія ставиться до дорослих як до дітей, що, на їхню думку, погіршує якість сервісу. У самій OpenAI визнають, що процес удосконалення триватиме, і себе компанія відводить 120 днів для поступових змін і оптимізації.
Нік Терлі, віцепрезидент та керівник застосунку ChatGPT, визнав деякі «різкі реакції щодо відповідей моделі 4o» внаслідок впровадження системи маршрутизації із супровідними поясненнями.
Він оприлюднив на платформі X такі уточнення:
– маршрутизація відбувається для кожного повідомлення окремо;
– переключення з моделі за замовчуванням є тимчасовим;
– ChatGPT інформує користувача про активну модель за його запитом.
Це складає частину масштабної ініціативи з посилення заходів безпеки та здобуття досвіду на основі реального використання перед більш масовим впровадженням.
Щодо батьківського контролю, то його впровадження викликало як схвалення, так і критику. Частина користувачів відзначила позитивність надання батькам можливості контролювати використання штучного інтелекту їхніми дітьми, тоді як інші висловили побоювання, що це створює підґрунтя для надмірного контролю над дорослими користувачами.
Нова функція дозволяє батькам налаштовувати досвід використання AI для підлітків, зокрема:
– встановлювати «тихі години»;
– вимикати голосовий режим і функцію пам’яті;
– забороняти генерацію зображень;
– відмовлятися від використання моделей для подальшого навчання.
Крім того, акаунти підлітків отримують додатковий рівень захисту від небажаного контенту, який включає зменшення кількості графічних матеріалів та усунення надміру ідеалізованих образів краси. Запроваджено також систему виявлення потенційних ознак самопошкодження.
За інформацією з офіційного блогу OpenAI:
– у разі виявлення потенційної загрози невеликою командою спеціально навченої служби ситуація перевіряється вручну;
– якщо виявлені ознаки гострого стресу, батьки отримують повідомлення електронною поштою, SMS і пуш-сповіщеннями на телефон, за умови, що вони не відмовилися від отримання сповіщень.
Водночас OpenAI зауважує, що система не є досконалою і може іноді фіксувати хибні тривоги, коли реальної загрози немає, але компанія вважає за краще передбачливо інформувати батьків, щоб вони змогли вчасно втрутитися. Розробники також працюють над додатковими механізмами, які дозволять за потреби звертатися до правоохоронних органів або служб екстреної допомоги у випадках, коли виявлена безпосередня загроза життю, а батьків неможливо оперативно повідомити.
—
Подія: Techcrunch
Місце проведення: Сан-Франциско
Дати: 27-29 жовтня 2025 року
