Компанія OpenAI повідомила, що її найновіші моделі ChatGPT демонструють суттєво менший політичний упереджений відтінок порівняно з попередніми версіями. Цей крок є частиною розширення зусиль компанії, спрямованих на створення штучного інтелекту з більш збалансованим тоном і логікою.
Звіт, оприлюднений у четвер командою Model Behavior під керівництвом Джоан Джанг, яка вивчає вплив запитів користувачів та узгодження моделей на відповіді ChatGPT, розкриває важливі результати. У минулому місяці Джанг створила дослідницький підрозділ OAI Labs, орієнтований на «винахід та прототипування нових інтерфейсів для співпраці людей зі ШІ».
Основна мета роботи команди полягала в тому, щоб перетворити суб’єктивне питання політичної упередженості у кількісні показники, здатні направляти розробку моделей. Зокрема, результати засвідчують спроби OpenAI подолати сприйняття, що системи штучного інтелекту мають політичні чи культурні упередження в одному напрямку.
Дослідниця Наталі Стаудачер публічно представила результати, визначивши це як найвичерпнішу на сьогодні спробу компанії формалізувати, виміряти та зменшити політичну упередженість у великих мовних моделях. Для оцінки були використані відповіді моделей на 500 запитів, що варіювалися від нейтральних до емоційно насичених, імітуючи реальні політичні питання користувачів.
Це повідомлення з’явилося після щорічної конференції розробників OpenAI, де генеральний директор Сем Олтман представив нові інструменти, що трансформують ChatGPT у платформу для додатків розробників. Якщо на конференції основний акцент ставили на розширенні функціональних можливостей моделі, то дослідження четверга зосереджено на аналізі поведінки цих можливостей стосовно нейтральності, тону та довіри користувачів.
OpenAI заявила, що найновіші моделі GPT-5 Instant та GPT-5 Thinking демонструють на 30% менший вимірний упереджений відтінок у порівнянні з моделями GPT-4o та o3, особливо в темах, що стосуються суперечливих чи партійних питань.
За словами Стаудачер, ChatGPT не має демонструвати політичних упереджень у будь-якому напрямку. Вона назвала цю роботу своєю найважливішою унікальною внескою в OpenAI. Політична упередженість проявлялася виключно рідко і мала «низький рівень серйозності», навіть під час тестів, які на меті мали викликати упереджені або емоційно забарвлені відповіді.
«Мільйони користувачів приходять до ChatGPT, щоб зрозуміти світ навколо та сформувати власні погляди, – написала Стаудачер. – Визначаючи, що таке упередженість, ми прагнемо зробити наш підхід більш прозорим, тримати себе у відповідальності та допомагати іншим, формуючи спільні стандарти».
Основні тези дослідження включають:
- Модель Behavior під керівництвом Джоан Джанг розробила методику кількісної оцінки та зниження політичної упередженості у великих мовних моделях.
- Нові моделі GPT-5 Instant і GPT-5 Thinking виявилися на 30% менш упередженими у порівнянні з попередніми версіями під час тестування на 500 політично забарвлених запитів.
- Результати підкреслюють спроби OpenAI протидіяти уявленням про політичну чи культурну тенденційність ШІ-систем.
OpenAI продовжує удосконалювати свої технології, намагаючись забезпечити нейтральність, збалансованість і довіру у взаємодії користувачів зі своїми моделями штучного інтелекту.
Щотижнева розсилка Generally Intelligent
Подорож у світ штучного інтелекту разом із Джен – генеративною моделлю штучного інтелекту.
