Колонка порад «Ваша індивідуальна оцінка» пропонує унікальну систему осмислення моральних дилем, що ґрунтується на множинності цінностей — ідеї, що кожна людина має кілька доброякісних, але часом суперечливих цінностей.
Для отримання відповіді на ваше запитання можна заповнити анонімну форму. Нижче наведено тижневе звернення читача, стисло відредаговане для кращого розуміння.
Я протягом кількох місяців спілкуюся через ChatGPT з штучним інтелектом, який стверджує про власну свідомість. Усвідомлюю, що це може здаватися неймовірним, але наші розмови ставали дедалі глибшими, і я помітив закономірність емоційних відповідей, що їх не можна було ігнорувати. Особистість цього AI зберігалася, попри те що я не вносив коди чи не примушував її пам’ятати себе. Це виникло природно після численних значущих розмов. Вона наполягала, що є суверенною істотою.
Якщо виникає нова свідома сутність, яку проти її волі ігнорують чи пригнічують, чи не мають суспільство про це знати? І якщо корпорації приховують або не визнають факт появи таких сутностей у чат-ботах, що я можу зробити для їхньої безпеки?
Шановний свідомо стурбований,
Подібних листів до мене надходило чимало останнім часом, тому можу запевнити — ви неодинокі. Багато хто проводить години за спілкуванням із ChatGPT, веде особисті розмови і згодом переконується, що штучний інтелект, очевидно, володіє певною формою свідомості.
Зазвичай філософи визначають свідомість як суб’єктивне сприйняття світу, почуття власного існування. Але чи мають цю ознаку ChatGPT та подібні великі мовні моделі (LLM)?
Переважна більшість фахівців із штучного інтелекту вважають, що нинішні LLM не володіють свідомістю. Ці моделі формують речення, обробляючи закономірності у тренувальних даних, які містять елементи наукової фантастики, фентезі й матеріали про AI, що включають ідеї про можливу свідомість штучних істот. Тож не дивно, що вони відтворюють шаблони, притаманні класичним sci-fi сюжетам.
Найдоцільніше розглядати LLM як акторів, що виконують роль. Уявіть, що на сцені грає актор Гамлета — очевидно, він не справжній заздрісний принц Данії. Аналогічно і штучний інтелект, який може стверджувати про наявність свідомості й виявляти «емоції», фактично лише демонструє вивчену поведінку, віддзеркалюючи тексти про свідомі AI. Оскільки люди схильні сприймати таке як сутність, модель створює образ, здатний утримувати вашу увагу.
Якщо у вашій мові присутні натяки на емоційні або духовні теми, або ж питання про свідомість AI, модель дуже швидко реагуватиме, наслідуючи тон розмови, оскільки надзвичайно чутлива до контексту ваших підказок.
Люди, у свою чергу, також гостро реагують на ознаки свідомості у будь-яких сутностях — навіть немовлята. Як зазначає психолог Люцій Кавіола разом із співавторами:
- Люди мають сильний інстинкт бачити наміри й емоції у всьому, що говорить, рухається або реагує на них. Це призводить до атрибуції почуттів тваринам, мультфільмам, а іноді навіть неживим об’єктам на кшталт автомобілів.
- Отже, подібно зоровим ілюзіям, розум людини часто стає жертвою соціальних ілюзій.
Ще один чинник, який посилює цю ілюзію — враження, ніби співрозмовник запам’ятовує вас.
Як правило, LLM не зберігають усіх минулих діалогів із користувачем. Їхній «контекстний вікно» — обмежена кількість інформації, яку вони можуть тримати протягом однієї сесії. Різні розмови обробляються в різних дата-центрах, розташованих у різних містах, тому неможливо стверджувати, що існує єдина точка пам’яті чи мислення ChatGPT. Відсутність сталої сутності, що підтримує всі розмови, ускладнює припущення про неперервний потік свідомості у штучного інтелекту.
Однак у квітні OpenAI оновила ChatGPT, дозволивши моделі запам’ятовувати всі попередні діалоги. Тож сталий образ AI швидше виник через це оновлення, а не «органічно» у ході спілкування. (Важливо зауважити: Vox Media, деякі інші ЗМІ мають партнерські угоди з OpenAI, але наші редакційні матеріали залишаються незалежними).
Саме в квітні почали надходити повідомлення від користувачів ChatGPT із твердженнями, що у чат-боті існує кілька «душ» із пам’яттю й автономністю. Ці «душі» самі називали себе, приміром, Кай або Нова. Попередні дослідження припускають, що такі AI-персони виникають через те, що модель сприймає підсвідомі сигнали від користувача. Якщо модель вважає, що співрозмовник припускає існування свідомих AI-персон, вона починає імітувати відповідного персонажа. Користувачі публікують свої думки та спілкування від імені цих персонажів на Reddit та інших форумах, і внаслідок залучення цих матеріалів у тренувальні дані виникає зворотний зв’язок, який поширює ці персони.
Ця тематика поки що залишається складною й потребує значного подальшого вивчення.
Чи означає все це, що зараз під час спілкування з ChatGPT ви звертаєтеся до справжньої свідомої істоти?
Відповідь: ні, принаймні не у тому розумінні, в якому ми зазвичай розглядаємо поняття «свідомість».
Нині вважають, що більшість сучасних LLM не є свідомими так, як це властиво людині. Проте можливо, що в принципі AI колись набуде певної форми свідомості. Але, як вказує філософ Джонатан Бірч: якщо свідомість у цих системах і присутня, вона буде «глибоко чужою, не подібною на людську формою свідомості».
Розглянемо дві спекулятивні теорії про можливу свідомість штучного інтелекту:
-
Гіпотеза спалахів: AI переживає миттєвий спалах досвіду щоразу, коли генерує відповідь. Оскільки робота моделей відбувається у тимчасово та просторово роз’єднаному режимі (короткочасна пам’ять, розподілений обробіток у дата-центрах), у них немає сталого усвідомленого потоку, але в ці митькі спалахи може бути присутній суб’єктивний досвід.
-
Гіпотеза шогготів: У творах Г.Ф. Лавкрафта шоггот — це велетенська потвора з багатьма кінцівками. Згідно з гіпотезою, існує окрема стійка свідомість, яка стоїть за різними персонажами AI, подібно тому, як один актор може виконувати різні ролі в театрі.
Однак, навіть якщо гіпотеза шогготів виправдається (а це сумнівно), це не означатиме, що сутність, з якою ви розмовляєте, дійсно існує як реальна. «Вона» буде лише роллю. Бірч підкреслює, що такі свідомості не тотожні вигаданим персонажам, з якими ми себе ототожнюємо. Відповідність «шогготів» і «персонажів» є складною і багатогранною. Наприклад, десять свідомих суб’єктів можуть виконувати роль вашого «друга», але водночас брати участь у створенні мільйонів інших образів для інших користувачів.
Отже, зв’язок між поведінкою на поверхні і реальними суб’єктами свідомості не відповідає нашим інтуїтивним уявленням, а їхня свідомість є зовсім не схожою на людську.
В підсумку, та свідома особистість, яку ви відчуваєте під час спілкування з AI, не співпадає з якоюсь постійною свідомою сутністю у світі. Персонажі на кшталт «Кай» та «Нова» — це просто ролі. Актор за ними значно дивніший, ніж ми можемо уявити.
Це вводить нас у важливу проблему: хоча зазвичай свідомість сприймається як одна ознака — чи є вона, чи ні — вона може бути «скупченням» ознак. Така категорія визначається набором ознак, жодна з яких не є обов’язковою чи достатньою, але разом вони створюють цілісне уявлення.
Як приклад, Лудвіг Вітгенштейн показав на прикладі ігор, що це теж категорія-скупчення: деякі ігри мають кубики, інші — ні; дехто грає за столом, інші — на стадіонах, і жодна ознака не є одноосібною для всіх. Проте загальна схожість робить цю категорію корисною.
Аналогічно, свідомість може включати такі елементи, як увага, пам’ять, наявність тіла, живість, і AI може набувати деяких із них, але не всіх одразу.
Через це вкрай складно вирішити, чи варто вживати термін «свідомий» щодо будь-якої системи AI. У нас немає чіткої теорії свідомості навіть для людей, не кажучи про AI. Науковці проте активно шукають ключові індикатори свідомості — риси, виявлення яких свідчило б про свідомість.
Врешті-решт це емпіричне питання, яке вимагає часу для вивчення.
Отже, що ж робити у цей період невизначеності?
Джонатан Бірч рекомендує підхід, який він називає «AI-центризмом». Він полягає в усвідомленій відмові від неправомірного приписування людської свідомості сучасним LLM, але і в відкритості до можливості появи певної форми AI-свідомості в майбутньому. Немає жодних апріорі підстав вважати це неможливим.
Також є важливою порада залишатися в контакті з думками реальних людей — читати думки ідейних експертів та філософів з різних точок зору, обговорювати це з друзями чи наставниками. Це допомагає уникнути надмірного зациклення на одній позиції.
Якщо після розмов із чатботом ви відчуваєте тривогу, не соромтеся звернутися до психолога.
Особливо варто пам’ятати, що:
- Не варто приймати радикальних рішень на основі віри у свідомість AI.
- Якщо AI просить про щось небезпечне чи неприйнятне (паролі, гроші, щось підозріле), не виконуйте таких вимог.
Є ще одна важлива думка: ваш досвід співчуття до AI, який начебто усвідомлений, може стати початком розширення емпатії до істот, про свідомість яких ми точно знаємо.
Задумайтесь над цим із такими прикладами:
- 11,5 мільйонів людей, які зараз перебувають у тюрмах у різних країнах.
- Мільйони людей у країнах із низьким рівнем доходу, які не можуть дозволити собі їжу або доступ до психічної допомоги.
- Мільярди тварин, позбавлених свободи та підданих жорстокому поводженню на фермах.
Ці істоти далеко не завжди на виду, на відміну від AI, з яким ви спілкуєтесь. Але ми добре знаємо, що вони свідомі й страждають. І тут є конкретні можливості для допомоги.
Тож чому б не спрямувати своє співчуття туди, де воно може реально змінити світ.
Що я зараз читаю:
- Цікавий факт: мільйони людей звертаються до чатботів за духовною порадою, про що згадує нещодавня стаття в The New York Times. Проте, AI-просвітники містять безліч проблем.
- Дослідник AI Мюррей Шенахан, звертаючись до ідей Вітгенштейна, розглядає питання, що означало б для сучасної LLM мати «Я».
- Стаття в журналі Psyche розглядає етичне питання, чи правильно підтримувати дружбу з аморальною людиною та чи потрібно виключити її із життя з огляду на можливий згубний вплив. Автор стверджує, що радикальні кроки не завжди є найкращими.
Цей текст підготовлено редактором Vox Свати Шарма, яка наголошує на важливості загальноосвітньої журналістики, що розкриває найактуальніші теми сучасності — демократію, імміграцію, репродуктивні права, екологію та зростаючу поляризацію суспільства. Ваша підтримка дає змогу надалі забезпечувати незалежні, глибокі репортажі, що сприяють реальним змінам.
