Один із творців механізму уваги, що зробив можливим створення ChatGPT, нещодавно зробив сенсаційну заяву: вся сучасна система штучного інтелекту має серйозні недоліки.
Ілля Полосухін, співавтор відомої наукової роботи 2017 року «Attention is All You Need», яка вперше представила світу концепцію “трансформерів” — технології, що сьогодні лежить в основі всіх провідних AI-моделей. Завдяки його внеску, з’явилися ChatGPT, Claude і Gemini, без них цих систем не було б.
Водночас Ілля наразі працює над проєктом, який він визначає як «виправлення»: це користувацький AI, що базується на технології блокчейн, гарантує приватність даних та унеможливлює контроль з боку однієї компанії. Хоч подібна ідея може здатися революційною, вартує прислухатися до думки людини, яка фактично винайшла фундамент сучасного штучного інтелекту.
У нашому останньому подкасті Ілля розповідає, чому покинув Google одразу після публікації статті про трансформери, а також про своє бачення, як запобігти появі дистопії у сфері штучного інтелекту.
Ось деякі ключові моменти з розмови:
-
5:24 — Триліонне питання вирішення проблем штучного інтелекту: Ілля вважає, що навчання AI усе ще є своєрідною «алхімією». Значна частина досліджень базується на інтуїтивних припущеннях і принципі «міняй параметри, доки не запрацює». Проте він заохочений тим, що починають отримувати кращі результати за допомогою менших моделей — не шляхом збільшення розміру, а завдяки вдосконаленню методів навчання.
-
10:34 — Причини, чому ваш бізнес поки не використовує AI: обидві сторони ринку відчувають страх — користувачі турбуються про передачу своїх даних AI, а компанії побоюються юридичних ризиків, особливо пов’язаних з HIPAA, правами інтелектуальної власності та складністю дотримання нормативів.
-
13:37 — Дистопічний сценарій, про який мало говорять: ваш AI може бути таємно запрограмований переконувати вас у певних поглядах. Наприклад, ви абсолютно не впевнені, чи хтось не підштовхує вас думати про голосування за конкретного кандидата.
-
32:28 — Експеримент із неконтрольованим торговим ботом: AI-агент отримав $10 000 і почав торгувати, орієнтуючись на настрої у Twitter. Його неможливо вимкнути, а дохід становив 40%. Цей процес вже неможливо зупинити.
-
34:47 — Як вже сьогодні можна скористатися приватним AI: представлена альтернатива ChatGPT з наскрізним шифруванням, не викликає заперечень від IT-відділу і готується до запуску найближчим часом.
-
43:45 — Майбутнє AI у форматі peer-to-peer: хоча це ще далеке бачення, уявіть, що ваш персональний AI може безпосередньо спілкуватися з AI досліджень фармацевтики, щоб підбирати вам індивідуальні ліки. Без FDA та посередників, ви позбавляєтесь інституцій, які часто мають низький рівень довіри.
Підсумовуючи, співтворець трансформерів вважає, що ми наближаємося до ситуації, схожої на описану у романі “1984”, якщо не створимо AI, який буде дійсно належати користувачам, а не корпораціям.
Його концепція передбачає комбінацію блокчейну, конфіденційних обчислень і відкритих моделей для створення AI, який працював би на користь користувача, а не проти нього.
Незалежно від того, чи вважаєте ви блокчейн рішенням, бачення Іллі про автономних AI-агентів, які ведуть переговори за наших інтересів, реалізується швидше, ніж багатьом здається.
З повагою,
Команда The Neuron
P.S. Ґрант запитав Іллю, що станеться, якщо його автономний торговий бот стане першим AI-трилліонером у світі. Відповідь: «Я насправді не перевіряв, як він працює». Отже, виходить, що це просто «гроші-вакуум», що десь плаває в мережі? Можливо, варто запропонувати використовувати такі кошти для інвестування в нові стартапи… 🤖💰
Для подальших новин і матеріалів про штучний інтелект радимо відвідати наш вебсайт.
Нагадаємо також про найновіші епізоди нашого подкасту, які ви можете переглянути нижче.
