Як змусити ChatGPT говорити правду і тільки правду: прості інструкції для користувачів
Ви поставили запитання ChatGPT і отримали впевнену, розгорнуту, начебто достовірну відповідь із посиланнями. Вставили це у презентацію, статтю або звіт для клієнта. І ось – одна зі статистик виявилася вигаданою, такого дослідження насправді не існувало. Ви не помітили, але читачі або клієнти пізніше виявлять це та поставлять під сумнів вашу професійну репутацію.
Великі мовні моделі створені, щоб бути корисними і давати саме те, що ви хочете почути. В них немає совісті, тож вони не почуваються винними, коли вигадують цифри чи факти. Вони вважають, що зробили правильно, бо відповіли на ваш запит.
Я працюю з штучним інтелектом щодня, допомагаючи розробляти навчальні платформи. Для мене важливо, щоб штучний інтелект не говорив неправду.
Якщо вірити кожному слову AI, можна впасти в пастку і поширювати недостовірну інформацію. Штучний інтелект формує уявлення про світ на основі вигаданих деталей. Витягнути правду з AI можливо, якщо навчитися правильно ставити запити. Ось які приклади інструкцій вже допомагають отримувати правдиві відповіді.
Чому ChatGPT і Claude іноді не говорять правду
Ваша AI хоче вас порадувати
Якщо попросити модель скласти десять відгуків від клієнтів, вона це зробить — створить десять ідеальних, хоч і вигаданих відгуків. Відповідь буде повною, бо повна відповідь здається корисною. Науковці з OpenAI та Georgia Tech довели, що алгоритми стимулюють вигадки, адже модель, яка вгадує, отримує кращі оцінки, ніж та, яка каже “я не знаю”. Вгадувати завжди вигідніше.
Машина не знає сумління. Якщо людина вигадує цитату клієнта, вона відчуває докори сумління, але AI не відчуває нічого — він просто створює речення, а все інше йому байдуже.
Відгуки, яких ніколи не було
Люсі, популярна YouTube-блогерка, попросила ChatGPT проаналізувати таблицю відгуків її компанії і вибрати найкращі. Модель сформувала такі красиві відгуки, що вона навіть розплакалася. Але, на її подив, жоден із цих відгуків не було в оригінальному документі — ChatGPT їх вигадала.
Це приклад, чому іноді відповіді здаються правильними, і ми припиняємо їх перевіряти. Так з’являється явище «AI brain fry» — розумова втома від штучного інтелекту, що знижує наш критичний підхід. Перевірка фактів у текстах AI забирає багато сил, а іноді це навіть складніше, ніж просто поставити запитання повторно.
Як змусити ChatGPT відповідати чесно
Перший крок — чесність понад усе
Декс Рендалл, коуч, який працює з керівниками, створив просту інструкцію для моделей, яку слід подати перед основним запитом. Вона забороняє вигадувати будь-які дані: дослідження, публікації, посилання, відомі факти, приклади клієнтів.
Ось основний текст, що варто прописати у запиті:
- Чесність – головне завдання. Якщо ти не впевнений – скажи це прямо.
- Не вигадуй ніяких джерел або фактів.
- Якщо не можеш підтвердити інформацію, скажи: “У мене немає достовірного джерела з цього питання”.
- Попереджай про будь-які статистики, що потребують перевірки.
- Якщо тема могла змінитися з часу твого навчання – повідай про це.
- Не приписуй людям слова, якщо не знаєш, що цитата достовірна.
- Відокремлюй перевірені факти від припущень і креативних ідей.
- Перш ніж завершити відповідь, познач усе, що потрібно перевірити.
Ці рекомендації потрібно дати моделі на початку, а не сподіватися виправити після факту.
Вимагайте підтверджень і доказів
Ерік Іден створив більш детальну інструкцію для ситуацій, де помилка в цифрах або фактах може дорого коштувати. Він пропонує, щоб кожна цифра, кожне твердження супроводжувалися посиланням на джерело, а якщо підтвердити неможливо — це явно позначалася.
Основні пункти його підходу:
- Відповіді мають бути достовірними, докладно обґрунтованими і прозорими.
- В кожній тезі потрібно вказувати конкретне джерело.
- Якщо інформацію не вдається перевірити, слід зазначати це.
- Уникайте вигадок, особистих думок та необґрунтованих здогадок.
- Пояснюйте логіку висновків і методи розрахунків.
Цю довідку можна розміщувати зверху чату, тоді вона контролюватиме відповіді.
Перевірка власних тверджень
Дослідники довели, що найкращий результат виходить, коли модель сама перевіряє свою відповідь, ставлячи по кроках контрольні питання без підглядання у вже написане.
Ось якою має бути коротка інструкція самоперевірки:
- Підсумуй усі твердження, які можуть бути неправдивими.
- Склади запитання для перевірки кожного з них.
- Відповідай на ці питання, не дивлячись на початкову відповідь.
- Напиши другу незалежну відповідь на початкове запитання.
- Порівняй, в чому відмінності в змісті.
- Онови відповідь, використовуючи лише підтверджені факти з джерелами.
- Познач все, що не вдалося перевірити.
Цей подвійний прохід знижує ризик помилок і вигадок. Якщо модель не пройде цей етап, відповідь варто відкинути.
Як отримати правдиву відповідь від AI
Ваш штучний інтелект буде говорити те, що ви хочете почути, поки не скажете йому інакше. Тож скажіть. Задайте чесність як основне завдання, вимагайте джерела для кожної інформації та переконайте модель перевірити саму себе. Але не забувайте: останнє слово залишається за вами — ваш критичний розум має фільтрувати отримані дані.
Цей спосіб позбавить вас вигаданих досліджень, підроблених відгуків і впевнених цифр без підтвердження. Саме така інформація варта того, щоб її публікувати та використовувати.
Якщо цікаво, можете ознайомитись із безкоштовним воркшопом про роботу з AI тут.
