ChatGPT справді змінив спосіб взаємодії мільйонів людей із технологіями. Цей чатбот допомагає переписувати електронні листи, впорядковувати розклад і навіть підвищувати продуктивність у повсякденному житті. Проте існує чимало тем, де використання штучного інтелекту не є доречним.
Великі мовні моделі, такі як ChatGPT, іноді генерують невірну або застарілу інформацію, при цьому звучачи дуже впевнено. Це не є серйозною проблемою, якщо ви просто шукаєте ідеї для вечірки або складаєте пробний лист. Однак у сферах, що стосуються фінансів (особливо податків), здоров’я або юридичних питань, неправильна відповідь може спричинити суттєві труднощі.
Тому важливо не лише знати, як ефективно користуватися ChatGPT, а й розуміти, в яких випадках варто уникати його застосування. Нижче наведено 11 конкретних ситуацій, коли звернення до штучного інтелекту може завдати більше шкоди, ніж користі.
(До відома: у квітні компанія Ziff Davis — материнська організація CNET — подала позов проти творця ChatGPT компанії OpenAI, звинувачуючи її у порушенні авторських прав Ziff Davis під час навчання і використання своїх AI-систем.)
1. Діагностика фізичних захворювань
Особисто я неодноразово вводив свої симптоми в ChatGPT із цікавості, але отримані відповіді іноді справляють враження вашого найгіршого кошмару. При перегляді можливих діагнозів можна коливатися від банального зневоднення чи грипу до підозри на рак. Наприклад, я повідомив про наявність грудної пухлини, і чатбот припустив, що це може бути рак. Насправді це липома — доброякісне утворення, яке зустрічається приблизно у одного з тисячі людей. Про це мені повідомив ліцензований лікар.
Натомість ChatGPT має свої переваги у сфері здоров’я: він може допомогти підготувати питання для наступного візиту до лікаря, розшифрувати медичну термінологію або впорядкувати хронологію симптомів — це сприяє кращій підготовці до консультації і знижує стрес. Водночас, штучний інтелект не може призначати лабораторні дослідження чи проводити огляд, а також не має медичної страховки від професійної відповідальності. Необхідно враховувати ці обмеження.
2. Підтримка психічного здоров’я
ChatGPT здатен запропонувати техніки заземлення, але неспроможний підтримати людину у критичні моменти. Хоча деякі використовують його як замінник терапевта, ефективність такого підходу обмежена. Наприклад, журналістка CNET Корін Цезарік вважала чатбот корисним для опрацювання втрати, лише враховуючи його обмеження.
Відсутність життєвого досвіду, неможливість оцінити невербальні сигнали, повний дефіцит справжньої емпатії — все це означає, що ChatGPT лише імітує цю здатність. Ліцензовані психотерапевти діють відповідно до законодавчих вимог і професійної етики, які спрямовані на безпеку пацієнтів. Водночас ШІ не має таких гарантій — його поради можуть бути помилковими, не помічати тривожних ознак чи непередбачувано закріплювати упередження, що містяться в навчальних даних. Важливу, часто дуже складну і людську роботу слід довіряти виключно кваліфікованим фахівцям. Якщо ви або ваші близькі перебувають у кризі, будь ласка, телефонуйте за номером 988 у США або за місцевою гарячою лінією.
3. Прийняття рішень у критичних ситуаціях
Якщо спрацював сигнал детектора чадного газу, не потрібно звертатися до ChatGPT, щоб з’ясувати, чи є небезпека. Першою дією має бути негайний вихід на вулицю, а вже потім вжиття подальших заходів. Великі мовні моделі не можуть відчути запах газу, виявити дим чи викликати екстрені служби. У надзвичайних ситуаціях кожна секунда на вагу золота, і час, витрачений на введення даних у чат, краще використати для евакуації або дзвінка 911. ШІ працює лише з інформацією, яку ви йому надаєте, і в екстрених випадках її може бути недостатньо або вона надійде надто пізно. Тож використовуйте чатбот у ролі помічника після інциденту, а не замість першої допомоги.
4. Персоналізоване фінансове або податкове планування
ChatGPT може пояснити, що таке ETF, але він не знає вашого співвідношення боргу до доходу, ставки податку в штаті, статусу податкового декларування, доступних вирахувань, цілей щодо пенсійних накопичень чи ступеня ризику. Окрім того, його навчальні дані часто не охоплюють поточний податковий період і останні зміни ставок, тому поради можуть бути застарілими.
Деякі користувачі вводять у ChatGPT свої сумарні доходи (в тому числі 1099), сподіваючись скласти декларацію самотужки. Проте чатбот не здатний замінити сертифікованого бухгалтера, який може виявити приховані вирахування вартістю кількасот доларів або помилки, які обійдуться у тисячі. Коли на кону стоять ваші гроші, терміни подачі документів і штрафи від податкової, варто довіритися професіоналу, а не машині. Крім того, варто пам’ятати, що інформація, введена в AI-чатбот, найімовірніше потрапить до навчальних даних, включно з вашими доходами, номером соціального страхування та банківськими реквізитами.
5. Обробка конфіденційних або регульованих даних
Як журналіст технічної тематики я щодня отримую інформацію із негайним обмеженням на розголошення, але ніколи не кидав ці пресрелізи в ChatGPT заради резюме чи пояснень. Причина полягає у тому, що в такому разі текст втрачає контроль й опиняється на серверах третьої сторони поза межами угоди про нерозголошення.
Так само ризик існує для контрактів клієнтів, медичних записів або інформації, захищеної законодавством на кшталт California Consumer Privacy Act, HIPAA, GDPR чи комерційної таємниці. Це стосується і податкової декларації, свідоцтва про народження, водійських прав чи паспорта. Щойно конфіденційну інформацію введено у вікно підказки, гарантувати, де вона зберігатиметься, хто її зможе переглядати або чи буде використана для навчання майбутніх моделей, неможливо. Також ChatGPT не застрахований від зломів та кіберзагроз. Якщо ви не наважилися б опублікувати ці дані у загальному Slack-каналі, не робіть цього й у чатботі.
6. Виконання будь-яких протизаконних дій
Цей пункт є самоочевидним.
7. Обман під час навчання
Свідчити про те, що ніколи не шахраював на іспитах, було б неправдою. Особисто у школі я часом користувався своїм першим iPod Touch, щоб підглядати складні формули з AP калькуляції — вчинок, про який не особливо пишаюся. Однак у порівнянні з масштабами сучасного шахрайства за допомогою ШІ це виглядає невинним.
Антиплагіатні системи на кшталт Turnitin з кожним семестром удосконалюються й дедалі краще розпізнають тексти, створені штучним інтелектом. Викладачі швидко помічають «голос ChatGPT» (досить подякувати за зіпсований улюблений тире). Ризики відсторонення, виключення та втрати ліцензії існують насправді. Найкраще використовувати чатбот як помічника у навчанні, а не як автора робіт замість вас самих. Інакше ви просто позбавляєте себе освіти.
8. Моніторинг інформації та актуальних новин
Відтоді як у кінці 2024 року OpenAI запустила ChatGPT Search (а з лютого 2025 року зробила її доступною для всіх), цей чатбот може отримувати свіжі вебсторінки, котирування акцій, ціни на пальне, результати спортивних змагань і інші актуальні дані за запитом, із клікабельними посиланнями для перевірки джерела. Проте він не зможе автоматично оновлювати інформацію у реальному часі. Кожне оновлення вимагає нового запиту, тож коли потрібна швидкість, найкращими варіантами залишаються прямі канали новин, офіційні пресрелізи, новинні сайти, push-повідомлення та потокове висвітлення подій.
9. Азартні ігри
Особисто мені пощастило з ChatGPT під час ставок на триланкові парлеї в чемпіонаті NCAA з чоловічого баскетболу, але я не раджу це нікому повторювати. Я неодноразово бачив, як чатбот плутається, видаючи помилкові дані про статистику гравців, невірні відомості про травми та результати матчів. Виграш був результатом моєї додаткової перевірки усіх фактів у режимі реального часу і певної долі везіння. ШІ не може передбачити завтрашні результати, тому не слід покладатися виключно на нього, аби виграти.
10. Складання заповіту або інших юридично обов’язкових документів
ChatGPT корисний для пояснення базових понять: якщо вас цікавить, наприклад, що таке відклична довірча власність, він відповість. Однак, коли мова йде про фактичне створення юридичних текстів, ситуація ускладнюється. Правила спадкового права і сімейного законодавства варіюються від штату до штату, а іноді навіть від округу до округу. Пропуск свідка або відсутність нотаріального посвідчення може позбавити документ юридичної сили.
Краще скористайтеся ChatGPT, щоб скласти перелік питань для юриста, а потім замовте у фахівця створення правильного документа, який матиме силу в суді.
11. Створення мистецтва
Це не є абсолютною істиною, а здебільшого суб’єктивною думкою, проте деякі вважають, що штучний інтелект не слід використовувати для створення мистецьких творів. ШІ можна застосовувати як інструмент для генерування ідей чи допомоги зі заголовками, але не заміняти творчий процес. Якщо ви вирішили користуватися ChatGPT, робіть це на користь доповнення, а не заміщення власної творчості. Видавати твори, зроблені штучним інтелектом, за свої власні вважають неетичним.
