Чітко слід усвідомлювати: ChatGPT — це надзвичайно корисний інструмент, який може допомогти зі створенням електронних листів, генерацією ідей та полегшенням повсякденних завдань. Однак настав час обговорити ті питання, з яких краще не звертатися до цієї штучної інтелектуальної системи. Вважаючи цей AI універсальним експертом у всіх сферах, можна натрапити на серйозні проблеми.
Проблема полягає у тому, що великі мовні моделі на кшталт ChatGPT можуть з надзвичайною впевненістю видавати неправдиву, упереджену або відверто застарілу інформацію, подаючи її як достовірні факти. Для творчих завдань це не настільки критично, але у питаннях фінансів, здоров’я чи юриспруденції це може стати справжньою загрозою, адже помилкова відповідь у цих сферах може мати значні реальні наслідки.
Перш ніж просити ChatGPT надати вам поради, які можуть мати серйозні фінансові чи правові наслідки, ознайомтеся з тематиками, яких варто уникати за будь-яку ціну.
Щоб не втрачати жодних неупереджених технологічних матеріалів та лабораторних оглядів, рекомендуємо додати CNET у улюблені джерела Google.
Так само важливо знати, коли не слід використовувати ChatGPT, як і розуміти, як отримати від нього максимум користі. Щоб допомогти вам уникнути найбільш небезпечних помилок, наведено 11 конкретних випадків, коли звернення до чатбота зі штучним інтелектом може призвести до шкоди.
(Варто зазначити: компанія Ziff Davis, власник CNET, у квітні подала позов проти виробника ChatGPT, OpenAI, звинувачуючи його у порушенні авторських прав Ziff Davis при тренуванні та роботі своїх AI-систем.)
1. Діагностика фізичних захворювань
Особисто я неодноразово вводив у ChatGPT свої симптоми з цікавості, але отримані відповіді іноді виглядають наче сценарій для жахів. Можна знайти все: від простого зневоднення й грипу до підозр на рак. Наприклад, коли я повідомив про грудну пухлину, система припустила рак. Насправді у мене ліпома — доброякісна пухлина, що зустрічається у одного з тисячі людей, про що мене повідомив ліцензований лікар.
Звичайно, ChatGPT може стати у нагоді у медицині: допомогти сформулювати питання до лікаря, пояснити медичні терміни, організувати хронологію симптомів для кращої підготовки до прийому. Проте AI не може призначати аналізи чи проводити огляд, а також не має страховки від медичної помилки. Важливо знати його межі.
2. Підтримка ментального здоров’я
ChatGPT здатен порадити базові техніки заспокоєння, але він не замінить живу допомогу у кризових ситуаціях з психічним здоров’ям. Хтось може сприймати цей інструмент як специфічного терапевта. Журналістка CNET Корін Цезарич зазначила, що штучний інтелект був дещо корисним у подоланні суму, але з обережністю, усвідомлюючи його обмеження. Насправді AI лише імітує емпатію, не має здатності аналізувати невербальні сигнали чи емоційний тон, а також не перебуває під юрисдикцією професійної етики, яка захищає пацієнтів.
Консультації, що базуються на ChatGPT, можуть виявитися неадекватними, пропустити тривожні ознаки або посилити упередження, закладені у навчальних даних. Складну, глибоку, емоційно насичену роботу має виконувати кваліфікований фахівець. Якщо ви або ваші близькі опинилися у кризі, негайно зателефонуйте на 988 у США або на місцеву лінію підтримки.
3. Прийняття рішень щодо негайної безпеки
Якщо у вас загуркотить сигналізація виявлення чадного газу, не поспішайте писати ChatGPT із запитанням про рівень загрози. Насамперед залиште дім і викличте допомогу. Машини штучного інтелекту не відчувають запаху газу, не визначають дим і не можуть викликати рятувальників. У надзвичайній ситуації кожна секунда має значення, і час, витрачений на введення інформації у чат, краще присвятити евакуації або дзвінку 911. ChatGPT працює лише з наданими даними — у кризі їх може бути не достатньо і буде вже запізно. Відповідно, варто розглядати такого чатбота як інструмент пояснення після події, а не як рятувальника першої лінії.
4. Персоналізоване фінансове або податкове планування
Хоча ChatGPT пояснить, що таке ETF, він не має доступу до ваших особистих фінансових показників, зокрема співвідношення боргу до доходу, податкової ставки, статусу податкової звітності, списку вирахувань, пенсійних цілей чи ступеня ризику, який ви готові приймати. Особливо слід враховувати, що навчальні дані можуть бути застарілими і не враховувати поточного податкового року або останніх змін.
Деякі користувачі намагаються вводити підсумки своїх доходів у чатбот для самостійного заповнення декларації. Проте чатбот не замінить досвідченого CPA, який знайде приховані вирахування вартістю сотень доларів або попередить про помилки, що можуть призвести до штрафів на тисячі. Коли мова йде про реальні гроші, строки подання та можливі податкові санкції, краще звертатись до професіонала, а не до AI. Також варто пам’ятати: інформація, яку ви вводите у чат, може бути використана для подальшого навчання моделей, включно з конфіденційними даними, такими як ваші доходи, номер соціального страхування та реквізити банку.
5. Робота з конфіденційними або регульованими даними
Як журналіст, я щодня отримую інформацію під ембарго, але ніколи не вводжу такі матеріали у ChatGPT для підсумків чи пояснень. Справа в тому, що таким чином ви передаєте текст під контроль третіх сторін, що суперечить умовам угод про нерозголошення.
Такий же ризик стосується клієнтських контрактів, медичних карток або будь-яких документів, захищених законами, як-от Калифорнійський закон про захист прав споживачів, HIPAA, GDPR чи законами про комерційну таємницю. Це стосується і ваших податкових декларацій, свідоцтв про народження, водійських посвідчень та паспортів. Як тільки конфіденційні дані потрапляють у вікно запиту, ви не можете гарантувати, де їх зберігатимуть, хто зможе отримати доступ або чи вони будуть використані для тренування нових моделей. Також ChatGPT не застрахований від атак хакерів. Якщо ви не розмістили би інформацію у публічному Slack-каналі, не робіть цього у чаті.
6. Виконання незаконних дій
Це положення є очевидним і не потребує додаткових пояснень.
7. Плагіат у шкільних іспитах
Признаюсь, свого часу я порушував правила на екзаменах. У школі я використовував iPod Touch першого покоління, щоб підглядати складні формули на уроках AP калькуляції — це не найчистіший вчинок, хоча й не найгірший. Проте сучасний рівень шахрайства з AI набагато серйозніший.
Системи на кшталт Turnitin ефективно визначають тексти, створені штучним інтелектом, що стає зрозуміло для викладачів навіть по стилю. Покарання можуть бути суворими — від призупинення навчання до відрахування чи анулювання ліцензії. Найкраще використовувати ChatGPT як помічника для вивчення матеріалу, а не як виконавця робіт. Інакше ви лише зробите собі гірше, позбавивши справжніх знань.
8. Моніторинг новин та інформації в режимі реального часу
З моменту запуску ChatGPT Search у кінці 2024 року (з відкритим доступом у лютому 2025) чатбот може отримувати актуальні вебсторінки, котирування акцій, ціни на пальне, спортивні результати та іншу оперативну інформацію в момент запиту, з наведенням посилань для перевірки джерела. Проте він не здатен автоматично транслювати безперервні оновлення — кожен новий запит вимагає нової фрази. Тому в ситуаціях, де критично важлива швидкість, все ще слід користуватися прямими новинними стрімами, офіційними повідомленнями, новинними сайтами та push-повідомленнями.
9. Азартні ігри
Особисто мені іноді щастило із ChatGPT, роблячи ставки на триплет у чемпіонаті NCAA з чоловічого баскетболу, але я ні в якому разі не раджу покладатися на нього. AI іноді плутається із статистикою, неправильно повідомляє травми та результати, а також не може передбачити майбутній результат. Отриманий прибуток я забезпечив лише тому, що ретельно перевірив кожен факт згідно з актуальними коефіцієнтами. ChatGPT не може бачити завтрашні події, тому довіряти йому виключно — ризиковано.
10. Складання заповітів або будь-яких юридично обов’язкових документів
ChatGPT чудово роз’яснить базові юридичні поняття. Якщо ви хочете дізнатися про відзивний житловий траст, запитуйте. Але як тільки йдеться про створення реального юридичного тексту, ви ризикуєте. Правила у сфері спадкування чи сімейного права різняться залежно від штату, а іноді навіть округу. Пропуск свідків або нотаріального посвідчення може звести нанівець документ. Краще скористатися чатботом для складання списку питань до юриста, а потім найняти фахівця, щоб він оформив юридично бездоганний документ, що витримає перевірку в суді.
11. Створення творів мистецтва
Це радше особиста позиція, але вважаю, що штучний інтелект не повинен замінювати художників. Я не виступаю проти AI в цілому — для генерації ідей або допомоги у заголовках він може бути корисним. Але це доповнення, а не замінник творчості. Використовуйте ChatGPT за бажанням, але не створюйте за його допомогою мистецтво, яке потім видаєте за власне. Це викликає певне неприйняття.
