Штучний інтелект не помиляється так, як помиляється людина. Людина, яка не знає відповіді, запинається. Модель не запинається ніколи.
Це головне, що треба зрозуміти перед тим, як пускати її у свій облік. Не «чи можна їй довіряти», а «як виглядає її брехня».
Чому це не баг
Мовна модель не рахує і не знає. Вона добирає наступне слово так, щоб текст виглядав правдоподібно. Коли в неї є дані — виходить точно. Коли даних немає — виходить так само впевнено, тільки неправда.
Розробники називають це галюцинацією. Слово гарне, але воно вводить в оману: воно натякає на збій. Збою немає. Модель робить рівно те, для чого створена. Просто результат іноді збігається з реальністю, а іноді ні, і зовні ці два випадки не відрізняються.
Тому питання «чи можна їй довіряти» некоректне. Правильне питання: у яких місцях вона зривається найчастіше.
Їх чотири.
1. Арифметика всередині тексту
Найпідступніше. Попросіть підбити підсумок по колонці — і в половині випадків отримаєте число, яке виглядає як сума, але нею не є.
Модель не складає. Вона пише число, яке статистично схоже на суму цих чисел. Різниця в тисячу гривень на мільйонному обороті не впадає в око — саме тому вона й доходить до звіту.
Що робити: ніколи не просіть модель рахувати текстом. Просіть її написати формулу для Excel, а рахує хай Excel. Це не компроміс — це правильний розподіл праці. Формули вона пише добре, бо формула — це теж текст.
2. Посилання на норму
Друге за небезпечністю і перше за наслідками.
Запитайте, яким пунктом регулюється операція — і отримаєте номер пункту, назву документа й формулювання. Виглядає бездоганно. Проблема в тому, що пункт може не існувати, або існувати з іншим змістом, або бути скасованим три роки тому.
Модель бачила тисячі текстів, де після слів «відповідно до пункту» йде номер. Вона ставить номер. Логіка та сама, що й з арифметикою.
Що робити: будь-яке посилання на норму перевіряється в першоджерелі. Без винятків. Якщо перевіряти ліньки — не питайте про норми взагалі, бо непідтверджене посилання гірше за його відсутність: воно створює хибне відчуття, що питання закрите.
3. Пропущений рядок
Ви даєте виписку на двісті операцій і просите розкласти за статтями. Отримуєте акуратну таблицю на сто дев’яносто три.
Сім зникли. Не позначені, не винесені в «інше» — їх просто немає. І в супровідному тексті жодного слова про те, що щось не вмістилося.
Це найгірший тип помилки, бо шукати доводиться те, чого не видно. Неправильна цифра впадає в око. Відсутній рядок — ні.
Що робити: звіряйте кількість. Подали двісті — вимагайте двісті. Перше, що має робити ваш промпт: порахувати вхідні рядки, порахувати вихідні й сказати вам, чи вони збіглися.
4. Впевнений тон
Формально не помилка. Практично — причина всіх інших.
Модель відповідає однаково впевнено і коли права, і коли ні. У живій консультації ви чуєте сумнів у голосі колеги: «здається», «треба глянути», «я не певна». Тут цього немає ніколи. Рівний, спокійний, компетентний тон — на будь-якому твердженні.
Наш мозок читає впевненість як компетентність. Двадцять чотири роки в професії цього не скасовують — я ловила себе на цьому сама.
Що робити: вимагайте маркування невизначеності прямо в промпті. «Там, де ти не впевнений, напиши про це окремим рядком». Моделі це вміють — просто не роблять, поки не попросиш.
Правило, яке економить найбільше
Одне, і воно не про технології.
Віддавайте моделі те, що вмієте перевірити за дві хвилини. Не те, що ви вмієте робити — а те, що ви вмієте перевірити.
Розкласти виписку за статтями ви перевірите швидко: око зачепиться за дивну категорію. Розрахунок відстроченого податку — не перевірите, бо перевірка займе стільки ж, скільки сам розрахунок. Отже, перше віддаємо, друге ні. Не тому, що друге складніше — а тому, що контроль коштує дорожче за роботу.
Це той самий принцип, за яким будується внутрішній контроль. Ми не перевіряємо все. Ми перевіряємо там, де ціна помилки вища за вартість перевірки.
Чого це не означає
Що ШІ не потрібен. Потрібен, і рутину він знімає реально — я віддаю йому звірки, первинку й чернетки листів щодня.
Але підпис під звітністю ставите ви. Не модель, не розробник, не той, хто продав вам курс. Кодекс не знає слова «галюцинація».
А у вас де вона бреше найчастіше? Напишіть у коментарях — зберу найтиповіші місця в окремий чек-лист.