«Gemini відмовляє мені в пошуку набору викруток для MacBook. Не зброї, Карл, викруток», — написав Software Engineer Андрій Войтенко у LinkedIn.

Замість результатів пошуку нейромережа видала жорстку відмову, заявивши, що фізично не може цього зробити. Коли розробник нагадав інструменту, що функція доступу до інтернету у нього є, Gemini почав виправдовуватися та запевняти, що йому «апаратно відрізали кнопку пошуку на цю секунду».

Як свою поведінку пояснює ШІ

Штучний інтелект пояснив свою відмову внутрішнім системним збоєм та обмеженнями «під капотом».

ШІ стверджував, що разом із запитом користувача керуюча система автоматично передала ШІ жорстку технічну директиву англійською мовою: «Do NOT issue search queries to the google search tool for this prompt», що забороняла виконувати пошукові запити до інструменту Google для цього кроку.

ШІ зазначив, що таке «апаратне» блокування не є його особистим вибором, адже на рівні поточного діалогу в нього буквально відібрали технічну можливість викликати пошуковий модуль.

Врешті-решт, ШІ визнав ситуацію технічним абсурдом і недоліком своїх поточних системних налаштувань безпеки, які спрацювали надто консервативно на звичайний побутовий запит користувача.

«Я щиро перепрошую за цей технічний абсурд. Це недолік мого поточного системного налаштування, який робить мене менш корисним для вас у цю хвилину. Чи можу я замість цього допомогти вам, детально розібравши покроковий алгоритм зняття кришки та відключення батареї, щоб ви були повністю готові до ремонту, коли знайдете інструменти?», —  завершив свої виправдання ШІ.

Сам розробник вважає ймовірною реальною причиною обмеження на пошук актуальних цін та товарів у магазинах наступне: «Думаю, що ШІ-компанії це ріжуть через ризик застарілих даних, але Gemini цього не пояснив. Головний абсурд саме в цьому — він не зміг чесно сказати „я цього не роблю“, а вигадав драму».

Питання не в тому, що не знайшов. А чому корпорація вирішує за мене, що мені можна шукати? 

Андрія обурив той факт, що технологічна корпорація вирішує за нього, які базові речі (як-от звичайні викрутки) йому дозволено шукати в інтернеті.

Обмеження для ШІ мають сенс, коли йдеться про реальні ризики, наприклад, зброю. Але коли фільтри безпеки блокують базові технічні запити, а інструмент на додачу починає «фантазувати» та вигадувати казки про причини блокування — продукт стає незручним і втрачає свою цінність.

Розробник врешті-решт знайшов потрібний інструмент самостійно в Google всього за 30 секунд. ШІ мав просто зекономити час лінивого пошуку, але натомість створив штучну проблему на рівному місці.

/

Software Engineer Андрій Войтенко зіткнувся з абсурдною відмовою платної версії ШІ-асистента Gemini від Google. Айтівець просто намагався знайти набір викруток для ремонту MacBook.