Агентний ШІ: найменші привілеї та людське схвалення (чекліст).

Про що цей чекліст

Він спирається на настанову OWASP щодо надмірної агентності ⁴ та на спільну й британську настанови 2026 року ^{1 2}. Спільну настанову адресовано, зокрема, малому й середньому бізнесу ³.

Чи потрібен вам агент узагалі?

1. 1Спитайте себе, що може піти не так і чи не вистачить простішої автоматизації з нижчим ризиком ¹.
2. 2Почніть із вузького пілоту на низькоризикових завданнях без чутливих даних і розширюйте його лише в міру зростання впевненості ^{1 2}.

Ідентичність і найменші привілеї

1. 1Дайте агентові власну ідентичність і найвужчі права, а не обліковий запис адміністратора. Де можливо, виконуйте дії від імені користувача з його автентифікацією (наприклад, через OAuth) ⁴.
2. 2Віддавайте перевагу короткочасним обліковим даним і скасовуйте розширений доступ, коли завдання закінчено ¹.
3. 3За замовчуванням дозволяйте лише читання, а право запису надавайте під конкретне завдання. Приклад з OWASP: агент для стислого переказу пошти має доступ лише для читання ⁴.

Інструменти та дії

1. 1Мінімум інструментів і мінімум функцій у кожному. Уникайте інструментів без меж, як-от довільне виконання команд оболонки ⁴.
2. 2Контролюйте права в системі, яку викликає агент (повне посередництво), а не просіть про це саму модель ⁴.
3. 3Усе, що агент читає, вважайте недовіреним (непряма ін'єкція промптів), а зовнішній вміст відокремлюйте й позначайте ⁵.

Рівні схвалення людиною

Це рекомендація НАК, що спирається на настанови OWASP ^{4 5}. Для дій із високим впливом OWASP радить явне схвалення людини ⁴.

• Лише читання (наприклад, підсумок документа): схвалення не потрібне, але дії журналюються.
• Чернетка (наприклад, лист чи звіт): надсилає людина.
• Оборотний запис (наприклад, подія в календарі, правка чернетки): перегляд людиною або проста можливість скасувати.
• Високий вплив або незворотна дія (платежі, видалення, зміна прав доступу, зовнішні повідомлення, публікація): явне схвалення людини щоразу ⁴.

Нагляд, журнали, зупинка

1. 1Журналюйте кожен виклик інструмента з параметрами, стежте за незвичними шаблонами й застосовуйте ліміти, щоб обмежити шкоду ^{4 1}.
2. 2Майте змогу зупинити агента. Якщо ви не можете його зрозуміти, відстежувати й стримувати, він ще не готовий ¹.
3. 3Заздалегідь визначте власників: хто схвалює доступ, стежить за поведінкою, розбирає інциденти й вимикає агента ¹.

Ланцюг постачання, модель безпеки, інциденти

1. 1Вбудуйте агентів у наявну модель безпеки й оцінювання ризиків, керуйте ризиками сторонніх постачальників і моделюйте загрози зловживання й маніпуляції ^{2 1}.
2. 2Подбайте, щоб план реагування на інциденти охоплював збої агента, зловживання ним і втрату контролю ¹.

Що почитати далі

• OWASP Top 10 for Agentic Applications for 2026, опублікований 9 грудня 2025 року ⁶.

Обмеження