Національна асоціація
кібербезпеки

Самооцінка ризиків ШІ: шаблон для організації.

Посібник G8 · Опубліковано

Для організацій, які користуються інструментами штучного інтелекту (ШІ) або створюють власні ШІ-функції. Сім сфер, у кожній кілька питань і опис того, як виглядає «добре». Це самоперевірка, а не сертифікація й не юридична оцінка.

Для кого й коли користуватися

Шаблон написано для малого й середнього бізнесу, НКО та громадських організацій, які користуються готовими ШІ-інструментами або будують на їхній основі власні функції чи ШІ-агентів. Скористайтеся ним перед запуском нового інструмента, після суттєвих змін (нова модель, новий постачальник, новий доступ агента до ваших систем) і з певною періодичністю, наприклад раз на пів року. Періодичність і порядок дій із результатом: рекомендації НАК, а не вимоги джерел.

Як працювати: на кожне питання відповідайте «так», «частково» або «ні» і занотуйте, де лежить підтвердження (політика, налаштування, журнал). Питання складено за переліком ризиків OWASP для застосунків на великих мовних моделях 1, функціями NIST AI RMF 8 і британським кодексом практик кібербезпеки ШІ 10. Ознаки «добре» у кожному питанні: рекомендації НАК, побудовані на цих джерелах. Відповіді «ні» і «частково» впорядкуйте за тим, скільки шкоди може завдати прогалина, і закривайте спершу найнебезпечніші.

Не вносьте жодних секретів: паролів, API-ключів, токенів, а також персональних даних. Ні в цей шаблон, ні в будь-який інший інструмент самооцінки, ні в чат зі ШІ. Достатньо відповіді «так/частково/ні» й вказівки, де зберігається підтвердження. На цій сторінці немає форми, і відповіді нікуди не надсилаються.

1. Дані

  1. 01Чи знаєте ви, які дані потрапляють у ШІ-інструменти: запити, файли, історія чатів, бази, з яких модель шукає відповіді? Добре: є перелік типів даних, які не можна вносити в зовнішні інструменти (секрети, персональні, фінансові, медичні, конфіденційні бізнес-дані), і працівники його знають 3 10.
  2. 02Чи очищуєте чутливі дані до того, як вони потраплять у модель? Добре: чутливий вміст маскують або вилучають заздалегідь, а не покладаються на інструкцію в системному промпті, бо такі обмеження можна обійти 3.
  3. 03Чи відомі правила зберігання, видалення й використання даних у постачальника? Добре: ви знаєте, скільки постачальник зберігає дані, чи може використати їх для навчання, і чи є спосіб від цього відмовитися 3 4.
  4. 04Чи відстежуєте походження й зміни даних, на яких модель навчається або шукає? Добре: джерела задокументовані, зміни фіксуються, цілісність перевіряють контрольними сумами чи хешами, а неперевірені джерела не потрапляють у систему без ізоляції 5 11.

2. Доступ і права

  1. 01Хто має доступ до ШІ-інструментів, до даних, які вони читають, і до їхніх налаштувань? Добре: діє принцип мінімальних привілеїв, тобто людина чи процес бачить лише ті дані, що потрібні для роботи 3.
  2. 02Чи діє ШІ від імені конкретного користувача з його правами, а не через широкий службовий обліковий запис? Добре: доступ до інших систем перевіряють самі ці системи, а не вирішує модель 6.
  3. 03Де лежать секрети (ключі, токени)? Добре: поза промптами та документами, які читає модель, бо вони належать до чутливих даних, а обмеження у промпті не є надійним захистом 3.
  4. 04Чи обмежено кількість запитів і витрати? Добре: є ліміти, квоти й моніторинг використання, тож зловживання або збій не призведуть до некерованих витрат чи недоступності 7.

3. Постачальники й сторонні моделі

  1. 01Чи є актуальний перелік зовнішніх моделей, API, плагінів і наборів даних із відповідальним за кожен? Добре: перелік ведеться, а OWASP радить для цього спеціальний опис складників (SBOM/AIBOM) 4 10.
  2. 02Чи перевіряли ви постачальника? Добре: переглянуто його підхід до безпеки й умови, зокрема політику конфіденційності, і ви помітите, якщо вони зміняться 4. Для зовнішніх складників кодекс вимагає оцінювання ризиків та належної перевірки 10.
  3. 03Чи перевіряєте джерело й цілісність моделей і файлів, які завантажуєте? Добре: беруть їх лише з джерел, що можна перевірити, і користуєтеся підписами чи хешами. Завантажена модель може містити шкідливий код, який виконується під час її завантаження 4 5.
  4. 04Що станеться, якщо збій чи інцидент трапиться в постачальника? Добре: заздалегідь визначено, хто за що відповідає, є контакти, а вимоги до реагування закріплено в договорі 9 10.

4. Журналювання й моніторинг

  1. 01Чи журналюються дії системи та користувачів? Добре: журнали дають змогу відновити, хто, коли й що запитував і що виконала система, достатньо для розслідування 10.
  2. 02Чи фіксуються зміни системних промптів і конфігурації моделі? Добре: є журнал змін, у якому видно, хто й коли їх вносив 10.
  3. 03Чи хтось дивиться на журнали? Добре: призначена людина чи процес шукає аномалії, витоки, ознаки отруєння даних і раптові зміни поведінки, а дії інструментів і споживання ресурсів відстежуються 6 7 10. NIST окремо вимагає моніторити роботу системи вже в експлуатації 8.

5. ШІ-агенти й виклик інструментів

  1. 01Скільки інструментів і прав має агент? Добре: лише потрібні, вузькі за призначенням (наприклад, окрема функція запису файлу, а не командна оболонка) і з мінімально потрібними правами 6.
  2. 02Чи потребують дії з високим впливом схвалення людини? Добре: так, і людина схвалює дію до її виконання 6 2.
  3. 03Чи вважаєте ви вміст, який читає агент (вебсторінки, листи, файли), недовіреним? Добре: його відокремлено й позначено, привілейовані дії не запускаються лише на його підставі, а повноваження контролюються кодом, а не промптом 2.
  4. 04Чи можна швидко зупинити агента й обмежити шкоду? Добре: є журнал дій інструментів, ліміти частоти, а також механізм і відповідальний, які можуть вимкнути систему, коли її результати суперечать призначенню 6 8.

Докладніше про агентів: посібник «Агентний ШІ: найменші привілеї та людське схвалення».

6. Реагування на інциденти

  1. 01Чи є план реагування, що враховує ШІ? Добре: письмовий план інцидентів і відновлення, який створено, перевірено й підтримується в актуальному стані 10.
  2. 02Чи визначено, хто й за яких умов вимикає систему? Добре: є чіткі критерії вимкнення та порядок передачі питання тому, хто ухвалює рішення 9 8.
  3. 03Чи вмієте відновити відомий справний стан? Добре: збережено версії моделей, даних і конфігурації, а відновлення готове до атаки на ШІ-систему 10 5.
  4. 04Чи знаєте, кому повідомляти назовні? Добре: у плані є контакти постачальника й державних органів, а зв'язок із CERT-UA налагоджено заздалегідь, бо перший контакт без підготовки може тривати довше 12. Кроки реагування: посібник «План дій при інциденті з ШІ».
  5. 05Чи вчитеся ви на інцидентах? Добре: після кожного випадку проводите розбір, а за результатами оновлюєте план 9.

7. Люди й навчання

  1. 01Чи знають працівники, що можна й чого не можна вносити в ШІ-інструменти? Добре: є коротка політика прийнятного використання, а навчання враховує роль людини 10.
  2. 02Чи має кожна ШІ-система власника? Добре: названо людину, яка відповідає за систему, її ризики й рішення про вимкнення 10 8.
  3. 03Чи знають люди, куди повідомити, якщо ШІ зробив щось дивне? Добре: є простий канал, яким можуть скористатися і працівники, і користувачі 8.
  4. 04Чи навчено тих, хто створює ШІ-функції, безпечному проєктуванню й коду? Добре: так, а навчальні програми з безпеки ШІ регулярно оновлюються 10.

Обмеження

Це самоперевірка, а не сертифікація, не аудит і не юридична оцінка. Вона не доводить, що система безпечна або відповідає закону чи стандарту, і не має «прохідного бала». НАК не перевіряє ваші відповіді, не проводить аудит і не розслідує інциденти. Перелік охоплює не всі ризики: він не розглядає, наприклад, авторське право, упередженість чи вимоги до персональних даних. Якщо ШІ обробляє персональні дані, зверніться до юриста. Британський кодекс практик розрахований на Велику Британію і тут слугує орієнтиром, а не вимогою українського права. Перелік OWASP відповідає редакції 2025 року: перевіряйте, чи не вийшла нова. Текст востаннє перевірено 24.10.2026; використані джерела наведено нижче.

Джерела

  1. 1OWASP GenAI Security Project. OWASP Top 10 for LLM Applications (2025) · англійською · переглянуто 2026-10-24
  2. 2OWASP GenAI Security Project. LLM01:2025 Prompt Injection · англійською · переглянуто 2026-10-24
  3. 3OWASP GenAI Security Project. LLM02:2025 Sensitive Information Disclosure · англійською · переглянуто 2026-10-24
  4. 4OWASP GenAI Security Project. LLM03:2025 Supply Chain · англійською · переглянуто 2026-10-24
  5. 5OWASP GenAI Security Project. LLM04:2025 Data and Model Poisoning · англійською · переглянуто 2026-10-24
  6. 6OWASP GenAI Security Project. LLM06:2025 Excessive Agency · англійською · переглянуто 2026-10-24
  7. 7OWASP GenAI Security Project. LLM10:2025 Unbounded Consumption · англійською · переглянуто 2026-10-24
  8. 8NIST AI Resource Center. NIST AI RMF Core: Govern, Map, Measure, Manage · англійською · переглянуто 2026-10-24
  9. 9NIST. Artificial Intelligence Risk Management Framework: Generative AI Profile (NIST AI 600-1) · англійською · переглянуто 2026-10-24
  10. 10UK Government (DSIT). Code of Practice for the Cyber Security of AI · англійською · переглянуто 2026-10-24
  11. 11CISA, NSA, FBI and partners. AI Data Security: best practices for securing data used to train and operate AI systems (May 2025) · англійською · переглянуто 2026-10-24
  12. 12Cabinet of Ministers of Ukraine. How CERT-UA responds to cyber incidents, from report to recovery · англійською · переглянуто 2026-10-24