Національна асоціація
кібербезпеки

План дій при інциденті зі ШІ: від підготовки до уроків.

Посібник G10 · Опубліковано

Для організацій, які користуються ШІ-системами або створюють їх. Що зробити заздалегідь, у першу годину, першу добу, під час відновлення й після інциденту, а також кого повідомити в Україні.

Для кого й коли користуватися

Посібник для малого й середнього бізнесу, НКО та громадських організацій, у яких ШІ-система, модель, її дані чи ШІ-агент поводяться так, ніби їх скомпрометовано, або справді скомпрометовано. NIST визначає ШІ-інцидент як подію чи низку подій, коли розроблення, використання або збій ШІ-систем прямо чи опосередковано призводить до шкоди: для людей, критичної інфраструктури, прав людини, власності чи довкілля 2.

Посібник охоплює чотири типові випадки: ін'єкція промпту, що запустила дії; витік даних через модель; отруєні дані чи модель; перехоплений ШІ-агент або скомпрометована стороння модель. Це не план для кіберінциденту взагалі: загальні заходи на випадок зламу працюють і тут, а цей текст доповнює їх особливостями ШІ.

Підготовка: що зробити до інциденту

  1. 01Призначте людину, яка може вимкнути систему, і заздалегідь визначте умови, за яких це робиться. NIST радить мати критерії деактивації та порядок передачі питання тому, хто ухвалює рішення 1 2.
  2. 02Увімкніть журналювання дій системи й користувачів, а також змін системних промптів і конфігурації моделі: без цього інцидент не розслідувати 3.
  3. 03Зберігайте версії моделей, даних і конфігурації, щоб можна було повернутися до відомого справного стану 3 7.
  4. 04Складіть письмовий план інцидентів і відновлення, перевіряйте його й підтримуйте актуальним. Для постачальників домовтеся про дії під час інциденту в договорі 3 2.
  5. 05Налагодьте контакт із CERT-UA заздалегідь: так перше звернення буде швидшим 10. Підготуйте список контактів: постачальник, юрист, відповідальні в організації.
  6. 06Тренуйте план. NIST радить регулярно відпрацьовувати плани реагування на інциденти зі сторонніми ШІ-системами 2.

Прогалини в підготовці допоможе знайти шаблон «Самооцінка ризиків ШІ».

Перша година

  1. 01Зупиніть шкоду, але не знищуйте доказів. Вимкніть агента чи функцію або відріжте їхній доступ до інших систем. NIST вимагає механізмів, які можуть вимкнути ШІ-систему, і відповідальних за них 1. Рекомендація НАК: відкличте токени й ключі, якими користувався агент або які могли потрапити в контекст моделі.
  2. 02Збережіть докази до будь-якого прибирання: журнали, запити й відповіді, версії промптів і конфігурації, час подій. CERT-UA просить журнали й підозрілі файли 10.
  3. 03Повідомте того, хто ухвалює рішення, і почніть хронологію: час, хто, що зробив. NIST вимагає документувати відстеження інцидентів, реагування й відновлення 1.
  4. 04Якщо є ознаки, що зловмисник проник у вашу мережу, ізолюйте її, щоб зупинити поширення: це радить CERT-UA 10.
  5. 05Визначте, який із чотирьох випадків перед вами, і почніть з відповідних кроків нижче.
  • Ін'єкція промпту, що запустила дії. Знайдіть вміст (сторінку, лист, файл), у якому були приховані інструкції, і перелічіть дії, які виконали інструменти. Наслідки залежать від того, скільки повноважень мала модель 4. Рекомендація НАК: приберіть це джерело з доступу моделі.
  • Витік даних через модель. З'ясуйте, які дані могли потрапити у відповідь: персональні, фінансові, комерційні, облікові 5. Обмеження в системному промпті можна обійти, тож не вважайте, що воно вас вберегло 5.
  • Отруєні дані чи модель. Призупиніть навчання, донавчання й оновлення баз для пошуку з підозрілого джерела й перевірте походження та цілісність даних, наприклад за хешами 7 9. Отруєння може спати до певного тригера, тож відсутність видимих збоїв не доводить, що все гаразд 7.
  • Перехоплений агент або скомпрометована стороння модель. Перелічіть інструменти й права агента та, що він встиг зробити 8. Репозиторії моделей можуть бути зламані, а постачальника можна підмінити, тож зверніться до справжнього постачальника каналом, який ви знаєте самі 6.

Перша доба

  1. 01Оцініть масштаб за журналами: які дані, користувачі, системи й дії зачеплено. Це рекомендація НАК.
  2. 02Усуньте причину, а не лише наслідок: приберіть отруєні дані, закрийте канал ін'єкції, зменште права агента, змініть облікові дані 8 9.
  3. 03Повідомте постачальника відповідно до договору. NIST радить заздалегідь визначити, хто відповідає за реагування на інциденти у сторонніх ШІ-системах 2 3.
  4. 04Повідомте тих, кого це стосується: NIST радить повідомляти про інциденти відповідні сторони, зокрема постраждалих, а за потреби й регуляторів 1 2.
  5. 05З юристом вирішіть, чи є обов'язкові повідомлення, і зробіть їх. Див. наступний розділ.
  6. 06Ведіть хронологію далі: вона знадобиться і для відновлення, і для розбору.

Кого повідомити в Україні

Єдиного каналу саме для ШІ-інцидентів немає: NIST зазначає, що формальних каналів для повідомлення про ШІ-інциденти наразі не існує, а є лише публічні бази, які відбирають випадки вибірково 2. Тому користуйтеся звичайними каналами кібербезпеки.

  • Керівництво, власник системи й юрист: усередині організації, одразу. Це рекомендація НАК.
  • Постачальник моделі чи ШІ-сервісу: за контактами й умовами договору 2 3.
  • CERT-UA. Повідомлення приймають електронною поштою incidents@cert.gov.ua та за телефоном +38 (044) 281-88-25 (пн–чт 8:00–17:00, пт 8:00–15:45; у вихідні й святкові дні — цілодобово +38 (044) 281-88-01) 14. Повідомити може постраждала організація або будь-хто, хто бачить підозрілу активність у мережі. CERT-UA не є каральним органом: його мета в тому, щоб допомогти уникнути інциденту або відновитися, а працює він із технічними даними (журнали, підозрілі файли), а не з документами компанії 10.
  • Кіберполіція, якщо є ознаки злочину. На її сайті є форма «Повідомлення про кіберінцидент» для шкідливого вмісту (фішинг, шкідливі програми); інші звернення подають через розділ cyberpolice.gov.ua/declare 11. Чи є ваш випадок злочином, допоможе визначити юрист.
  • Захист персональних даних. Якщо в інциденті могли постраждати персональні дані, одразу залучіть юриста. Уповноважений Верховної Ради України з прав людини отримує від володільців повідомлення про обробку даних, що становить особливий ризик для прав суб'єктів 12. Готової процедури повідомлення про витік на цих сторінках ми не знайшли: чи маєте ви повідомляти Уповноваженого й постраждалих осіб, залежить від вашої ситуації, і це питання до юриста. Контакти Уповноваженого, зокрема безплатна гаряча лінія 1678, є на його сайті 13.
  • Публічні бази ШІ-інцидентів, за бажанням. NIST згадує, наприклад, AI Incident Database, AVID і OECD AI Incident Monitor 2. Рекомендація НАК: не публікуйте там подробиць, які розкривають постраждалих або ще не закриту вразливість.

Відновлення

  1. 01Повертайтеся до відомого справного стану моделі, даних і конфігурації 3 7.
  2. 02Перед поверненням у роботу протестуйте систему. Кодекс практик Великої Британії вимагає відповідного тестування й оцінювання 3. NIST радить мати процедури усунення проблем і повідомляти зацікавлені сторони про строки 2.
  3. 03Якщо йшлося про дані, очистьте їх і перевірте на аномалії до будь-якого повторного навчання 9.
  4. 04Повертайте систему з жорсткішими правами: мінімум інструментів і мінімум прав, а для дій із високим впливом схвалення людини 8 4.
  5. 05Посильте моніторинг на період після відновлення: аналізуйте журнали на аномалії й раптові зміни поведінки 3.
  6. 06Змініть усі облікові дані, до яких міг мати доступ скомпрометований компонент. Це рекомендація НАК.

Уроки

  1. 01Проведіть розбір разом з усіма, хто брав участь, щоб з'ясувати першопричини й запровадити заходи, які запобігатимуть повторенню 2.
  2. 02Перевірте, чи спрацювали процедури зв'язку з постачальниками й органами, і оновіть план інцидентів та порядок повідомлення 2.
  3. 03Ведіть облік помилок, випадків «ледь не сталося» й негативних наслідків, а не тільки великих інцидентів 2.
  4. 04Перегляньте самооцінку ризиків: прогалина, що призвела до інциденту, має опинитися у вашому плані дій.

Обмеження

Це посібник, а не юридична консультація й не послуга. НАК не приймає повідомлень про інциденти, не розслідує їх, не відновлює дані й не аналізує файли. Кроки збудовано на публічних настановах (NIST, OWASP, британський кодекс практик, CISA), а не на вимогах українського права: чи маєте ви обов'язок повідомляти, залежить від вашої ситуації, і це питання до юриста. Контакти державних органів можуть змінитися, перевіряйте їх на офіційних сайтах. Текст востаннє перевірено 24.10.2026; використані джерела наведено нижче.

Джерела

  1. 1NIST AI Resource Center. NIST AI RMF Core: Govern, Map, Measure, Manage · англійською · переглянуто 2026-10-24
  2. 2NIST. Artificial Intelligence Risk Management Framework: Generative AI Profile (NIST AI 600-1) · англійською · переглянуто 2026-10-24
  3. 3UK Government (DSIT). Code of Practice for the Cyber Security of AI · англійською · переглянуто 2026-10-24
  4. 4OWASP GenAI Security Project. LLM01:2025 Prompt Injection · англійською · переглянуто 2026-10-24
  5. 5OWASP GenAI Security Project. LLM02:2025 Sensitive Information Disclosure · англійською · переглянуто 2026-10-24
  6. 6OWASP GenAI Security Project. LLM03:2025 Supply Chain · англійською · переглянуто 2026-10-24
  7. 7OWASP GenAI Security Project. LLM04:2025 Data and Model Poisoning · англійською · переглянуто 2026-10-24
  8. 8OWASP GenAI Security Project. LLM06:2025 Excessive Agency · англійською · переглянуто 2026-10-24
  9. 9CISA, NSA, FBI and partners. AI Data Security: best practices for securing data used to train and operate AI systems (May 2025) · англійською · переглянуто 2026-10-24
  10. 10Cabinet of Ministers of Ukraine. How CERT-UA responds to cyber incidents, from report to recovery · англійською · переглянуто 2026-10-24
  11. 11Cyber Police Department, National Police of Ukraine. Cyber Police: incident form and appeals · англійською · переглянуто 2026-10-24
  12. 12Ukrainian Parliament Commissioner for Human Rights. Notification of the Commissioner: procedure, forms and additional information · англійською · переглянуто 2026-10-24
  13. 13Ukrainian Parliament Commissioner for Human Rights. Ukrainian Parliament Commissioner for Human Rights: home page and contacts · англійською · переглянуто 2026-10-24
  14. 14CERT-UA. Contacts: report an incident · англійською · переглянуто 2026-10-24