План дій при інциденті зі ШІ: від підготовки до уроків.
Посібник G10 · Опубліковано
Для організацій, які користуються ШІ-системами або створюють їх. Що зробити заздалегідь, у першу годину, першу добу, під час відновлення й після інциденту, а також кого повідомити в Україні.
Для кого й коли користуватися
Посібник для малого й середнього бізнесу, НКО та громадських організацій, у яких ШІ-система, модель, її дані чи ШІ-агент поводяться так, ніби їх скомпрометовано, або справді скомпрометовано. NIST визначає ШІ-інцидент як подію чи низку подій, коли розроблення, використання або збій ШІ-систем прямо чи опосередковано призводить до шкоди: для людей, критичної інфраструктури, прав людини, власності чи довкілля 2.
Посібник охоплює чотири типові випадки: ін'єкція промпту, що запустила дії; витік даних через модель; отруєні дані чи модель; перехоплений ШІ-агент або скомпрометована стороння модель. Це не план для кіберінциденту взагалі: загальні заходи на випадок зламу працюють і тут, а цей текст доповнює їх особливостями ШІ.
Підготовка: що зробити до інциденту
- 01Призначте людину, яка може вимкнути систему, і заздалегідь визначте умови, за яких це робиться. NIST радить мати критерії деактивації та порядок передачі питання тому, хто ухвалює рішення 1 2.
- 02Увімкніть журналювання дій системи й користувачів, а також змін системних промптів і конфігурації моделі: без цього інцидент не розслідувати 3.
- 03Зберігайте версії моделей, даних і конфігурації, щоб можна було повернутися до відомого справного стану 3 7.
- 04Складіть письмовий план інцидентів і відновлення, перевіряйте його й підтримуйте актуальним. Для постачальників домовтеся про дії під час інциденту в договорі 3 2.
- 05Налагодьте контакт із CERT-UA заздалегідь: так перше звернення буде швидшим 10. Підготуйте список контактів: постачальник, юрист, відповідальні в організації.
- 06Тренуйте план. NIST радить регулярно відпрацьовувати плани реагування на інциденти зі сторонніми ШІ-системами 2.
Прогалини в підготовці допоможе знайти шаблон «Самооцінка ризиків ШІ».
Перша година
- 01Зупиніть шкоду, але не знищуйте доказів. Вимкніть агента чи функцію або відріжте їхній доступ до інших систем. NIST вимагає механізмів, які можуть вимкнути ШІ-систему, і відповідальних за них 1. Рекомендація НАК: відкличте токени й ключі, якими користувався агент або які могли потрапити в контекст моделі.
- 02Збережіть докази до будь-якого прибирання: журнали, запити й відповіді, версії промптів і конфігурації, час подій. CERT-UA просить журнали й підозрілі файли 10.
- 03Повідомте того, хто ухвалює рішення, і почніть хронологію: час, хто, що зробив. NIST вимагає документувати відстеження інцидентів, реагування й відновлення 1.
- 04Якщо є ознаки, що зловмисник проник у вашу мережу, ізолюйте її, щоб зупинити поширення: це радить CERT-UA 10.
- 05Визначте, який із чотирьох випадків перед вами, і почніть з відповідних кроків нижче.
- Ін'єкція промпту, що запустила дії. Знайдіть вміст (сторінку, лист, файл), у якому були приховані інструкції, і перелічіть дії, які виконали інструменти. Наслідки залежать від того, скільки повноважень мала модель 4. Рекомендація НАК: приберіть це джерело з доступу моделі.
- Витік даних через модель. З'ясуйте, які дані могли потрапити у відповідь: персональні, фінансові, комерційні, облікові 5. Обмеження в системному промпті можна обійти, тож не вважайте, що воно вас вберегло 5.
- Отруєні дані чи модель. Призупиніть навчання, донавчання й оновлення баз для пошуку з підозрілого джерела й перевірте походження та цілісність даних, наприклад за хешами 7 9. Отруєння може спати до певного тригера, тож відсутність видимих збоїв не доводить, що все гаразд 7.
- Перехоплений агент або скомпрометована стороння модель. Перелічіть інструменти й права агента та, що він встиг зробити 8. Репозиторії моделей можуть бути зламані, а постачальника можна підмінити, тож зверніться до справжнього постачальника каналом, який ви знаєте самі 6.
Перша доба
- 01Оцініть масштаб за журналами: які дані, користувачі, системи й дії зачеплено. Це рекомендація НАК.
- 02Усуньте причину, а не лише наслідок: приберіть отруєні дані, закрийте канал ін'єкції, зменште права агента, змініть облікові дані 8 9.
- 03Повідомте постачальника відповідно до договору. NIST радить заздалегідь визначити, хто відповідає за реагування на інциденти у сторонніх ШІ-системах 2 3.
- 04Повідомте тих, кого це стосується: NIST радить повідомляти про інциденти відповідні сторони, зокрема постраждалих, а за потреби й регуляторів 1 2.
- 05З юристом вирішіть, чи є обов'язкові повідомлення, і зробіть їх. Див. наступний розділ.
- 06Ведіть хронологію далі: вона знадобиться і для відновлення, і для розбору.
Кого повідомити в Україні
Єдиного каналу саме для ШІ-інцидентів немає: NIST зазначає, що формальних каналів для повідомлення про ШІ-інциденти наразі не існує, а є лише публічні бази, які відбирають випадки вибірково 2. Тому користуйтеся звичайними каналами кібербезпеки.
- Керівництво, власник системи й юрист: усередині організації, одразу. Це рекомендація НАК.
- Постачальник моделі чи ШІ-сервісу: за контактами й умовами договору 2 3.
- CERT-UA. Повідомлення приймають електронною поштою incidents@cert.gov.ua та за телефоном +38 (044) 281-88-25 (пн–чт 8:00–17:00, пт 8:00–15:45; у вихідні й святкові дні — цілодобово +38 (044) 281-88-01) 14. Повідомити може постраждала організація або будь-хто, хто бачить підозрілу активність у мережі. CERT-UA не є каральним органом: його мета в тому, щоб допомогти уникнути інциденту або відновитися, а працює він із технічними даними (журнали, підозрілі файли), а не з документами компанії 10.
- Кіберполіція, якщо є ознаки злочину. На її сайті є форма «Повідомлення про кіберінцидент» для шкідливого вмісту (фішинг, шкідливі програми); інші звернення подають через розділ cyberpolice.gov.ua/declare 11. Чи є ваш випадок злочином, допоможе визначити юрист.
- Захист персональних даних. Якщо в інциденті могли постраждати персональні дані, одразу залучіть юриста. Уповноважений Верховної Ради України з прав людини отримує від володільців повідомлення про обробку даних, що становить особливий ризик для прав суб'єктів 12. Готової процедури повідомлення про витік на цих сторінках ми не знайшли: чи маєте ви повідомляти Уповноваженого й постраждалих осіб, залежить від вашої ситуації, і це питання до юриста. Контакти Уповноваженого, зокрема безплатна гаряча лінія 1678, є на його сайті 13.
- Публічні бази ШІ-інцидентів, за бажанням. NIST згадує, наприклад, AI Incident Database, AVID і OECD AI Incident Monitor 2. Рекомендація НАК: не публікуйте там подробиць, які розкривають постраждалих або ще не закриту вразливість.
Відновлення
- 01Повертайтеся до відомого справного стану моделі, даних і конфігурації 3 7.
- 02Перед поверненням у роботу протестуйте систему. Кодекс практик Великої Британії вимагає відповідного тестування й оцінювання 3. NIST радить мати процедури усунення проблем і повідомляти зацікавлені сторони про строки 2.
- 03Якщо йшлося про дані, очистьте їх і перевірте на аномалії до будь-якого повторного навчання 9.
- 04Повертайте систему з жорсткішими правами: мінімум інструментів і мінімум прав, а для дій із високим впливом схвалення людини 8 4.
- 05Посильте моніторинг на період після відновлення: аналізуйте журнали на аномалії й раптові зміни поведінки 3.
- 06Змініть усі облікові дані, до яких міг мати доступ скомпрометований компонент. Це рекомендація НАК.
Уроки
- 01Проведіть розбір разом з усіма, хто брав участь, щоб з'ясувати першопричини й запровадити заходи, які запобігатимуть повторенню 2.
- 02Перевірте, чи спрацювали процедури зв'язку з постачальниками й органами, і оновіть план інцидентів та порядок повідомлення 2.
- 03Ведіть облік помилок, випадків «ледь не сталося» й негативних наслідків, а не тільки великих інцидентів 2.
- 04Перегляньте самооцінку ризиків: прогалина, що призвела до інциденту, має опинитися у вашому плані дій.
Обмеження
Це посібник, а не юридична консультація й не послуга. НАК не приймає повідомлень про інциденти, не розслідує їх, не відновлює дані й не аналізує файли. Кроки збудовано на публічних настановах (NIST, OWASP, британський кодекс практик, CISA), а не на вимогах українського права: чи маєте ви обов'язок повідомляти, залежить від вашої ситуації, і це питання до юриста. Контакти державних органів можуть змінитися, перевіряйте їх на офіційних сайтах. Текст востаннє перевірено 24.10.2026; використані джерела наведено нижче.
Джерела
- 1NIST AI Resource Center. NIST AI RMF Core: Govern, Map, Measure, Manage · англійською · переглянуто 2026-10-24
- 2NIST. Artificial Intelligence Risk Management Framework: Generative AI Profile (NIST AI 600-1) · англійською · переглянуто 2026-10-24
- 3UK Government (DSIT). Code of Practice for the Cyber Security of AI · англійською · переглянуто 2026-10-24
- 4OWASP GenAI Security Project. LLM01:2025 Prompt Injection · англійською · переглянуто 2026-10-24
- 5OWASP GenAI Security Project. LLM02:2025 Sensitive Information Disclosure · англійською · переглянуто 2026-10-24
- 6OWASP GenAI Security Project. LLM03:2025 Supply Chain · англійською · переглянуто 2026-10-24
- 7OWASP GenAI Security Project. LLM04:2025 Data and Model Poisoning · англійською · переглянуто 2026-10-24
- 8OWASP GenAI Security Project. LLM06:2025 Excessive Agency · англійською · переглянуто 2026-10-24
- 9CISA, NSA, FBI and partners. AI Data Security: best practices for securing data used to train and operate AI systems (May 2025) · англійською · переглянуто 2026-10-24
- 10Cabinet of Ministers of Ukraine. How CERT-UA responds to cyber incidents, from report to recovery · англійською · переглянуто 2026-10-24
- 11Cyber Police Department, National Police of Ukraine. Cyber Police: incident form and appeals · англійською · переглянуто 2026-10-24
- 12Ukrainian Parliament Commissioner for Human Rights. Notification of the Commissioner: procedure, forms and additional information · англійською · переглянуто 2026-10-24
- 13Ukrainian Parliament Commissioner for Human Rights. Ukrainian Parliament Commissioner for Human Rights: home page and contacts · англійською · переглянуто 2026-10-24
- 14CERT-UA. Contacts: report an incident · англійською · переглянуто 2026-10-24
Читайте також.
- Посібник G8Самооцінка ризиків ШІ: шаблон для організації
- Посібник G4Чекліст безпеки ШІ для малих організацій
- Посібник G5Агентний ШІ: найменші привілеї та людське схвалення (чекліст)
- Посібник G1Перші 24 години після дипфейку про вас або вашу компанію
- Посібник G7Мінімум кіберготовності для НКО та малого бізнесу
- Посібник G6Як захистити акаунти й цифрову особу