Безпека штучного інтелекту: ризики, рамки й перші кроки для безпечнішого використання ШІ.

Роль асоціації

Національна асоціація кібербезпеки України є платформою співпраці: об'єднанням експертів та учасників ринку, а не постачальником послуг. У цьому напрямі вона сприяє стандартам безпечного впровадження ШІ, експертному діалогу та обміну практиками.

Йдеться про державно-приватну співпрацю: розмову між державними органами, бізнесом, науковцями й фахівцями з безпеки про те, як упроваджувати штучний інтелект так, щоб ним можна було довіряти. За цим не стоїть ні формальне партнерство, ні договір державно-приватного партнерства.

Експертну раду чи робочі групи за цим напрямом лише планується створити. Ця сторінка поки що пояснювальний матеріал із джерелами, а не результат роботи таких груп.

Що ми називаємо безпекою ШІ

Словосполучення «безпека ШІ» вживають у двох значеннях. Перше: захист самих систем від зламу чи зловживань. Друге: безпека людей у світі, де штучний інтелект (ШІ) уже став звичайним робочим інструментом. Профіль NIST для генеративного ШІ називає два пов'язані ризики для інформаційної безпеки: такі системи знижують поріг входу для наступальних кібероперацій і розширюють поверхню атаки, бо самі вразливі до prompt injection (приховані інструкції для моделі) та отруєння даних ¹.

Для Національної асоціації кібербезпеки головним є другий погляд. Асоціація не захищає моделі й не відповідає за чужі системи: її цікавить клієнт, волонтер чи пацієнт, чиї дані проходять через ці системи, і спільні орієнтири для організацій, які відповідають за їхню безпеку.

Ця сторінка про безпечне використання ШІ: інструментами, які організація купує, і функціями, які вона створює. ШІ в обороні та атаки з його допомогою розглянуті окремо, коротко. Покрокових інструкцій зі зламу моделей і готових експлойтів тут немає свідомо.

Як системи ШІ дають збій або стають мішенню

Найзручніша опора для розмови про ризики: OWASP Top 10 для застосунків на великих мовних моделях, редакція 2025 року ². Нижче сім пунктів зі списку, пояснені простою мовою. Решта три (надмірна самостійність, витік системного промпту, вразливості векторних баз) стосуються розробників і ШІ-агентів; про агентів ідеться в окремому розділі.

• Prompt injection. Інструкції для моделі надходять або безпосередньо від користувача, або приховані у вебсторінці чи файлі, які модель читає ³.
• Витік чутливої інформації. Через систему можуть витекти персональні, фінансові та медичні дані, облікові дані й комерційна таємниця ⁴.
• Ланцюг постачання. Слабкі місця можуть бути в навчальних даних, моделях і платформах, на яких усе розгорнуто ⁵.
• Отруєння даних і моделей. Хтось втручається в дані попереднього навчання, донавчання чи векторного пошуку ⁶.
• Неналежна обробка відповідей. Інші системи довіряють відповіді моделі й використовують її, не перевіривши ⁷.
• Дезінформація. Модель видає хибну, але правдоподібну відповідь ⁸.
• Необмежене споживання. Неконтрольоване використання моделі призводить до збоїв у роботі та неочікуваних витрат ⁹.

Для тих, хто хоче глибше, MITRE ATLAS є публічною базою знань про тактики й техніки супротивників щодо систем ШІ ¹⁰. Ми лише посилаємося на неї й не відтворюємо описів технік. Список OWASP має позначку 2025 року, тож за кожного перегляду ми перевіряємо, чи не вийшла нова редакція.

Рамки, які варто знати

NIST AI Risk Management Framework (AI RMF) побудований навколо чотирьох функцій: Govern (управління), Map (контекст), Measure (оцінювання), Manage (реагування) ¹². Версія 1.0 датована 26 січня 2023 року, профіль для генеративного ШІ вийшов 26 липня 2024 року, а сам NIST повідомляє, що AI RMF 1.0 переглядається ¹¹. Профіль описує 12 ризиків, серед яких конфабуляції, приватність даних, цілісність інформації, інформаційна безпека, цілісність ланцюга постачання та взаємодія людини й ШІ ¹.

Кодекс практик із кібербезпеки ШІ, який оприлюднив уряд Великої Британії 31 січня 2025 року, має 13 принципів на п'яти етапах життєвого циклу: проєктування, розробка, розгортання, супровід і виведення з експлуатації. Він добровільний ¹³.

Є й спільні настанови профільних відомств кількох країн: «Безпечне розгортання систем ШІ» від 15 квітня 2024 року ¹⁴ та «Безпека даних ШІ» від 22 травня 2025 року, що охоплює безпеку й цілісність даних протягом усього життєвого циклу ¹⁵. Окрему увагу приділено критичній інфраструктурі: 7 квітня 2026 року NIST опублікував концептуальну записку про профіль довіреного ШІ для неї ¹¹. Секторальних порад ми тут поки не даємо.

ШІ-агенти: ризик, що зростає найшвидше

ШІ-агент, або агентний ШІ, у цьому тексті означає систему, яка не лише відповідає, а й діє: надсилає листи, змінює файли, робить покупки. Відповідний ризик OWASP називає «надмірною самостійністю» (excessive agency) і виділяє три першопричини: надто широка функціональність, надто широкі дозволи й надто висока автономність ¹⁶.

Перші спільні настанови щодо обережного впровадження агентного ШІ, випущені 1 травня 2026 року американським CISA, австралійським ACSC та іншими партнерами, радять обмежувати доступ, починати з малоризикових завдань без чутливих даних і включати агентів до моделі безпеки та оцінювання ризиків ¹⁷. Серед адресатів зазначено й малий та середній бізнес ¹⁸.

Британський NCSC (15 травня 2026 року) радить спершу подумати, починати з малого, надавати мінімально потрібні права, користуватися короткочасними обліковими даними, зберігати контроль людини та можливість зупинити систему, а відповідальних призначати від самого початку ¹⁹. OWASP також оприлюднив 9 грудня 2025 року окремий список Top 10 для агентних застосунків на 2026 рік ²⁰.

З чого почати малій організації

Не потрібен великий бюджет, щоб зробити перший крок. Ось п'ять кроків у порядку, який можна взяти за основу:

1. 1Вирішіть, які дані можна вносити в ШІ-інструменти, і запишіть це правилом. Найчутливіші категорії: персональні, фінансові, медичні дані, облікові дані та конфіденційна інформація організації ⁴.
2. 2З'ясуйте, якими ШІ-інструментами, моделями й платформами ви користуєтеся і хто їх підтримує ⁵.
3. 3Не дозволяйте іншим системам сліпо довіряти відповідям ШІ: перевіряйте їх, перш ніж вони потраплять у лист, базу даних чи платіж ⁷.
4. 4Дайте будь-якому агенту мінімально потрібний доступ і вимагайте затвердження людиною для дій, які не можна скасувати ¹⁶.
5. 5Призначте відповідальну людину за кожен ШІ-інструмент і заздалегідь визначте, як його вимкнути ¹⁹.

Докладніші контрольні списки є в окремих освітніх посібниках: для малих організацій і для ШІ-агентів.

Коли щось пішло не так

Британський кодекс радить операторам систем стежити за поведінкою ШІ й мати канал зв'язку з користувачами, яких це зачепило ¹³. NCSC додає, що плани реагування на інциденти мають враховувати збої агентів, зловживання ними та втрату контролю ¹⁹.

В Україні організація може звернутися до CERT-UA, урядової команди реагування на комп'ютерні надзвичайні події. Вона працює з технічними даними (журнали, підозрілі файли), просить спершу ізолювати уражену мережу й не є каральним органом ²¹. Приватним особам зручніше почати з Кіберполіції, яка приймає повідомлення через форму на своєму сайті ²².

Що робить асоціація, а чого не робить

Асоціація публікує освітні посібники та пояснювальні матеріали з датою, версією й переліком джерел і сприяє обміну досвідом між учасниками ринку. Вона не проводить оцінювання, не видає сертифікатів, не тестує системи ШІ й не надає технічних чи юридичних послуг.