Чекліст безпеки ШІ для малих організацій.

Для кого цей чекліст

Він написаний для організацій, які користуються сторонніми ШІ-інструментами й, можливо, створюють невеликі функції, як-от чат-бот чи пошук по документах. Він не призначений для розробників передових моделей і не є сертифікацією чи аудитом.

Крок 0. Керування (Govern)

Функція Govern у NIST AI RMF формує культуру управління ризиками, політики й відповідальність упродовж усього життєвого циклу системи ². Британський кодекс практик просить, зокрема, підвищувати обізнаність, забезпечувати людську відповідальність, а також виявляти, відстежувати й захищати активи (принципи 1, 4 і 5) ⁴.

1. 1Складіть перелік ШІ-інструментів, якими користуєтеся, і призначте власника для кожного.
2. 2Напишіть односторінкову політику прийнятного використання: що можна, а чого не можна вносити в ШІ-інструменти.

Чекліст за ризиками

Кожен пункт відповідає одному з ризиків OWASP LLM Top 10 (редакція 2025 року) ¹.

1. 1Недовірений вміст (LLM01, ін'єкція промптів). Вебсторінки, файли й листи, які читає модель, можуть містити приховані інструкції. Ставтеся до них як до недовірених, відокремлюйте й позначайте їх, а привілейовані дії не запускайте лише на підставі такого вмісту ^{5 3}.
2. 2Дані на вході (LLM02, розкриття чутливої інформації). Не вставляйте в публічні інструменти секрети, персональні й конфіденційні дані. Вимагайте від постачальника правил зберігання й видалення даних, а дані очищуйте до використання ^{6 4}.
3. 3Постачальники й моделі (LLM03, ланцюг постачання). Перевіряйте постачальників, підтверджуйте походження моделей за підписами чи хешами, встановлюйте оновлення й ведіть перелік компонентів ^{7 4 3}.
4. 4Дані для навчання й пошуку (LLM04, отруєння даних і моделей). Відстежуйте походження й зміни даних, перевіряйте постачальників даних, а неперевірені джерела обробляйте в ізольованому середовищі ^{8 13}.
5. 5Обробка відповідей (LLM05). Ставтеся до відповіді моделі як до недовіреної: перевіряйте її й кодуйте, перш ніж передавати іншим системам ⁹.
6. 6Повноваження (LLM06, надмірна агентність). Давайте мінімум інструментів і мінімум прав, а для дій із високим впливом вимагайте схвалення людини. Докладніше в посібнику «Агентний ШІ: найменші привілеї та людське схвалення» ¹⁰.
7. 7Хибні відповіді (LLM09, дезінформація). Для відповідей із високими ставками потрібна перевірка людиною. Спирайте відповіді на довірені джерела й говоріть користувачам про межі інструмента ^{11 3}.
8. 8Некероване споживання (LLM10). Встановлюйте ліміти запитів і квоти, відстежуйте використання й задавайте таймаути ^{12 4}.

Рамки як лінза

• NIST AI RMF має чотири функції: Govern, Map (контекст і ризики), Measure (оцінювання й відстеження), Manage (пріоритезація, реагування, комунікація) ². Профіль для генеративного ШІ описує 12 ризиків, які можна використати як заголовки реєстру ризиків ³.
• Британський кодекс практик: моніторинг поведінки системи (принцип 12), оновлення (11), комунікація з кінцевими користувачами (10), виведення з експлуатації (13) ⁴.
• Про захист розгортання зовнішніх ШІ-систем див. спільну настанову CISA й NSA «Deploying AI Systems Securely» ¹⁴.

Якщо щось пішло не так

1. 1Заздалегідь визначте, хто ухвалює рішення вимкнути інструмент, де зберігаються журнали, хто звертається до постачальника і хто повідомляє CERT-UA ¹⁵.
2. 2Випадок ін'єкції промпту чи витоку даних ведіть як інцидент безпеки й збережіть журнали.

Обмеження