EU AI Act Додаток IV: чеклист документації для AI-систем
Перш ніж система AI високого ризику може бути виведена на ринок ЄС, її провайдер повинен зібрати технічну документацію, що демонструє відповідність вимогам EU AI Act. Ця документація не є одноразовою подачею — вона повинна підтримуватись в актуальному стані протягом усього терміну служби системи та надаватися наглядовим органам на запит.
Додаток IV EU AI Act точно визначає, що повинна містити ця документація.
TL;DR
- Додаток IV визначає вісім категорій документації, обов’язкових для систем AI високого ризику
- Документація повинна бути зібрана до виходу на ринок і підтримуватись в актуальному стані
- Ключові прогалини для розгортань AI-агентів: визначення передбачуваної мети, опис навчальних даних, докази управління ризиками та процедури моніторингу
- Документація повинна бути «відповідною меті демонстрації відповідності» — функціональною, а не просто існуючою
- Документація Додатку IV безпосередньо пов’язана зі статтями 9, 12, 13, 14, 15 і 17
Вісім категорій документації
Категорія 1: Загальний опис AI-системи
- Передбачувана мета AI-системи (конкретна, не розпливчаста)
- Назва та версія програмного забезпечення
- Взаємодія з апаратним або програмним забезпеченням
- Версії відповідного програмного забезпечення та вимоги до їхніх оновлень
Категорія 2: Специфікації проектування та процес розробки
- Загальний дизайн (технічні специфікації)
- Дизайнерські рішення, припущення та обмеження
- Методології навчання та основні дизайнерські рішення
- Архітектура моделі та використані обчислювальні ресурси
Категорія 3: Інформація про навчання, валідацію та тестування
- Набори даних (або практики управління даними для систем на основі базових моделей)
- Методи перевірки навчальних даних
- Метрики точності, стійкості та інші метрики продуктивності
- Методологія тестування, включно з тестуванням на дискримінаційні ефекти
Категорія 4: Моніторинг, функціонування та контроль
- Можливості та обмеження AI-системи (чесно задокументовані)
- Досягнутий рівень точності, стійкості та кібербезпеки
- Передбачувані ненавмисні використання та зловживання
- Процеси нагляду людини
- Специфікації вхідних даних та умови збою
Категорія 5: Система управління ризиками
- Резюме ризиків, виявлених відповідно до статті 9
- Застосовані заходи зниження
- Залишкові ризики та підстави для їхнього прийняття
Категорія 6: Зміни, внесені до системи
- Зміни, внесені до системи протягом її терміну служби
- Журнал змін з датами, характером змін та оцінкою впливу на відповідність
Категорія 7: Декларація відповідності ЄС
Посилання на Декларацію відповідності ЄС — окремий юридичний документ.
Категорія 8: План моніторингу після виходу на ринок
- Специфікація системи моніторингу
- Терміни та методологія
- План збору даних
- Процес коригувальних дій
Зведений чеклист
| Категорія Додатку IV | Ключова прогалина для AI-агентів | Перевірка статусу |
|---|---|---|
| Загальний опис | Конкретна передбачувана мета | Чи є ваша мета конкретною та відповідною Додатку III? |
| Специфікації проектування | Документація базової моделі | Чи задокументована конфігурація вашого розгортання? |
| Навчання/тестування | Результати оцінки, аналіз підгруп | Чи є у вас результати тестів у файлі? |
| Моніторинг і контроль | Відомі режими збою, нагляд людини | Чи чесно задокументовані режими збою? |
| Управління ризиками | Прийняття залишкового ризику | Чи задокументовані рішення за статтею 9? |
| Управління змінами | Оцінки впливу оновлень моделі | Чи запускають оновлення перевірку відповідності? |
| Декларація відповідності | Потрібна юридична перевірка | Чи складена і підписана декларація? |
| Моніторинг після виходу | Активний план моніторингу | Чи задокументований ваш план моніторингу? |
Поширені прогалини в документації
Прогалина 1: Передбачувана мета занадто розпливчаста.
Прогалина 2: Відсутній журнал змін.
Прогалина 3: Відомі режими збою недостатньо задокументовані.
Прогалина 4: План моніторингу після виходу є декларативним.
Часті запитання
П: Коли повинна бути зібрана документація Додатку IV?
До виходу AI-системи на ринок або введення її в експлуатацію в ЄС.
П: Як довго повинна зберігатися документація Додатку IV?
Десять років або до кінця терміну служби системи — залежно від того, що довше.
П: Чи існує офіційний шаблон ЄС для документації Додатку IV?
Ні. EU AI Act визначає вимоги до змісту, а не до формату.
Микола Ковтун, засновник Infracortex AI Studio. Cortex генерує операційні докази відповідності, що наповнюють вашу документацію Додатку IV. Забронюйте 30-хвилинний дзвінок для аудиту готовності до Додатку IV.
Дивіться також: EU AI Act Стаття 9: безперервне управління ризиками | EU AI Act Стаття 12: вимоги до журналювання | EU AI Act Стаття 15: вимоги до точності та стійкості
Cortex build: 0.1.35-260423
