ПРЕДЛОЖЕНИЕ ПО НЕЗАВИСИМОМУ АУДИТУ ИИ

Author: Сергей Владимирович

Аналог МАГАТЭ для искусственного интеллекта: концепция и механизм С.В. Кибальников, д.т.н. Проректор по инновациям АНО ВО «Открытый гуманитарный институт» Зав. лабораторией стратегии управления социально-технологическими системами МНИИПУ Назначение: Предложить создание международного независимого органа по аудиту и контролю систем искусственного интеллекта по аналогии с МАГАТЭ. 1. ПРОБЛЕМА 1.1. ИИ не регулируется Тип оружия Регулирование Ядерное МАГАТЭ, ДНЯО Химическое ОЗХО, КХО Биологическое КБТО Искусственный интеллект Нет регулирования 1.2. Последствия Случай Что произошло Школа в Иране ИИ ошибочно идентифицировал цель, 168 погибших Система Maven Сотрудники слишком полагались на ИИ Китайское судно ИИ ошибочно определил груз, едва не привёл к войне 1.3. Почему это критично ИИ отличается от других видов оружия: Не требует редких материалов (в отличие от урана). Не требует промышленных мощностей (в отличие от химического оружия). Создаётся людьми у компьютеров. Открытые модели можно модифицировать без контроля. 2. РЕШЕНИЕ: МЕЖДУНАРОДНОЕ АГЕНТСТВО ПО АУДИТУ ИИ 2.1. Название International Artificial Intelligence Audit Agency (IAIAA) Международное агентство по аудиту искусственного интеллекта (МААИИ) 2.2. Мандат Функция Описание Аудит моделей Проверка безопасности и соответствия Верификация Подтверждение заявленных характеристик Мониторинг Наблюдение за разработкой Сертификация Выдача сертификатов соответствия Санкции Применение мер к нарушителям 2.3. Структура text МААИИ ├── Совет безопасности (СБ ООН) ├── Генеральная конференция (все страны) ├── Секретариат ├── Инспекторат └── Технические комитеты ├── Комитет по безопасности моделей ├── Комитет по этике ├── Комитет по верификации └── Комитет по санкциям 3. МЕХАНИЗМ РАБОТЫ 3.1. Аудит моделей Этап Что происходит 1. Декларация Разработчик декларирует модель 2. Проверка Инспекторы проверяют модель 3. Сертификация Выдаётся сертификат соответствия 4. Мониторинг Постоянное наблюдение 5. Санкции При нарушении — меры 3.2. Критерии аудита Критерий Что проверяется Безопасность Не может ли модель причинить вред Прозрачность Понятны ли решения модели Подконтрольность Можно ли остановить модель Этичность Соответствует ли нормам Верифицируемость Можно ли проверить заявления 3.3. Технические инструменты Инструмент Функция AcademicLab Фиксация версий моделей в блокчейне СКВ-матрица Онтологический каркас для проверки NPG-модель Измерение потерь G G 4. ПРАВОВАЯ ОСНОВА 4.1. Аналогия с МАГАТЭ МАГАТЭ МААИИ Создано в 1957 Предлагается создать в 2027 173 государства-члена Открыто для всех Устав — международный договор Устав — международный договор Инспекции на местах Аудит моделей Санкции через СБ ООН Санкции через СБ ООН 4.2. Необходимые документы Международная конвенция по аудиту ИИ. Устав МААИИ. Протокол о верификации. Протокол о санкциях. 5. ЭТАПЫ СОЗДАНИЯ Этап Срок Что происходит 1. Инициатива 2027 Предложение на уровне ООН 2. Переговоры 2027–2028 Согласование устава 3. Подписание 2028 Конвенция открыта для подписания 4. Ратификация 2028–2029 Страны ратифицируют 5. Запуск 2029 Агентство начинает работу 6. Первые инспекции 2030 Аудит первых моделей 6. РИСКИ И РЕШЕНИЯ Риск Решение Страны не согласятся Начать с ЕАЭС, потом ООН Корпорации против Показать выгоды: доверие, рынок Техническая сложность Использовать AcademicLab Политизация Технический мандат 7. ФИНАЛЬНЫЙ ТЕЗИС «ИИ не регулируется. Это гонка без правил. Нужен независимый орган — аналог МАГАТЭ. Сначала на уровне ЕАЭС, потом — ООН. AcademicLab и СКВ-матрица дают технические инструменты для этого». Контакт: С.В. Кибальников, д.т.н. @kibalnikov