Кто участвует в разработке стандартов для ИИ: ключевые организации и инициативы

Зачем нужны стандарты в области искусственного интеллекта

Искусственный интеллект стремительно внедряется в различные сферы: от медицины и транспорта до финансов и государственного управления. Однако отсутствие единых норм и требований создает серьезные проблемы. Например, при закупке программно-аппаратного комплекса для диагностики на основе ИИ организация сталкивается с трудностями на этапе формирования технического задания, идентификации, методики приемки и оценки соответствия, так как нормативная база еще только формируется.

Стандарты предоставляют общий язык и набор руководящих принципов, которые помогают реализовать принципы надежного ИИ, поддержать внедрение регуляций и решить проблемы безопасности. Они унифицируют процессы, обеспечивают совместимость систем и повышают доверие к технологиям. Без стандартов сложно оценить качество, безопасность и этичность ИИ-решений, что замедляет их распространение и создает риски для пользователей.

Кроме того, стандарты способствуют экономическому эффекту. По оценкам экспертов, к 2030 году внедрение ИИ в России может принести более 10 трлн рублей, причем около 75% этой суммы придется на экономию ресурсов и снижение расходов, а остальное — на регулирование, так как стандарты помогают унифицировать процессы и снизить издержки.

Международные организации по стандартизации: ISO/IEC JTC 1/SC 42

На международном уровне ключевую роль играет совместный технический комитет ISO/IEC JTC 1/SC 42, созданный Международной организацией по стандартизации (ISO) и Международной электротехнической комиссией (IEC). Этот подкомитет занимается стандартизацией в области искусственного интеллекта, разрабатывая комплексный набор стандартов, охватывающих терминологию, фреймворки, управление рисками и другие аспекты.

Одним из важных документов является стандарт ISO/IEC 23894, который содержит рекомендации по управлению рисками, связанными с системами ИИ, на протяжении всего их жизненного цикла. Он помогает организациям выявлять, оценивать и снижать риски, обеспечивая надежность ИИ-систем.

Среди других опубликованных стандартов:

• ISO/IEC 22989 — концепции и терминология ИИ;
• ISO/IEC 23053 — фреймворк для систем ИИ с использованием машинного обучения;
• ISO/IEC 24027 — предвзятость в системах ИИ и принятии решений;
• ISO/IEC 24029 — оценка устойчивости нейронных сетей.

Эти стандарты создают общее понимание концепций ИИ, устанавливают рамки для разработки и оценки систем, а также решают конкретные проблемы, такие как предвзятость и устойчивость.

IEEE и этические стандарты для ИИ

Институт инженеров электротехники и электроники (IEEE) активно участвует в разработке стандартов, уделяя особое внимание этическим вопросам и социальному влиянию ИИ. Глобальная инициатива IEEE по этике автономных и интеллектуальных систем разработала ряд стандартов и руководящих принципов, направленных на ответственную разработку и внедрение ИИ.

Одним из наиболее заметных стандартов является IEEE 7000-2021, который описывает процесс разрешения этических проблем при проектировании систем. Он подчеркивает важность взаимодействия заинтересованных сторон, оценки рисков и постоянного мониторинга, чтобы системы ИИ соответствовали этическим принципам и общественным ценностям.

Другие значимые стандарты IEEE включают:

• IEEE 7007-2021 — онтологический стандарт для этически управляемой робототехники и автоматических систем;
• IEEE 7010-2020 — рекомендуемая практика оценки влияния автономных и интеллектуальных систем на благополучие человека.

Эти стандарты способствуют прозрачности, подотчетности и учету этических последствий при разработке и внедрении ИИ.

NIST и управление рисками ИИ в США

Национальный институт стандартов и технологий (NIST) — нерегулирующее агентство Министерства торговли США — разрабатывает стандарты и руководства для ИИ. Ключевой инициативой является Framework for AI Risk Management (AI RMF), которая предлагает структурированный подход к выявлению, оценке и управлению рисками, связанными с системами ИИ.

AI RMF организован вокруг четырех функций: Управлять (Govern), Картировать (Map), Измерять (Measure) и Управлять (Manage). Он подчеркивает важность создания структур управления, картирования контекста и потенциальных рисков, измерения и оценки этих рисков, а также внедрения стратегий по их снижению. Фреймворк гибкий и адаптируемый к различным организационным контекстам и сценариям использования ИИ.

NIST также участвует в разработке стандартов, связанных с предвзятостью, объяснимостью и безопасностью ИИ, предоставляя практические рекомендации для организаций.

ETSI и безопасность ИИ в Европе

Европейский институт стандартов телекоммуникаций (ETSI) сосредоточен на разработке стандартов, связанных с безопасностью ИИ. Группа отраслевых спецификаций ETSI по обеспечению безопасности искусственного интеллекта (SAI) работает над решением проблем, связанных с атаками на системы ИИ и использованием ИИ в кибербезопасности.

Одной из ключевых инициатив ISG SAI является разработка технического отчета по стратегиям смягчения атак на системы ИИ, включая атаки с отравлением, уклонением и кражей моделей. Также обсуждается важность тестирования и валидации безопасности моделей ИИ для обеспечения их надежности и устойчивости.

ETSI также занимается стандартами, связанными с объяснимостью и прозрачностью ИИ, чтобы системы были понятны и интерпретируемы пользователями, что способствует доверию и подотчетности.

AI Standards Hub: британская инициатива

AI Standards Hub — совместная инициатива, возглавляемая Институтом Алана Тьюринга, Британским институтом стандартов (BSI) и Национальной физической лабораторией (NPL). Она направлена на содействие разработке и внедрению стандартов ИИ в Великобритании.

Хаб структурирован вокруг четырех ключевых направлений: обсерватория, сообщество, знания и исследования. Обсерватория отслеживает ландшафт стандартов ИИ, сообщество способствует сотрудничеству заинтересованных сторон, знания предлагают обучение и ресурсы, а исследования проводят анализ для выявления пробелов и возможностей.

Первоначальное внимание уделяется разработке стандартов, связанных с надежным ИИ, включая прозрачность, объяснимость, безопасность и устойчивость. AI Standards Hub стремится ускорить разработку и внедрение стандартов ИИ в Великобритании и за ее пределами.

Российский технический комитет ТК 164

В России разработкой стандартов в области ИИ занимается Технический комитет № 164 (ТК 164) по стандартизации в области искусственного интеллекта. Его приоритетная задача — нормативно-техническое регулирование прикладного использования ИИ и формирование программы национальных стандартов.

В состав ТК 164 входят ведущие игроки ИТ-рынка и профильные ведомства: «Яндекс», «Сбер», «Лаборатория Касперского», «Газпром», «Газпромнефть», МГТС, РЖД, «Росатом», ФСБ, Минпромторг, Минэкономразвития, Минздрав, организация «РУССОФТ», ведущие университеты и другие. Это те, кто активно использует ИИ в проектах беспилотных автомобилей, роботов доставки, голосовых помощников и т.д.

ТК 164 уже подготовил предложения по формированию корпуса национальных стандартов в области ИИ, насчитывающего 144 документа на 2021–2024 годы. Эти стандарты ориентированы на поддержку применения ИИ в промышленности, здравоохранении, госуправлении, строительстве, сельском хозяйстве, образовании, ЖКХ, на транспорте и в других отраслях.

Роль компаний-производителей: пример Fplus

Компании, производящие аппаратные решения, также участвуют в разработке стандартов. Например, российский производитель электроники Fplus включен в состав ТК 164 и является единственным производителем аппаратных решений в комитете, так как большинство участников специализируется на программном обеспечении.

Fplus стремится поднять вопросы, связанные с требованиями к оборудованию, архитектуре его построения и безопасности внешнего контура. Компания имеет опыт в проектах с использованием ИИ и может дать экспертную оценку по ряду вопросов.

Fplus также вошла в подкомитет ПК 03 «Искусственный интеллект в дорожно-транспортном комплексе» и ПК 02 «Данные». Это обусловлено тем, что оборудование компании используется как для построения ИИ-систем, так и для работы с большими данными. В дорожно-транспортном комплексе ИИ применяется для идентификации, анализа, прогнозирования, управления инфраструктурой и беспилотными транспортными средствами. В подкомитете по данным закладываются терминология, требования к качеству данных, методики оценки работоспособности и этические аспекты.

Как формируются национальные стандарты: процесс и участники

Процесс разработки национальных стандартов включает несколько этапов: сбор предложений, обсуждение в рабочих группах, публичное обсуждение, голосование и утверждение. Участниками могут быть государственные органы, компании, научные организации, отраслевые ассоциации и отдельные эксперты.

В России разработкой стандартов занимаются технические комитеты, созданные при Росстандарте. Они формируют программы стандартизации, определяют приоритетные направления и организуют работу экспертов. В ТК 164 входят представители крупных компаний, ведомств и университетов, что обеспечивает учет интересов различных сторон.

Важную роль играют отраслевые ассоциации, такие как «РУССОФТ», которые представляют интересы разработчиков ПО. Они участвуют в обсуждении стандартов и лоббируют интересы своих членов. Также привлекаются независимые эксперты и научные сотрудники для обеспечения объективности и научной обоснованности стандартов.

Проблемы и перспективы стандартизации ИИ

Несмотря на активную работу, стандартизация ИИ сталкивается с рядом проблем. Во-первых, технологии развиваются быстрее, чем разрабатываются стандарты, что приводит к устареванию документов. Во-вторых, существует разрыв между международными и национальными стандартами, что создает сложности для глобальных компаний. В-третьих, этические и социальные аспекты ИИ сложно формализовать в виде стандартов.

Однако перспективы выглядят обнадеживающими. Международные организации, такие как ISO/IEC и IEEE, активно сотрудничают с национальными комитетами, что способствует гармонизации стандартов. Развитие стандартов в области безопасности, объяснимости и управления рисками повышает доверие к ИИ и стимулирует его внедрение.

В России ТК 164 продолжает работу по актуализации стандартов, учитывая новые вызовы. Ожидается, что к 2030 году эффект от внедрения ИИ составит более 10 трлн рублей, и стандарты сыграют в этом ключевую роль.

Вопросы и ответы