Аналитический центр при правительстве (АЦ) в июне опубликовал «справку по первым принятым стандартам в области ИИ», из которой следует, что к настоящему времени в стране действуют девять ГОСТ, так или иначе связанных с искусственным интеллектом (ИИ).
Принятая в декабре 2020 года перспективная программа стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021-2024 годы, утверждённая Росстандартом и Минэкономразвития России, предусматривает разработку 217 стандартов, сообщает АЦ.
Из опубликованных ГОСТ, относящихся к ИИ, только два стандарта – ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения» и ГОСТ Р 59277-2020 «Системы искусственного интеллекта. Классификация систем искусственного интеллекта» – носят общий, основополагающий характер. Разработчики – Всероссийский научно-исследовательский институт сертификации (АО «ВНИИС») и ООО «ТВпортал».
ГОСТ Р 59276-2020 определяет доверие к ИИ-системе как «уверенность потребителя, и, при необходимости, организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, и иных заинтересованных сторон в том, что система способна выполнять возложенные на неё задачи с требуемым качеством».
Откуда такая уверенность у потребителя может родиться, ГОСТ не говорит.
Документ оперирует термином «понятность (transparency)», но с «уверенностью потребителя» «понятность» не связывает. Между тем именно прозрачность ИИ-системы, её способность быть подвергнутой анализу для выяснения того, как ИИ принимает решения, действуют ли установленные разработчиком ИИ-системы ограничения – критически важна для того, чтобы обеспечить «уверенность потребителя».
Национальная стратегия одним из принципов развития ИИ в России называет именно прозрачность: «предсказуемость результатов работы искусственного интеллекта, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий ИИ, к информации о применяемых в этих продуктах алгоритмах работы ИИ».
ГОСТ же рассматривает «понятность» как характеристику «практичности» ИИ-систем.
Заметим в этой связи, что задача стандартизации ИИ-систем, обеспечивающей предсказуемость и исключающей предвзятость, чрезвычайно сложна. На этой неделе NIST объявил сбор предложений, которые могли бы помочь «выявлению предвзятости (bias) ИИ и тому, как с нею справляться».
ГОСТ Р 59277-2020 (классификация ИИ-систем) «позволит заинтересованным сторонам выбирать надлежащие решения для их приложений и сравнивать качество доступных решений», утверждают разработчики стандарта. Предложенная классификация ИИ-систем носит весьма общий, универсальный характер и одновременно совершает попытки детализации. Так, например, «по комплексности и сложности систем» ГОСТ разделяет ИИ-системы на «многоагентные, системы «Большие данные», промышленный Интернет вещей, киберфизические системы, системы жизненного цикла, системы сетевой экспертизы, распределённые системы управления, системы распределённых ситуационных центров и прочие».
Остальные семь ГОСТов относятся к частным случаям применения ИИ-систем. Это:
ГОСТ Р 59278-2020 «Информационная поддержка жизненного цикла изделий. Интерактивные электронные технические руководства с применением технологий искусственного интеллекта и дополненной реальности. Общие сведения».
ГОСТ Р 59237-2020 «Платформа «Автодата». Термины и определения».
ГОСТ Р 59236-2020 «Платформа «Автодата». Общие положения».
ГОСТ Р 58776-2019 «Средства мониторинга поведения и прогнозирования намерений людей. Термины и определения».
ГОСТ Р 58777-2019 «Воздушный транспорт. Аэропорты. Технические средства досмотра. Методика определения показателей качества распознавания незаконных вложений по теневым рентгеновским изображениям».
ГОСТ Р 59385-2021 «Информационные технологии. Искусственный интеллект. Ситуационная видеоаналитика. Термины и определения».
ГОСТ Р 59391-2021 «Средства мониторинга поведения и прогнозирования намерений людей. Аппаратно-программные средства с применением технологий искусственного интеллекта для колесных транспортных средств. Классификация, назначение, состав и характеристики средств фото- и видеофиксации».
Отметим содержащееся в ГОСТ Р 59278-2020 (информационная поддержка жизненного цикла изделий) следующее определение понятия «технологии ИИ» – «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека при решении задач компьютерного зрения, обработки естественного языка, распознавания и синтеза речи, поддержки принятия решений и других практически значимых задач обработки данных».
Такое же определение ИИ содержится в национальной стратегии развития ИИ.
«Автодата», сказано в отчёте АЦ, это «сервисная навигационно-телематическая платформа, предназначенная для сбора данных …об эксплуатации транспортных средств, о транспортных средствах и их владельцах, о дорожной инфраструктуре и иной информации автотранспортной сферы, в том числе связанную с логистикой людей и вещей».
«Средства мониторинга поведения и прогнозирования намерений людей» (ГОСТ Р 59391-2021) – этот термин, хотя и кажется охватывающим очень широкую предметную область, относится к поведению пешеходов и водителей на дорогах общего пользования.