Российская стратегия развития ИИ: этика, благосостояние народа, отечественные технологии

Указом президента РФ от 10.10.2019 № 490 утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 года». Указ опубликован на официальном портале правовой информации в пятницу.

Документ определяет принципы, цели и задачи развития искусственного интеллекта (ИИ) в нашей стране. Стратегия опирается, в частности, на указы президента Российской Федерации от 7 мая 2018 г. №204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года» от 9 мая 2017 г. №203 «О Стратегии развития информационного общества в Российской Федерации на 2017–2030 годы», от 1 декабря 2016 г. №642 «О Стратегии научно-технологического развития Российской Федерации».

Стратегия развития ИИ, в свою очередь, влияет на реализацию Стратегии развития информационного общества в Российской Федерации на 2017–2030 годы и национальной программы «Цифровая экономика Российской Федерации».

Исполнение стратегии развития ИИ названо в документе условием «международного лидерства Российской Федерации в развитии и внедрении технологий ИИ и …технологической независимости и конкурентоспособности страны».

Определения

ИИ в документе определён как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе такое, в котором используются методы автоматического машинного обучения), процессы и сервисы по обработке данных и поиску решений, сказано в стратегии развития ИИ.

Технологиями ИИ стратегия называет: компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы ИИ – т.е. методы, направленные на создание принципиально новой научно-технической продукции, в том числе в целях разработки т.н. сильного ИИ.

(Сильный ИИ – это гипотетическая технология, с помощью которой можно имитировать не только «когнитивные функции человека», но и саму человеческую личность; разработка сильного ИИ, если она в принципе возможна, дело будущего).

В настоящее время ИИ на практике ассоциируется почти исключительно с нейросетями – IT-системами, способными к самообучению на «репрезентативном, релевантном и корректно размеченном наборе данных», сказано в документе. (В обучении нейросетей, заметим, часто участвует человек, именно из-за этого, например, Apple попала в скандал, передавая записи голоса владельцев смартфонов специально нанятым людям для проверки качества распознавания речи).

«Нейросети «являются примером ИИ, способного решать только узкоспециализированные задачи (слабый ИИ)», сказано в документе.

Стратегия развития ИИ в России специально отмечает: «…Алгоритмы работы нейронных сетей крайне сложны для интерпретации и, следовательно, результаты их работы могут быть подвергнуты сомнению и отменены человеком. Отсутствие понимания того, как искусственный интеллект достигает результатов, является одной из причин низкого уровня доверия к современным технологиям искусственного интеллекта и может стать препятствием для их развития».

Принципы развития ИИ

Из последнего утверждения вытекает самый общий, основополагающий принцип развития ИИ – подконтрольность ИИ-систем человеку. Такая подконтрольность должна быть обеспечена как в смысле безопасности для человека решений, принимаемых ИИ, так и в смысле экономических и социальных последствий промышленного применения ИИ-систем.

В мае, напомним, принципы развития ИИ сформулировала ОЭСР. Эти принципы опираются на «Этические рекомендации по надёжному ИИ», разработанные Еврокомиссией.

Принципы развития ИИ, сформулированные ОЭСР, обсуждались на июньской встрече G20 в Осаке, что, подводя итоги G20, отметил президент России. Российская стратегия развития ИИ учитывает опыт ЕС и ОЭСР в этой области.

Принципы развития ИИ в России – выдержки из стратегии
  • защита прав и свобод человека: обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики;
  • безопасность: недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и юридическим лицам, а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта;
  • прозрачность: предсказуемость результатов работы искусственного интеллекта, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий искусственного интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта;
  • технологический суверенитет: обеспечение необходимого уровня самостоятельности Российской Федерации в области искусственного интеллекта, в том числе посредством преимущественного использования отечественных технологий искусственного интеллекта и технологических решений, разработанных на основе искусственного интеллекта;
  • целостность инновационного цикла: обеспечение тесного взаимодействия научных исследований и разработок в области искусственного интеллекта с реальным сектором экономики;
  • разумная бережливость: осуществление и адаптация в приоритетном порядке существующих мер, направленных на реализацию государственной политики в научно-технической и других областях.

Вместе с тем российские принципы развития ИИ имеют очевидную национальную специфику. Она обусловлена целями развития ИИ, заданными стратегией.

Цели развития ИИ в России и задачи, которые надо решить для достижения этих целей

Стратегия объявляет целями развития ИИ в России «обеспечение роста благосостояния и качества жизни её населения, обеспечение национальной безопасности и правопорядка, достижение устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области ИИ».

Для достижения целей развития ИИ должны быть решены следующие основные задачи:

  • поддержка научных исследований в целях обеспечения опережающего развития ИИ;
  • разработка и развитие программного обеспечения, в котором используются технологии ИИ;
  • повышение доступности и качества данных, необходимых для развития технологий ИИ;
  • повышение доступности аппаратного обеспечения, необходимого для решения задач в области ИИ;
  • повышение уровня обеспечения российского рынка технологий ИИ квалифицированными кадрами и уровня информированности населения о возможных сферах использования таких технологий;
  • создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий ИИ.

В обеспечение этих задач в стратегии перечислены определённые действия, в частности, «поддержка экспорта российских продуктов (услуг), созданных (оказываемых) с использованием ИИ, и их продвижения на мировой рынок», наряду с «обеспечением роста спроса со стороны российских граждан, организаций и государственных органов на продукты (услуги), созданные (оказываемые) с использованием ИИ».

Стратегия конкретизирует условия развития ИИ в России. Так, к 2024 году «должна быть создана инфраструктура поддержки отечественных организаций, осуществляющих деятельность в области ИИ, включая создание высокопроизводительных центров обработки данных». Кроме этого к 2024 году «должны быть разработаны российские микропроцессоры, не уступающие мировым аналогам по скорости и энергоэффективности».

К 2030 году также должны быть открыты специализированные центры обработки данных на основе российских микропроцессоров, «разработаны принципиально новые типы архитектур вычислительных систем и зарегистрированы интеллектуальные права на них».

Современный уровень развития ИИ-технологий в России

Некоторое представление об уровне и потенциале развития ИИ в России среди даёт индекс «ИИ-готовности» готовности государств (Government Artificial Intelligence Readiness Index 2019), рассчитанный в 2019 году исследовательской компанией Oxford Insights совместно с International Development Research Centre. В этом рейтинге Россия занимает высокое29-е место (значение индекса 6,748).

Среди постсоветских государств это второе место – нас опережает только Эстония (6,968). На первом месте в мире Сингапур (9,186), США – на четвёртом (8,804).

Что следует сделать сейчас и до 30-го года

Стратегия указывает на необходимость создания «нормативно-правовой базы, предусматривающей обеспечение защиты данных, полученных при осуществлении экономической и научной деятельности», в том числе их хранение преимущественно на территории Российской Федерации, а также установление приоритетного доступа российских государственных органов и организаций к таким данным».

Должны обеспечиваться особые условия (режимы) для доступа к данным, персональным в том числе, в интересах научных исследований, создания технологий ИИ и их прикладное применение.

В стратегии также сказано об «адаптации нормативного регулирования в части, касающейся взаимодействия человека с ИИ, и выработке соответствующих этических норм».

К 2024 году российским организациям должны быть доступны наборы данных, которые соответствуют методологиям их сбора и разметки и хранятся на общедоступных платформах. При этом персональные и иные данные, доступ к которым ограничен федеральными законами, должны быть надёжно защищены, их обработка должна соответствовать международным обязательствам Российской Федерации.

К этому же времени «должен существенно повыситься уровень участия российских специалистов в международном обмене знаниями, их вклад в создание открытых библиотек ИИ. Российскими специалистами должны быть созданы широко применяемые в мире открытые библиотеки (координируемые российскими исследователями и научным сообществом) и программное обеспечение, в которых используются технологии ИИ по всем востребованным специализированным направлениям практической деятельности.

К 2030 году должно быть разработано программное обеспечение, в котором используются технологии искусственного интеллекта, для решения задач в различных сферах деятельности. Российские организации, разрабатывающие такое программное обеспечение, должны войти в группу лидеров на мировом рынке.

Резюме

Стратегия развития ИИ в России отвечает на вопросы, вызванные появлением практически применимых и уже широко используемых технологий ИИ.

Прежде всего, она решает этические проблемы, связанные с ИИ, в соответствии с международными если не стандартами (их нет), то, во всяком случае, в соответствии с общепринятыми среди технологически развитых стран принципами. Важная составная часть этических проблем, порождённых ИИ – защита личных данных граждан страны – также ясно описана в стратегии.

Технологии ИИ, их прикладное применение зависимы от данных не меньше, чем от программного обеспечения, такова важнейшая особенность ИИ-систем. Поэтому установить контроль над собственными данными критически важно для любой страны, поставившей перед собой цель добиться технологической самостоятельности. Стратегия развития ИИ в России это учитывает в полной мере.

Другие условия развития ИИ – кадры, собственно технологии (программное обеспечение и вычислительная техника), исследовательская база – в документе также описаны: сказано, что технологии ИИ вплоть до процессоров будут отечественными или созданными при существенном участии отечественных специалистов.

В целом схема развития ИИ, описанная в стратегии, ясно указывает цели и без изъянов охватывает всё, что необходимо для их достижения. Дело теперь «лишь» в том, как решить перечисленные выше задачи.

Принципиально важным представляется то, что документ ответил на вопрос «зачем ИИ нужен России». Содержание этого ответа выделяет отечественную стратегию развития ИИ в сравнении с аналогичными доктринами других государств.

Так, в США рассматривают развитие ИИ как средство сохранить привычное технологическое превосходство. Китай (который благодаря одной только численности населения обладает важным преимуществом над другими странами – у него больше всех данных для обучения ИИ-систем) рассчитывает за счёт ИИ утвердиться в роли нового технологического лидера, не обращая пристального внимания на этическую сторону дела в связи с использованием упомянутых данных для обучения ИИ-систем и их применением на практике. Европа с её веками устоявшимися (и устраивающими европейцев) правилами размеренной жизни, напротив, мечтает о сохранении статус-кво и заботится не столько о технологиях ИИ, сколько об этике их применения.

Россия же, как следует из утверждённой президентом стратегии, рассчитывает использовать ИИ с целью собственного развития ради обеспечения благополучия граждан.

СЛЕДУЮЩИЙ МАТЕРИАЛ РАЗДЕЛА "IT"