В США официально объявлены принципы «этичного» использования ИИ-систем в военном деле

Минобороны США официально приняло ряд принципов, «гарантирующих этический подход к разработке и применению систем искусственного интеллекта», заявили представители Пентагона в понедельник.

Эти принципы базируются на рекомендациях совета Минобороны по инновациям, представленных осенью 2019, и сводятся к следующему.

Ответственность. Сотрудники Минобороны, отвечающие за разработку, внедрение и использование ИИ, должны будут проходить тренинги, поднимающие их «здравомыслие и внимательность» на «должный уровень».

Соразмерность. Пентагон предпримет необходимые шаги для минимизации «непредумышленной предвзятости» ИИ-систем.

Доступность для анализа. ИИ-системы Пентагона будут разрабатываться и внедряться так, чтобы эксплуатирующий их персонал обладал необходимым пониманием технологии, процесса разработки и методов работы с ИИ, включая прозрачные, контролируемые методы [контроля работы ИИ-систем], источники данных, процедуры разработки и документирования.

Надёжность. Сферы применения военных ИИ-систем будут описаны ясно и однозначно; безопасность, защищённость и эффективность систем будет проверяться и испытываться в процессе всего жизненного цикла.

Управляемость. Минобороны будет разрабатывать ИИ-системы, способные обнаруживать «непредвиденные последствия» своей работы, с возможностью «деактивировать» системы, демонстрирующие «незапланированное поведение».

Этические принципы использования ИИ-систем американскими военными, как ожидается, должны применяться во всех процессах, относящихся к «киберсфере» — от сбора данных до тестирования [программ и устройств]. Но для соблюдения принятых принципов необходимо будет разработать более конкретные руководства. Также пока остаётся открытым вопрос – на ком будет лежать ответственность в каждой ситуации.

«Следует весьма вдумчиво относиться к вопросам – откуда берутся данные (очевидно, речь о данных, используемых в обучении ИИ-систем – ред.), каково их происхождение, как эта информация использовалась в прошлом, иначе можно невольно впасть в предвзятость и получить на выходе алгоритм, существенно отличный от того, что был задуман», — сказал IT-директор Пентагона Дана Дизи (Dana Deasy).

СЛЕДУЮЩИЙ МАТЕРИАЛ РАЗДЕЛА "IT"