Надзор за искусственным интеллектом – зарубежный опыт

Анкета для владельца алгоритмической системы

Для оценки уровня воздействия государственных алгоритмических систем в Канаде предусмотрен следующие вопросы (полный перечень вопросов см. здесь).

1. Описание проекта

3. Характеристика рисков

3.1. Находится ли проект в зоне интенсивного общественного контроля (например, из-за проблем с конфиденциальностью) и/или частых судебных разбирательств? Варианты ответа: да, нет.
3.2. Являются ли клиенты в этой сфере бизнеса особенно уязвимыми? Варианты ответа: да, нет.
3.3. Очень ли высоки ставки принимаемых решений? Варианты ответа: да, нет.
3.4. Будет ли этот проект иметь серьезные последствия для персонала, как с точки зрения их численности, так и с точки зрения их роли? Варианты ответа: да, нет.

5. О системе

5.1. Пожалуйста, отметьте, какие возможности применимы к вашей системе. Варианты ответов:

    • распознавание изображений и объектов: анализ очень больших наборов данных для автоматизации распознавания, классификации и распознавания контекста;
    • анализ текста и речи: анализ больших наборов данных для распознавания, обработки и «тэгирования» текста, речи, голоса и выработки рекомендаций на основе тэгов;
    • оценка рисков: анализ очень больших массивов данных для выявления закономерностей и выработки рекомендаций относительно направлений действий, а в некоторых случаях и для инициирования конкретных действий;
    • генерация контента: анализ больших наборов данных для категоризации, обработки, сортировки, персонализации и обслуживания контента в конкретных контекстах;
    • оптимизация процессов и автоматизация рабочих процессов: анализ больших наборов данных для выявления аномалий и кластерных моделей, прогнозирования результатов или способов оптимизации, а также автоматизация конкретных рабочих процессов;
    • другое (уточните).

5.2. Будет ли ваш алгоритм соответствовать любой из следующих характеристик:

5.2.1. Используемый алгоритм будет являться коммерческой тайной? Варианты ответа: да, нет.
5.2.2. Алгоритмический процесс будет трудно интерпретировать или объяснить? Варианты ответа: да, нет.

6. О решении

6.1. Относится ли решение к какой-либо из приведенных ниже категорий (отметьте все, что применимо):

    • услуги, связанные с охраной здоровья;
    • экономические интересы (гранты и взносы, налоговые льготы, взыскание долгов);
    • социальная помощь (например, требования по инвалидности
      и т.д);
    • доступ и мобильность (пропуска по соображениям безопасности, пограничные переходы);
    • лицензирование и выдача разрешительных документов;
      другое (уточните).

7. Оценка воздействия

7.1. Будет ли система использоваться только для оказания помощи лицам, принимающим решения? Варианты ответа: да, нет.
7.2. Заменит ли система решение, которое могло быть принято человеком? Варианты ответа: да, нет.
7.3. Будет ли система заменять человеческие решения, требующие рассудительности или осмотрительности? Варианты ответа: да, нет.
7.4. Используется ли система другой частью организации, чем те, кто ее разработал? Варианты ответа: да, нет.
7.5. Являются ли последствия, вытекающие из этого решения, обратимыми? Варианты ответа: обратимые, вероятно обратимые, сложно обратимые, необратимые.
7.6. Как долго длятся последствия этого решения? Варианты ответа: практически нет воздействия, умеренное воздействие, сильное воздействие, очень сильное воздействие.

7.6.1. Пожалуйста, опишите, почему последствия, вытекающие из этого решения, соответствуют выбранному выше варианту (открытый ответ).

7.7. Последствия, которые это решение окажет на права и свободы отдельных лиц, скорее всего, будут следующими. Варианты ответа: практически нет воздействия, умеренное воздействие, сильное воздействие, очень сильное воздействие.

7.7.1. Пожалуйста, опишите, почему последствия, вытекающие из этого решения, таковы (в соответствии с выбранным выше вариантом, открытый ответ).

7.8. Последствия, которые это решение окажет на здоровье и благополучие отдельных людей, скорее всего, будут следующими. Варианты ответа: практически нет воздействия, умеренное воздействие, сильное воздействие, очень сильное воздействие.

7.8.1. Пожалуйста, опишите, почему последствия, вытекающие из этого решения, таковы (в соответствии с выбранным выше вариантом, открытый ответ).

7.9. Последствия, которые это решение окажет на экономические интересы отдельных лиц, скорее всего, будут следующими. Варианты ответа: практически нет воздействия, умеренное воздействие, сильное воздействие, очень сильное воздействие.

7.9.1. Пожалуйста, опишите, почему последствия, вытекающие из этого решения, таковы (в соответствии с выбранным выше вариантом, открытый ответ).

7.10. Последствия, которые это решение окажет на текущую устойчивость экологической экосистемы, скорее всего, будут следующими. Варианты ответа: практически нет воздействия, умеренное воздействие, сильное воздействие, очень сильное воздействие.

7.10.1. Пожалуйста, опишите, почему последствия, вытекающие из этого решения, таковы (в соответствии с выбранным выше вариантом, открытый ответ).

СЛЕДУЮЩИЙ МАТЕРИАЛ РАЗДЕЛА "IT"