ИИ не хватит опыта, чтобы справиться со следующим финансовым кризисом

Все чаще на искусственный интеллект перекладывают бремя принятия решений в финансовой сфере. Менеджеры на фондовых рынках поручают им вести торги, изучив экономические паттерны. Чем больше данных у ИИ, тем лучше он учится, а финансовый мир — просто кладезь данных. Но что произойдет, если ИИ столкнется с аномальной ситуацией, к которой весь прошлый опыт его не подготовил?

2017 год породил в 10 раз больше данных, чем 2010. Это значит, что основная их концентрация — в недалеком прошлом, в мире, который привык к дешевым деньгам, раздаваемым центробанками. Такое состояние рынка нельзя назвать «естественным». В результате мы видим рост числа компаний-зомби и необычно крупные корпоративные обратные выкупы.

С таким количеством данных, накопленных за последние десять лет, ИИ может не знать, как выглядит «обычный» рынок. Роберт Каплан, президент Федерального резервного фонда Далласа, указал недавно на некоторые крайности, существующие сегодня:

Если нынешний период завершится крахом, ИИ, обученный на прогнозируемом потоке денег от центральных банков, не сможет понять, что означают новые данные.

Совет по финансовой стабильности, созданный странами Большой двадцатки по итогам последнего финансового кризиса, недавно изучил потенциальный ущерб, который ИИ и машинное обучение могут нанести финансовой стабильности. Один из рисков — рост использования ИИ хедж-фондами и маркетмейкерами. А так как ИИ весьма эффективен в оптимизации комплексных систем, его использование может и дальше ужесточить параметры, важные для стабильности рынка.

Вопрос, что будет делать ИИ, если столкнется с непривычной ситуацией, остается открытым. Поскольку финансовые системы становятся все более взаимосвязанными, в случае краха ИИ может ускорить распространение кризиса, подрывая стабильность всей системы, делает вывод Quartz. Это особенно верно в том случае, когда источники данных и стратегии ИИ связаны, и под удар попадает один из источников данных.

В качестве примера можно рассмотреть ситуацию с беспилотным транспортом. Когда Google обучала такой автомобиль на улицах Маунтин-Вью, штат Калифония, машина завернула за угол и обнаружила даму в инвалидном кресле, которая отгоняла утку метлой. Автомобиль никогда раньше такого не видел, поэтому он остановился и стал ждать. Когда Tesla на автопилоте не смогла узнать едущий впереди грузовик, она продолжила движение. В обоих случаях, ситуация оказалась для них незнакомой — но в одном случае включился режим защиты, а в другом система попросту отказала.