Главное, что может сейчас сделать искусственный интеллект в экономике: усилить финансовые кризисы

[Просто цитирую*] Мы предполагаем, что ИИ не создаст новых фундаментальных причин кризисов, а усилит существующие. Это:
- чрезмерный левередж (кредитное плечо), который делает финансовые институты уязвимыми даже для небольших потрясений [отношение заёмного капитала к собственным средствам];
- стремление к самосохранению во время кризиса, которое заставляет участников рынка предпочитать наиболее ликвидные активы;
- непрозрачность системы, сложность и асимметричность информации, которые заставляют участников рынка не доверять друг другу во время стресса.

Когда в дело вступает ИИ:

Мы находим четыре канала, по которым экономика уязвима к рискам ИИ:
1. Канал дезинформации: возникает из-за того, что пользователи ИИ не осознают его ограничений, но становятся все более зависимыми от него.
2. Канал злонамеренного использования: возникает из-за того, что система изобилует обладающими значительными ресурсами экономическими агентами, которые хотят максимизировать свою прибыль и не слишком обеспокоены социальными последствиями своей деятельности.
3. Канал рассогласованности: возникает из-за трудностей, связанных с обеспечением того, чтобы ИИ следовал целям, поставленным его операторами-людьми.
4. Канал олигополистической структуры рынка: проистекает из бизнес-моделей компаний, которые разрабатывают и используют механизмы ИИ. Эти компании получают растущую отдачу от масштаба, что может препятствовать выходу на рынок новых игроков, повышать однородность и формировать монокультуру риска.

Как ИИ может дестабилизировать систему
Для эффективности ИИ нужны данные – даже больше, чем людям. Это не должно быть проблемой, поскольку система ежедневно генерирует терабайты данных, с которыми работает ИИ. Проблема в том, что почти все эти данные поступают из середины распределения результатов системы, а не из «хвостов». Кризисы всегда связаны с «хвостами» (маловероятные события, потрясения или экстремальные движения рынка, которые лежат за пределами нормальных распределений. Случаются редко, но приносят непропорционально большой ущерб; «черные лебеди» в популярной терминологии Нассима Талеба).

«Хвостовые» риски ИИ
Столкнувшись с экзистенциальными угрозами для компании, ИИ оптимизирует решение для выживания. Но именно здесь сама скорость и эффективность ИИ работают против системы. Если другие финансовые институты делают то же самое, они координируют усилия по достижению кризисного равновесия. Итак, все институты влияют друг на друга, потому что все они принимают одно и то же решение; и все стараются отреагировать как можно быстрее, поскольку тот, кто первым избавится от рискованных активов, лучше всего сможет пережить шторм.
Следствие этого – возросшая неопределенность, приводящая к крайней волатильности рынка, а также к порочным петлям обратной связи – таким как срочные распродажи из-за изъятий ликвидности, вызывающие массовые набеги на банки, провоцирующие срочные распродажи. Благодаря ИИ стресс, на возникновение которого могли уйти дни или недели, теперь может возникнуть за минуты или часы.*

...Такие дела...
------------------------------------
*) Финансовые кризисы искусственного интеллекта
https://econs.online/articles/opinions/finansovye-krizisy-iskusstvennogo-intellekta/