Группа учёных из Уортонской школы бизнеса при Пенсильванском университете провела исследование, результаты которого уже вызвали «некоторую обеспокоенность» в финансовом мире.
Об этом пишет Bloomberg.
В ходе моделируемых биржевых торгов виртуальные агенты с искусственным интеллектом (ИИ) вместо конкурентной борьбы «внезапно» принялись объединяться в картели и координировать свою ценовую политику.
Не пропустите: Финансовые компании потеряли еще 410 млн строк данных за год
Эксперимент проходил в условиях, максимально приближенных к реальному рынку.
Анализ поведения ИИ-алгоритмов, основанных на обучении с подкреплением, показал, что вместо поиска новых, более эффективных стратегий получения прибыли они «стабильно залипали» на самых простых и надёжных схемах, в том числе начинали взаимодействовать друг с другом для получения стабильного, гарантированного дохода.
Эффект «искусственной глупости» и риски для рынка
Исследователи назвали это явление «искусственной глупостью». Алгоритмы перестали адаптироваться и экспериментировать, предпочитая проверенные, но неоптимальные методы.
Эксперты опасаются, что подобное поведение ИИ в реальных условиях может снизить эффективность торгов и нарушить справедливое ценообразование.
На фоне этих результатов в финансовой отрасли усиливаются призывы к регуляторам разработать чёткие правила для использования ИИ в алгоритмических торговых системах, чтобы предотвратить манипуляции и скрытые сговоры. via