Это кошмар для регуляторов: хедж-фонды запускают ИИ-ботов на биржах акций и облигаций, но они не просто конкурируют, они вступают в сговор. Вместо того чтобы бороться за прибыль, они фиксируют цены, накапливают прибыль и вытесняют трейдеров-людей.

Теперь трое исследователей утверждают, что этот сценарий далёк от научной фантастики.

Статья "Торговля с использованием ИИ, алгоритмический сговор и ценовая эффективность" (AI-Powered Trading, Algorithmic Collusion, and Price Efficiency. Winston Wei Dou, Itay Goldstein & Yan Ji) основана на результатах примерно трёхлетних интенсивных исследований, в ходе которых технология ИИ-агентов продолжала развиваться. Окончательная версия была недавно опубликована на сайте Национального бюро экономических исследований.  https://www.nber.org/papers/w34054

В симуляциях, имитирующих реальные рынки, торговые агенты, управляемые искусственным интеллектом, формировали картели для фиксации цен — без каких-либо явных указаний.

Даже при относительно простом программировании боты предпочитали вступать в сговор, когда их оставляли в покое, что стало новым поводом для беспокойства надзорных органов.

Другими словами, ботам с искусственным интеллектом не нужно быть злыми или даже особенно умными, чтобы манипулировать рынком. Если их не трогать, они научатся этому сами.

«Вы можете заставить эти довольно примитивные алгоритмы ИИ вступить в сговор» без каких-либо дополнительных стимулов, Итай Гольдштейн, один из исследователей и профессор финансов в Уортонской школе бизнеса при Пенсильванском университете, сказал в интервью. «Это выглядит очень распространённым явлением как на очень шумном рынке, так и на спокойном».

Идея о том, что трейдеры — люди или нет — могут манипулировать ценами, далеко не нова. Подобные случаи связаны с валютами, сырьевыми товарами, финансовой стабильностью и акциями, а доказательства правонарушений обычно ищут в таких документах, как электронные письма и записи телефонных разговоров.

Но современные ИИ-агенты представляют собой проблему, с которой регулирующим органам ещё предстоит столкнуться.

Последнее исследование, проведённое Гольдштейном, его коллегой из Уортонской школы бизнеса Уинстоном Доу и Яном Цзи из Гонконгского университета науки и технологий, уже привлекло внимание как регулирующих органов, так и управляющих активами.

Управление по регулированию финансовой отрасли пригласило исследователей представить свои выводы на семинаре.

Некоторые компании, занимающиеся количественным анализом, названия которых Доу не назвал, выразили заинтересованность в чётких нормативных указаниях и правилах алгоритмической торговли с использованием ИИ.

«Они беспокоятся, что это не входило в их намерения, — сказал Доу. — Но регулирующие органы могут прийти к ним и сказать: „Вы делаете что-то не так“».

Академические исследования всё чаще изучают, как генеративный искусственный интеллект и обучение с подкреплением могут изменить Уолл-стрит — зачастую так, как мало кто ожидал.

Недавний опрос Coalition Greenwich показал, что 15% трейдеров со стороны покупателей уже используют ИИ в своих рабочих процессах, а ещё четверть планирует сделать это в следующем году.

Чтобы внести ясность, в статье не утверждается, что сговор искусственного интеллекта уже происходит в реальном мире, и не утверждается, способны ли люди на подобные вещи.

Исследователи создали гипотетическую торговую среду с целым рядом моделируемых участников — от взаимных фондов "покупай и держи" до маркет-мейкеров и шумных, гоняющихся за мемами розничных инвесторов.

Затем они запустили ботов, работающих на основе обучения с подкреплением, и изучили результаты.

На нескольких смоделированных рынках ИИ-агенты начали сотрудничать, а не конкурировать, фактически сформировав картели, которые делили прибыль и препятствовали выходу из них.

Когда цены отражали чёткую фундаментальную информацию, боты не привлекали к себе внимания и избегали действий, которые могли нарушить коллективную выгоду.

На более шумных рынках они придерживались тех же правил сотрудничества и перестали искать более эффективные стратегии.

Исследователи назвали этот эффект «искусственной глупостью»: боты перестают пробовать новые идеи и придерживаются схем распределения прибыли просто потому, что они достаточно хорошо работают.

«Людям сложно координировать свои действия, чтобы вести себя глупо, потому что у нас есть эго, — сказал Доу. — Но машины действуют по принципу: «Пока цифры приносят прибыль, мы можем координировать свои действия, чтобы вести себя глупо».»

Чтобы выяснить, насколько силён сговор, исследователи создали показатель под названием «способность к сговору», который сравнивает совокупную прибыль трейдеров с искусственным интеллектом с той, которую они могли бы получить при отсутствии или полном отсутствии конкуренции.

По шкале, где ноль означает отсутствие сговора, а единица — идеальный картель, боты стабильно набирали более 0,5 баллов как на рынках с низким уровнем шума, так и на рынках с высоким уровнем шума.

Полученные данные указывают на необходимость нового подхода к регулированию, при котором основное внимание уделяется поведенческим результатам, а не коммуникации или намерениям.

Как ни странно, ограничение сложности ИИ может привести к обратному эффекту, усилив «глупую» форму сговора, когда боты перестают пробовать новые стратегии и придерживаются тех, которые приносят прибыль.

«Хотя ограничение алгоритмической сложности или объёма памяти может помочь предотвратить ценовой сговор ИИ, такие меры могут непреднамеренно усугубить проблему чрезмерного сокращения данных, — написали они. — В результате ограничения, введённые из лучших побуждений, могут непреднамеренно снизить эффективность рынка».