vlkamov: Рембрандт. Автопортрет с широко открытыми глазами. (Default)
[personal profile] vlkamov
< ---------- начало перепоста ------------ >
Алгоритмы-заговорщики



Современные рынки настолько широки, сложны и динамичны, что управление ценами во многих случаях отдаётся алгоритмам. Они в состоянии в режиме реального времени отслеживать цены конкурентов, прогнозировать ситуацию в будущем, рассчитывать оптимальные цены и моментально их обновлять.

Ничего личного — просто бизнес. Алгоритм гораздо лучше справляется с поиском цены, которая максимизирует потенциальную прибыль предприятия. Когда-то такие алгоритмы писались исключительно вручную. Теперь у предприятий есть более эффективный инструмент — машинное обучение. Оно позволяет создавать гораздо более сложные, гибкие и прибыльные ценовые алгоритмы.

Но у этих преимуществ есть и обратная сторона. Дело в том, что рынок функционирует эффективно, когда на обеих сторонах — спроса и предложения — работает конкуренция. В противном случае, когда существует монополия или картельный сговор, сторона предложения может искажать рыночные принципы. Максимизация прибыли здесь достигается за счет ущерба потребителям.

Пока цены устанавливали люди — и даже пока ценовые алгоритмы писались вручную — картельный сговор было организовать непросто. Требовались длительные тайные переговоры между несколькими участниками. Если один из участников спонтанно решал нарушить общие правила игры — вся схема рушилась. И, разумеется, если информация о картельном сговоре просочилась бы наружу, всех участников ждали бы огромные штрафы со стороны антимонопольных органов.

Всё меняется с приходом машинного обучения. Как пишут авторы исследования, опубликованного в ”Science”, в процессе обучения алгоритмы способны «самостоятельно» понять, что картельный сговор гарантирует максимизацию прибыли. И вместо конкуренции использовать вместе с алгоритмами других организаций тактики, аналогичные сговору. Совершенно без какого-либо участия или злого умысла со стороны людей, разрабатывающих такие алгоритмы! Достаточно просто наборов данных о ценах, которые используются для обучения.

Другими словами, алгоритмы становятся настолько сложными и гибкими, что впору называть их хитрыми.

Более того, поскольку нарушение «сговора» не зависит от прихотей того или иного человеческого босса, антиконкурентное поведение групп алгоритмов является гораздо более надежной тактикой. Добавим, что нынешние антимонопольные органы не имеют совершенно никакого опыта в регулировании алгоритмов. Сложность и динамичность рынков, постоянные изменения цен делают отслеживание такого поведения чрезвычайно трудной задачей.

И даже если подобные факты найдены, в законодательстве не предусмотрено никаких мер. Умысел руководства компании? Его нет. Переговоры с конкурентами? Их тоже никогда не было. По сути, даже найти юридический состав правонарушения сейчас невозможно.

Сами машинные модели являются «черными ящиками»: невозможно аналитическим путем исследовать алгоритм и увидеть, что он работает «неправильно». Этого не могут сделать ни антимонопольные органы, ни даже сам разработчик.
Как же бороться с таким поведением? Исследователи предлагают в качестве основного средства интенсивное тестирование алгоритмов «в песочнице» и анализ больших данных по фактическому рыночному поведению. Большие данные «порождают» эти алгоритмы — большие данные должны использоваться и для их контроля.

Разумеется, это означает, что алгоритмы должны быть гораздо более открытыми, чем сейчас. Как минимум для надзорных органов.

Проблемы ценовых алгоритмов и пути их решения — отличная иллюстрация к вопросу об алгоритмических решениях в нашей жизни. Стоит еще раз подчеркнуть, что прозрачность, институты независимого контроля и тестирование являются очень важными элементами разрешения конфликта интересов.

Именно конфликт интересов — а не алгоритмы как таковые — является источником проблем в этой иллюстрации. Желание продавцов получить больше прибыли за счет потребителей. И незнание, непонимание до конца систем принятия решений.

Пока описанное поведение алгоритмов является лишь гипотетической возможностью. Исследователи доказали, что таким тактикам можно научиться спонтанно. Но для того, чтобы «сговор» алгоритмов не стал преобладающим феноменом на реальных рынках, антимонопольным органам надо уже сейчас пересматривать и нормативную базу, и механизмы мониторинга рынков.
< ---------- конец перепоста ------------ >
И вот в этих условиях коллеги ведут пропаганду за советы, которые будут решать кому что делать, в лучшем случае апеллируют к трудовым коллективам. А знают ли коллеги, что уже сейчас HFT-алгоритмы вычисляют решения за доли секунды ? Т.е. либо надо сразу захватить власть "в мировом масштабе" и перерезать все провода, либо, находясь в политэкономически враждебном окружении, вычислять если не быстрее то минимум не хуже. Да-да, "в конечном счете - производительность..."

Update
Опять всплыл аргумент "компьютер никогда не сможет". Тут как раз lex-kravetski подкинул текст
Хлеб математиков
От такого, разумеется, у многих бомбануло.

Дело в том, что это со стороны кажется, будто бы математики — это как компьютеры: ничего кроме циферок и тупых операций с ними не видят. Сами же математики, напротив, про себя зачастую считают, будто они запредельно творческие, и даже сложение в столбик у них прямо как поэзия. Что, впрочем, до внедрения алгоритмических методов в массы правда примерно таким и было: без заранее прописанной последовательности действий даже для решения примитивных в восприятии современника задач приходилось развивать в себе недюжинную изобретательность и очень нехило изощряться.

А уж доказательство теорем — это такое творчество, по сравнению с которым все художники и музыканты — примитивные ремесленники. Только человек — причём особо одарённый смекалкой и фантазией — на такое способен. Счёт в столбик мы, так и быть, передадим подмастерьям, но теоремы-то, теоремы! Отдать их даже не подмастерьям, а вообще какой-то железяке? Да как можно?!

В общем, ситуация была примерно такой, какой она была в девяностых с шахматами: «компьютер человека никогда не обыграет» уже говорилось как бы в отчаянии, из последних сил. Непричастный ещё мог в это верить, но причастным оставалось только надеяться, что откуда-то возникнет чудесная сила, которая не даст компьютерам совершить последний шаг, после которого в шахматах вечными проигравшими будут уже люди, включая ихних чемпионов мира, хотя совсем ведь ещё недавно компьютер в шахматы обыгрывали даже среднеталантливые школьники.

В общем, будьте уверены, если хоть где-то разговор перешёл с инженерных вопросов на философские, то там совершенно точно есть целая куча чьих-то обидок и страхов. Причём если в этом хоть как-то фигурируют компьютеры — пусть даже гипотетические: сто процентов, что всё это там есть.

_____________________________________________________________

Комментировать тут https://new-rabochy.livejournal.com/725494.html?mode=reply#add_comment


Profile

vlkamov: Рембрандт. Автопортрет с широко открытыми глазами. (Default)
vlkamov

June 2025

S M T W T F S
1 2 3 4 5 67
8 91011121314
15161718192021
22232425262728
2930     

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jun. 10th, 2025 02:03 am
Powered by Dreamwidth Studios