Искусственный интеллект смог обыграть лучших игроков в покер

Итак, что у нас уже было: Искусственный интеллект победил человека в Го, а это считается очень сложной игрой. А вот теперь покер. Я немного играл в техасских холдем и мне показалось, что там очень много зависит от выявления стратегии и привычек противника. Т.е. собственно математики то там минимум. Карты высчитать нельзя. Надо выявить закономерности у противника и поймать его на них.

И вот теперь ИИ освоил и эти методы…

Ученные создали искусственный интеллект (ИИ), которому удалось обыграть в техасский холдем (наиболее популярная разновидность покера) пятерых профессиональных игроков. Об успехах ученых из Университета Карнеги — Меллона (CPU) сообщаетcя в журнале Science.

«В последние два десятилетия системы ИИ осваивали все более сложные формы покера. Однако все предыдущие прорывы были ограничены участием только двух игроков», — сказано в публикации.

По сравнению с парными играми, партии с большим количеством игроков вызывали у ИИ трудности. Чтобы преодолеть их ученые оснастили систему «абстрактным действием» и «абстрактной информацией». Эти свойства необходимы, чтобы помочь системе сократить количество вариантов и выделить те, которые нужны для принятия решения.

Для этого специалисты разработали программу под названием Pluribus, которая научилась играть в Техасский холдем с пятью своими копиями. Играя раз за разом наугад, Pluribus постепенно определял, какие действия и с какой вероятностью дают лучшие результаты. Анализируя эти данные, система постепенно улучшала свою стратегию.

Метод самообучения ранее использовался в играх на двоих с нулевой суммой, таких как нарды, Dota 2, Starcraft 2 и парный покер. Но как отмечают специалисты, применяемые там алгоритмы значительно отличались от Pluribus.

Как проходил эксперимент

Игру компьютера оценивали в двух форматах: пять игроков против Pluribus и один игрок против пяти копий Pluribus. Каждый из принявших участие в эксперименте заработал на покере более $1 млн. Участниками стали игроки Джимми Чоу, Сет Дэвис, Майкл Гальяно, Энтони Грегг, Донг Ким, Джейсон Лес, Линус Лелигер, Дэниел МакАулей, Грег Мерсон, Николас Петранжело, Шон Руан, Тревор Саваж, Джейкоб Тул.

Каждый день для игры отбирались пять профессионалов. При этом они не знали других участников. Каждому человеку давался псевдоним, который оставался неизменным на протяжении всего эксперимента. По нему можно было отслеживать успехи игроков. Между людьми разделили $50 тыс., чтобы мотивировать их на игру с полной отдачей. Игрокам гарантировали не менее $0,40 за раздачу. Сумма могла увеличиться до $1,60 за раздачу в зависимости от результатов игры.

В матче с пятью профессиональными игроками в покер или с пятью копиями Pluribus, играющими против одного игрока, ИИ за 12 дней эксперимента показал лучшие результаты в более чем 10 тыс. раздач.


Источники:
https://tass.ru/nauka/6654292