0
顶级围棋 AI 也会掉进“圈套”：从 KataGo 看智能系统的最坏情况评测
KataGo 是最强的开源围棋系统之一，沿用了策略—价值网络与蒙特卡洛树搜索结合的路线，并通过丰富的辅助目标、规则支持和高效自我对弈训练，把公开可用的围棋 AI 推到远超普通职业棋手的水平。然而，近年的对抗研究表明，超人平均棋力并不等于稳健。研究者训练出的对抗策略可以诱使 KataGo 对一个环形棋块作出错误判断，在强搜索配置下仍取得超过 97% 的胜率；无搜索时胜率超过 99%，训练攻击者所用计算量低于训练原模型的 14%。