AI 又有新工作了:竞技体操裁判员。
上个月,国际体操联合会(FIG)宣布,将日本富士通公司开发的「竞技体操辅助打分系统」用于 2019 年 FIG 主办的系列体操赛事上。系统将于明年的体操世界杯系列赛事上进行测试,并在明年 10 月于德国斯图加特举办的体操世锦赛上正式启用。FIG 的目标是在 2020 年东京奥运会上,将一半项目的打分完全自动化,在 2024 年的巴黎奥运会上实现全部项目打分自动化。
跳马、鞍马、吊环、平衡木…… 虽然普通人很难参与其中,但竞技体操这项古老的运动因为其超强的观赏性,在世界范围内都是一项很有「国民度」的运动:能够用和我们一样的四肢躯干完成「踺子后手翻转体 180 度接前直空翻 540 度」这种动作,需要何等的力量、技巧与美!
而与田径、游泳这样的计时项目不同,竞技体操是一个打分项目。选手从 FIG 的规则允许的动作中挑选一系列自己擅长的进行组合,向裁判展示,裁判则分为两组从不同角度为选手的动作打分。在「计时」这个任务上,人类早已创造出了超越自己的工具了:每秒 2000 帧的高速数码摄像机无疑比裁判的肉眼判断更准确,但是在打分类项目里,机器真的能够准确评价一个「踺子后手翻转体 180 度接前直空翻 540 度」的完成质量,给出公允的打分吗?
作为一名接受过裁判训练的业余艺术体操运动员,我针对「竞技体操辅助打分系统」提出了一些想要了解问题,以下是从现有的公开信息中能够得到的七个问题的答案,在本文末尾,我也列出了一些尚未得到解答的问题,如果你对这个系统同样充满好奇,也请在文末留言写下你的问题。
1. 输入数据主要来自什么传感器?
输入来自激光雷达。
我们能看到设备的正面有一个摄像头、一个激光雷达脉冲发射器和一个接收器。
富士通采用的 3D 激光雷达为半固态激光雷达(MEMS),每秒钟发射超过 200 万脉冲,感应区域 15m,但是功率、线数、最小精度、探测角度等衡量激光雷达的常用参数都没有披露。
2. 硬件系统还有哪些组成部分?
除了 3D 激光传感器之外,还有传感器控制电脑、云计算环境、数字前端(DFE)服务器、NW 存储、负载平衡器、打分应用服务器以及裁判的电脑构成。
其中主要的算力是负责完成骨骼关键点识别任务的 DFE 服务器以及负责根据骨骼关键点坐标进行打分的打分应用服务器 。
3. 辅助打分系统的结构有哪些模块?
主要的模块包括由 3D 激光雷达负责的动作感知、由软件负责的骨骼关键点识别,结合 FIG 和日本体操协会共同研究的难度动作数据库,共同进行动作高速匹配。
4. 如何打分?是否基于学习?
骨骼关键点识别模块确定用到了深度学习,神经网络模型接受多个视角的深度图像为输入,输出一个 3 维的骨骼关键点坐标结果。
根据 PPT 显示,系统还会根据人体关节模型进行适配和校准,调整到最有可能的运动员实际关节位置,但这一部分的实现原理并未披露。
在动作判定部分,可以确定的是模型并非端到端的。
富士通的研究人员提到,他们和日本体操协会的裁判们进行了大量的工作,把每一种难度动作都拆分成一系列要素。他们录制了超过 800 个男运动员的技巧动作和 500 多个女运动员的技巧动作,对其进行了拆分。
如下图所示,系统判定女选手在平衡木成功完成了反身起跳、旋翻 180 度和前手翻三个要素,从而 判断选手完成了一个难度分为 0.4 的 Onodi 动作。
但是具体到动作如何切分、每个要素的判定是否由深度学习完成,还是未知的。
5. 辅助打分是负责难度分(D 分)还是完成分(E 分)?
答案是二者都有。
辅助打分系统给出的吊环项目的 D 分列表
竞技体操的分数由两组裁判给出:D 组裁判负责「加分」:D 是难度(Difficulty)的缩写,选手每完成一个规则内的难度动作,就增加相应的难度分值,不设上限。E 组裁判负责「扣分」:E 是执行(Execution)的缩写,选手完成动作中有小失误扣 0.10 分,中等失误扣 0.30 分,大失误扣 0.50 分,重大错误扣 1.00 分。
D 分相对客观,E 分则更为主观。常见的「失误」中,也有一些相对好判定:例如在吊环静止动作中手臂是否伸直,也有一些很难衡量:例如在自由操中,动作是否有「艺术性偏差」。
6. 打分系统将用于哪些项目?
竞技体操共含十个项目,男子竞技体操包括自由体操、鞍马、吊环、跳马、双杠和单杠共六个项目,女子竞技体操包括跳马、高低杠、平衡木和自由体操共四个项目。
2019 年的 FIG 系列赛事中,辅助打分系统会从男子跳马和鞍马这两个项目开始。跳马和鞍马是完成时间相对较短的、也是运动员位移较少的两个项目。例如跳马里运动员起跳、腾空完成动作、落地,就结束一个动作。其他项目的时长都在一分钟左右。
2020 年的东京奥运会上,自动打分将预计覆盖男子跳马、吊环、鞍马、女子跳马、平衡木五个项目。
这也符合我们对识别算法的预期,代表了更高艺术性的、难度动作体系更为复杂的自由操,和人与器械之间的关系更为复杂的杠类项目(人可能出现在杠的各个方向,杠会对人体造成遮挡)对于识别算法的显然更高。
自由操中裁判还要对节奏、稳定性、选手的情绪调动能力等方面进行考察,这也是机器很难量化的。
7. 给哪些人使用?
富士通称,除了能帮助裁判打分外,系统也将用于协助选手训练,并帮助观众更好观赏比赛。
比如,系统可以在训练中精确地告诉运动员,你的每一个关节夹角是多少、应该保持稳定的关节是否有晃动,让运动员可以在「关节」这个粒度上,根据规则对自己的动作进行有针对性的调整。
系统也可以更直观地通过可量化的指标向观众展示运动员的运动完成度。例如腾空高度、稳定性等等,让更多人能「看懂」比赛,从而增加比赛的观赏性。
运动员完成一个腾空高度为 78 厘米、双腿开度为 198 ° 的交叉分腿跳
8. 还没有答案的问题
由于 FIG 和富士通并未过多披露技术细节,还有很多问题尚没有答案。
为什么采用基于 LiDAR 的骨骼关键点识别方案?在识别人体动作这一点上,基于 LiDAR 和基于相机的方案各有哪些优劣?
骨骼关键点识别的准确度如何?一旦出现偏差之后会如何影响打分系统的工作?
演示中的一个错误,系统错误识别了运动员右腿膝盖的位置
打分系统的运行速度如何?能否满足比赛评分实时性的要求?
从训练数据与实际应用场景的数据分布一致性的角度,训练数据均来自于日本专业的体操运动员。而不同运动员的动作规格、习惯的不同,会不会对打分造成一定的倾向性?
目前激光雷达,尤其是能够捕捉高速运动的激光雷达的价格仍然非常昂贵,从成本收益的角度,AI 辅助系统能够帮助竞技体操产业吗?富士通给出的预测是,在未来 10 年,该系统将产生超过 1000 亿日元(约 60 亿人民币)的收益。
最后,也是最重要的,相比于人类裁判,AI 裁判有哪些特点?会犯哪些错误?
在发布会上进行展示的运动员提到,他在完成鞍马动作的时候有一个「坏习惯」,就是会弯曲右膝盖,在人类裁判打分的年代,他可以一定程度上通过用左腿遮挡裁判视线来掩盖这一缺点——这是选手与裁判之间多年博弈之后形成的一些可以利用的「潜规则」。但是对于 AI 裁判来说,通过高帧率的深度图像抓到这一弱点轻而易举,但同时,AI 经常会在一些对于人类来说非常简单的任务上犯错误,那么在这样的情况下,用 AI 裁判替换人类裁判是一个像「用高速摄像机替代人类计时员」一样帕累托更优的改进吗?
什么是「更高、更快 、更强」,在 AI 时代,会不会有不一样的定义?