近日，来自 GESIS–莱布尼兹社会科学研究所，纽约大学，美国大学，加州 YIMBY 以及密西根大学的研究团队发表了一篇名为「诊断图像识别系统中的性别偏见」的新研究。以下是该研究的完整摘要分享：图像识别系统提供了在不需要专家知识的情况下从图像中大规模学习的希望。但是，过去的研究表明，机器学习系统通常会产生有偏差的输出。在本文中，研究团队使用美国国会议员的照片以及这些政客发布的大量 Twitter 图片，评估了商业图像识别平台的潜在性别偏见。其众包验证表明，商业图像识别系统可以选择性地报告许多可能的真实标签的子集，因此可以产生正确且有偏差的标签。研究发现，女性形象收到的与外观相关的注释多了三倍。此外，与男性相比，图像中的女性被认为要低得多。研究团队将讨论诸如此类的编码偏见如何影响女性的知名度，强化有害的性别刻板印象，并限制可以从此类数据中收集的见解的有效性。