来自宾夕法尼亚州立大学以及哥伦比亚大学的研究小组创建了一种新的人工智能工具，用于识别人工智能系统或人类决策者根据因果关系概念对某一受保护属性（如性别或种族）的歧视。为了测试他们的方法，研究人员使用了不同类型的可用数据，例如美国人口普查局的收入数据，以确定工资中是否存在基于性别的歧视。他们通过使用纽约市警察局的停止和搜索计划数据进一步测试他们的方法，以确定在停止后逮捕时是否存在针对有色人种的歧视。该研究结果已于 5 月在 2019 年网络会议（Proceedings of The Web Conference）中被报道。（AZO Robotics）