来自麻省理工学院，斯坦福大学和宾夕法尼亚大学的研究人员设计了一种方法来预测安全关键型机器学习系统的故障率并有效地确定其发生率。在最近在 arXiv 上发表的题为「用于评估安全关键自治系统的神经桥采样」的论文中，作者断言他们的方法既可以满足公众知悉系统经过严格测试的权利，也可以满足组织对待 AI 模型的愿望。实际上，一些 AI 初创公司和 Big Tech 公司出于担心此类检查会泄露专有信息的原因，拒绝授予原始模型的访问权以进行测试和验证。研究人员说，他们的神经桥采样方法为监管机构，学者和行业专家提供了共同的参考，以讨论在安全为关键的环境中部署复杂的机器学习系统所带来的风险。(VentureBeat)