机器之心编辑部机器之心报道

AI远程监考软件Proctorio惹争议,UIUC宣布下学期停用该服务

出于对隐私、歧视、数据安全和可访问性的考虑,伊利诺伊大学香槟分校(UIUC)宣布将在 2021 夏季学期结束后停用远程监考软件 Proctorio。

在新冠肆虐的大背景下,「上网课」已经成为常态。那么考试的时候怎么办?在没有监考老师的情况下,学生会不会作弊?

越来越多高校选择使用远程监考软件 Proctorio 解决这一问题。该软件利用机器学习和先进的人脸检测技术,通过网络摄像头记录学生在考试期间的行为,监控学生的头部位置,以及标记「可疑行为」。

然而,这一软件的广泛使用引起了巨大争议。如去年 5 月澳大利亚国立大学数千学生发起请愿,要求停止使用 Proctorio 远程监控软件;美国大量师生出于隐私、歧视、数据安全和可访问性等因素抗议这一服务。

近日,伊利诺伊大学香槟分校(UIUC)发布公告,宣布将在 2021 夏季学期结束后停用 Proctorio 软件。

UIUC 公告地址:https://emails.illinois.edu/newsletter/1970177238.html

在公告中,ADA 协调员 Allison Kushner 和本科教育副教务长 Kevin Pitts 表示:
  • 1. Proctorio 将在 2021 夏季学期结束后停用。

  • 2. Proctorio 存在极大的可访问性问题。因此,使用 Proctorio 监考的老师需要考虑到提出可访问性问题的学生,包括在残疾人资源与教育服务中心(DRES)注册的学术住宿学生面临的技术问题(如缺少网络摄像头)。伊大创新教学中心(CITL)可以提供额外的 Proctorio 设置指导,帮助缓解可访问性问题。

  • 3. 学校 ADA 部门和 CITL 已为替代性评估和监考技术方面的咨询做好准备。学生可以直接向 ADA 协调员报告与 Proctorio 相关的可访问性问题。

  • 4. 学校正在研究长期的远程监考选择。

Proctorio 及其他远程监考服务,引争议不断

自 2020 年春季 UIUC 引进该服务以来,有关 Proctorio 软件的争议便一直不断,忧心于此的学生在 2020 年秋季学期纷纷发声。1000 多人签署请愿书呼吁学校停止使用该服务,他们在请愿书上写道:「Proctorio 非但效率不高,而且不安全,完全侵犯了学生隐私。」

请愿书封面:「你的一切都在监视之下」。地址:https://www.change.org/p/uiuc-stop-proctoring-exams-through-proctorio-proctoru?redirect=false

伊利诺伊大学香槟分校是众多强烈反对远程监控的大学之一。迈阿密大学也曾有 500 多人签署了请愿书,表示「Proctorio 的设计侵犯了学生权利,本质上存在对残障人士的歧视和区别对待,这与同行评审研究结果不符。」在加拿大里贾纳大学,3500 多人呼吁终止另一项自动监考服务 ProctorTrack。中佛罗里达大学也曾有 1200 人签署请愿书,要求停止使用另一个类似软件 Honorlock,他们表示:「学校不应该因为考试而强迫学生放弃其隐私和权利。」

除了学生强烈反对以外,教授以及其他职工同样对 Proctorio 服务持批评态度。致力于公民自由与隐私事宜的美国电子隐私信息中心(Electronic Privacy Information Center, EPIC)对 Proctorio 以及其他四项监考服务发起诉讼,称这些服务收集个人信息的行为属于「不公平且欺诈性的贸易惯例」。

不仅如此,2020 年 12 月,美国的一些参议员联合向 Proctorio 和其他两个类似服务平台写了一封公开信,表达了他们对相关商业行为的诸多担忧。公开信中写道:「学生正直面并抵抗这些技术的缺陷,这些缺陷不仅沉重打击了弱势群体,也将导致歧视性偏见长期存在。」

公开信地址:https://www.blumenthal.senate.gov/newsroom/press/release/blumenthal-leads-call-for-virtual-exam-software-companies-to-improve-equity-accessibility-and-privacy-for-students-amid-troubling-reports

担忧究竟源自哪里?

对此类远程监考软件的担忧主要围绕安全性和隐私两个方面。Proctorio 的记录数据允许教师和平台访问考生的浏览数据,并在某些情况下看到他们的私人住宅。Proctorio 在对参议员公开信的回应中表示:「Proctorio 通过多层加密保护并处理考生的数据,并且按照客户或适用法律要求的最短时间限度保留记录。」

图源:http://www.diglog.com/story/1026344.html

可访问性是需要面临的另一个常见问题。有学生表示家里没有可用的网络摄像头,也可能没有足够的带宽来支持这项服务。有的考生甚至在星巴克的停车场参加化学考试。

学生还报告了另一个问题:Proctorio 这类服务难以识别肤色较深的考生,而且可能会将学生标注为残疾。研究发现即使最优秀的人脸识别算法,在识别黑人面部时也会比识别白人出现更多的错误。此前,Proctorio 曾回应道「这是光线、摄像头位置、摄像头质量的问题,与种族歧视无关」。

UIUC 的邮件中称,学校审慎考虑了学生对「可访问性、因素、数据安全和公平」的抱怨,并作为决策因素。邮件表示,将在选择下一个远程监考方案的时候考虑可访问性。

原文链接:https://www.theverge.com/2021/1/28/22254631/university-of-illinois-urbana-champaign-proctorio-online-test-proctoring-privacy
理论远程监考软件Proctorio
相关数据
机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人脸识别技术

广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。

人脸检测技术

人脸检测(face detection)是一种在任意数字图像中找到人脸的位置和大小的计算机技术。它可以检测出面部特征,并忽略诸如建筑物、树木和身体等其他任何东西。有时候,人脸检测也负责找到面部的细微特征,如眼睛、鼻子、嘴巴等的精细位置。

推荐文章
暂无评论
暂无评论~