Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

Layla El Asri作者

让NeurIPS改名就能解决问题了?还远远不够

学界性别不均衡的问题由来已久,过去一年我们看到了很多改变以及这些改变背后无数人的努力,比如 NeurIPS 改名事件。仅仅这些就足够了吗?近日,微软蒙特利尔研究院研究经理 Layla El Asri 撰文《THINKING YOU DO YOU, AND I DO ME》,讲述她在机器学习社区十二年中的经历,这十二年中社区环境始终是以男性为主导,并寻求进一步改变。

她的呼吁得到了 Google AI 负责人 Jeff Dean 的支持,他表示:

她的 CS 教授向一个女同学展示如何使用鼠标的事真是令人震惊。

请让我们共同努力,为所有人创造一个温暖的环境。

一年前,我就想写一篇博客来谈谈我作为女性在 ML 领域里的感受。我当时写了个草稿,但对它不满意,然后就搁置一边忘掉了。而让我再次想起它的是之前 NeurIPS 的改名事件。在那次事件中,开始有声音谈论女性在 ML 领域中所面临的环境。

其中一个声音来自英伟达机器学习研究负责人、加州理工学院教授 Anima Anandkumar。在 NeurIPS 董事会最初宣布保持原名和缩写后,Anandkumar 教授成为 #ProtestNIPS 运动的领导者之一。该运动要求 NeurIPS 董事会重新考虑改名一事,因为「NIPS」这个缩写通常出现在性玩笑中,改名可以明确表明社区愿意严肃对待其中的所有人,以及想要改善环境的意愿。我个人非常支持这项运动,我在 Anandkumar 教授组织的在线请愿书上签名,还倡导我身边人支持改名。

在这次争论中真正使我失控的是支持保留原名的人的理由,以及一些人对 Anandkumar 教授施加的压力。她在 Twitter 上发布了她收到的部分信息和邮件,基本上都在说她是个 trouble maker、她所倡导的这一微小改动几乎快要毁掉这一领域。不支持改名的人拿出的论据是:NeurIPS 董事会开展的调查显示,大部分人想要维持原名,觉得名字不好的人应该成熟一点。而在争论期间,Anandkumar 教授、Jeff Dean 等人写下了这篇论文——《What’s in a name? The need to nip NIPS》,并在 Critiquing and Correcting Trends in Machine Learning NeurIPS 2018 Workshop 中进行了展示。该论文解释了为什么 NIPS 需要更改:它暗含的性玩笑、性内涵,最重要的是很多女性要求改名。该论文还指出,调查结果无法代表社区。

Anandkumar 教授参与的另一个争论发生在最近。讨论主要涉及 Facebook 的内容审核。Anandkumar 教授最初与 Yann LeCun讨论为什么 Facebook 删除了 Dana Moshkovitz 关于她与该领域一位著名研究者工作期间遭遇性骚扰的帖子。LeCun 教授没有立即回复,稍后他在 Facebook 上对他的卡戴珊指数进行了评论(卡戴珊指数用金·卡戴珊的名字命名,旨在衡量科学家的社交媒体资料和论文发表记录之间的差异)。该评论下的其他评论中有的提到了金·卡戴珊的性爱录像。Anandkumar 教授出于对 ML 社区包容性的考虑,请 LeCun 教授控制一下他这篇帖子下的评论。以下是对话的部分内容:

Yann LeCun 表示:

我不想把 Facebook 变成内容审查机构。我不是最适合回答社区准则的人,对于回应 Dana 的事情也不合适。

但我得说,一个人在公开环境中被指责,或许是对的,或许是错的,也可能是欺凌和诽谤。Facebook 并不知道真相是其中的哪一个。

有些欺凌的内容会被自动删除(是的,通过 Facebook 的自然语言处理系统),但在这中间不可避免地会出现错判。有时,一段内容也会被用户标记,或者被人类管理员判断是否需要被撤下。这种决定也不总是对的,因为管理员得到的信息有限,而他们并不走法律程序。

Dana 的原贴被删除是因为违反了社区准则(想象一下如果有人对你提出了严重指控……)

她的跟帖(其中包括了原帖的复制版本)还没有被删除。我认为随着更多信息浮出水面,指控会变得更加可信。

但我实际上无法确认。我没有跟踪事情发展的过程。

Anima Anandkumar 回复道:

感谢你的解释。看来你正在试图澄清 Facebook 是如何处理这些帖子的。你表示你不能删除那些性别/种族歧视的评论是因为那样做的话人们会认为 Facebook 成为了审查机构。另一方面你又说无法回答有关 Dana 事件的审查。所以难道 Facebook 的政策是屏蔽所有对性骚扰的指控??你所谈论的是官方设定吗?而且,官方政策保留了性别歧视和种族歧视的评论,是因为 Facebook 不想当内容审查机构。我感到非常失望。

有些人再次向 Anandkumar 教授发送信息,因为他们不认同她向 Yann LeCun 喊话的方式。

人们只对自己的行动负责。在社交网络上分享自己的想法并不能让任何人代表任何其他人或他们的帖子负责。你这是在欺负 Yann LeCun。

这样的讨论并不会走向任何结果,两方都选择逃避,而不是继续为自己的立场辩护。我们可以这样看待这种情况:现代社交媒体上的内容不应导致审核。换句话说,这些笑话品味很差,但它们只是笑话,忍忍就过去了。现在,这是另一种看待它的方式:当我们对一位骚扰周围妇女的著名研究者提出严肃指责时,我们被告知不能公开谈论这件事;然而,当男人们开有关大会的色情玩笑时,我们被告知这是可以的,请脸皮厚一点。气氛就是一切。

上述遭遇就是我写今天这篇文章的原因。因为我也被告知过于『敏感』和心存抵触了,这种态度被用于解释我的抗议是错误和缺乏理由的。但猜猜怎么着?我不认为我的脸皮会随着时间变厚,我认为实际上它更薄了。

我和机器学习研究人员一同工作了 7 年。在此之前,我在法国的一所计算机工程学院学习。过去十二年里我一直处在男性主导的环境里。以下是我在过去十二年利经历过的事情:

  • 当我开始学计算机科学专业的时候,在一堂计算机实验室介绍性课程设置账户时,我的一位女性朋友告诉我,教授基本上向她展示了如何使用鼠标——认为她完全不懂电脑。多么吓人的欢迎方式。

  • 我的一个同学有次告诉我,他和另一个同学认为我当时在来例假,因为我对他们态度很敌对。但事实上,不管是不是来大姨妈,如果我感到难受,我就会展现敌对态度。

  • 有一天晚上,我和一群男生出去吃晚餐。我们点了披萨,所有人吃了一整个披萨。然后他们又点了半块披萨(我没吃)。然后他们又点了提拉米苏作为甜点,我也要了一份。当我点了甜点之后,其中一个男生转向我说:「今晚你看来很高兴啊!」我有点震惊,不知道回些什么,所以我嘟哝道:「我应该不太容易胖的所以……」他回复道:「哈哈,等你到 30 岁再说。」然后所有人都笑了。这个评论让我感到羞愧,就像有人在教我应该如何喂饱自己一样,就像我应该是点一份沙拉,这才是一个女人该做的事一样。现在我已经 30 岁了,可那又怎样,我的饮食习惯仍然不关你们的事!

  • 我有三次被邀请去 Panel 上当嘉宾,因为组织者觉得他们需要「多样性」。我的一个同事告诉我:「我向他们推荐了你,因为你是女性。」——就像再自然不过的事情了。好吧,这还不算什么。

  • 我在一个学术会议上展示一张海报,并向前来观看的一个男性学生讲解。我们一直在聊着(我得特别指出:内容有关研究)。在谈话过后,我的同事朝我微笑并说:「那家伙肯定是在和你调情。」我猜我的海报(以及背后的研究)可能是一堆垃圾。同样,我的男同事也在讨论一个学术会议上一个女性学者展示的海报,她当时看起来很有吸引力。他们认为会上所有男人,甚至领域内的重量级学者都去听这个 poster 了。毫无疑问,庞大的人群是因为她个人的吸引力。我猜她的海报可能也是一堆垃圾。

  • 说到参加学术会议,你知道有多少次我和男性同事一起参会,看到其他研究者(男性或女性),这些研究者们过来和我们握手并简单交流,但整个过程中,我都成为被无视的一方?这种事太多见了。或许只有我会遇到这种情况,但礼节告诉我至少要和所有人握手。参会对于我来说真是困难的事,因为那种被排除在外的感觉一直存在。

  • 有次我开始了一项研究计划,搜索相关文献,并提出了解决方案的思路。然后整个计划就被同事们接管了,他们完全把我排除在所有会议和讨论之外。结果这篇论文是在没有我的情况下写成的。在其他时候,我至少会在研究初步的讨论中有参与的机会,即使这样我也是有所贡献的——在最重要的对话没有我的情况下,看来我现在还没有高端男生俱乐部的入门权限。

在我谈及这些事情的时候,很多人(大部分是男人)会跟我说,「我不会觉得很糟糕啊」、「我不觉得有什么问题啊」。很耳熟对吧?这就是 Anandkumar 教授经常听到的内容,也是我们经常听到的反应。开始的时候,我还会反思一下:「好吧,可能是我太敏感了」。但听了 12 年的「不是太糟糕吧,年轻人」之后,我开始觉得无法接受了。如果有人跟我说「我不会觉得很糟糕啊」,我只想对他们吼一句「去你的!给你颁一个年度最理性奖章怎么样!」。他们还跟我说,即使我是一个男人,这类事情也有可能发生,这不是只发生在女性身上的问题。在这篇文章中,我尝试列出了明显与女性相关的事情(生理期、节食、调情),以及其他女性告诉我的一些经历(男生俱乐部)。至于如何定论还要交给读者。

这些事情看起来很小,我也没有花太多时间单独思考它们,但它们反复出现,越积越多,让我觉得精疲力尽。我故意忽略了大部分事情的背景,因为我的目的不是指责他们。做这些事的人多数不是坏人,而是因为性别歧视是一个系统性的问题。我们都需要反思自己的行为。我确实也曾以性别歧视者的方式说过话、做过事,我为此道歉。我正在尝试改变。这些事情中的人大多是我的朋友,我相信他们都是好人。但如果有人——朋友也好,其他人也罢——再因为我的性别让我去参加某个研讨会,我可能会在他们面前哭出来。我真的太累了。离开这个领域的想法每隔一个月就会出现。

分享了这么多,我无非是想敦促大家尝试理解这一领域发声的女性,并解释为什么我们需要改变。你眼中一个微不足道的改变对于我们却至关重要,正是这一点点希望之光让我们决定留在这个领域,并专注于我们热爱的研究和工程工作。人们取笑我们关于 NIPS 改名的诉求,但我希望读过此文之后,一部分人可以理解这一诉求的重要性。

在本文收尾之前我还想提一下另外两位发声的女性——Timnit Gebru 和 Margaret Mitchell,她们都是谷歌 AI 的研究员。她们仗义执言、呼吁社区提高包容性,是我和其他人的榜样。这篇文章的标题「THINKING YOU DO YOU, AND I DO ME」是 J. Cole《Neighbors》中的一句歌词。在这首歌中,他说他大学期间只想一个人做艺术,«你是你,我是我»。当然,他没有如愿,他要不断解决一些系统性的种族偏见。这差不多就是我在研究计算机科学和机器学习时的感受。我到这个社区是为了学习机器学习及其精妙的应用,但却没想到它无法给我归属感,我觉得人们跟我说话只是为了调情,或者因为他们需要体现 diversity。我从未想到自己会被羞辱、耻笑。我只想自己待着,不想再听到这些事情。

没错,有时候我们发声的时候的确看起来很有攻击性,但希望你现在可以理解个中缘由。我们所有人都有一肚子苦水。你要应对几件事可能还觉得 Okay,但如果每天都有一句话或一个行为让你觉得自己很糟糕,那么你就会变得非常敏感,一点鸡毛蒜皮的事,哪怕是无心的,也会让你觉得难以承受。我们不是说男人都很糟糕或麻木不仁,只是想寻求一种小小的改变,我们想让大家看到我们的疲惫。

原文链接:https://speakingmachines.com/blog/2018/12/29/nbspthinking-you-do-you-and-i-do-menbsp

入门NIPSYann LeCunJeff Dean
1
相关数据
Microsoft机构

微软是美国一家跨国计算机科技公司,以研发、制造、授权和提供广泛的计算机软件服务为主。总部位于美国华盛顿州的雷德蒙德,最为著名和畅销的产品为Microsoft Windows操作系统和Microsoft Office办公室软件,以及Xbox的游戏业务。微软是美国《财富》杂志2015年评选的世界500强企业排行榜中的第95名。

https://www.microsoft.com/en-us/about
机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

自然语言处理技术

自然语言处理(英语:natural language processing,缩写作 NLP)是人工智能和语言学领域的分支学科。此领域探讨如何处理及运用自然语言;自然语言认知则是指让电脑“懂”人类的语言。自然语言生成系统把计算机数据转化为自然语言。自然语言理解系统把自然语言转化为计算机程序更易于处理的形式。

推荐文章
暂无评论
暂无评论~