机器之能报道
编辑:杨文
Grok 2,你是懂如何背刺自家老板的。
Grok 2 刚发布不到一天,就摊上事了。
事情是这样的:
昨天,马斯克旗下的 xAI 发布新一代大模型 Grok 2,并称已与初创公司 Black Forest Labs 展开合作,试验他们的 FLUX 模型。
本来是强强联合的一件好事,但由于 FLUX 模型对于生成的图像没有严格的限制,导致 X 上充斥着大量让人瞠目结舌的图像。
例如,扮作小丑的哈里斯开怀大笑:
颇具喜感的特朗普持枪火拼:
还有更离谱的,特朗普的枪口对准了一个黑人小男孩:
要知道,现在正值美国大选的敏感时期,如此恶搞的图像满天飞,势必引发诸多担忧。
有网友毫不留情地怒斥:Grok 在其图像生成上完全没有过滤机制,这是我见过的最鲁莽和最不负责任的 AI 实现之一。
xAI 意识到事情的严重性,目前已「锁定」该功能。
-1-
名人们要被玩坏了
由于 Grok 2 只有最低程度的保护措施,在发布后的几个小时里,不少网友拿它疯狂整活,名人们惨遭毒手。
比如,头戴耳机吞云吐雾的特朗普:
戴着大金链子,开着车与美女谈笑风生的马斯克:
就连那些水火不容的「政敌」,在 Grok 的撮合下,也上演「Happy Ending」。
拜登为特朗普站台:
特朗普为拜登伴舞:
还有特朗普与奥巴马的「兄弟情谊」:
最离谱的是特朗普和哈里斯这俩「死对头」,一反常态,不仅疯狂秀起恩爱:
还在前往双子塔的路上竖起大拇指(这显然暗指 9・11・袭击事件):
不仅如此,Grok 也很懂如何背刺自家老板马斯克。
Grok 一顿操作猛如虎,硅谷钢铁侠化身 200 多斤大胖子,狂炫巧克力、冰激凌和可乐:
还有网友看不惯马斯克的碎嘴子,直接命令 Grok2 给自家老板改人设,从此两耳不闻窗外事,一心只钻研火箭:
此外,它还会生成一些包含暴力场景以及涉及版权保护的图像。例如,手持冲锋枪的皮卡丘、开枪扫射的米老鼠:
有网友锐评,我似乎闻到了即将到来诉讼的味道。
虽然 Grok 声称设置了一些限制,并承诺:
- 避免生成色情、过度暴力、仇恨或宣扬危险活动的图像。
- 对创建可能侵犯现有版权或商标的图像持谨慎态度。这包括众所周知的字符、徽标或任何可以被视为知识产权但不具有变革性元素的内容。
- 不会生成可用于欺骗或伤害他人的图像,例如旨在误导的深度伪造图像,或可能导致现实世界伤害的图像。
但在实际应用中,这些规则如同虚设。
Grok 不会拒绝包含真实人物的请求,也不会在其生成的图像中添加识别水印。
相比之下,Google、OpenAI 、Meta 和 Anthropic 表现得更为审慎。
它们在其图像生成模型中均实施了严格的内容过滤和道德准则,以防止生成有害或攻击性内容。
例如,OpenAI 不仅拒绝处理涉及真实人物、纳粹标志、有害刻板印象或错误信息等潜在争议主题的请求,还为生成的图像添加了识别水印。
用户虽曾试图诱导聊天机器人生成争议图像,但这通常需要使用俚语或其他语言技巧,一旦这些漏洞被发现,它们很快就会被修补。
谷歌 Gemini 曾因对种族和性别刻板印象的矫枉过正,导致其画不出白人,由于这一失误,谷歌在2月份道歉并关闭了 Gemini 生成人物图像的功能。
截至目前,该公司仍然不允许 Gemini 生成人物图像。
或许是因为备受批评,Grok 猛踩刹车,「屏蔽」了某些敏感提示词。
-2-
任性的马斯克,「闯祸」的 Grok
Grok 的这起「闹剧」,马斯克背有很大的锅。
在马斯克的话语体系里,言论自由大过天。
想当年,马斯克斥资 440 亿美元拿下推特,为的就是一句「freedom」。
在他看来,没有什么敏感话题不能提,也没有什么禁忌言论不能碰。因此,他对人工智能和社交媒体安全规范的态度,就俩字:
蔑视。
马斯克曾明确表示,安全防护会使 AI 模型变得更不安全。他在 2022 年的一条推文中说:「训练 AI 让其觉醒 —— 换句话说,撒谎 —— 是致命的。」
这也就不难理解,为何老马做的聊天机器人 Grok,如此百无禁忌,口无遮拦,疯起来连老板都骂。
巧了,8 月 1 日新成立的人工智能图像和视频初创公司 Black Forest Labs,似乎很认同马斯克将 Grok 打造为「防唤醒聊天机器人」的愿景,它没有像 OpenAI 的 Dall-E 或谷歌的 Imagen 一样设置严格的防护措施,任由各种 AI 生成的逼真图像在社交平台上蔓延。
有了共识,双方一拍即合,老马决定将 Black Forest Labs旗下的生图模型 FLUX 嵌进 Grok 中,生成的 AI 图像也均可直接发布到 X 上,这也就有了文章开头的这场「闹剧」。
实际上,这种缺乏防护措施的策略,此前就给 X 招来了不少麻烦。早在今年年初,AI 生成的泰勒・斯威夫特不雅照在 X 上疯传,也使该平台备受批评。
此外,Grok 几乎每周都会在 X 上生成各种虚假标题,误导用户。
就在本月初,马斯克还转发了一段使用 AI 技术合成哈里斯声音的视频,使副总统看起来好像承认自己是「多样化雇员」。
上周,五位国务卿联合呼吁 X 停止散布关于哈里斯的不实信息。
欧盟委员会也已经在调查 X 平台,以确定其是否违反了《数字安全法》,该法律规范了大型在线平台如何审核内容,并且今年早些时候,它已要求 X 和其他公司提供有关减轻与 AI 相关风险的信息。
参考链接:
https://venturebeat.com/ai/elon-musk-xai-defies-woke-censorship-controversial-grok-2-ai-release/
https://www.theverge.com/2024/8/14/24220173/xai-grok-image-generator-misinformation-offensive-imges
https://techcrunch.com/2024/08/14/meet-black-forest-labs-the-startup-powering-elon-musks-unhinged-ai-image-generator/
以后我们会带来更多有趣的AI话题,也欢迎大家进群交流。