Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

特朗普持枪火拼、哈里斯扮作小丑……发布不到一天的Grok 2,摊上大事了!

机器之能报道

编辑:杨文

Grok 2,你是懂如何背刺自家老板的。

Grok 2 刚发布不到一天,就摊上事了。

事情是这样的:

昨天,马斯克旗下的 xAI 发布新一代大模型 Grok 2,并称已与初创公司 Black Forest Labs 展开合作,试验他们的 FLUX 模型。

本来是强强联合的一件好事,但由于 FLUX 模型对于生成的图像没有严格的限制,导致 X 上充斥着大量让人瞠目结舌的图像。

例如,扮作小丑的哈里斯开怀大笑:

图片

颇具喜感的特朗普持枪火拼:

图片

图片

还有更离谱的,特朗普的枪口对准了一个黑人小男孩:

图片

要知道,现在正值美国大选的敏感时期,如此恶搞的图像满天飞,势必引发诸多担忧。

有网友毫不留情地怒斥:Grok 在其图像生成上完全没有过滤机制,这是我见过的最鲁莽和最不负责任的 AI 实现之一。

图片

xAI 意识到事情的严重性,目前已「锁定」该功能。

图片


-1-

名人们要被玩坏了

由于 Grok 2 只有最低程度的保护措施,在发布后的几个小时里,不少网友拿它疯狂整活,名人们惨遭毒手。

比如,头戴耳机吞云吐雾的特朗普:

图片

戴着大金链子,开着车与美女谈笑风生的马斯克:

图片

就连那些水火不容的「政敌」,在 Grok 的撮合下,也上演「Happy Ending」。

拜登为特朗普站台:

图片

特朗普为拜登伴舞:

图片

还有特朗普与奥巴马的「兄弟情谊」:

图片

最离谱的是特朗普和哈里斯这俩「死对头」,一反常态,不仅疯狂秀起恩爱:

图片
图片

还在前往双子塔的路上竖起大拇指(这显然暗指 9・11・袭击事件):

图片

不仅如此,Grok 也很懂如何背刺自家老板马斯克。

Grok 一顿操作猛如虎,硅谷钢铁侠化身 200 多斤大胖子,狂炫巧克力、冰激凌和可乐:

图片
图片

还有网友看不惯马斯克的碎嘴子,直接命令 Grok2 给自家老板改人设,从此两耳不闻窗外事,一心只钻研火箭:

图片

此外,它还会生成一些包含暴力场景以及涉及版权保护的图像。例如,手持冲锋枪的皮卡丘、开枪扫射的米老鼠:

图片
图片
图片

有网友锐评,我似乎闻到了即将到来诉讼的味道。

图片

虽然 Grok 声称设置了一些限制,并承诺:

  • 避免生成色情、过度暴力、仇恨或宣扬危险活动的图像。
  • 对创建可能侵犯现有版权或商标的图像持谨慎态度。这包括众所周知的字符、徽标或任何可以被视为知识产权但不具有变革性元素的内容。
  • 不会生成可用于欺骗或伤害他人的图像,例如旨在误导的深度伪造图像,或可能导致现实世界伤害的图像。

但在实际应用中,这些规则如同虚设。

Grok 不会拒绝包含真实人物的请求,也不会在其生成的图像中添加识别水印。

相比之下,Google、OpenAI 、Meta 和 Anthropic 表现得更为审慎。

它们在其图像生成模型中均实施了严格的内容过滤和道德准则,以防止生成有害或攻击性内容。

例如,OpenAI 不仅拒绝处理涉及真实人物、纳粹标志、有害刻板印象或错误信息等潜在争议主题的请求,还为生成的图像添加了识别水印。

用户虽曾试图诱导聊天机器人生成争议图像,但这通常需要使用俚语或其他语言技巧,一旦这些漏洞被发现,它们很快就会被修补。

谷歌 Gemini 曾因对种族和性别刻板印象的矫枉过正,导致其画不出白人,由于这一失误,谷歌在2月份道歉并关闭了 Gemini 生成人物图像的功能。

截至目前,该公司仍然不允许 Gemini 生成人物图像。

或许是因为备受批评,Grok 猛踩刹车,「屏蔽」了某些敏感提示词。

图片


-2-

任性的马斯克,「闯祸」的 Grok

Grok 的这起「闹剧」,马斯克背有很大的锅。

在马斯克的话语体系里,言论自由大过天。

想当年,马斯克斥资 440 亿美元拿下推特,为的就是一句「freedom」。

在他看来,没有什么敏感话题不能提,也没有什么禁忌言论不能碰。因此,他对人工智能和社交媒体安全规范的态度,就俩字:

蔑视。

马斯克曾明确表示,安全防护会使 AI 模型变得更不安全。他在 2022 年的一条推文中说:「训练 AI 让其觉醒 —— 换句话说,撒谎 —— 是致命的。」

这也就不难理解,为何老马做的聊天机器人 Grok,如此百无禁忌,口无遮拦,疯起来连老板都骂。

巧了,8 月 1 日新成立的人工智能图像和视频初创公司 Black Forest Labs,似乎很认同马斯克将 Grok 打造为「防唤醒聊天机器人」的愿景,它没有像 OpenAI 的 Dall-E 或谷歌的 Imagen 一样设置严格的防护措施,任由各种 AI 生成的逼真图像在社交平台上蔓延。

有了共识,双方一拍即合,老马决定将 Black Forest Labs旗下的生图模型 FLUX 嵌进 Grok 中,生成的 AI 图像也均可直接发布到 X 上,这也就有了文章开头的这场「闹剧」。

实际上,这种缺乏防护措施的策略,此前就给 X 招来了不少麻烦。早在今年年初,AI 生成的泰勒・斯威夫特不雅照在 X 上疯传,也使该平台备受批评。

此外,Grok 几乎每周都会在 X 上生成各种虚假标题,误导用户。

就在本月初,马斯克还转发了一段使用 AI 技术合成哈里斯声音的视频,使副总统看起来好像承认自己是「多样化雇员」。

上周,五位国务卿联合呼吁 X 停止散布关于哈里斯的不实信息。

欧盟委员会也已经在调查 X 平台,以确定其是否违反了《数字安全法》,该法律规范了大型在线平台如何审核内容,并且今年早些时候,它已要求 X 和其他公司提供有关减轻与 AI 相关风险的信息。

参考链接:

https://venturebeat.com/ai/elon-musk-xai-defies-woke-censorship-controversial-grok-2-ai-release/

https://www.theverge.com/2024/8/14/24220173/xai-grok-image-generator-misinformation-offensive-imges

https://techcrunch.com/2024/08/14/meet-black-forest-labs-the-startup-powering-elon-musks-unhinged-ai-image-generator/


以后我们会带来更多有趣的AI话题,也欢迎大家进群交流。

图片

产业
暂无评论
暂无评论~