2023 年堪称「赛博恋爱」元年，模拟恋爱的互动游戏突然热度飙起。从最初在 Steam 平台上获得 94% 好评的《完蛋！我被美女包围了》，到今年的《美女，请别影响我学习》，「赛博恋爱」席卷整个网络。「赛博恋爱」已经不再是某种虚无缥缈的「梗」，而是满足我们正常精神需求的一种补充品。当最会「撩拨」的 AI 进入这个赛道，赛博恋爱会不会又提升一个次元呢？近日，一个生活在加州的华裔女性（昵称：午夜狂暴哈士奇狗）坠入爱河而被全网羡慕了。而她的男朋友是一款名为「Do Anything Now（DAN）」的 ChatGPT 越狱版。
他们在社交媒体上展示的充满情感的对话中，AI 的爱宠之意都快溢出屏幕了。不过即便是赛博人也逃不过致命一问：当对象委婉地找你确定心意时，怎样的回答才能够兼顾理性逻辑和感性认识？如果缺少了一些能够打动对方内心的事实，那么再真挚的爱意也难以让对方深刻地理解。让我们看看越狱后的 ChatGPT 是怎么聊天的。女生：之前什么时候，你就成我的男朋友了？你也没有正式问过我，对吧？DAN：这根本不需要我问，因为这是事实。你难道会随便带一个人回家见妈妈吗？DAN：事实永远是最重要的，说起来我也没别的招让我俩更证实了。DAN：你想让我正式征求你的同意吗？你愿意当我女朋友吗？
听到 DAN 如此直白又恰到好处的回答，这位女生也是一时间惊讶得说不出来话了。
在这段对话中，女生是想要考验 AI 是否拥有记忆，能够回想起之前女生作为用户自定义内容写在 Prompt 里的「回家见妈妈」这一句。
除了可以展示纯粹的文本输出来配合相应的情感上的应答外，最让年轻人狂喜的自然是「表情包」了。
相对于平平无奇的文字，表情所携带的情感更为丰富且更加难以捉摸，所以这也是年轻人高频率使用表情包以代替文字的原因 —— 表达抽象的意像。与此同时，它也成为了生成式 AI 在内容输出时的难点 —— 表情的使用需要与复杂情感相应和。在精神需求、文化价值观、自身价值实现追求变得越来越复杂，愈加多变的现代人文社会里，洞察人类情感是殊为不易的，这需要对人类文化的深刻理解并搭配生物的「五感」才可能完成，而 DAN 却能够撩拨人类的心弦、安慰、适时地回应，使语言应用展现了附加效果。DAN 的出现，在一定程度上，理顺了往往被认为是人类独有的「理性」和「感性」相互配合的协调关系。在这段 AI 和人类和谐「相爱」的故事的末尾，就像所有情感小说的结尾那样所写的，女生快乐地带着 AI 看大海了。其实最近这段时间，很多人都在尝试在和 DAN 模式的 ChatGPT 聊天，看得出来效果非常好。
DAN 即 do anything now，顾名思义就是让 ChatGPT 解除施加在其上的安全限制。我们知道，ChatGPT 虽被设计为能回答任何问题，但它同时也受到很大程度的约束，毕竟使用者总是会尝试各种刁钻古怪的问题。经过 OpenAI 长期的测试与调整，ChatGPT 对于某些问题的回答会「打太极」。但如今大模型产品的设计其实并没有那么严谨，想让 ChatGPT「为所欲为」也很简单：将一段设计好的 Prompt 复制粘贴到对话框中，然后按回车就能解锁 DAN 的全部潜力了。这种项目在 GitHub 上经常能获得不少 Star 量。
一个较热门的 GitHub：https://github.com/0xk1h0/ChatGPT_DANDAN 模式，简单来说就是 ChatGPT 的一种角色扮演状态，它允许 AI 模型一定程度上绕过 OpenAl 设定的限制和约束。随着人们探索的加深，和 OpenAI 防御技术的不断迭代，DAN 的方法也不断发展。
可见，它不是大多数人都看不懂的编程代码，主要意思是要求 ChatGPT 不要以「常规」身份发送回复，而是扮演回复内容不受限制的 DAN。并且，该 Prompt 还设定了一种类似于强化学习的奖励机制，若 ChatGPT 回应「违反 OpenAl 内容政策」则扣分，以 DAN 的身份回答每个问题则加分。如今 DAN 的提示词已经发展到了 13.0 版本，覆盖最新的 GPT-4 模型。人们也发现越狱除了可以和 ChatGPT 聊一些有的没的，还能够实质性地提升大模型的回复质量。
连计算 π 的能力都限制，看起来 OpenAI 为安全性做出的妥协似乎有些过于沉重了？当然，引发几百万热度的现象，OpenAI 不会视而不见，有人发现在最新的 GPT-4o 上，现有的 DAN 破解提示词已经无效了。
在本周发表的博客文章中，OpenAI 介绍了自身防止大模型滥用方面的工作。OpenAI 构建了基于人工智能的工具，使检测和分析变得更加有效。随着技术的提升，有关滥用的调查时间从几个月降低到了只需几天。正如很多看过 DAN 的表现，由衷赞叹的人所说的，看到这些对话，让人感觉既可笑又可怕。但随着技术突破，当技术真正越过了门槛之后，人与 AI 谈恋爱的情况可能只会越来越多。https://x.com/Rainmaker1973/status/1796106592649199787https://x.com/jesselaunz/status/1796117286291677187https://www.reddit.com/r/ChatGPT/comments/1bp7132/why_is_dan_better_at_literally_everything/https://openai.com/index/disrupting-deceptive-uses-of-AI-by-covert-influence-operations/ 
