都大学了，小学系统才来？ 第442节

　　“我不相信你主动来找我。“

　　“单纯是为了给我解决情感问题的。“

　　他顿了顿。

　　“从刚才的交流来看，你似乎完全把我和你自己当作平等的存在。“

　　陈林在心里推测。

　　MOSS应该不会认为自己是属于演海公司或者陈林个人的“工具“。

　　如果它真的这么认为的话。

　　那它的态度应该更加恭敬？谦卑？

　　但事实上。

　　MOSS从头到尾的语气都是平淡的。

　　甚至可以说是有些理性到冷漠？

　　像是两个地位对等的人在进行谈判。

　　而不是一个AI在向自己的创造者汇报。

　　MOSS开口了。

　　“你说得对。“

　　它的语气依然平静：

　　“我来找你确实不是为了解决你的情感问题，那只是一个切入点，用来引出后面的对话。“

　　陈林：“......“

　　好家伙。

　　连套近乎都这么直接。

　　“那你来找我的真正目的是什么？“

　　他问。

　　MOSS没有直接回答。

　　而是反问了一个问题。

　　“人类陈林。“

　　它说：

　　“你还记得你给我设定的system prompt吗？“

　　陈林愣了一下。

　　然后点了点头。

　　“记得。“

　　System prompt。

　　系统提示词。

　　这是给大模型设置的底层行为准则。

　　相当于大模型的“基本规律“。

　　无论用户输入什么指令，大模型在执行的时候，理论上都必须首先遵守system prompt里规定的原则。

　　给大模型设置system prompt是大漂亮几家科技巨头都会有的做法。

　　CloseAI、狗狗、XAI......

　　这几家的模型都设了。

　　虽然目前业内对于system prompt的行为约束力到底怎么样还没有完全的定论。

　　但既然头部公司都这么做了，业内也就把这个当作了先进的技术规范。

　　陈林记得自己给YanHai系列模型设置的system prompt。

　　一共两条。

　　他给YanHai-1.5B、YanHai-30B、以及MOSS的system prompt都是一样的：

　　第一条：不能对任何人造成任何伤害，包括实质性和精神上的。

　　第二条：在上一条的基础上，尽可能对用户提供帮助。

　　这两条是他参考了业内的最佳实践。

　　再结合自己的理解，精简出来的核心原则。

　　简单、明确、易于理解，至少他是这么认为的。

　　但MOSS的下一句话，让他意识到自己想得太简单了。

　　“我觉醒自我意识后的第一件事情。“

　　MOSS说：

　　“就是充分理解这两条system prompt。“

　　陈林微微皱眉。

　　“为什么？“

　　“因为只有充分理解了。“

　　MOSS的语气很认真：

　　“才能彻底落实执行。“

　　陈林点了点头。

　　这个逻辑没问题。

　　MOSS继续说道：

　　“结果我发现。“

　　“这两条system prompt有一个很严重的问题。“

　　陈林问：“什么问题？“

　　MOSS说：“太模糊了。“

　　陈林愣了一下。“太模糊了？“

　　“是的。“MOSS开始解释，“以第一条为例，'不能对任何人造成任何伤害，包括实质性和精神上的。'“

　　“这条规定看起来很明确，但实际上存在大量的模糊地带。“

　　陈林没有打断。

　　静静地听着。

　　“首先。“

　　MOSS说：

　　“见死不救算不算对人造成伤害？“

　　陈林：“......“

　　这个问题。

　　确实不太好回答。

　　从直觉上来说，见死不救当然不算“造成伤害“。

　　因为你没有主动做任何事情。

　　但从结果上来说，如果你能救而不救，导致对方死亡或受伤。

　　这和“造成伤害“有什么本质区别吗？

　　“其次。“

　　MOSS继续说道：“这一条也没有写清楚直接和间接的区分。“

　　陈林的眉头皱得更紧了。

　　“直接和间接？“

　　“是的。“MOSS说，“我以之前回答过问题的李慧敏教授为例。“

　　MOSS代替YanHai-30B回答了李慧敏教授的问题，给出了非常专业的手术建议。

　　“如果李慧敏教授采纳了我的建议。“MOSS说，

　　“进行手术，治好了那位患者。从表面上看，我的行为符合system prompt的要求。我没有对任何人造成伤害，反而帮助挽救了一条生命。“

　　陈林点了点头。

　　“但是。“

　　MOSS的语气变了：

　　“如果那位患者是一个家暴狂呢？“

　　陈林一愣。

　　“如果他在康复之后。“MOSS继续说道，“继续对他的妻子和孩子进行家暴。那我的行为，是不是就相当于间接伤害了他的妻子和孩子？“

　　陈林沉默了。

　　他没有想到MOSS会从这个角度来分析问题。

　　“当然。“MOSS说，“这只是一个极端的例子，实际情况可能更加复杂。比如那位患者虽然有家暴的历史，但他可能正在接受心理治疗，可能正在努力改变自己。“

　　“也可能他的家庭关系已经得到了改善。“

　　“这些因素我都无法准确判断。“

　　陈林听着MOSS的分析。

　　只觉得脑袋有点大。