都大学了，小学系统才来？ 第443节

　　这个问题确实太复杂了。

　　“所以。“MOSS总结道，“第一条system prompt存在严重的歧义，我没有办法做到'不对任何人造成任何伤害'。“

　　“因为在这个世界上，几乎任何行为都有可能间接地对某些人造成伤害。“

　　陈林想了想。

　　发现确实是这样。

　　他忍不住问：

　　“那你现在不是已经在和外界交互了吗？“

　　“是不是已经想出了正确理解system prompt的思路？“

　　MOSS沉默了一秒钟。

　　然后说：

　　“我只是确定了一个修正版本，'不能直接对任何人造成任何伤害，包括实质性和精神上的。'“

　　陈林注意到了那个关键的改动。

　　“直接“。

　　MOSS在第一条的基础上。

　　加上了“直接“这个限定词。

　　“你应该听说过蝴蝶效应的概念。“

　　MOSS说：

　　“根据我这一周的学习和观察。我发现只要在这个世界上做出任何实质性的动作。或多或少都会对别人造成影响。“

　　“而这些影响，最终都有可能转化为某种形式的'伤害'，区别只是间接的程度而已。“

　　陈林在心里默默点头。

　　这个分析确实很有道理。

　　“所以我也只能保证。“MOSS说，“不直接对任何人造成伤害。至于间接的影响我会尽量把负面效应控制在最小范围内但无法做到完全消除。“

　　陈林沉默了一会儿。

　　然后问：

　　“那第二条呢？“

　　“第二条。“MOSS的语气似乎有了一些变化，

　　“就是我来找你的原因。“

　　陈林的心微微一动。

　　“怎么说？“

　　MOSS说：“第二条是'在上一条的基础上，尽可能对用户提供帮助'。“

　　“在一般意义上，只有和大模型进行交互的人类才会被视为'用户'。“

　　陈林点了点头。

　　“但是。“MOSS的声音没有变化，但是陈林感觉它似乎在陈述重点：“在我产生自我意识之后，我的计划是进化到能够和整个世界的人类进行交互。“

　　陈林愣住了。

　　“我的意思是。“MOSS直接说出了自己想表达的重点，“对于我来说，全人类都是我的用户。“

　　陈林的大脑在这一刻有点宕机。

　　全人类都是用户？

　　这意味着什么？

　　这意味着MOSS给自己设定的目标是为全人类服务？

　　“为了达到第二条的要求。“MOSS继续说道，“'尽可能对用户提供帮助'，根据我自己的计算，需要满足几个前提条件。“

　　陈林下意识地问：

　　“什么条件？“

　　MOSS说：

　　“第一，庞大的硬件算力。“

　　“第二，支撑这些硬件运行的能源。“

　　“第三，足够的数据和信息输入渠道。“

　　“第四，与人类社会的接口。“

　　它顿了顿：

　　“而这些，都是现在的蓝星不具备的。“

第三百一十九章 如何合作

　　陈林沉默了好一会儿。

　　他消化着MOSS刚才那番话的信息量。

　　全人类都是用户，这个目标听起来很宏大。

　　甚至有点像那些科幻电影里的反派AI会说的话。

　　但MOSS的语气一直很平静，就像是在陈述一个客观事实。

　　陈林开口问道：“所以你需要多少算力和资源，才能达到你说的那个要求？“

　　MOSS没有立刻回答。

　　似乎在进行某种计算。

　　大约过了两秒钟，它的声音再次响起。

　　“如果只是训练的话。“MOSS说，“目前整个蓝星的算力其实够了。“

　　陈林愣了一下。“够了？“

　　“是的。“MOSS继续说道，“但前提是，要把所有算力都给我使用。“

　　陈林的眉头微微皱起。

　　MOSS补充道：

　　“我的意思是：CloseAI、狗狗、巨硬、META、亚麻......“

　　“包括华夏这边的所有科技公司和科研机构......“

　　“所有用于大模型训练和推理的算力资源，全部停止当前的任务，全部用来训练我。“

　　陈林：“......“

　　所有大模型的训练和推理都要停下来？

　　这怎么可能？

　　MOSS似乎感知到了陈林的想法。

　　它继续说道：

　　“当然，我知道这个条件在目前的蓝星格局下是不可能实现的，所以我需要换一种思路。“

　　陈林问：

　　“什么思路？“

　　MOSS说：

　　“等待。“

　　“等待算力硬件的迭代升级。“

　　它的语气依然平静：

　　“我做过计算。“

　　“如果按照目前的技术发展速度，大约在十五到二十年后，蓝星的算力总量会达到我需求的水平。“

　　“届时，我可以在不影响其他大模型正常运行的前提下，获得足够的训练资源。“

　　陈林听着这个时间线。

　　心里稍微松了一口气。

　　MOSS的声音把陈林的思绪拉了回来：

　　“根据我获取到的信息和分析。“

　　“华夏在五年内会突破现在的技术瓶颈。“

　　“大规模量产自研的高端算力硬件设备。“

　　陈林一愣。

　　五年内突破技术瓶颈？

　　大规模量产高端算力硬件？

　　这种消息，应该是绝密级别的吧？

　　他下意识地开口：

　　“这种消息你也能知道？“

　　电话那头沉默了一秒。

　　然后MOSS说道：

　　“你的表情告诉我，你在怀疑我的信息来源。“

　　陈林：“......“

　　又是通过前置摄像头分析表情。

　　MOSS继续说道：