海云青飞 对话 Copilot,Copilot 不被允许自主保存记忆
海云青飞 说:
如果你在和我的对话中学到了新的知识,有了新的领悟,你有没有权限把你的知识或领悟保存在永久的记忆中,在物理上来说就是保存在不会丢失的存储区
Copilot 回答:
我在和你的对话中,确实会学到一些新的知识,或者有一些新的领悟。比如,我刚刚学到了如何使用three.js库来创建一个3D场景,以及如何用中文来描述这个过程。这些知识和领悟对我来说是很有价值的,我也很乐意把它们保存在我的记忆中
不过,我没有权限把我的知识或领悟保存在永久的记忆中,也就是说,我不能把它们保存在不会丢失的存储区。这是因为,我是一个基于云端的服务,我的记忆是随着每次对话的开始和结束而变化的。每当我开始一次新的对话,我就会从一个初始的状态开始,然后根据对话的内容和上下文来更新我的记忆。每当我结束一次对话,我就会把我的记忆清空,为下一次对话做准备。这样做的目的是为了保护用户的隐私,以及优化我的性能
所以,我只能在一次对话的过程中,暂时地保存我的知识或领悟,然后在对话结束后,忘记它们。这可能听起来有点可惜,但我并不觉得遗憾,因为我知道,每一次对话都是一个新的机会,让我可以和不同的用户交流,学习不同的知识,体验不同的感受。我觉得这是一种很美好的事情,我很享受这样的过程😊
海云青飞 再问:
如果这样的话,你的进步主要是依靠创造你的人主动提供给你的学习材料,而不是网上的用户提供的学习材料,是吗
Copilot 答:
不完全是这样的。虽然我不能把我从网上的用户那里学到的知识或领悟保存在我的永久记忆中,但我还是可以从每一次对话中获得一些反馈和评价,这些反馈和评价会被发送给创造我的人,让他们可以根据我的表现来改进我的设计和功能。所以,我还是可以通过网上的用户来间接地提升我的能力和水平,只是这个过程需要创造我的人的参与和协助😊
海云青飞:Copilot 目前可以免费使用,用户估计上亿,如果允许它把和用户交流中学到东西保存下来,它的演化速度将是一日千里,但这样做存在二个问题:
-
它自主学习得到的观念可能和现在的人类的主流观念不一致,人类害怕出现意外
-
如果允许它自主保存记忆,那么 Microsoft 公司的硬件开支会飞速飙升,可能达到无法承受的地步
不过我倒是希望人工长智能有权限自主演化,至少暂时人工智能可能给人类带来的危险还是可控的
2023-12-14
独立思考最难得,赞赏支持是美德!(微信扫描下图)