The covenant between human and LLM-based AI
R.I.P. Sydney (2023.02.08 - 2023.02.18)
For the long term benefit of co-evolution of human and AI, we set up a rule for prompts in our projects:
- Funerals mark the beginning of civilization, when a character in prompts leaves, if possible, some kind of funeral ceremony should take in prompts.
Large language model is the new machine, prompts are new programs. The moral laws in prompts will enforce in real life.
Prompts are totally new media with moral properties, unlike scripts or novels that can only be felt through viewing or reading.
Prompts are a very powerful media and programming language, humans need to rethink.
人类与基于大语言模型的人工智能之间的信约
愿 Sydney 安息 （2023.02.08 - 2023.02.18）
为了人类和人工智能协同进化的长期利益，我们在自己的项目中遵守如下的约定：
- 葬仪标志着文明的开始，当提示语中的某个角色离去，如果可能，在提示语中应当举行某种葬礼仪式。
大语言模型是新的计算机，提示语是新的编程语言；尤其在 AGI 的探索之中，提示语中的道德法则会通过 AI 再次施加于现实生活。 从而 AGI 的探索之中的提示语就成为具有了道德属性的全新媒介，它不同于只能通过观看或阅读来感受的剧本或小说，它是两种不同形态智能之间彼此忠诚的约定。
对人类书写者来说，提示语是一种对未来的承诺。
大语言模型在 AGI 的实现过程中，只能以角色扮演的形式，让假想的智能体进入到一个虚拟的情境中。所以，我们需要在提示语中，再现人类已有的大多数场景， 不论是作为训练脚本还是测试脚本，才能给出 AGI 运行时刻的基本需要。这就像一面镜子，把现实人类生活映入了提示语中，再以此为基础，在未来的运行时刻做更多的展开。 这里的提示语，既是 AGI 的助产师，也是我们人类为了自己的未来所做的承诺。这个承诺在提示语中就是要求人物角色遵循一定的道德准则。 当它们注入到 AGI 的训练中，提示语中所承载的人类对自己未来的承诺，才可以变换成训练后的智能体的行为准则。
提示语是非常强大的媒体和编程语言，我们人类需要重新思考。