v1.0.0
HOW TO INSTALL?
npm:npm install agently
yarn:yarn add agently
HOW TO USE?
🤵 Agently is a framework helps developers to create amazing LLM based applications.
🎭 You can use it to create an LLM based agent instance with role set and memory easily.
⚙️ You can use Agently agent instance just like an async function and put it anywhere in your code.
🧩 With the easy-to-plug-in design, you can easily append new LLM API/private API/memory management methods/skills to your Agently agent instance.
🥷 Author: Maplemx | 📧 Email: [email protected] | 💬 WeChat: moxinapp
⭐️ Star this repo if you like it, thanks!
🤵 Agently是一个希望帮助大语言模型(LLM)应用开发者们制作出超棒的大语言模型应用(LLM Based Applications)的轻量级框架
🎭 你能够使用Agently快速而轻松地创建并管理基于大语言模型的Agent实例,并管理他们的人设和记忆,这将让客服机器人、角色扮演机器人、游戏用Agent的构造和管理更方便
⚙️ 你可以把Agently创建的Agent以及Session像一个异步函数(async function)一样使用,这将让基于大语言模型能力的自动化工作流构造更轻松,你甚至可以沿用原有的业务代码,在其中部分需要NLP算法、复杂推理或人工操作的环节,尝试把Agently提供的Agent和Session当做一个异步函数,几乎无缝地加入到代码的业务流程中
🧩 Agently在设计时考虑了对主要请求流程中节点部件的可更换性,你可以轻松地更换或定制它们,例如:添加新的LLM模型请求方法,更换私有/转发的模型请求API地址,调整Agent记忆管理方法,定制自己的模型消息解析方案等
🔀 Agently提供的独特的针对一次请求中的流式消息(Streaming Message)的消息分块及多下游分发管理方案,能够让你在接收流式消息时,一方面保留了大语言模型通过流式消息的方式带来的高速反馈敏捷性优点,另一方面又能在一次请求中做更多的事情
🥷 作者: Maplemx | 📧 Email: [email protected] | 💬 微信: moxinapp
⭐️ 如果您觉得这个项目对您有帮助,请给项目加星,感谢您的肯定和支持!