本项目的重点在于如何将LLM与操作系统耦合,使得其在内核与用户间提供一个更用户友好的、更便于操作的中间层。因此,我们将LLM的上下文机制引入操作系统,使得操作系统的文件系统等成为上下文的组成部分,提高LLM对用户的个性化适用性。
3.6-3.18 前期线上讨论
初步构想:
LLM增强终端交互性内存盘的智能挂载Ray架构增强分布式计算- 大模型操作系统助理
机器学习改进进程调度算法- ……
3.20 初步确定大方向:大模型操作系统助理
小方向备选:
文件危险操作状态回滚本地知识库构建- 长上下文的固定保存
常用生成脚本的自主保存灵活选择脚本语言/操作方式- ……
日期 | 内容 |
---|---|
3.28 前 | 初步调研与讨论 |
3.28-4.2 | 调研各备选方向,完成调研报告的撰写 |
4.2-4.21 | 相关开源项目的配置与初步测试 |
4.6-4.12 | 可行性调研,着重复现现有项目成果 |
4.12 | 可行性调研汇总 |
4.13 | 讨论具体方向及技术路径 |
4.14 | 完成可行性报告的撰写 |
4.20 | 中期汇报准备完成 |
4.24 | 中期汇报完成 |
4.25-5.10 | 深入解析相关开源项目源码 |
5.13 | 后期开发分工 |
5.14-5.19 | 完成InfLLM 框架下kvcache 的保存 |
5.30 | 完成扩展属性的创建和读取 |
6.1 | 完成实时监控文件修改情况 |
6.7 | 开始Lab4,Ray的部署初步测试 |
6.24 | 完成文本文件生成kvcache |
6.28 | 尝试Ray的分布式部署(使用了实验延期提交机会) |
6.30 | Lab4完成 |
7.1 | 实验环境移植部署 |
7.2 | 消息队列完成,配置为系统服务;打包成Python包 |
7.2-7.4 | 完成调用接口 |
7.3 | store、load命令全部完成 |
7.4 | watch、free命令完成;最终测试 |
7.5 | 新增图片内容检索功能;准备答辩 |