Skip to content

OSH-2024/ModelSynergy

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

LLM Agent

简介

本项目的重点在于如何将LLM与操作系统耦合,使得其在内核与用户间提供一个更用户友好的、更便于操作的中间层。因此,我们将LLM的上下文机制引入操作系统,使得操作系统的文件系统等成为上下文的组成部分,提高LLM对用户的个性化适用性。

组名:ModelSynergy

队徽:

成员:

杨家和 程思翔 桂之瑜

时间安排

3.6-3.18 前期线上讨论

初步构想:

  • LLM增强终端交互性
  • 内存盘的智能挂载
  • Ray架构增强分布式计算
  • 大模型操作系统助理
  • 机器学习改进进程调度算法
  • ……

3.20 初步确定大方向:大模型操作系统助理

小方向备选:

  • 文件危险操作状态回滚
  • 本地知识库构建
  • 长上下文的固定保存
  • 常用生成脚本的自主保存
  • 灵活选择脚本语言/操作方式
  • ……
日期 内容
3.28 前 初步调研与讨论
3.28-4.2 调研各备选方向,完成调研报告的撰写
4.2-4.21 相关开源项目的配置与初步测试
4.6-4.12 可行性调研,着重复现现有项目成果
4.12 可行性调研汇总
4.13 讨论具体方向及技术路径
4.14 完成可行性报告的撰写
4.20 中期汇报准备完成
4.24 中期汇报完成
4.25-5.10 深入解析相关开源项目源码
5.13 后期开发分工
5.14-5.19 完成InfLLM框架下kvcache的保存
5.30 完成扩展属性的创建和读取
6.1 完成实时监控文件修改情况
6.7 开始Lab4,Ray的部署初步测试
6.24 完成文本文件生成kvcache
6.28 尝试Ray的分布式部署(使用了实验延期提交机会)
6.30 Lab4完成
7.1 实验环境移植部署
7.2 消息队列完成,配置为系统服务;打包成Python包
7.2-7.4 完成调用接口
7.3 store、load命令全部完成
7.4 watch、free命令完成;最终测试
7.5 新增图片内容检索功能;准备答辩

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Contributors 3

  •  
  •  
  •