개발로그 #6! (9주차 ~12/4)

[HangryDev]

하이하이

[sinjy1203]

Last Week

SearchReportTool

• 영상님께서 구축해주신 mongo db를 통해 SearchReportTool 정상화
• langchain Base Tool override 할 수 있도록 코드 수정
• Input Schema

  class SearchReportInput(BaseModel):
      company_name: str = Field(
          description='the company name string provided by the user\'s query (e.g., "삼성전자")'
      )

• Tool

  class SearchReportTool(BaseTool):
      name: str = "search_investment_bank_report"
      description: str = (
          "Search for relevant reports of investment bank in a vector database based on the user query. Use this tool when you need 
  reports of company' stock."
      )
      args_schema: Type[BaseModel] = SearchReportInput
      return_direct: bool = False
  
      mongo_db: object
      three_ago: object = datetime.today() - timedelta(3)
  
      def _run(
          self,
          company_name: str,
          run_manage: Optional[CallbackManagerForToolRun] = None,
      ):
          documents = self.mongo_db.report.find({"company": company_name}).sort(
              "date", -1
          )
          documents = list(documents)
  
          observation = []
  
          for i, doc in enumerate(documents):
              observation.append(
                  f"company {i}: {doc['company']}\nsummary {i}: {doc['summary']}\nopinion {i}: {doc['opinion']}"
              )
  
          observation = "\n\n".join(observation)
          observation = f"Searched Reports:\n\n{documents}"
  
          return observation
  
      async def _arun(
          self,
          company_name: str,
          run_manager: Optional[AsyncCallbackManagerForToolRun] = None,
      ):
          return self._run(company_name)

Next Week

• FinRobot 벤치마킹하기

[hidden719]

Last Week

• 스크린샷 구현 코드 작성

Next Week

• 스크린샷후 팝업에 뜨게 하기

[HangryDev]

에헤이 넘 무성의합니다 사장님

[HangryDev]

코드나 뭔가 보여주시면 더 좋겠습니다

[HyunJunLEE-Hub]

Last week

회사 관련

1. [STT, OCR]SaaS, On Premis, Hybrid 코드 분리
2. 개인 유저 프롬프트 최적화 관련 API

개인 프로젝트(자유수영 LLM)

개인 프로젝트 철폐 -> 웹 서치로 90프로 이상 가능

Next week

회사 관련

1. [STT, OCR]SaaS, On Premis, Hybrid 코드 분리
2. 쿼리 -> 날짜추출, LLM을 제외한

[HangryDev]

오 개인 프로젝트가 뭐져,,,?!

[HyunJunLEE-Hub]

각 수영장 별 자유수영이나 금액, 이용시간 등을 확인하려면 각 수영장의 홈페이지에 들어가서 확인을 했어야 했는데

그거를 좀 한번에 데이터를 수집 및 해쉬값으로 저장해 해쉬값이 바뀌면 바뀐 홈페이지만 재크롤링 하는 방식을 적용해서

랭그래프나 neo4j 같은거 한번 써서 구축해 보려고 했으나...

그냥 웹서치로 이제 다 나오는 바람에 굳이 필요하지 않을꺼 같아 폐지하기로 했습니다.

오래전부터 생각만하다가 이제 하려고 했는데 좀 아쉽긴하네요

[videorighter]

새로운 프로젝트 보여주시죠 현준님
기대가 됩니다

[jh941213]

Last week

• 공모전 아이디어 발표 정리

Next week

• 정열님 코드처럼 LangGraph 리팩토링 작업
• 공모전 아이디어 관련 코드 구현

[videorighter]

Stockelper

Last week

• 공모전 준비
• LangGraph 기반 코드 streamlit 구현 완료
  

Next week

• 종목 경쟁사 정보 크롤링 코드 작성
• streamlit 그래프 데이터 시각화 작업
• 공모전 서류 작성

[HangryDev]

넘 좋습니다

[tomatojams]

Last week

프롬프트 엔지니어링 수정
디자인 수정
프론트 작업

Next week

프론트 작업 본격화
프롬프트 고도화

[Garurubi]

Last week

• 발표자료 준비
• llama.cpp로 Qwen2.5-7B-Instruct-GGUF 모델 추론 테스트

Next week

• 7~8B 모델 한국어 벤치마크 평가해 모델 선정
  • HAERAE, KoBEST, KMMLU

[HangryDev]

dead project snipper

지난주 까지 한 일

개발 쉬어가는 기간!
사이드 허슬 팀 빌딩! + 운영 관련된 업무를 주로 했습니다

이번 주 한 일

본격 실험과 데이터셋 구성을 해야 합니다만, 이번 주말에 전혀 작업을 못했네요. ㅠㅠ
토요일날 모각코 하면서 진행할 예정입니다.
프롬프트와 eval 결과를 모각코 이후 추가적으로 업데이트하겠습니다

앞으로 할 일

본격 반복실험 - 성능 개선 및 어떤 요소가 설명력이 있는지를 찾아볼 예정입니다.

[onun1059]

Last week

• html, css 스터디 시작
• 노마드코더 challenge 시작

Next week

• challenge 마무리
• javascript study 시작

[kihoon71]

Dead-Project-Snipper

• 데이터 수지 파이프라인 airflow DAG 화

Servant Chatbot

• 요약 템플릿 및 COT 추가 실험
• 요약 싸이퍼 -> 쿼리로 변환 테스트

[minglet]

Last Week

• RAG 파이프라인 구성
• 환경 세팅
• 전체 시스템 통합

Next Week

• 오픈 모델 테스트
• RAG 모듈화

[workdd]

Last Week

전체 System 구현

• FastAPI 기반 API 서버 구현
• PDF Parser 모듈 시스템에 녹이기
• RAG 모듈 시스템에 녹이기

Next Week

• System 구현 마무리
• Vllm 적용 및 추론 속도 테스트

[LewisVille-flow]

한국어 특화 요약 태스크 수행을 위한 경량화된 LLM 개발 프로젝트

Last Week

• Less is More: Task-aware Layer-wise Distillation for Language Model Compression, (ICML 2023), Microsoft
• 발표준비

Next Week

• Propagating Knowledge Updates to LMs Through Distillation, (NeurIPS 2023), The University of Texas at Austin
• DISTILLM: Towards Streamlined Distillation for Large Language Models

[xodhx4]

Last week

• https://www.uber.com/en-KR/blog/introducing-the-prompt-engineering-toolkit/
• https://toss.tech/article/ai-prompting
• https://medium.com/walmartglobaltech/using-predictive-and-gen-ai-to-improve-product-categorization-at-walmart-dc9821c6a481
• https://www.canva.dev/blog/engineering/how-to-improve-search-without-looking-at-queries-or-results/
• https://careersatdoordash.com/blog/building-doordashs-product-knowledge-graph-with-large-language-models/

Next week

• 사례 계속 공부
• 정리

[deliciouscat]

Last week

MongoDB Atlas 개통
GCP CloudSQL (재)개통..

Next week

첫 데이터 수집기 inference 하기

[SangMini2]

한국어 특화 요약 태스크 수행을 위한 경량화된 LLM 개발 프로젝트

Last week

• 논문 읽고 블로그 게재: SmoothQuant (https://velog.io/@smkm1568/Paper-review-SmoothQuant-Accurate-and-EfficientPost-Training-Quantization-for-Large-Language-Models)
• 논문 읽는 중: LLM-QAT
• 발표 준비

Next week

• LLM-QAT 논문 읽기 완료 후 블로그 게재
• 다른 방법론 리서치
• 학습 준비

[johnny9210]

한국어 특화 요약 태스크 수행을 위한 경량화된 LLM 개발 프로젝트

Last week

• 논문 정리 -> RouteLLM
• https://jik9210.tistory.com/67
• 발표 준비

Next week

• MultiLoRA: Democratizing LoRA for Better Multi-Task Learning 정리
• 학습 준비

[cheonsol-lee]

Last Week

공모전 준비

1. 주요 엔티티 정의

주식 데이터를 나타내는 주요 엔티티를 설정합니다.

• 회사: Company
  • 속성: 회사명, 티커(symbol), 산업군, 설립일, 본사 위치 등
• 주식: Stock
  • 속성: 주식 티커, 상장 거래소, 주식 유형(보통주/우선주), 상장일 등
• 주가: StockPrice
  • 속성: 날짜, 시가, 고가, 저가, 종가, 거래량 등
• 지표: Indicator
  • 속성: PER, PBR, 배당률, EPS, 매출액 등
• 시장: Market
  • 속성: 시장명, 국가, 주요 지수 등

2. 주요 관계 정의

엔티티 간의 관계를 설정하여 데이터를 연결합니다.

• 소속 관계
  • Company -[HAS_STOCK]-> Stock
  • Stock -[LISTED_ON]-> Market
• 주가 정보
  • Stock -[HAS_PRICE]-> StockPrice
  • StockPrice -[RECORDED_ON]-> Date
• 지표 정보
  • Company -[HAS_INDICATOR]-> Indicator
  • Stock -[RELATED_TO]-> Indicator
• 시장 영향 관계
  • Market -[IMPACTS]-> Stock
  • Indicator -[AFFECTS]-> StockPrice
• 회사 간 관계
  • 경쟁 관계
  • 하청업체
  • 모회사/자회사
  • …

3. 시간적 차원 추가

주식 데이터는 시간에 민감하므로, 시간 정보를 엔티티와 관계에 포함해야 합니다.

• 날짜를 Date 엔티티로 분리하여 주가나 지표의 변화에 연결합니다.
  • StockPrice -[RECORDED_ON]-> Date
  • Indicator -[VALID_FROM]-> Date

4. 확장 가능성 고려 (예정)

추가적인 데이터와 통합 가능성을 염두에 둡니다.

• 뉴스 데이터
  • NewsArticle 엔티티를 추가하고 Company 또는 Market과 연결 (MENTIONS 관계)
• 소셜 미디어 데이터
  • SocialSentiment 엔티티를 추가하고 Stock과 연결 (HAS_SENTIMENT 관계)
• 재무 보고서 데이터
  • FinancialReport 엔티티를 추가하고 Company와 연결 (REPORTS 관계)

5. 샘플 스키마 예시

[Company] --HAS_STOCK--> [Stock] --LISTED_ON--> [Market]
[Stock] --HAS_PRICE--> [StockPrice] --RECORDED_ON--> [Date]
[Company] --HAS_INDICATOR--> [Indicator]
[Market] --IMPACTS--> [Stock]
[NewsArticle] --MENTIONS--> [Company]
[SocialSentiment] --HAS_SENTIMENT--> [Stock]
[FinancialReport] --REPORTS--> [Company]

6. 구현 방법

• 그래프 데이터베이스: Neo4j 사용하여 모델링 및 쿼리 수행.
• 데이터 준비: 주식 데이터는 Yahoo Finance, Alpha Vantage, Quandl, 한국거래소 등에서 수집.
• ETL 프로세스: 데이터를 정리하고, 그래프 데이터로 변환하여 삽입.

7. 활용 사례

• 시장 분석: 특정 회사의 주가가 시장 변화에 어떻게 영향을 받는지 파악.
• 예측 모델: 지표와 주가 데이터를 활용한 예측 알고리즘 개발.
• 뉴스 및 소셜 미디어 통합 분석: 특정 이벤트가 주가에 미치는 영향을 시각화.

8. 코드 구현

• 코드 설명

  1. 엔티티 생성
     • Company, Stock, Market, Indicator, Date 노드 생성.
     • 각 엔티티는 고유 속성을 가짐(예: ticker, name 등).
  2. 관계 생성
     • **Company**와 Stock 간 HAS_STOCK 관계.
     • **Stock**과 Market 간 LISTED_ON 관계.
     • **Stock**과 Indicator 간 HAS_INDICATOR 관계.
     • **Indicator**와 Date 간 VALID_ON 관계.
  3. 유니크 제약조건
     • 중복 노드를 방지하기 위해 고유 키를 설정.

• 스키마 구성

  from neo4j import GraphDatabase
  
  class StockGraph:
      def __init__(self, uri, user, password):
          self.driver = GraphDatabase.driver(uri, auth=(user, password))
  
      def close(self):
          self.driver.close()
  
      def create_schema(self):
          with self.driver.session() as session:
              session.write_transaction(self._create_constraints)
              session.write_transaction(self._create_entities)
              session.write_transaction(self._create_relationships)
  
      @staticmethod
      def _create_constraints(tx):
          # Create unique constraints
          tx.run("CREATE CONSTRAINT IF NOT EXISTS ON (c:Company) ASSERT c.name IS UNIQUE")
          tx.run("CREATE CONSTRAINT IF NOT EXISTS ON (s:Stock) ASSERT s.ticker IS UNIQUE")
          tx.run("CREATE CONSTRAINT IF NOT EXISTS ON (m:Market) ASSERT m.name IS UNIQUE")
          tx.run("CREATE CONSTRAINT IF NOT EXISTS ON (d:Date) ASSERT d.date IS UNIQUE")
          tx.run("CREATE CONSTRAINT IF NOT EXISTS ON (i:Indicator) ASSERT i.type IS UNIQUE")
  
      @staticmethod
      def _create_entities(tx):
          # Create entities
          tx.run("""
          MERGE (market:Market {name: 'NASDAQ', country: 'USA'})
          MERGE (market2:Market {name: 'KOSPI', country: 'Korea'})
          MERGE (company:Company {name: 'Apple', ticker: 'AAPL', industry: 'Technology'})
          MERGE (company2:Company {name: 'Samsung', ticker: '005930.KS', industry: 'Technology'})
          MERGE (stock:Stock {ticker: 'AAPL', type: 'Common Stock', listed_on: 'NASDAQ'})
          MERGE (stock2:Stock {ticker: '005930.KS', type: 'Common Stock', listed_on: 'KOSPI'})
          MERGE (indicator:Indicator {type: 'PER', value: 30.5})
          MERGE (indicator2:Indicator {type: 'PBR', value: 5.2})
          MERGE (date:Date {date: '2024-12-01'})
          """)
          
      @staticmethod
      def _create_relationships(tx):
          # Create relationships
          tx.run("""
          MATCH (company:Company {name: 'Apple'}), (stock:Stock {ticker: 'AAPL'})
          MERGE (company)-[:HAS_STOCK]->(stock)
  
          MATCH (stock:Stock {ticker: 'AAPL'}), (market:Market {name: 'NASDAQ'})
          MERGE (stock)-[:LISTED_ON]->(market)
  
          MATCH (stock:Stock {ticker: 'AAPL'}), (indicator:Indicator {type: 'PER'})
          MERGE (stock)-[:HAS_INDICATOR]->(indicator)
  
          MATCH (indicator:Indicator {type: 'PER'}), (date:Date {date: '2024-12-01'})
          MERGE (indicator)-[:VALID_ON]->(date)
          """)
          
  # Replace with your Neo4j credentials
  uri = "bolt://localhost:7687"
  user = "neo4j"
  password = "password"
  
  stock_graph = StockGraph(uri, user, password)
  stock_graph.create_schema()
  stock_graph.close()
  
  print("Knowledge graph schema has been created successfully!")

• 시각화

  MATCH (n) RETURN n

Next Week

공모전 준비

• KG 스키마 구현
• 공모전 문서화
• KG DB 구축