Skip to content

Commit

Permalink
addded jpgs
Browse files Browse the repository at this point in the history
  • Loading branch information
Szymok committed Aug 1, 2023
1 parent d80f9c4 commit a6ff9ae
Show file tree
Hide file tree
Showing 3 changed files with 11 additions and 1 deletion.
12 changes: 11 additions & 1 deletion _posts/2023-08-01-llm-local.md
Original file line number Diff line number Diff line change
@@ -1,7 +1,7 @@
---
layout: post
title: Jak uruchomić LLM lokalnie
date: 2023-08-01 23:01:45
date: 2023-08-01 07:01:45
description: Krótki artykuł o tym jak uruchomić LLM lokalnie.
tags: AI sztuczna-inteligencja generatywne-ai llm llama alpaca
categories: article
Expand All @@ -11,6 +11,11 @@ toc:
sidebar: left
---

{% include figure.html path="assets/img/infidel0986_a_generative_AI_LLM_hot_air_balloon_with_business_p_82aac953-8aec-429d-b858-1c84f034be75.jpg" class="img-fluid rounded z-depth-1" zoomable=true %}
<div class="caption">
Obraz wygenerowany przy pomocy Midjourney oraz edytowany w Photoshopie przy pomoocy funkcji Generate AI.
</div>

## Uruchamianie modeli LLM lokalnie za pomocą biblioteki Dalai

Czy kiedykolwiek zastanawiałeś się nad uruchomieniem zaawansowanych modeli językowych, takich jak ChatGPT, na swoim własnym komputerze? Nie jesteś w tej przygodzie sam! W tym przewodniku krok po kroku dowiemy się, jak to zrobić za pomocą modeli LLaMA i Alpaca, korzystając z biblioteki Dalai. Bądź gotowy na szczegółową, krok po kroku i interesującą podróż do świata AI!
Expand Down Expand Up @@ -50,6 +55,11 @@ Minusy uruchamiania LLM na maszynach lokalnych:
<li>Ograniczona aktualizacja modeli: W porównaniu do korzystania z modeli LLM w chmurze, aktualizacje modeli mogą być trudniejsze do przeprowadzenia na maszynach lokalnych. Wymaga to ręcznej aktualizacji i utrzymania modelu, co może być problematyczne, gdy pojawią się nowe i ulepszone wersje modeli.</li>
</ul>

{% include figure.html path="assets/img/Screenshot 2023-08-01 232108.png" class="img-fluid rounded z-depth-1" zoomable=true %}
<div class="caption">
Diagram z artykułu opublikowanego w magazynie Research on Foundation Models (CRFM) w Stanford. Źródło: <a href="https://crfm.stanford.edu/">CRFM</a>
</div>

## LLaMA: Kompaktowy potwór stworzony przez Meta AI

LLaMA to podstawowy model językowy, który osiągnął coś niesamowitego. Mimo że jest 13 razy mniejszy od kolosalnego GPT-3, przewyższa ten ostatni na większości benchmarków! Ten kompaktowy potwór może być uruchamiany na lokalnych maszynach - jedna odważna jednostka nawet zdołała go uruchomić na Raspberry Pi!
Expand Down
Binary file added assets/img/Screenshot 2023-08-01 232108.png
Loading
Sorry, something went wrong. Reload?
Sorry, we cannot display this file.
Sorry, this file is invalid so it cannot be displayed.
Loading
Sorry, something went wrong. Reload?
Sorry, we cannot display this file.
Sorry, this file is invalid so it cannot be displayed.

0 comments on commit a6ff9ae

Please sign in to comment.