prompts

Работа с промптами

В этом разделе вы найдете шаблоны промптов и примеры работы с ними с помощью библиотеки GigaChain.

Коллекция содержит следующие примеры:

• Привет, мир!

  Самый простой пример, который показывает как обращаться к GigaChat с помощью SDK. В ответ на запрос SDK нейросетевая модель возвращает реплику «Привет, мир!».

• Вопрос-Ответ

  Пример содержит шаблоны промптов для работы с GigaChat в формате Вопрос-Ответ.

• Суммаризатор

  Пример содержит шаблоны промптов для суммаризации текстов по алгоритму MapReduce.

• Генерирование синонимов

  Пример содержит шаблоны промптов для создания заданного количества синонимов к указанному слову.

• Экзаменационное тестирование

  Промпт, с помощью которого GigaChat может отвечать на экзаменационные вопросы. Пример работы промпта — в блокноте, который демонстрирует экзамен по правилам дорожного движения.

Авторизация запросов

Авторизация запросов к GigaChat выполняется с помощью токена авторизации. Токен авторизации можно получить после подключения проекта GigaChat API в личном кабинете.

Note

Сейчас проект GigaChat API доступен только юридическим лицам и индивидуальным предпринимателям после подписания договора.

Шаблоны промптов

Каждый из примеров коллекции содержит один или несколько yaml-файлов с шаблонами промптов.

Пример шаблона

input_variables: [dataset_size_min, dataset_size_max, subject, examples]
output_parser: null
template: 'Сгенерируй от {dataset_size_min} до {dataset_size_max} синонимов для слова "{subject}". Примеры фраз: {examples}. Результат верни в формате JSON-списка без каких либо пояснений, например, ["синоним1", "синоним2", "синоним3", "синоним4"]. Не повторяй фразы из примера и не дублируй фразы.'
template_format: f-string
_type: prompt

Шаблон промптов может содержать следующие поля:

• input_variables — список переменных, заданных в тексте шаблона промпта. Значения переменных задаются при вызове метода, использующего промпт.

  Пример:

  input_variables: [dataset_size_min, dataset_size_max, subject]

• output_parser — парсер выходных данных, полученных от нейросетевой модели. Используется для дополнительной обработки и структуризации ответов. Значение по умолчанию — null.

• template — текст шаблона. Может содержать переменные, заданные с помощью фигурных скобок. Переменные, использованные в тексте, должны быть заданы в списке input_variables.

  Пример:

  template: 'Сгенерируй от {dataset_size_min} до {dataset_size_max} синонимов для слова "{subject}".'

• template_format — формат данных шаблона. Значение по умолчанию: f-string.

• _type — тип шаблона. Для шаблонов промптов используйте значение prompt.

Использование шаблона

Пример использования шаблона:

from langchain.prompts import load_prompt
from langchain_community.chat_models import GigaChat
from langchain.chains import LLMChain

giga = GigaChat(oauth_token="...")
synonyms_with_examples = load_prompt('lc://prompts/synonyms/synonyms_generation_with_examples.yaml')
text = prompt.format(dataset_size_min=5,
                        dataset_size_max=10,
                        subject="кошка",
                        examples='["кот", "котёнок"]')

Версионирование шаблонов

Новые версии шаблонов промптов GigaChain хранятся в отдельных файлах. Например, hello.yaml → hello_v2.yaml.

Это связанно с тем, что шаблоны хранятся отдельно от основной библиотеки GigaChain и загружаются напрямую по ссылке.

В своих проектах используйте последние версии шаблонов.