Данный проект представляет собой HTTP-прокси, который позволяет подменять использование ChatGPT на GigaChat в тех случаях, когда возможна настройка URL для взаимодействия с ChatGPT. Утилита поддерживает все основные функции взаимодействия с чат-моделями, включая поддержку работы с функциями и асинхронную обработку запросов.
• Полная замена: утилита подменяет использование ChatGPT на GigaChat, позволяя использовать все его функции.
• Поддержка функций: корректно обрабатываются вызовы функций через API, включая передачу и выполнение функций с аргументами.
• Асинхронный HTTP-прокси: поддерживает многопоточную обработку запросов для эффективной работы с большим количеством клиентов.
• Простота настройки: настройка хоста и порта через аргументы командной строки или переменные окружения.
• Поддержка логирования: режим подробного вывода запросов и ответов для отладки.
-
Установите библиотеку
pip install git+https://github.com/Rai220/Gpt2Giga.git -
Настройте переменные окружения, создайте файл .env в корне проекта и укажите необходимые параметры для доступа к GigaChat.
GIGACHAT_USER=
GIGACHAT_PASSWORD=
GIGACHAT_BASE_URL=
GIGACHAT_MODEL=
Остальные настройки подключения к GigaChat можно посмотреть в документации пакета GigaChat: https://github.com/ai-forever/gigachat
Запуск прокси-сервера:
gpt2giga --host <host> --port <port> --verbose <True/False>
gpt2giga
После запуска сервер будет слушать указанный хост и порт и перенаправлять все запросы, адресованные ChatGPT, на GigaChat.
Приложение, которое взаимодействует с ChatGPT через настраиваемый URL, можно перенаправить на прокси, чтобы оно начало работать с GigaChat. Для этого достаточно указать URL сервера, запущенного через данную утилиту.
Вы можете настроить следующие переменные окружения через файл .env:
• GIGACHAT_CREDENTIALS
• GPT2GIGA_VERBOSE: режим вывода подробной информации о запросах и ответах (по умолчанию: True).
Этот проект распространяется под лицензией MIT. См. LICENSE для получения подробной информации.
Этот README файл описывает работу вашей утилиты и содержит все необходимые инструкции для пользователей.