mirror of
https://github.com/illian64/llm-translate.git
synced 2026-04-28 11:49:54 +00:00
323458ca27
* Prepare for docker, documentation. * Prepare for docker, documentation. * Prepare for docker, documentation. --------- Co-authored-by: APodoinikov <APodoynikov@detmir.ru>
38 lines
No EOL
3.6 KiB
Markdown
38 lines
No EOL
3.6 KiB
Markdown
# Перевод текста
|
||
|
||
Перевод текста - это основной функционал сервиса.
|
||
|
||
Перевод осуществляется независимыми модулями (плагинами), каждый плагин имеет свои настройки.
|
||
Модули могут работать независимо, используя только функционал сервиса, или вызывать внешние приложения.
|
||
Параметры, использование моделей и прочее более подробно указано в документации для каждого плагина отдельно.
|
||
|
||
## Список поддерживаемых плагинов
|
||
|
||
* **kobold_cpp** - [проект](https://github.com/LostRuins/koboldcpp), [документация](plugins-translate/kobold_cpp.md).
|
||
Внешний инструмент для работы с моделями.
|
||
Поддерживаются основные популярные модели - Qwen, mistral, gpt-oss и другие.
|
||
Требуется запустить KoboldCpp, загрузить и открыть в нем необходимую модель.
|
||
|
||
|
||
* **lm_studio** - [проект](https://github.com/LostRuins/koboldcpp), [документация](plugins-translate/lm_studio.md).
|
||
Внешний инструмент для работы с моделями.
|
||
Поддерживаются основные популярные модели - Qwen, gemma, mistral, gpt-oss и другие.
|
||
Требуется запустить LM Studio, загрузить и открыть в нем необходимую модель.
|
||
|
||
|
||
* **madlad_400_ctranslate2** - [проект](https://huggingface.co/docs/transformers/model_doc/madlad-400) (A Multilingual And Document-Level Large Audited Dataset),
|
||
[документация](plugins-translate/madlad_400_ctranslate2.md). Поддержка 400+ языковых пар. Эта модель создана исключительно для перевода текста, поддерживаются только модели проекта madlad-400.
|
||
Работа через [CTranslate2](https://github.com/OpenNMT/CTranslate2).
|
||
|
||
|
||
* **nllb_200**, [проект](https://github.com/facebookresearch/fairseq/tree/nllb) (No Language Left Behind), [документация](plugins-translate/nllb_200.md).
|
||
Поддержка 200+ языковых пар. Эта модель создана исключительно для перевода текста, поддерживаются только модели проекта nllb-200.
|
||
|
||
|
||
* **nllb_200_ctranslate2** - [проект](https://github.com/facebookresearch/fairseq/tree/nllb), [документация](plugins-translate/nllb_200.md).
|
||
Та же nllb-200, что описана выше, но работает через [CTranslate2](https://github.com/OpenNMT/CTranslate2).
|
||
Использует преобразованные для Ctranslate2 файлы моделей, которые меньше, соответственно, с меньшим использованием памяти, без потери качества.
|
||
|
||
* **no_translate** - этот плагин не является переводчиком, поэтому не имеет параметров.
|
||
Возвращает в ответе переданный в запросе текст без изменений.
|
||
Его можно использовать для отладки при работе с параметрами и разработке функционала сервиса. |