vrr/llm-translate
2
0
Fork 0
mirror of https://github.com/illian64/llm-translate.git synced 2026-04-28 11:49:54 +00:00
Code Issues Projects Releases Packages Wiki Activity Actions
llm-translate/doc/ru/plugins-translate/nllb_200.md
illian64 323458ca27
Documentation, docker 
* Prepare for docker, documentation.

* Prepare for docker, documentation.

* Prepare for docker, documentation.

---------

Co-authored-by: APodoinikov <APodoynikov@detmir.ru>
2025-09-21 08:59:55 +07:00

1.8 KiB
Raw Blame History

Плагин перевода: nllb-200

Модели для этого плагина не нужно загружать самостоятельно, они будут загружены автоматически при старте плагина.

Параметры плагина

  • cuda - true - использовать видеокарту (быстрее), false - использовать cpu (медленнее).

  • cuda_device_index - если в системе несколько видеокарт, можно выбрать ту, в которую будет загружена модель. Номер и имя видеокарты указывается при старте приложения в логе, вида INFO GPU #0: NVIDIA GeForce RTX 4090. 0 - указываемый в параметре номер.

  • model - В этом параметре нужно указать путь к модели. Список моделей здесь, Например, выбрали модель https://huggingface.co/facebook/nllb-200-3.3B - тогда значение параметра будет facebook/nllb-200-3.3B.

  • text_split_params - этот параметр переопределяет глобальные параметры (подробнее здесь), и задает разбивку текста по предложениям. Очень рекомендуется разбивать именно так, потому что при отправке нескольких предложений сразу, очень велика вероятность, что часть предложений будет потеряна моделью.