mirror of
https://github.com/illian64/llm-translate.git
synced 2026-04-29 04:09:56 +00:00
40 lines
3.4 KiB
Markdown
40 lines
3.4 KiB
Markdown
# Плагин перевода: LM Studio
|
||
|
||
Для работы плагина необходимо загрузить и запустить [LM Studio](https://github.com/LostRuins/koboldcpp),
|
||
загрузить модель, которая будет использоваться для перевода, настроить параметры модели и открыть модель.
|
||
|
||
## Параметры плагина
|
||
|
||
* **custom_url** - адрес и порт, где запущен KoboldCpp. Если он запущен на том же компьютере, что
|
||
сервис и не изменялся порт (вкладка Network в настройках KoboldCpp), ничего менять не нужно.
|
||
|
||
* **prompt** - инструкция для модели для перевода текста. В общем виде, инструкция определяет, что модель является
|
||
переводчиком, и просит перевести текст с одного языка на другой.
|
||
Подробнее описано [здесь](../faq.md), в пункте **Как составить prompt для модели**.
|
||
|
||
* **prompt_no_think_postfix** - добавляет в запрос постфикс `/no_think`, чтобы выключить режим размышления модели.
|
||
|
||
* **prompt_postfix** - добавляет в запрос указанный в параметре постфикс. Например, если нужно выключить режим размышления,
|
||
но постфикс `/no_think`, который добавляет параметр `prompt_no_think_postfix` не подходит, так как используется другое ключевое слово.
|
||
|
||
* группа параметров **special_prompt_for_model** - можно указать особую инструкцию по переводу для специфичной модели.
|
||
Формат `"имя_модели_в_нижнем_регистре": "Специальная инструкция для перевода"`. Имя модели выводится в логах при старте плагина в таком формате:
|
||
`Success init translation plugin: 'lm_studio'. Model: nemo_12b_gguf`. Имя модели - `nemo_12b_gguf`, обязательно в нижнем регистре.
|
||
|
||
* опциональная группа параметров **text_processing_params**
|
||
|
||
* опциональная группа параметров **text_split_params**
|
||
|
||
* опциональная группа параметров **translation_params**
|
||
|
||
Про опциональные группы более подробно - [здесь](../options.md), в разделах
|
||
**Настройки core** и **Переопределение групп параметров в настройках плагинов переводов**.
|
||
|
||
* опциональная группа параметров **text_processing_params**
|
||
|
||
* опциональная группа параметров **text_split_params**
|
||
|
||
* опциональная группа параметров **translation_params**
|
||
|
||
Про опциональные группы более подробно - [здесь](../options.md), в разделах
|
||
**Настройки core** и **Переопределение групп параметров в настройках плагинов переводов**.
|