3.4 KiB
Плагин перевода: LM Studio
Для работы плагина необходимо загрузить и запустить LM Studio, загрузить модель, которая будет использоваться для перевода, настроить параметры модели и открыть модель.
Параметры плагина
-
custom_url - адрес и порт, где запущен KoboldCpp. Если он запущен на том же компьютере, что сервис и не изменялся порт (вкладка Network в настройках KoboldCpp), ничего менять не нужно.
-
prompt - инструкция для модели для перевода текста. В общем виде, инструкция определяет, что модель является переводчиком, и просит перевести текст с одного языка на другой. Подробнее описано здесь, в пункте Как составить prompt для модели.
-
prompt_no_think_postfix - добавляет в запрос постфикс
/no_think, чтобы выключить режим размышления модели. -
prompt_postfix - добавляет в запрос указанный в параметре постфикс. Например, если нужно выключить режим размышления, но постфикс
/no_think, который добавляет параметрprompt_no_think_postfixне подходит, так как используется другое ключевое слово. -
группа параметров special_prompt_for_model - можно указать особую инструкцию по переводу для специфичной модели. Формат
"имя_модели_в_нижнем_регистре": "Специальная инструкция для перевода". Имя модели выводится в логах при старте плагина в таком формате:Success init translation plugin: 'lm_studio'. Model: nemo_12b_gguf. Имя модели -nemo_12b_gguf, обязательно в нижнем регистре. -
опциональная группа параметров text_processing_params
-
опциональная группа параметров text_split_params
-
опциональная группа параметров translation_params
Про опциональные группы более подробно - здесь, в разделах Настройки core и Переопределение групп параметров в настройках плагинов переводов.
-
опциональная группа параметров text_processing_params
-
опциональная группа параметров text_split_params
-
опциональная группа параметров translation_params
Про опциональные группы более подробно - здесь, в разделах Настройки core и Переопределение групп параметров в настройках плагинов переводов.