Vertaling met zelf-gehoste LLM

Voeg een zelf-gehoste LLM in (bijv. via Ollama) als vertaalprovider in de directive @strTranslate, om een veldwaarde naar een gewenste taal te vertalen.

Beschrijving

Maak een zelf-gehoste LLM beschikbaar als vertaalprovider in de directive @strTranslate.

Voeg de directive @strTranslate toe aan elk veld van het type String om het naar de gewenste taal te vertalen.

Bijvoorbeeld, deze query vertaalt de velden title en content van een bericht van het Engels naar het Frans met behulp van je zelf-gehoste LLM:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

Autorisatie

Als je de LLM op je eigen server host, heb je geen API-sleutel nodig.

Als je je zelf-gehoste LLM in de cloud gebruikt (bijv. met Ollama Cloud), moet je mogelijk een API-sleutel opgeven via het tabblad Plugin Management > Self-Hosted LLM Translation op de instellingenpagina.

Volg daarna een van de onderstaande methoden om de waarde in te voeren.

Via Instellingen

Voer de API-sleutel in de bijbehorende velden in op de instellingenpagina en klik op "Save Changes (All)":

In `wp-config.php`

Voeg de constante GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY toe in wp-config.php:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

Via omgevingsvariabele

Definieer de omgevingsvariabele SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY.

LLM-configuratie

Je moet de volgende waarden configureren:

Endpoint URL: HTTP-endpoint-URL voor je zelf-gehoste LLM-model. Bijv.:
- http://localhost:11434/v1/chat/completions bij gebruik van het ChatGPT-formaat en het hosten van het LLM-model op je eigen server met Ollama
- http://localhost:11434/v1/messages bij gebruik van het Claude-formaat en het hosten van het LLM-model op je eigen server met Ollama
- https://ollama.com/v1/chat/completions bij gebruik van het ChatGPT-formaat en Ollama Cloud
- https://ollama.com/v1/messages bij gebruik van het Claude-formaat en Ollama Cloud
Compatible with API endpoint from: Met welke AI-serviceprovider je aangepaste endpoint compatibel is, met de opties ChatGPT en Claude
Model: Naam van het zelf-gehoste LLM-model dat wordt gebruikt voor het vertalen van content.
Max tokens: Maximaal aantal tokens dat het model in het antwoord kan genereren. Laat leeg om geen limiet in te stellen voor ChatGPT, of gebruik de standaardwaarde voor Claude.

Volg een van de onderstaande methoden om de waarden in te voeren.

Via Instellingen

Voer het model in het bijbehorende veld in op de instellingenpagina en klik op "Save Changes (All)":

In `wp-config.php`

Voeg constanten toe in wp-config.php:

GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

Via omgevingsvariabelen

Definieer de omgevingsvariabelen:

SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

Via omgevingsvariabele

Definieer de omgevingsvariabele SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE.