diff --git a/CHANGELOG.md b/CHANGELOG.md index d5dc49b..40d61e8 100644 --- a/CHANGELOG.md +++ b/CHANGELOG.md @@ -12,6 +12,11 @@ See [keep a changelog] for information about writing changes to this log. * Rename webui dashboard ConfigMap data key from `dcgm-dashboard.json` to `openwebui-dashboard.json` to avoid Grafana dashboard filename collisions. Fixes issue #11. +* Upgrade to open-webui 0.8.10 +* Support for proper tool call with Mistral model +* Pinned vllm version +* New RAG template (so the same template is not used for web-search and RAG) +* Updated litellm to v1.83.10 ## [0.3.0] - 2026-03-10 diff --git a/applications/litellm/litellm-values.yaml b/applications/litellm/litellm-values.yaml index efe9d99..1a9c7ef 100644 --- a/applications/litellm/litellm-values.yaml +++ b/applications/litellm/litellm-values.yaml @@ -8,7 +8,7 @@ litellm: pullPolicy: Always # Overrides the image tag whose default is the chart appVersion. # tag: "main-latest" - tag: "main-v1.80.0-stable" + tag: "main-v1.83.10-stable" imagePullSecrets: [] nameOverride: "litellm" diff --git a/applications/openwebui/Chart.yaml b/applications/openwebui/Chart.yaml index 1869e85..61c77bc 100644 --- a/applications/openwebui/Chart.yaml +++ b/applications/openwebui/Chart.yaml @@ -10,5 +10,5 @@ dependencies: version: 0.3.1 repository: https://cloudnative-pg.github.io/charts - name: qdrant - version: 1.15.4 + version: 1.17.1 repository: https://qdrant.github.io/qdrant-helm diff --git a/applications/openwebui/values.yaml b/applications/openwebui/values.yaml index b91fdb1..1a54294 100644 --- a/applications/openwebui/values.yaml +++ b/applications/openwebui/values.yaml @@ -7,7 +7,7 @@ open-webui: # -- Open WebUI image tags can be found here: https://github.com/open-webui/open-webui image: repository: ghcr.io/os2ai/open-webui - tag: "v0.8.5-1" + tag: "v0.8.10-4" pullPolicy: "IfNotPresent" ollama: @@ -382,11 +382,11 @@ open-webui: - name: RAG_EMBEDDING_ENGINE value: "openai" - name: CHUNK_SIZE - value: "500" + value: "440" - name: CHUNK_OVERLAP value: "100" - name: RAG_TEXT_SPLITTER - value: "character" + value: "token" - name: RAG_EMBEDDING_MODEL value: "intfloat/multilingual-e5-large" - name: RAG_OPENAI_API_BASE_URL @@ -502,6 +502,33 @@ open-webui: {{MESSAGES:END:6}} + - name: RAG_TEMPLATE + value: | + ### Opgave: + Besvar brugerens spørgsmål ved hjælp af den medfølgende kontekst, og inkorporer kildehenvisninger i formatet [id] **kun når ``-tagget indeholder en eksplicit id-attribut** (f.eks. ``). + + ### Retningslinjer: + - Hvis du ikke kender svaret, skal du tydeligt angive dette. + - Hvis du er usikker, skal du bede brugeren om afklaring. + - Svar på samme sprog som brugerens spørgsmål. + - Hvis konteksten er ulæselig eller af dårlig kvalitet, skal du informere brugeren og give det bedst mulige svar. + - Hvis svaret ikke findes i konteksten, men du besidder viden om emnet, skal du forklare dette og besvare spørgsmålet ud fra din egen forståelse. + - **Inkluder kun kildehenvisninger i formatet [id] (f.eks. [1], [2]) når ``-tagget indeholder en id-attribut.** + - Undlad at citere, hvis ``-tagget ikke indeholder en id-attribut. + - Brug ikke XML-tags i dit svar. + - Sørg for, at kildehenvisninger er kortfattede og direkte relaterede til den givne information. + + ### Eksempel på kildehenvisning: + Hvis brugeren spørger om et bestemt emne, og informationen findes i en kilde med en angivet id-attribut, skal svaret indeholde kildehenvisningen som i følgende eksempel: + * "Ifølge undersøgelsen øger den foreslåede metode effektiviteten med 20 % [1]." + + ### Output: + Giv et klart og direkte svar på brugerens spørgsmål, og inkluder kildehenvisninger i formatet [id] kun når et ``-tag med id-attribut er til stede i konteksten. + + + {{CONTEXT}} + + # Web-search - name: ENABLE_WEB_SEARCH value: "True" diff --git a/applications/searxng/Chart.yaml b/applications/searxng/Chart.yaml index f8cfd9d..472fe7f 100644 --- a/applications/searxng/Chart.yaml +++ b/applications/searxng/Chart.yaml @@ -2,6 +2,6 @@ apiVersion: v2 name: SearXNG version: 0.0.4 dependencies: - - name: searxng - version: 1.0.1 - repository: https://itk-dev.github.io/helm-charts + - name: searxng + version: 1.0.4 + repository: https://itk-dev.github.io/helm-charts diff --git a/applications/searxng/values.yaml b/applications/searxng/values.yaml index 27c82f7..4832f8c 100644 --- a/applications/searxng/values.yaml +++ b/applications/searxng/values.yaml @@ -4,7 +4,7 @@ searxng: image: repository: searxng/searxng # -- image tag - tag: 2025.11.24-5fcee9bc3 + tag: 2026.3.13-3c1f68c59 # -- image pull policy pullPolicy: Always diff --git a/applications/vllm/values.yaml b/applications/vllm/values.yaml index 606020f..7c09853 100644 --- a/applications/vllm/values.yaml +++ b/applications/vllm/values.yaml @@ -27,7 +27,7 @@ vllm: enableChunkedPrefill: true enablePrefixCaching: true maxModelLen: 16384 - extraArgs: ["--tokenizer-mode", "mistral", "--config_format", "mistral", "--load_format", "mistral"] + extraArgs: ["--tokenizer-mode", "mistral", "--config_format", "mistral", "--load_format", "mistral", "--enable-auto-tool-choice", "--tool-call-parser", "mistral"] lmcacheConfig: enabled: false