Compare commits
1 Commits
de11ec0d1b
...
e6a045de71
| Author | SHA1 | Date | |
|---|---|---|---|
| e6a045de71 |
@@ -107,8 +107,8 @@ spec:
|
|||||||
# Uparty false positive
|
# Uparty false positive
|
||||||
mask: 0.739,0.725,0.856,0.76,0.862,0.659,0.746,0.614
|
mask: 0.739,0.725,0.856,0.76,0.862,0.659,0.746,0.614
|
||||||
|
|
||||||
# ffmpeg:
|
ffmpeg:
|
||||||
# hwaccel_args: preset-vaapi
|
hwaccel_args: preset-vaapi
|
||||||
|
|
||||||
detectors:
|
detectors:
|
||||||
ov_0:
|
ov_0:
|
||||||
@@ -164,16 +164,16 @@ spec:
|
|||||||
kubernetes.io/hostname: anapistula-delrosalae
|
kubernetes.io/hostname: anapistula-delrosalae
|
||||||
|
|
||||||
# GPU access
|
# GPU access
|
||||||
# extraVolumes:
|
extraVolumes:
|
||||||
# - name: dri
|
- name: dri
|
||||||
# hostPath:
|
hostPath:
|
||||||
# path: /dev/dri/renderD128
|
path: /dev/dri/renderD128
|
||||||
# type: CharDevice
|
type: CharDevice
|
||||||
|
|
||||||
# extraVolumeMounts:
|
extraVolumeMounts:
|
||||||
# - name: dri
|
- name: dri
|
||||||
# mountPath: /dev/dri/renderD128
|
mountPath: /dev/dri/renderD128
|
||||||
|
|
||||||
# securityContext:
|
securityContext:
|
||||||
# # Not ideal
|
# Not ideal
|
||||||
# privileged: true
|
privileged: true
|
||||||
|
|||||||
@@ -17,7 +17,7 @@ spec:
|
|||||||
chart:
|
chart:
|
||||||
spec:
|
spec:
|
||||||
chart: gitea
|
chart: gitea
|
||||||
version: 12.2.0
|
version: 12.1.3
|
||||||
sourceRef:
|
sourceRef:
|
||||||
kind: HelmRepository
|
kind: HelmRepository
|
||||||
name: gitea-charts
|
name: gitea-charts
|
||||||
|
|||||||
@@ -9,4 +9,3 @@ resources:
|
|||||||
- frigate
|
- frigate
|
||||||
- llama
|
- llama
|
||||||
- immich
|
- immich
|
||||||
- searxng
|
|
||||||
|
|||||||
@@ -72,14 +72,12 @@ spec:
|
|||||||
"gemma3-12b-q2",
|
"gemma3-12b-q2",
|
||||||
"gemma3-12b-novision",
|
"gemma3-12b-novision",
|
||||||
"gemma3-4b",
|
"gemma3-4b",
|
||||||
"gemma3-4b-novision",
|
"gemma3-4b-novision"
|
||||||
"Qwen3-4B-Thinking-2507",
|
|
||||||
"Qwen3-4B-Thinking-2507-long-ctx"
|
|
||||||
]
|
]
|
||||||
titleConvo: true
|
titleConvo: true
|
||||||
titleModel: "gemma3-4b-novision"
|
titleModel: "current_model"
|
||||||
summarize: false
|
summarize: false
|
||||||
summaryModel: "gemma3-4b-novision"
|
summaryModel: "current_model"
|
||||||
forcePrompt: false
|
forcePrompt: false
|
||||||
modelDisplayLabel: "Llama.cpp"
|
modelDisplayLabel: "Llama.cpp"
|
||||||
imageVolume:
|
imageVolume:
|
||||||
|
|||||||
@@ -26,7 +26,7 @@ models:
|
|||||||
--jinja --chat-template-file /config/qwen_nothink_chat_template.jinja
|
--jinja --chat-template-file /config/qwen_nothink_chat_template.jinja
|
||||||
--no-warmup
|
--no-warmup
|
||||||
--port ${PORT}
|
--port ${PORT}
|
||||||
"gemma3n-e4b":
|
"gemma3n-e3b":
|
||||||
ttl: 600
|
ttl: 600
|
||||||
cmd: |
|
cmd: |
|
||||||
/app/llama-server
|
/app/llama-server
|
||||||
@@ -119,59 +119,3 @@ models:
|
|||||||
--no-mmproj
|
--no-mmproj
|
||||||
--no-warmup
|
--no-warmup
|
||||||
--port ${PORT}
|
--port ${PORT}
|
||||||
"Qwen3-4B-Thinking-2507":
|
|
||||||
ttl: 600
|
|
||||||
cmd: |
|
|
||||||
/app/llama-server
|
|
||||||
-hf unsloth/Qwen3-4B-Thinking-2507-GGUF:Q4_K_M
|
|
||||||
-ngl 99 -c 16384 --predict 8192
|
|
||||||
--temp 0.6
|
|
||||||
--min-p 0.00
|
|
||||||
--top-p 0.95
|
|
||||||
--top-k 20
|
|
||||||
--repeat-penalty 1.0
|
|
||||||
--no-warmup
|
|
||||||
--port ${PORT}
|
|
||||||
"Qwen3-4B-Thinking-2507-long-ctx":
|
|
||||||
ttl: 600
|
|
||||||
cmd: |
|
|
||||||
/app/llama-server
|
|
||||||
-hf unsloth/Qwen3-4B-Thinking-2507-GGUF:Q4_K_M
|
|
||||||
-ngl 99 -c 262144 --predict 81920
|
|
||||||
--temp 0.6
|
|
||||||
--min-p 0.00
|
|
||||||
--top-p 0.95
|
|
||||||
--top-k 20
|
|
||||||
--repeat-penalty 1.0
|
|
||||||
--no-warmup
|
|
||||||
--flash-attn
|
|
||||||
--cache-type-k q8_0 --cache-type-v q8_0
|
|
||||||
--port ${PORT}
|
|
||||||
"Qwen3-4B-Instruct-2507":
|
|
||||||
ttl: 600
|
|
||||||
cmd: |
|
|
||||||
/app/llama-server
|
|
||||||
-hf unsloth/Qwen3-4B-Instruct-2507-GGUF:Q4_K_M
|
|
||||||
-ngl 99 -c 16384 --predict 8192
|
|
||||||
--temp 0.7
|
|
||||||
--min-p 0.00
|
|
||||||
--top-p 0.8
|
|
||||||
--top-k 20
|
|
||||||
--repeat-penalty 1.0
|
|
||||||
--no-warmup
|
|
||||||
--port ${PORT}
|
|
||||||
"Qwen3-4B-Instruct-2507-long-ctx":
|
|
||||||
ttl: 600
|
|
||||||
cmd: |
|
|
||||||
/app/llama-server
|
|
||||||
-hf unsloth/Qwen3-4B-Instruct-2507-GGUF:Q4_K_M
|
|
||||||
-ngl 99 -c 262144 --predict 81920
|
|
||||||
--temp 0.7
|
|
||||||
--min-p 0.00
|
|
||||||
--top-p 0.8
|
|
||||||
--top-k 20
|
|
||||||
--repeat-penalty 1.0
|
|
||||||
--no-warmup
|
|
||||||
--flash-attn
|
|
||||||
--cache-type-k q8_0 --cache-type-v q8_0
|
|
||||||
--port ${PORT}
|
|
||||||
|
|||||||
@@ -1 +0,0 @@
|
|||||||
use_default_settings: true
|
|
||||||
@@ -1,42 +0,0 @@
|
|||||||
---
|
|
||||||
apiVersion: apps/v1
|
|
||||||
kind: Deployment
|
|
||||||
metadata:
|
|
||||||
name: searxng
|
|
||||||
namespace: searxng
|
|
||||||
spec:
|
|
||||||
replicas: 1
|
|
||||||
selector:
|
|
||||||
matchLabels:
|
|
||||||
app: searxng
|
|
||||||
template:
|
|
||||||
metadata:
|
|
||||||
labels:
|
|
||||||
app: searxng
|
|
||||||
spec:
|
|
||||||
containers:
|
|
||||||
- name: searxng
|
|
||||||
image: searxng/searxng:2025.8.12-6b1516d
|
|
||||||
ports:
|
|
||||||
- containerPort: 8080
|
|
||||||
env:
|
|
||||||
- name: SEARXNG_SECRET
|
|
||||||
valueFrom:
|
|
||||||
secretKeyRef:
|
|
||||||
name: searxng-secret
|
|
||||||
key: SEARXNG_SECRET
|
|
||||||
optional: false
|
|
||||||
volumeMounts:
|
|
||||||
- name: config-volume
|
|
||||||
mountPath: /etc/searxng/settings.yml
|
|
||||||
subPath: settings.yml
|
|
||||||
readOnly: true
|
|
||||||
- name: searxng-persistent-data
|
|
||||||
mountPath: /var/cache/searxng
|
|
||||||
volumes:
|
|
||||||
- name: config-volume
|
|
||||||
configMap:
|
|
||||||
name: searxng-config
|
|
||||||
- name: searxng-persistent-data
|
|
||||||
persistentVolumeClaim:
|
|
||||||
claimName: searxng-persistent-data
|
|
||||||
@@ -1,25 +0,0 @@
|
|||||||
---
|
|
||||||
apiVersion: networking.k8s.io/v1
|
|
||||||
kind: Ingress
|
|
||||||
metadata:
|
|
||||||
namespace: searxng
|
|
||||||
name: searxng
|
|
||||||
annotations:
|
|
||||||
cert-manager.io/cluster-issuer: letsencrypt
|
|
||||||
spec:
|
|
||||||
ingressClassName: nginx-ingress
|
|
||||||
rules:
|
|
||||||
- host: searxng.lumpiasty.xyz
|
|
||||||
http:
|
|
||||||
paths:
|
|
||||||
- backend:
|
|
||||||
service:
|
|
||||||
name: searxng
|
|
||||||
port:
|
|
||||||
number: 8080
|
|
||||||
path: /
|
|
||||||
pathType: Prefix
|
|
||||||
tls:
|
|
||||||
- hosts:
|
|
||||||
- searxng.lumpiasty.xyz
|
|
||||||
secretName: searxng-ingress
|
|
||||||
@@ -1,13 +0,0 @@
|
|||||||
apiVersion: kustomize.config.k8s.io/v1beta1
|
|
||||||
kind: Kustomization
|
|
||||||
resources:
|
|
||||||
- namespace.yaml
|
|
||||||
- pvc.yaml
|
|
||||||
- deployment.yaml
|
|
||||||
- service.yaml
|
|
||||||
- ingress.yaml
|
|
||||||
configMapGenerator:
|
|
||||||
- name: searxng-config
|
|
||||||
namespace: searxng
|
|
||||||
files:
|
|
||||||
- settings.yml=configs/settings.yml
|
|
||||||
@@ -1,5 +0,0 @@
|
|||||||
---
|
|
||||||
apiVersion: v1
|
|
||||||
kind: Namespace
|
|
||||||
metadata:
|
|
||||||
name: searxng
|
|
||||||
@@ -1,13 +0,0 @@
|
|||||||
---
|
|
||||||
apiVersion: v1
|
|
||||||
kind: PersistentVolumeClaim
|
|
||||||
metadata:
|
|
||||||
namespace: searxng
|
|
||||||
name: searxng-persistent-data
|
|
||||||
spec:
|
|
||||||
accessModes:
|
|
||||||
- ReadWriteOnce
|
|
||||||
resources:
|
|
||||||
requests:
|
|
||||||
storage: 1Gi
|
|
||||||
storageClassName: mayastor-single-ssd
|
|
||||||
@@ -1,14 +0,0 @@
|
|||||||
---
|
|
||||||
apiVersion: v1
|
|
||||||
kind: Service
|
|
||||||
metadata:
|
|
||||||
name: searxng
|
|
||||||
namespace: searxng
|
|
||||||
spec:
|
|
||||||
selector:
|
|
||||||
app: searxng
|
|
||||||
ports:
|
|
||||||
- protocol: TCP
|
|
||||||
port: 8080
|
|
||||||
targetPort: 8080
|
|
||||||
type: ClusterIP
|
|
||||||
@@ -10,7 +10,7 @@ machine:
|
|||||||
gateway: 2001:470:61a3:100:ffff:ffff:ffff:ffff
|
gateway: 2001:470:61a3:100:ffff:ffff:ffff:ffff
|
||||||
- network: 0.0.0.0/0
|
- network: 0.0.0.0/0
|
||||||
gateway: 192.168.1.1
|
gateway: 192.168.1.1
|
||||||
mtu: 1280
|
mtu: 1500
|
||||||
|
|
||||||
install:
|
install:
|
||||||
diskSelector:
|
diskSelector:
|
||||||
|
|||||||
Reference in New Issue
Block a user