Funktioniert

entrypoint_clone.sh

@@ -0,0 +1,14 @@
+#!/bin/bash
+set -e
+
+MODEL="${QWEN3_TTS_CLONE_MODEL:-}"
+PORT="${QWEN3_TTS_CLONE_PORT:-8093}"
+
+if [ -z "$MODEL" ]; then
+  echo "[clone] QWEN3_TTS_CLONE_MODEL ist nicht gesetzt." >&2
+  exit 2
+fi
+
+echo "[clone] starte Clone-Modell: ${MODEL} auf Port ${PORT}"
+
+exec vllm-omni serve "$MODEL"   --omni   --host 0.0.0.0   --port "$PORT"   --deploy-config /deploy/qwen3_tts.yaml   --gpu-memory-utilization 0.10   --trust-remote-code