extra/k8s/inference-benchmarker/templates/tgi.yaml [52:64]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
            {{- toYaml . | nindent 12 }}
            {{- end }}
          ports:
            - name: http
              containerPort: 8080
              protocol: TCP
          readinessProbe:
            httpGet:
              path: /health
              port: 8080
            initialDelaySeconds: 10
            periodSeconds: 3
          resources:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -



extra/k8s/inference-benchmarker/templates/vllm.yaml [52:64]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
            {{- toYaml . | nindent 12 }}
            {{- end }}
          ports:
            - name: http
              containerPort: 8080
              protocol: TCP
          readinessProbe:
            httpGet:
              path: /health
              port: 8080
            initialDelaySeconds: 10
            periodSeconds: 3
          resources:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -



