extra/k8s/inference-benchmarker/templates/tgi.yaml [66:74]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
          volumeMounts:
            - name: shm
              mountPath: /dev/shm
      terminationGracePeriodSeconds: 10
      volumes:
        - name: shm
          emptyDir:
            medium: Memory
            sizeLimit: 1Gi
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -



extra/k8s/inference-benchmarker/templates/vllm.yaml [66:74]:
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
          volumeMounts:
            - name: shm
              mountPath: /dev/shm
      terminationGracePeriodSeconds: 10
      volumes:
        - name: shm
          emptyDir:
            medium: Memory
            sizeLimit: 1Gi
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -



