Aflevering 136: vLLM, LMD, and the Quest to Build the Linux of AI Inference
Laatste aflevering

Aflevering 136: vLLM, LMD, and the Quest to Build the Linux of AI Inference

vLLM serves as a "Rosetta Stone" between the ever-growing zoo of models (Llama, DeepSeek, Mistral, Qwen, Nvidia Nemotron) and accelerators (Nvidia, AMD, Intel, Google TPUs).

Speel af

Laatste afleveringen

Bekijk hieronder het overzicht van de laatste afleveringen.

Aflevering 1: Introductie Kubernetes
December 19, 2022
20
 MIN

In deze aflevering geven Jan Stomphorst en Ronald Kers een introductie tot Kubernetes. Zij gaan in op wat Kubernetes is en waar je het voor kunt gebruiken. Daarnaast worden de voor- en nadelen van Kubernetes besproken.

Speel af

Alle Afleveringen