Dis Jamy, comment ça marche une architecture LLM « at scale » ?

Salut les gens ! J’espère que vous allez bien 🙂 . Aujourd’hui une traduction libre d’une vidéo de 51 minutes (en anglais) que je trouve hyper intéressante : « AI Infrastructure Explained (GPUs, vLLM, and LLM-D) », signée KodeKloud. Vous trouverez le lien en fin de billet.