Unlocking the Full Potential of GPUs for AI Workloads on Kubernetes - Kevin Klues, NVIDIA

Поделиться
HTML-код
  • Опубликовано: 17 янв 2025

Комментарии • 1

  • @ShivankChaudhary-p7i
    @ShivankChaudhary-p7i 2 месяца назад

    Please share the repo link that contains the k8s manifest files used in this video.
    Thanks

Следующие
Автовоспроизведение
GPUs in Kubernetes for AI Workloads13:04GPUs in Kubernetes for AI Workloads
GPUs in Kubernetes for AI WorkloadsDevOps Toolkit
Просмотров 6 тыс.
Mastering GPU Management in Kubernetes Using the Operator Pattern- Shiva Krishna Merla & Kevin Klues47:53Mastering GPU Management in Kubernetes Using the Operator Pattern- Shiva Krishna Merla & Kevin Klues
Mastering GPU Management in Kubernetes Using the Operator Pattern- Shiva Krishna Merla & Kevin KluesCNCF [Cloud Native Computing Foundation]
Просмотров 3,6 тыс.
Kubernetes Security Best Practices - Ian Lewis, Google28:53Kubernetes Security Best Practices - Ian Lewis, Google
Kubernetes Security Best Practices - Ian Lewis, GoogleCNCF [Cloud Native Computing Foundation]
Просмотров 52 тыс.
I Ruined an Entire City With Unrelenting 100% Insanity - Highway Police Simulator21:07I Ruined an Entire City With Unrelenting 100% Insanity - Highway Police Simulator
I Ruined an Entire City With Unrelenting 100% Insanity - Highway Police SimulatorLet's Game It Out
Просмотров 1,5 млн
Surprising Son with Dream Car on 16th Birthday17:37Surprising Son with Dream Car on 16th Birthday
Surprising Son with Dream Car on 16th BirthdayFV FAMILY
Просмотров 730 тыс.
Off Grid Cabin Disaster !16:33Off Grid Cabin Disaster !
Off Grid Cabin Disaster !Bushradical
Просмотров 482 тыс.
Joe Burrow, Zac Taylor HEATED Altercation After Bengals Run Up The Score! Burrow SNAPS At Taylor!01:13Joe Burrow, Zac Taylor HEATED Altercation After Bengals Run Up The Score! Burrow SNAPS At Taylor!
Joe Burrow, Zac Taylor HEATED Altercation After Bengals Run Up The Score! Burrow SNAPS At Taylor!BehindThePlay
Просмотров 420 тыс.
Accelerate Your GenAI Model Inference with Ray and Kubernetes - Richard Liu, Google Cloud28:10Accelerate Your GenAI Model Inference with Ray and Kubernetes - Richard Liu, Google Cloud
Accelerate Your GenAI Model Inference with Ray and Kubernetes - Richard Liu, Google CloudCNCF [Cloud Native Computing Foundation]
Просмотров 800
Jeff Dean: AI will Reshape Chip Design - NeurIPS 202443:53Jeff Dean: AI will Reshape Chip Design — NeurIPS 2024
Jeff Dean: AI will Reshape Chip Design - NeurIPS 2024GradientSpills
Просмотров 4,6 тыс.
Efficient Large-Scale Language Model Training on GPU Clusters Using Megatron-LM | Jared Casper24:04Efficient Large-Scale Language Model Training on GPU Clusters Using Megatron-LM | Jared Casper
Efficient Large-Scale Language Model Training on GPU Clusters Using Megatron-LM | Jared Casper@Scale
Просмотров 4,7 тыс.
DRAcon: Demystifying Dynamic Resource Allocation - from Myths to Facts - Kevin Klues & Patrick Ohly36:56DRAcon: Demystifying Dynamic Resource Allocation - from Myths to Facts - Kevin Klues & Patrick Ohly
DRAcon: Demystifying Dynamic Resource Allocation - from Myths to Facts - Kevin Klues & Patrick OhlyCNCF [Cloud Native Computing Foundation]
Просмотров 1,1 тыс.
Scaling AI Workloads with Kubernetes: Sharing GPU Resources Across Multiple Containers - Jack Ong31:49Scaling AI Workloads with Kubernetes: Sharing GPU Resources Across Multiple Containers - Jack Ong
Scaling AI Workloads with Kubernetes: Sharing GPU Resources Across Multiple Containers - Jack OngThe Linux Foundation
Просмотров 8 тыс.
Do NOT Learn Kubernetes Without Knowing These Concepts...13:01Do NOT Learn Kubernetes Without Knowing These Concepts...
Do NOT Learn Kubernetes Without Knowing These Concepts...Travis Media
Просмотров 344 тыс.
Confidential Containers for GPU Compute: Incorporating LLMs in a Lift-and-Shift Strategy for AI31:59Confidential Containers for GPU Compute: Incorporating LLMs in a Lift-and-Shift Strategy for AI
Confidential Containers for GPU Compute: Incorporating LLMs in a Lift-and-Shift Strategy for AICNCF [Cloud Native Computing Foundation]
Просмотров 1,7 тыс.
vLLM on Kubernetes in Production27:31vLLM on Kubernetes in Production
vLLM on Kubernetes in ProductionKubesimplify
Просмотров 4,3 тыс.
CUDA: New Features and Beyond | NVIDIA GTC 202450:08CUDA: New Features and Beyond | NVIDIA GTC 2024
CUDA: New Features and Beyond | NVIDIA GTC 2024NVIDIA Developer
Просмотров 17 тыс.
Lp. Точка Невозврата #4 ПЕРВЫЙ КОНТАКТ [???] • Майнкрафт36:57Lp. Точка Невозврата #4 ПЕРВЫЙ КОНТАКТ [???] • Майнкрафт
Lp. Точка Невозврата #4 ПЕРВЫЙ КОНТАКТ [???] • МайнкрафтMrLololoshka (Роман Фильченков)
Просмотров 762 тыс.
Переполюсовка АКБ🤔 Работает или миф? Гараж 54 #авто #машина00:59Переполюсовка АКБ🤔 Работает или миф? Гараж 54 #авто #машина
Переполюсовка АКБ🤔 Работает или миф? Гараж 54 #авто #машинаГараж 54
Просмотров 953 тыс.
this cutscene is too long 😭#roblox #tsb #thestrongestbattlegrounds #kj00:29this cutscene is too long 😭#roblox #tsb #thestrongestbattlegrounds #kj
this cutscene is too long 😭#roblox #tsb #thestrongestbattlegrounds #kjdud
Просмотров 3,5 млн
Кто яйцо держал дольше?00:33Кто яйцо держал дольше?
Кто яйцо держал дольше?МЯТНАЯ ФАНТА
Просмотров 123 тыс.
Почему НЕЛЬЗЯ и ОПАСНО в этот период времени набирать крещенскую воду04:06Почему НЕЛЬЗЯ и ОПАСНО в этот период времени набирать крещенскую воду
Почему НЕЛЬЗЯ и ОПАСНО в этот период времени набирать крещенскую водуМастер Владислав
Просмотров 145 тыс.
Крынина не выдержала! Родные военнопленного довели ее до слез своим непониманием #нашвыход #крынина00:59Крынина не выдержала! Родные военнопленного довели ее до слез своим непониманием #нашвыход #крынина
Крынина не выдержала! Родные военнопленного довели ее до слез своим непониманием #нашвыход #крынинаНАШ ВЫХОД. Крынина
Просмотров 864 тыс.
НИКОГДА НЕ РАЗГОВАРИВАЙ C ЗЛЫМ БЛИППИ Ночью!35:51НИКОГДА НЕ РАЗГОВАРИВАЙ C ЗЛЫМ БЛИППИ Ночью!
НИКОГДА НЕ РАЗГОВАРИВАЙ C ЗЛЫМ БЛИППИ Ночью!Double Bubble
Просмотров 281 тыс.
Lp. Точка Невозврата #3 ВОЛШЕБНАЯ ФРАЗА [Личное Измерение] • Майнкрафт32:26Lp. Точка Невозврата #3 ВОЛШЕБНАЯ ФРАЗА [Личное Измерение] • Майнкрафт
Lp. Точка Невозврата #3 ВОЛШЕБНАЯ ФРАЗА [Личное Измерение] • МайнкрафтMrLololoshka (Роман Фильченков)
Просмотров 1 млн