Eğitim İçeriği

Giriş

  • Derin öğrenme ölçeklendirme zorluklarına genel bakış
  • DeepSpeed'e ve özelliklerine genel bakış
  • DeepSpeed ve diğer dağıtık derin öğrenme kütüphaneleri

Başlarken

  • Geliştirme ortamının kurulumu
  • PyTorch ve DeepSpeed'in kurulumu
  • Dağıtık eğitim için DeepSpeed'in yapılandırılması

DeepSpeed Optimizasyon Özellikleri

  • DeepSpeed eğitim hattı
  • ZeRO (bellek optimizasyonu)
  • Aktivasyon kontrol noktası
  • Gradyan kontrol noktası
  • Hattı paralelliği

DeepSpeed ile Modelleri Ölçeklendirme

  • DeepSpeed kullanarak temel ölçeklendirme
  • Gelişmiş ölçeklendirme teknikleri
  • Performans hususları ve en iyi uygulamalar
  • Hata ayıklama ve sorun giderme teknikleri

Gelişmiş DeepSpeed Konuları

  • Gelişmiş optimizasyon teknikleri
  • Karma hassasiyetli eğitim ile DeepSpeed kullanımı
  • Farklı donanımlarda DeepSpeed (örneğin GPU’ler, TPU’lar)
  • Birden fazla eğitim düğümü ile DeepSpeed

DeepSpeed'i PyTorch ile Entegre Etme

  • DeepSpeed'i PyTorch iş akışlarıyla entegre etme
  • PyTorch Lightning ile DeepSpeed kullanımı

Sorun Giderme

  • Yaygın DeepSpeed sorunlarını ayıklama
  • İzleme ve günlük kaydı

Özet ve Sonraki Adımlar

  • Temel kavramların ve özelliklerin özeti
  • DeepSpeed'i üretimde kullanmak için en iyi uygulamalar
  • DeepSpeed hakkında daha fazla bilgi edinmek için ek kaynaklar

Kurs İçin Gerekli Önbilgiler

  • Derin öğrenme prensiplerine orta düzeyde hakimiyet
  • PyTorch veya benzeri derin öğrenme çerçeveleriyle deneyim
  • Python programlamaya aşinalık

Hedef Kitle

  • Veri bilimcileri
  • Makine öğrenimi mühendisleri
  • Geliştiriciler
 21 Saat

Katılımcı Sayısı


Kişi Başına Fiyat

Yaklaşan Etkinlikler

İlgili Kategoriler