Eğitim İçeriği

QLoRA ve Kuantifikasyona Giriş

  • Kuantifikasyonun model optimizasyonundaki rolüne genel bir bakış
  • QLoRA frameworkine giriş ve avantajları
  • QLoRA'nın geleneksel fine-tuning yöntemlerinden ana farkları

Large Language Models (LLMs) Temelleri

  • LLM'lerin ve mimarilerinin tanıtıldığı genel bakış
  • Büyük modellerin ölçeklendirilmiş fine-tuningundaki zorluklar
  • Kuantifikasyonun LLM fine-tuninginde hesaplama kısıtlamalarını aşmada nasıl yardımcı olduğu

Fine-Tuning LLM'ler için QLoRA Uygulaması

  • QLoRA frameworkini ve ortamını kurma
  • QLoRA fine-tuningi için veri kümelerinin hazırlanması
  • Python ve PyTorch/TensorFlow kullanarak LLM'lerde QLoRA uygulama adım adım rehberi

QLoRA ile Fine-Tuning Performansı Optimizasyonu

  • Kuantifikasyonla model doğruluğunu ve performansını nasıl dengeleme
  • Fine-tuning sırasında hesap maliyetlerini ve bellek kullanımını azaltma teknikleri
  • Minimum donanım gereksinimleriyle fine-tuning stratejileri

Tamamlanan Modellerin Değerlendirilmesi

  • Tamamlanan modellerin etkinliğini değerlendirmek için nasıl bir yaklaşımla ilerlenir
  • Soğutma modelleri için yaygın değerlendirme ölçüleri
  • Fine-tuning sonrası model performansını optimize etme ve sorun giderme

Tamamlanan Modellerin Dağıtılması ve Ölçeklendirilmesi

  • Üretim ortamlarına kuantifikasyonlu LLM'lerin dağıtımına yönelik en iyi uygulamalar
  • Gerçek zamanlı taleplere yanıt vermek için dağıtımın ölçeklenmesi
  • Model dağıtımı ve izleme için araçlar ve frameworkler

Günlük Hayat Use Caseleri ve Durum Çalışmaları

  • Durum Çalışması: Müşteri destek ve NLP görevleri için LLM'lerin fine-tuningu
  • Sağlık, finans ve e-ticaret gibi çeşitli sektörlerde LLM'lerin fine-tuningu örnekleri
  • QLoRA tabanlı modellerin gerçek dünya dağıtımlarından öğrendikler

Özet ve Sonraki Adımlar

Kurs İçin Gerekli Önbilgiler

  • Makine öğrenimi temelleri ve sinir ağları hakkındaki bilgi
  • Model ayarlaması ve aktarım öğrenimi deneyimi
  • Büyük dil modelleri (LLMs) ve derin öğrenme çerçeveleriyle (örn., PyTorch, TensorFlow) tanışlık

Kitlesi

  • Makine öğrenimi mühendisleri
  • AI geliştiricileri
  • Veri bilimciler
 14 Saat

Katılımcı Sayısı


Kişi Başına Fiyat

Yaklaşan Etkinlikler

İlgili Kategoriler