Eğitim İçeriği

Giriş Large Language Models (LLMs)

  • LLM'lere Genel Bakış
  • Tanım ve önemi
  • Günümüzdeki yapay zekadaki uygulamaları

Transformer Mimarisi

  • Transformer nedir ve nasıl çalışır?
  • Ana bileşenler ve özellikler
  • Gömme ve konum kodlama
  • Çok başlı dikkat
  • İleri beslemeli sinir ağı
  • Normalleştirme ve artık bağlantılar

Transformer Modelleri

  • Öz-dikkat mekanizması
  • Kodlayıcı-çözücü mimarisi
  • Konum gömmeleri
  • BERT (Bidirectional Encoder Representations from Transformers)
  • GPT (Generative Pretrained Transformer)

Performans Optimizasyonu ve Tuzaklar

  • Bağlam uzunluğu
  • Mamba ve durum uzayı modelleri
  • Flash attention
  • Seyrek transformer'lar
  • Görsel transformer'lar
  • Nicemlemenin önemi

Transformer'ları İyileştirme

  • Alma destekli metin üretimi
  • Modellerin karışımı
  • Düşünce ağacı

Fine-Tuning

  • Düşük sıralı uyarlama teorisi
  • Fine-Tuning with QLora

LLM'lerde Ölçekleme Yasaları ve Optimizasyon

  • LLM'ler için ölçekleme yasalarının önemi
  • Veri ve model boyutu ölçekleme
  • Hesaplama ölçekleme
  • Parametre verimliliği ölçekleme

Optimizasyon

  • Model boyutu, veri boyutu, hesaplama bütçesi ve çıkarım gereksinimleri arasındaki ilişki
  • LLM'lerin performansını ve verimliliğini optimize etme
  • LLM'leri eğitmek ve ince ayar yapmak için en iyi uygulamalar ve araçlar

Eğitim ve Fine-Tuning LLM'ler

  • LLM'leri sıfırdan eğitmenin adımları ve zorlukları
  • Veri edinimi ve bakımı
  • Büyük ölçekli veri, CPU ve bellek gereksinimleri
  • Optimizasyon zorlukları
  • Açık kaynaklı LLM'lerin manzarası

Temelleri Reinforcement Learning (RL)

  • Reinforcement Learning'ye Giriş
  • Pozitif pekiştirme yoluyla öğrenme
  • Tanım ve temel kavramlar
  • Markov Karar Süreci (MDP)
  • Dinamik programlama
  • Monte Carlo yöntemleri
  • Zaman Farkı Öğrenimi

Derin Reinforcement Learning

  • Derin Q-Ağları (DQN)
  • Yakın Politika Optimizasyonu (PPO)
  • Elements of Reinforcement Learning

LLM'lerin ve Reinforcement Learning'nin Entegrasyonu

  • LLM'leri Reinforcement Learning ile birleştirme
  • RL'nin LLM'lerde nasıl kullanıldığı
  • Reinforcement Learning with Human Feedback (RLHF)
  • RLHF'ye Alternatifler

Vaka Çalışmaları ve Uygulamalar

  • Gerçek dünya uygulamaları
  • Başarı hikayeleri ve zorluklar

İleri Konular

  • İleri teknikler
  • İleri optimizasyon yöntemleri
  • Son araştırmalar ve gelişmeler

Özet ve Sonraki Adımlar

Kurs İçin Gerekli Önbilgiler

  • Temel Machine Learning bilgisi

Hedef Kitle

  • Veri bilimcileri
  • Yazılım mühendisleri
 21 Saat

Katılımcı Sayısı


Kişi Başına Fiyat

Yaklaşan Etkinlikler

İlgili Kategoriler