Onur Er

Konu

Yapay zeka

Kod ve JVM değil. Mimari, ağırlık dosyası, eğitim, dil modeli.

İlk yazı → Yapay Zeka Nedir?

Ne olduğu

  1. Yapay Zeka Nedir?Kod, bytecode, JVM değil: model bir program artı sayı dosyasıdır.
  2. Model Nedir, Nasıl Çalışır?Mimari kod, ağırlık dosyası, GPU ve bir cümlenin yolu.
  3. Eğitim Derleme DeğildirSayılar nasıl dolar: örnek, hata, küçük oynatma, kayıt.

Klasik arama

  1. Arama ve KararAğırlık dosyası olmayan program: durum, ağaç, sezgisel.

Sayı ve belirsizlik

  1. Olasılık ve BelirsizlikÖrneklem uzayı, koşullu olasılık, Bayes ve beklenti.
  2. Entropi ve BilgiBit, şaşırma, çapraz entropi ve KL.
  3. Vektörler ve BenzerlikNokta çarpım, matris, kosinüs ve gömme.
  4. Türev ve Zincir KuralıEğim, kısmi türev, gradyan ve zincir kuralı.

Öğrenme

  1. Öğrenme ProblemiÖzellik, etiket, iid, ezber ve genelleme.
  2. Lineer Modeller ve Kayıpŷ = w·x + b, MSE, logit ve ayrılabilirlik.
  3. Gradyan İnişiAdım kuralı, öğrenme oranı, mini-batch ve Adam.
  4. Sinir AğlarıBirim, ReLU, katman yığını ve XOR.
  5. Geri YayılımHesap grafiği, yerel gradyan ve sayısal bir adım.
  6. Softmax ve Çapraz EntropiLogit, olasılık, −log q_y ve sıcaklık.

Dil modelleri

  1. Dikkat ve TransformerQ, K, V, ölçekli nokta çarpım, maske ve blok.
  2. Dil ModelleriZincir kuralı, sonraki token, örnekleme ve uyum.
  3. Token, Bağlam ve ÇıkarımBPE, pencere, prefill, decode ve KV önbelleği.
  4. Halüsinasyon, Araçlar ve ÖlçümUydurma, RAG, araç döngüsü ve ayrı metrikler.