Olasılık ve Belirsizlik

Bir tıbbi test pozitif çıktı. Hastalık var mıdır? Çoğu kişi “test yüzde 99 doğruysa evet” der. Asıl soru farklıdır: bu kanıtı gördükten sonra hastalık olasılığı nedir?

Bunu burada konuşmamızın nedeni eğitimdir. Model bir skor listesi üretir; “bu skor ne kadar güvenilir?” diye bir sayı gerekir. O sayı olasılıktır: 0 ile 1 arasında, toplamı 1 olan bir inanç. Yeni bir altyapı katmanı değildir. Belirsizliği, bildiğin float ile yazmaktır. Öğrenme, bu sayıyı örnek gördükçe günceller.

Örneklem uzayı

Örneklem uzayı Ω, olası bütün sonuçlardır. Yazı-tura: {Y, T}. İki zar: 36 çift. Olay A ⊆ Ω. Olasılık P: olay → [0, 1] üç kuralı sağlar:

P(A) ≥ 0
P(Ω) = 1
Ayrık olayların olasılığı toplanır.

P(A) = 0.2, uzun vadede yirmi yüzde bir sıklık veya o andaki inançtır. İkisi aynı matematiği kullanır; yorum farklıdır. Kesinlik yalnızca 0 ve 1’dir.

Rastgele değişken X, sonuçlara sayı atar. Zarın yüzü X ∈ {1,…,6}. Dağılım, her değere bir olasılık verir. Kesikli ise Σ P(X = k) = 1. Sürekli ise yoğunluk p(x) için ∫ p(x) dx = 1; tek noktada olasılık sıfırdır.

Beklenti E[X] = Σ k P(X = k) (kesikli). Bu “çıkacak değer” değil, dağılımın ağırlık merkezidir. Adil zarda E = 3.5; 3.5 hiç gelmez.

Koşullu olasılık

P(A | B) = P(A ∩ B) / P(B) (P(B) > 0). B’yi öğrendikten sonra uzay B’ye daralır, yeniden normalize edilir.

“Yağmur → yer ıslak” P(ıslak | yağmur) yüksektir. Tersi P(yağmur | ıslak) sprinkler ve temizliği de içerir. P(A | B) ≠ P(B | A) genel kuraldır. Bunu karıştırmak, testin “doğruluğunu” hastalık olasılığı sanmaktır.

Bağımsızlık: P(A ∩ B) = P(A) P(B). O zaman P(A | B) = P(A): B, A hakkında bilgi taşımaz. Naive Bayes, kelimeleri bağımsız sayar. “not spam” içindeki not ile spam bağımlıdır; varsayım yanlış, model yine ucuz ve bazen yeterlidir. Yanlış varsayımın bedeli, sonraki yazılardaki temsilin gerekçesidir.

Beklenen koşullu: E[X | Y = y], Y’yi bildikten sonra X’in ortalamasıdır. Regresyon tam bunu yaklaşır: f(x) ≈ E[Y | X = x].

Bayes, sayıyla

P(H | D) = P(D | H) P(H) / P(D)

Prior P(H): kanıttan önce.
Likelihood P(D | H): H doğruysa D ne kadar beklenir.
Kanıt P(D) = Σ P(D | Hᵢ) P(Hᵢ): bütün hipotezlerin karışımı.
Posterior P(H | D): güncellenmiş inanç.

1000 kişilik bir havuz. Hastalık prior’u 1/1000 → 1 hasta, 999 sağlıklı. Duyarlılık P(+ | hasta) = 0.99 → beklenen gerçek pozitif 0.99. Yanlış pozitif P(+ | sağlıklı) = 0.01 → 9.99. Pozitif çıkanlar ≈ 10.98. Posterior:

P(hasta | +) = 0.99 / 10.98 ≈ 0.09

Yüzde 99 duyarlı test, nadir hastalıkta pozitif sonrası inancı yüzde 9’a çıkarır; yüzde 99’a değil. Payda, sağlıklıların yanlış alarmıdır. Prior’u yok saymak, tabanı yok saymaktır.

Model neden dağılım üretir?

Sınıflandırıcı P(spam | metin) verir. Dil modeli P(token | bağlam) verir. Eşik, argmax, sıcaklık, örnekleme bu dağılımın üzerine konan karardır. Dağılım çarpıksa eşik değişince sistem başka bir sistem olur. “Model spam dedi” cümlesi, aslında p > 0.5 (veya başka bir eşik) demektir.

Alıştırma

Yukarıdaki 1000 kişilik hesabı prior = 1/100 ile tekrarlayın. Posterior neden yükselir? Aynı testi her yıl “tarama” olarak tüm şehre uygularsanız yanlış pozitif sayısı nasıl patlar?