Bağımsızlık (olasılık teorisi)

Olasılık kuramında iki olayın bağımsız olması bu olaylardan birinin gerçekleşme olasılığının diğer olayın gerçekleşip gerçekleşmediğine bağlı olmaması anlamına gelmektedir. Örneğin;

• Bir zarın ilk atışta 6 gelmesi olayı ile ikinci atışta 6 gelmesi olayı bağımsızdır.
• Öte yandan, bir zarın ilk atışta 6 gelmesi olayı ilk iki atış sonunda elde edilen sayılar toplamının 8 olması olayına bağlıdır.
• Bir kart destesinden seçilen ilk kartın kırmızı olması olayı ile ikinci kartın aynı renkte olması olayı bağımsızdır (kart seçimi yapıldıktan sonra deste ilk haline getiriliyorsa). Ne var ki, seçilen kartın desteye geri konulmaması durumunda bu iki olay bağımlıdır.

Benzer biçimde, iki rassal değişkenin bağımsız oluşu bu değişkenlerden birinin değerinin diğerinden önce gözlenmemiş oluşuna bağlıdır. Bağımsızlık kavramı ikiden fazla olay ya da rassal değişken barındıran durumlara da uygulanabilmektedir.

"Bağımsız" terimi zaman zaman "istatistiksel olarak bağımsız", "sınırdan bağımsız" ya da "mutlak bağımsız" olarak da kullanılmaktadır.

Bağımsız olaylar

Bağımsızlık şu biçimde tanımlanabilir:

A ve B olayları ancak ve ancak Pr(A ∩ B) = Pr(A)Pr(B) koşulu sağlanıyorsa bağımsızdırlar.

Burada A ∩ B, A ve B'nin kesişimini (A ve B olaylarının birlikte gerçekleştiği durumu) göstermektedir.

Daha genel anlamda, bir olay dizisi bu dizinin herhangi bir sonlu altkümesinin

$\Pr \left(\bigcap _{i=1}^{n}A_{i}\right)=\prod _{i=1}^{n}\Pr(A_{i})$

koşulunu sağlaması durumunda karşılıklı bağımsızdır. Bu olgu bağımsız olaylar için çarpım kuralı olarak adlandırılmaktadır.

A ve B olayları bağımsız ise, B olayının gerçekleşmiş olduğu bilinmek üzere A'nın koşullu olasılığı bu olayın koşulsuz olasılığına eşittir.

$\Pr(A\mid B)=\Pr(A)$

Tüm bunlara karşın, bu ifadelerin bağımsızlık kavramının tam tanımını oluşturduğu söylenemez. Bunun nedeni, ifadede yer alan A ve B olaylarının yerlerinin değiştirilemeyecek oluşu ve bu tanımın olasılığın 0 olduğu durumlarda geçersiz kalmasıdır.

B'nin gerçekleşmiş olduğu bilinmek üzere A'nın koşullu olasılığı

$\Pr(A\mid B)={\Pr(A\cap B) \over \Pr(B)}$ (Pr(B) ≠ 0 olduğu sürece)

biçiminde tanımlanmaktadır.

$\Pr(B)\neq 0$ iken bu ifade

$\Pr(A\cap B)=\Pr(A)\Pr(B)$

olarak da yazılabilir.

Burada sözü edilen bağımsızlık kavramı konuşma dilindeki karşılığından farklı bir anlam taşımaktadır. Örneğin, bir olayın kendinden bağımsız olması ancak ve ancak

$\Pr(A)=\Pr(A\cap A)=\Pr(A)\Pr(A)$

koşulunun sağlanması durumunda gerçekleşebilir. Başka bir deyişle, bir olay ya da onun tümleyeni neredeyse kesin olarak gerçekleşiyorsa bu olay kendinden bağımsızdır.

Bağımsız rassal değişkenler

X gerçel değerli bir rassal değişken ve a bir sayı olmak üzere, {X ≤ a} olayı X'in a'dan küçük ya da ona eşit olduğu gözlemlerin oluşturduğu küme olarak tanımlanmaktadır.

X ve Y rassal değişkenleri ancak ve ancak {X ≤ a} ve {Y ≤ b} olaylarının bağımsız olması durumunda bağımsızdırlar. Benzer biçimde, rastgele seçilmiş değişkenlerin oluşturduğu bir kümenin bağımsız oluşu herhangi bir sonlu X₁, …, X_n yığını ve a₁, …, a_n sayı dizisi için {X₁ ≤ a₁}, …, {X_n ≤ a_n} olaylarının bağımsız olmasına bağlıdır.

Bir yığından seçilen herhangi iki rassal değişken bağımsız ise bu değişkenlerin karşılıklı bağımsızlıkları da güvence altındadır. Bu olgu parçalı bağımsızlık olarak adlandırılmaktadır.

X ve Y bağımsız ise, E beklenti işleci

E[X Y] = E[X] E[Y]

koşulunu sağlar. Varyans için

var(X + Y) = var(X) + var(Y)

eşitliği yazılabilirken kovaryans cov(X,Y) sıfıra eşittir. Bu ifadenin tersi ("iki rassal değişkenin kovaryansı 0 ise bu değişkenler bağımsızdırlar" önermesi) doğru değildir.

Bunlara ek olarak, iki tane X ve Y rassal değişkeni, FX(x) ve FY(y) dağılım fonksiyonları ve fX(x) ve fY(y) olasılık yoğunlukları gösteriyorlarsa, bu iki rassal değişkenin birbirinden bağımsız olmaları için, bileşik rassal değişken (X,Y) nin şu ortak dağılımı olması gerekir:

FX,Y(x,y) = FX(x)FY(y),

ya da buna eşit olarak

fX,Y(x,y) = fX(x)fY(y).

ortak yoğunluk göstermelidir.

İki rassal değişkenden daha fazla sayıda rassal değişkenler olma halinde bağımsızlık da daha genel olarak buna benzer ifadeler ile karakterize edilirler.

Koşullu bağımsız rassal değişkenler

Ana madde: Koşullu bağımsızlık

Sezgi ile ele alınırsa, iki rassal değişken X ve Y nin birbirinden koşullu bağımsız olmaları için, bir Z verilirse ve eğer Z değeri bilinirse, Y değerini bilmenin X hakkında bilgimize hiçbirsey eklememesi gerekir. Örnegin, altlarından Z miktarına bağlılıkları olduğu kabul edilen, X ve Y değişkeni ölçümleri birbirinden bağımsız değildir; ama (iki olçümdeki yapılan hatalar herhangi bir şekilde birbirine ilişkili değilse) 'bu iki değişken, verilmiş bir Z şartına bağlı koşutlu değişkenlerdir.

Koşullu bağımsızlık kavramının daha formel bir tanımlaması koşullu dağılım kavramına dayandırılır. Eğer X, Y ve Z ayrık rassal değişken iseler, o halde X ve Y değişkenlerinin Z verilmişine koşullu bağımsız olmaları için şart şudur: Her x, y ve z için P(Z ≤ z) > 0 olursa

$\mathrm {P} (X\leq x,Y\leq y\;|\;Z=z)=\mathrm {P} (X\leq x\;|\;Z=z)\cdot \mathrm {P} (Y\leq y\;|\;Z=z)$

Diğer taraftan, eğer X, Y ve Z sürekli rassal değişken iseler ve p ortak olasılık yoğunluk fonksiyonu bulunmakta ise; o halde X ve Y değişkenlerinin Z verilmişine koşullu bağımsız olmaları için şart şudur: Her x, y ve z gerçel sayılar için p_Z(z) > 0 olursa

$p_{XY|Z}(x,y|z)=p_{X|Z}(x|z)\cdot p_{Y|Z}(y|z)$

Bu demektir ki Y ve Z verilirse X için koşullu dağılım, sadece Z için dağılımın aynıdır. Sürekli halde de koşutlu olasılık yoğunluk fonksiyonları için de bir benzer denklem verilebilir.

Olasılık bir çeşit hiç verilmiş olay olmayan koşutlu olasılık olduğu için, bağımsızlık koşutlu bağımsızlığın özel bir hali olarak görülebilir.