7 Örneklem ve İstatistikler
İstatistikte asıl merak ettiğimiz şey kitlenin kendisidir: bir ülkedeki bütün yetişkinlerin ortalama boyu, bir fabrikanın ürettiği bütün ampullerin ömrü. Kitlenin tamamını ölçmek çoğu zaman olanaksızdır; bu yüzden kitleden birkaç birim seçer, onları ölçer ve bu ölçümlerden kitle hakkında sonuç çıkarırız. İstatistiğe Giriş bölümünde kitle, örneklem ve parametre kavramlarını sözel olarak tanıdık. Bu bölümde aynı kavramlara olasılık diliyle kesin bir biçim veriyor, ardından en önemli istatistik olan örneklem ortalamasının davranışını inceliyoruz.
7.1 Örneklem ve Örneklem Uzayı
Kitlede incelediğimiz özellik (boy, ömür, puan) rastgele seçilen bir birim için bir rastgele değişkendir. Örneklemi, bu değişkenin birbirini etkilemeyen kopyaları olarak düşüneceğiz.
Tanım 7.1 (Örneklem) Kitledeki tek bir özelliğin ölçümüne karşılık gelen rastgele değişken \(X\) olsun. Her biri \(X\) ile aynı dağılıma sahip ve birbirinden bağımsız \(X_1, X_2, \ldots, X_n\) rastgele değişkenlerine ya da \((X_1, X_2, \ldots, X_n)\) rastgele vektörüne \(n\) birimlik (rastgele) örneklem denir. \(n\) sayısına örneklem hacmi (örneklem büyüklüğü) denir.
Yani \(X_i\), \(i\)-inci seçilecek birimde yapılacak ölçümdür. Ölçüm henüz yapılmadığı için değeri belli değildir; bu yüzden bir rastgele değişkendir. “Aynı dağılım” her ölçümün aynı kitleden geldiğini, “bağımsızlık” ise bir ölçümün sonucunun diğerlerini etkilemediğini söyler. \(X\)’in dağılımına kitle dağılımı diyeceğiz. Bağımsızlığın (Olasılık Teorisi’ndeki tanım) sonlu bir kitleden iadesiz çekilişte bozulduğunu aşağıda göreceğiz; o durumda da seçilen birimlerin değerlerine, alışılageldiği gibi, örneklem demeye devam edeceğiz.
Tanım 7.2 (Gözlem Değerleri) Ölçüm yapıldıktan sonra \(X_1, X_2, \ldots, X_n\) örnekleminin aldığı \(x_1, x_2, \ldots, x_n\) sayılarına gözlem değerleri ya da kısaca örnek denir.
Yani büyük harf (\(X_i\)) ölçümden önceki belirsiz niceliği, küçük harf (\(x_i\)) ölçümden sonra elimize geçen sayıyı gösterir. Aynı kitleden ikinci kez örneklem alırsak \(X_i\)’ler aynı kalır ama gözlem değerleri büyük olasılıkla değişir.
Tanım 7.3 (Örneklem Uzayı) Elde edilebilecek bütün \((x_1, x_2, \ldots, x_n) \in \mathbb{R}^n\) gözlem noktalarının kümesine örneklem uzayı denir ve \(\Xi \subset \mathbb{R}^n\) ile gösterilir.
Yani örneklem uzayı, \((X_1, \ldots, X_n)\) vektörünün alabileceği bütün değerlerin kümesidir; her gözlem bu kümenin bir noktasıdır.
Örnek 7.1 (Üç Zar Atışından Oluşan Örneklem) Hilesiz bir zar üç kez atılsın ve \(X_i\), \(i\)-inci atışta gelen sayı olsun. Atışlar birbirini etkilemediği ve her atışta \(1, \ldots, 6\) sayılarının her biri \(\frac{1}{6}\) olasılıkla geldiği için \((X_1, X_2, X_3)\), kitle dağılımı \(\{1, \ldots, 6\}\) üzerinde kesikli düzgün dağılım olan \(3\) birimlik bir örneklemdir. Örneklem uzayı
\[\Xi = \{1, 2, 3, 4, 5, 6\}^3 \subset \mathbb{R}^3\]
kümesidir ve \(6^3 = 216\) noktadan oluşur. Atışlar sırasıyla \(2\), \(5\), \(5\) gelirse gözlem değerleri \(x_1 = 2\), \(x_2 = 5\), \(x_3 = 5\) olur; bu, \(\Xi\)’nin \((2, 5, 5)\) noktasıdır.
7.2 İstatistik
Örneklemden kitle hakkında bilgi çıkarmak için gözlemleri bir formülde birleştiririz: toplarız, ortalamasını alırız, en büyüğünü seçeriz. Bu formüllerin tek şartı, gözlemler geldiğinde gerçekten hesaplanabilmeleridir.
Tanım 7.4 (İstatistik) \(X_1, X_2, \ldots, X_n\) örnekleminin bilinmeyen parametre içermeyen herhangi bir \(T = T(X_1, X_2, \ldots, X_n)\) fonksiyonuna örneklem istatistiği ya da kısaca istatistik denir.
Yani istatistik, gözlem değerleri elimize geçer geçmez sayısal değeri hesaplanabilen bir formüldür. Örneğin \(X_1 + X_2 + \cdots + X_n\), \(\max\{X_1, \ldots, X_n\}\) ve yalnızca \(X_1\) birer istatistiktir. Kitle ortalaması \(\mu\) bilinmiyorsa \(\bar X - \mu\) bir istatistik değildir, çünkü gözlemler gelse bile \(\mu\) bilinmeden değeri hesaplanamaz. Bir örneklemle sonsuz çoklukta istatistik tanımlanabilir.
Bir istatistik örneklemin fonksiyonu olduğundan kendisi de bir rastgele değişkendir: örneklem değiştikçe değeri değişir. Bu değişimi dağılımıyla betimleriz.
Tanım 7.5 (Örnekleme Dağılımı) Bir \(T\) istatistiğinin olasılık dağılımına \(T\)’nin örnekleme dağılımı denir.
Yani örnekleme dağılımı, aynı kitleden aynı hacimde örneklemler tekrar tekrar alındığında \(T\)’nin hangi değerleri hangi olasılıklarla aldığını söyler. Bölümün ilerleyen kısmında bir sonlu kitlede bu dağılımı bütün örneklemleri sayarak kuracağız.
Bazı istatistikler o kadar sık kullanılır ki özel adları vardır.
Tanım 7.6 (Örneklem Ortalaması) \(X_1, X_2, \ldots, X_n\) örnekleminin örneklem ortalaması
\[\bar X = \bar X_n = \frac{1}{n} \sum_{i=1}^{n} X_i\]
istatistiğidir.
Tanım 7.7 (Örneklem Varyansı) \(X_1, X_2, \ldots, X_n\) örnekleminin (\(n \ge 2\)) örneklem varyansı
\[S^2 = \frac{1}{n - 1} \sum_{i=1}^{n} \left( X_i - \bar X \right)^2\]
istatistiğidir.
Tanım 7.8 (Örneklem Momenti) \(k = 1, 2, 3, \ldots\) için \(X_1, X_2, \ldots, X_n\) örnekleminin \(k\)-inci örneklem momenti
\[M_k = \frac{1}{n} \sum_{i=1}^{n} X_i^k\]
istatistiğidir.
Yani \(\bar X\) gözlemlerin merkezini, \(S^2\) gözlemlerin bu merkez çevresindeki yayılımını ölçer; \(M_k\) ise gözlemlerin \(k\)-inci kuvvetlerinin ortalamasıdır. İstatistiğe Giriş bölümünde bir veri kümesi için hesapladığımız aritmetik ortalama ve örneklem varyansı, bu istatistiklerin gözlem değerlerindeki değerleridir. \(S^2\)’de \(n\) yerine \(n - 1\) ile bölmenin nedenini aşağıdaki bir örnekte somut olarak göreceğiz; genel açıklama Tahmin Edicilerin Özellikleri bölümündedir.
Birinci örneklem momenti örneklem ortalamasıdır: \(M_1 = \bar X\). İkinci moment ise ortalamanın karesi değildir. \(M_2\) önce kareleri alıp sonra ortalar, \(\bar X^2\) önce ortalayıp sonra karesini alır:
\[M_2 = \frac{X_1^2 + \cdots + X_n^2}{n}, \qquad \bar X^2 = \left( \frac{X_1 + \cdots + X_n}{n} \right)^2.\]
İkisi arasındaki fark tam olarak yayılımı verir.
Önerme 7.1 (Örneklem Varyansının Hesap Formülü) \(n \ge 2\) için
\[\sum_{i=1}^{n} \left( X_i - \bar X \right)^2 = \sum_{i=1}^{n} X_i^2 - n \bar X^2\]
ve dolayısıyla
\[S^2 = \frac{n}{n-1} \left( M_2 - \bar X^2 \right)\]
olur.
İspat
Kareyi açıp toplamı terimlere dağıtalım:
\[\sum_{i=1}^{n} \left( X_i - \bar X \right)^2 = \sum_{i=1}^{n} X_i^2 - 2 \bar X \sum_{i=1}^{n} X_i + n \bar X^2.\]
\(\bar X\) toplama indisine bağlı olmadığı için toplamın dışına çıktı. Tanım gereği \(\sum_{i=1}^{n} X_i = n \bar X\) olduğundan ortadaki terim \(-2n\bar X^2\)’dir ve
\[\sum_{i=1}^{n} \left( X_i - \bar X \right)^2 = \sum_{i=1}^{n} X_i^2 - 2n \bar X^2 + n \bar X^2 = \sum_{i=1}^{n} X_i^2 - n \bar X^2\]
bulunur. \(\sum X_i^2 = n M_2\) yazıp \(n - 1\)’e bölersek ikinci eşitlik çıkar:
\[S^2 = \frac{n M_2 - n \bar X^2}{n - 1} = \frac{n}{n-1} \left( M_2 - \bar X^2 \right).\]
\(\blacksquare\)
Sol taraf negatif olmayan terimlerin toplamı olduğundan \(M_2 \ge \bar X^2\)’dir; eşitlik ancak bütün gözlemler aynıyken sağlanır.
Örnek 7.2 (Bir Örnekte Ortalama, Varyans ve İkinci Moment) Dört birimlik bir örneklemin gözlem değerleri \(3\), \(5\), \(6\), \(10\) olsun. Örneklem ortalamasının, örneklem varyansının ve ikinci örneklem momentinin bu gözlemlerdeki değerlerini hesaplayınız.
Çözüm
Ortalama:
\[\bar x = \frac{3 + 5 + 6 + 10}{4} = \frac{24}{4} = 6.\]
Ortalamadan sapmalar \(3 - 6 = -3\), \(5 - 6 = -1\), \(6 - 6 = 0\) ve \(10 - 6 = 4\)’tür. Karelerinin toplamı \(9 + 1 + 0 + 16 = 26\) olduğundan
\[s^2 = \frac{26}{4 - 1} = \frac{26}{3} \approx 8{,}67.\]
İkinci moment karelerin ortalamasıdır:
\[m_2 = \frac{9 + 25 + 36 + 100}{4} = \frac{170}{4} = 42{,}5.\]
\(m_2 = 42{,}5\) ile \(\bar x^2 = 36\) birbirinden farklıdır. Önerme 7.1 ile sağlama yapalım:
\[\frac{n}{n-1} \left( m_2 - \bar x^2 \right) = \frac{4}{3} \left( 42{,}5 - 36 \right) = \frac{4}{3} \cdot 6{,}5 = \frac{26}{3}.\]
Bu, doğrudan bulduğumuz \(s^2\) değeriyle aynıdır.
\(\blacksquare\)
7.3 Örneklem Ortalamasının Beklenen Değeri ve Varyansı
Örneklem ortalaması kitle ortalaması \(\mu\)’yü tahmin etmek için kullanılan en doğal istatistiktir. Bu tahminin ne kadar güvenilir olduğunu anlamak için \(\bar X\)’in merkezine ve yayılımına bakacağız. Bir \(Y\) rastgele değişkeni için \(\mu_Y = E(Y)\) ve \(\sigma_Y^2 = \operatorname{Var}(Y)\) kısaltmalarını kullanacağız; örneğin \(\mu_{\bar X} = E(\bar X)\) ve \(\sigma_{\bar X}^2 = \operatorname{Var}(\bar X)\).
Teorem 7.1 (Bağımsız Gözlemlerde Örneklem Ortalaması) \(X_1, X_2, \ldots, X_n\), her \(i = 1, \ldots, n\) için \(E(X_i) = \mu\) ve \(\operatorname{Var}(X_i) = \sigma^2\) olan bağımsız rastgele değişkenler olsun. Bu durum, örneğin sonsuz bir kitleden alınan bir örneklemde geçerlidir. O zaman
\[\mu_{\bar X} = E(\bar X) = \mu, \qquad \sigma_{\bar X}^2 = \operatorname{Var}(\bar X) = \frac{\sigma^2}{n}\]
olur.
İspat
Beklenen değer. Beklenen değer lineer olduğundan (Olasılık Teorisi’ndeki teorem) sabit \(\frac{1}{n}\) dışarı çıkar ve toplamın beklenen değeri beklenen değerlerin toplamı olur:
\[E(\bar X) = E\left( \frac{1}{n} \sum_{i=1}^{n} X_i \right) = \frac{1}{n} \sum_{i=1}^{n} E(X_i) = \frac{1}{n} \cdot n\mu = \mu.\]
Varyans. Bir sabitle çarpılan rastgele değişkenin varyansı, sabitin karesiyle çarpılır: \(\operatorname{Var}(aY) = a^2 \operatorname{Var}(Y)\) (Olasılık Teorisi’ndeki teorem). Bağımsız rastgele değişkenlerin toplamının varyansı da varyansların toplamıdır, çünkü bağımsız değişkenler arasındaki kovaryanslar sıfırdır (Olasılık Teorisi’ndeki sonuç). Bu iki kuralla
\[\operatorname{Var}(\bar X) = \frac{1}{n^2} \operatorname{Var}\left( \sum_{i=1}^{n} X_i \right) = \frac{1}{n^2} \sum_{i=1}^{n} \operatorname{Var}(X_i) = \frac{n \sigma^2}{n^2} = \frac{\sigma^2}{n}\]
bulunur.
\(\blacksquare\)
Yani örneklem ortalaması ortalamada kitle ortalamasını tutturur ve yayılımı örneklem hacmiyle ters orantılı olarak azalır: gözlem sayısını dört katına çıkarmak \(\bar X\)’in varyansını dörtte birine, standart sapmasını yarıya indirir.
Teoremin varsayımları boşuna değildir. Beklenen değeri olmayan bir kitlede, örneğin Önemli Sürekli Dağılımlar bölümündeki Cauchy dağılımında, \(\mu\) ve \(\sigma^2\) tanımlı değildir; standart Cauchy kitlesinde \(\bar X\) her \(n\) için tek bir gözlemle aynı dağılıma sahiptir ve \(n\) büyüdükçe hiç daralmaz. Bağımsızlık kalktığında varyans formülünün nasıl değiştiğini ise aşağıda iadesiz çekilişte göreceğiz. Ayrıca teorem yalnızca \(\bar X\)’in beklenen değerini ve varyansını verir, dağılımının biçimini söylemez. Biçim, kitle normalse aşağıda tam olarak, genel kitlelerde ise Yakınsama ve Merkezi Limit Teoremi bölümünde büyük \(n\) için yaklaşık olarak belirlenecek.
Sonlu Kitleler
Şimdi kitlenin \(N\) birimden oluştuğunu ve birimlerin ölçülen değerlerinin \(c_1, c_2, \ldots, c_N\) olduğunu varsayalım. İstatistiğe Giriş bölümündeki gibi kitle ortalaması ve kitle varyansı
\[\mu = \frac{1}{N} \sum_{j=1}^{N} c_j, \qquad \sigma^2 = \frac{1}{N} \sum_{j=1}^{N} \left( c_j - \mu \right)^2\]
sayılarıdır. Kitleden rastgele seçilen tek bir birimin değeri \(X\) ise her birim \(\frac{1}{N}\) olasılıkla seçildiği için \(E(X) = \mu\) ve \(\operatorname{Var}(X) = \sigma^2\) olur; değerler farklıysa \(X\), \(\{c_1, \ldots, c_N\}\) üzerinde kesikli düzgün dağılımlıdır. \(n\) birimi iki farklı yolla seçebiliriz: seçilen birimi her çekilişten sonra kitleye geri koyarak (iadeli) ya da geri koymadan (iadesiz).
Teorem 7.2 (İadeli Çekilişte Örneklem Ortalaması) \(N\) birimlik sonlu bir kitleden iadeli olarak \(n\) birimlik bir örneklem seçilirse
\[\mu_{\bar X} = E(\bar X) = \mu, \qquad \sigma_{\bar X}^2 = \operatorname{Var}(\bar X) = \frac{\sigma^2}{n}\]
olur.
İspat
İadeli çekilişte her çekilişten önce kitle ilk hâline döner. Bu yüzden her çekilişte her birim \(\frac{1}{N}\) olasılıkla seçilir ve bir çekilişin sonucu diğerlerini etkilemez. Dolayısıyla \(X_1, \ldots, X_n\) bağımsızdır ve her biri tek birimlik seçimle aynı dağılıma sahiptir: \(E(X_i) = \mu\), \(\operatorname{Var}(X_i) = \sigma^2\). Teorem 7.1 doğrudan uygulanır.
\(\blacksquare\)
İadesiz çekilişte ise durum değişir: ilk çekilişte büyük bir değer gelirse o birim kitleden çıkar ve sonraki çekilişlerde büyük değer gelme olasılığı azalır. Gözlemler artık bağımsız değildir ve aralarındaki negatif ilişki varyansı küçültür.
Teorem 7.3 (İadesiz Çekilişte Örneklem Ortalaması) \(N \ge 2\) birimlik sonlu bir kitleden iadesiz olarak \(n \le N\) birim seçilsin ve \(X_i\), \(i\)-inci seçilen birimin değeri olsun (\(X_1, \ldots, X_n\) bu durumda bağımsız değildir). O zaman
\[\mu_{\bar X} = E(\bar X) = \mu, \qquad \sigma_{\bar X}^2 = \operatorname{Var}(\bar X) = \frac{N - n}{N - 1} \cdot \frac{\sigma^2}{n}\]
olur.
İspat
Birimleri \(1, 2, \ldots, N\) ile numaralayalım ve \(i\)-inci çekilişte seçilen birimin numarasına \(U_i\) diyelim; böylece \(X_i = c_{U_i}\) olur. İadesiz rastgele çekilişte, birbirinden farklı birimlerden oluşan her sıralı \((u_1, \ldots, u_n)\) dizisi aynı olasılıkla ortaya çıkar. Bu dizilerin sayısı \(N(N-1)\cdots(N-n+1)\)’dir. (\(\bar X\) sıraya bağlı olmadığından, sırasız \(\binom{N}{n}\) örneklemin eşit olasılıklı olması da aynı sonucu verir.)
Adım 1: Her \(X_i\) kitle dağılımına sahiptir. \(i\)-inci yere belirli bir \(a\) birimini koyarsak kalan \(n - 1\) yer, kalan \(N - 1\) birimden \((N-1)(N-2)\cdots(N-n+1)\) farklı biçimde doldurulur. Bu sayıyı toplam dizi sayısına bölersek
\[P(U_i = a) = \frac{(N-1)\cdots(N-n+1)}{N(N-1)\cdots(N-n+1)} = \frac{1}{N}\]
bulunur. Demek ki \(i\)-inci çekilişte, önceki çekilişlerin sonucunu bilmiyorsak, her birim eşit olasılıklıdır. Dolayısıyla her \(i\) için \(E(X_i) = \mu\) ve \(\operatorname{Var}(X_i) = \sigma^2\)’dir.
Adım 2: İki gözlemin kovaryansı. \(n \ge 2\) ve \(i \ne j\) olsun. \(i\)-inci ve \(j\)-inci yerlere farklı \(a\) ve \(b\) birimleri konursa kalan yerler \((N-2)\cdots(N-n+1)\) biçimde doldurulur, dolayısıyla
\[P(U_i = a,\ U_j = b) = \frac{1}{N(N-1)} \qquad (a \ne b)\]
ve \(a = b\) için bu olasılık sıfırdır. \(d_a = c_a - \mu\) yazalım. Kitle ortalamasının tanımı gereği \(\sum_{a} d_a = 0\) ve kitle varyansının tanımı gereği \(\sum_a d_a^2 = N\sigma^2\)’dir. Buna göre
\[\operatorname{Cov}(X_i, X_j) = E\big[ (X_i - \mu)(X_j - \mu) \big] = \frac{1}{N(N-1)} \sum_{a \ne b} d_a d_b\]
olur. \(a \ne b\) olan çarpımların toplamı, bütün çarpımların toplamından köşegen terimlerinin çıkarılmasıyla elde edilir:
\[\sum_{a \ne b} d_a d_b = \Big( \sum_{a} d_a \Big)^2 - \sum_{a} d_a^2 = 0 - N\sigma^2.\]
Böylece \(\operatorname{Cov}(X_i, X_j) = -\dfrac{\sigma^2}{N - 1}\) bulunur.
Adım 3: Beklenen değer ve varyans. Beklenen değerin lineerliği bağımsızlık gerektirmez; Adım 1 ile \(E(\bar X) = \frac{1}{n} \cdot n\mu = \mu\) olur. Toplamın varyansı, varyansların toplamı ile bütün \(i \ne j\) sıralı çiftlerinin kovaryanslarının toplamıdır (Olasılık Teorisi’ndeki formül ve hemen altındaki not). \(n\) tane varyans ve \(n(n-1)\) tane sıralı çift olduğundan
\[ \begin{aligned} \operatorname{Var}\Big( \sum_{i=1}^{n} X_i \Big) &= n\sigma^2 + n(n-1) \left( -\frac{\sigma^2}{N-1} \right) \\[1mm] &= n\sigma^2 \left( 1 - \frac{n-1}{N-1} \right) = n\sigma^2 \cdot \frac{N - n}{N - 1} \end{aligned} \]
olur. \(n = 1\) iken kovaryans terimi yoktur ve aynı sonuç kalır. Son olarak \(n^2\)’ye bölersek
\[\operatorname{Var}(\bar X) = \frac{1}{n^2} \cdot n\sigma^2 \cdot \frac{N-n}{N-1} = \frac{N - n}{N - 1} \cdot \frac{\sigma^2}{n}\]
elde edilir.
\(\blacksquare\)
İki teorem arasındaki tek fark varyanstaki çarpandır.
Tanım 7.9 (Sonlu Kitle Düzeltme Çarpanı) \(N\) birimlik bir kitleden iadesiz \(n\) birimlik örneklem seçildiğinde
\[\frac{N - n}{N - 1}\]
sayısına sonlu kitle düzeltme çarpanı denir.
Yani iadesiz çekilişte \(\bar X\)’in varyansı, iadeli çekilişteki \(\frac{\sigma^2}{n}\) değerinin bu çarpanla küçültülmüş hâlidir. \(n \ge 1\) için çarpan en çok \(1\)’dir; \(n = N\) olduğunda sıfır olur, çünkü o zaman bütün kitle seçilmiştir ve \(\bar X = \mu\) kesin olarak bilinir. \(N\) sabit bir \(n\) için sonsuza giderken çarpan \(1\)’e yakınsar. Bu yüzden kitle sonsuzsa ya da örneklem kitlenin %5’inden küçükse (\(n < 0{,}05N\)) çarpan kullanılmaz; bu durumda çarpanın karekökü \(\sqrt{0{,}95} \approx 0{,}975\)’ten büyüktür ve standart hatayı en fazla yaklaşık %2,5 değiştirir.
Tanım 7.10 (Standart Hata) Örneklem ortalamasının varyansının kareköküne, yani \(\sigma_{\bar X} = \sqrt{\operatorname{Var}(\bar X)}\) sayısına, örneklem ortalamasının standart hatası denir. Daha genel olarak bir \(T\) istatistiğinin standart hatası \(\sigma_T = \sqrt{\operatorname{Var}(T)}\) sayısıdır.
Yani standart hata, istatistiğin kendi standart sapmasıdır ve tahminin tipik olarak ne kadar şaştığını, kitlenin kendi biriminde ölçer. Bağımsız gözlemlerde ve iadeli çekilişte \(\sigma_{\bar X} = \frac{\sigma}{\sqrt{n}}\), iadesiz çekilişte \(\sigma_{\bar X} = \frac{\sigma}{\sqrt{n}} \sqrt{\frac{N-n}{N-1}}\)’dir.
Örnek 7.3 (Düzeltme Çarpanının Gerektiği Bir Durum) \(N = 1000\) öğrencinin sınav puanlarının standart sapması \(\sigma = 15\)’tir. Bu öğrencilerden iadesiz olarak \(n = 100\) öğrenci seçiliyor. Örneklem ortalamasının standart hatasını hesaplayınız.
Çözüm
Örneklem kitlenin \(\frac{100}{1000} = 0{,}10\)’u, yani %10’udur. Bu oran \(0{,}05\)’ten büyük olduğundan düzeltme çarpanı kullanılmalıdır. Teorem 7.3 ile
\[\sigma_{\bar X} = \frac{\sigma}{\sqrt{n}} \sqrt{\frac{N - n}{N - 1}} = \frac{15}{\sqrt{100}} \sqrt{\frac{900}{999}} = 1{,}5 \cdot 0{,}9492 \approx 1{,}4237.\]
Çarpan kullanılmasaydı \(1{,}5\) bulunurdu; bu yaklaşık %5 fazladır.
\(\blacksquare\)
Örnek 7.4 (Düzeltme Çarpanının İhmal Edilebildiği Bir Durum) \(N = 1000\) öğrencinin sınav puanlarının standart sapması \(\sigma = 15\)’tir. Bu öğrencilerden iadesiz olarak \(n = 40\) öğrenci seçiliyor. Örneklem ortalamasının standart hatasını hesaplayınız ve düzeltme çarpanının ihmal edilip edilemeyeceğini inceleyiniz.
Çözüm
Örneklem kitlenin \(\frac{40}{1000} = 0{,}04\)’üdür; bu oran \(0{,}05\)’ten küçük olduğundan çarpan ihmal edilebilir:
\[\sigma_{\bar X} \approx \frac{15}{\sqrt{40}} \approx 2{,}3717.\]
Çarpanla birlikte tam değer
\[\sigma_{\bar X} = \frac{15}{\sqrt{40}} \sqrt{\frac{960}{999}} \approx 2{,}3717 \cdot 0{,}9803 \approx 2{,}3250\]
olur. İki değer arasındaki fark yaklaşık %2’dir; bu yüzden çarpanı ihmal etmek pratikte bir şey kaybettirmez.
\(\blacksquare\)
7.4 Bir Sonlu Kitlede Örnekleme Dağılımı
Teoremleri somut bir kitlede, bütün olası örneklemleri tek tek yazarak doğrulayalım. Aşağıdaki örneklerin hepsi aynı küçük kitleyi kullanır.
Örnek 7.5 (Örneklem Ortalamasının Örnekleme Dağılımı) \(2\), \(4\), \(10\), \(12\) ve \(18\) sayılarından oluşan bir kitleden iadesiz olarak \(n = 3\) birimlik rastgele örneklemler çekiliyor. Örneklem ortalaması \(\bar X\)’in örnekleme dağılımını oluşturunuz.
Çözüm
Kitle \(N = 5\) birimlidir. İadesiz çekilişte \(3\) birimlik örneklemlerin sayısı
\[\binom{5}{3} = \frac{5!}{3!\, 2!} = 10\]
olup her biri \(\frac{1}{10}\) olasılıkla seçilir. Bütün örneklemleri ve ortalamalarını yazalım:
| Örneklem | \(\bar x\) | Örneklem | \(\bar x\) |
|---|---|---|---|
| \(2, 4, 10\) | \(16/3\) | \(2, 12, 18\) | \(32/3\) |
| \(2, 4, 12\) | \(18/3\) | \(4, 10, 12\) | \(26/3\) |
| \(2, 4, 18\) | \(24/3\) | \(4, 10, 18\) | \(32/3\) |
| \(2, 10, 12\) | \(24/3\) | \(4, 12, 18\) | \(34/3\) |
| \(2, 10, 18\) | \(30/3\) | \(10, 12, 18\) | \(40/3\) |
Karşılaştırmayı kolaylaştırmak için bütün ortalamaları paydası \(3\) olacak biçimde yazdık. \(24/3\) ve \(32/3\) değerleri ikişer örneklemde, diğerleri birer örneklemde ortaya çıkar. Buna göre \(\bar X\)’in olasılık fonksiyonu şöyledir:
| \(x\) | \(16/3\) | \(18/3\) | \(24/3\) | \(26/3\) | \(30/3\) | \(32/3\) | \(34/3\) | \(40/3\) |
|---|---|---|---|---|---|---|---|---|
| \(P(\bar X = x)\) | \(\frac{1}{10}\) | \(\frac{1}{10}\) | \(\frac{2}{10}\) | \(\frac{1}{10}\) | \(\frac{1}{10}\) | \(\frac{2}{10}\) | \(\frac{1}{10}\) | \(\frac{1}{10}\) |
Olasılıkların toplamı \(\frac{10}{10} = 1\)’dir.
\(\blacksquare\)
Örnek 7.6 (Örneklem Ortalamasının Beklenen Değeri) \(2\), \(4\), \(10\), \(12\), \(18\) kitlesinden iadesiz çekilen \(n = 3\) birimlik örneklemlerin ortalaması \(\bar X\) olsun. \(E(\bar X)\)’i örnekleme dağılımından hesaplayıp kitle ortalamasıyla karşılaştırınız.
Çözüm
Kitle ortalaması
\[\mu = \frac{1}{5} \left( 2 + 4 + 10 + 12 + 18 \right) = \frac{46}{5} = 9{,}2\]
olur. Örnekleme dağılımındaki (Örnek 7.5) her değeri olasılığıyla çarpıp toplayalım. Bütün terimlerin paydası \(3 \cdot 10 = 30\)’dur:
\[E(\bar X) = \frac{16 + 18 + 2 \cdot 24 + 26 + 30 + 2 \cdot 32 + 34 + 40}{30} = \frac{276}{30} = 9{,}2.\]
Bulduğumuz değer kitle ortalamasına eşittir; böylece \(E(\bar X) = \mu\) eşitliği (Teorem 7.3) bu kitlede doğrulanmış olur.
\(\blacksquare\)
Örnek 7.7 (Örneklem Ortalamasının Varyansı) \(2\), \(4\), \(10\), \(12\), \(18\) kitlesinden iadesiz çekilen \(n = 3\) birimlik örneklemlerin ortalaması \(\bar X\) olsun. \(\operatorname{Var}(\bar X)\)’i iki yoldan hesaplayınız.
Çözüm
Önce kitle varyansını bulalım. \(\mu = 9{,}2\)’den sapmaların kareleri \((2 - 9{,}2)^2 = 51{,}84\), \((4 - 9{,}2)^2 = 27{,}04\), \((10 - 9{,}2)^2 = 0{,}64\), \((12 - 9{,}2)^2 = 7{,}84\) ve \((18 - 9{,}2)^2 = 77{,}44\)’tür. Toplamları \(164{,}8\) olduğundan
\[\sigma^2 = \frac{164{,}8}{5} = 32{,}96\]
bulunur.
Birinci yol: teoremle. Çekiliş iadesiz olduğundan Teorem 7.3 kullanılır:
\[\operatorname{Var}(\bar X) = \frac{N - n}{N - 1} \cdot \frac{\sigma^2}{n} = \frac{5 - 3}{5 - 1} \cdot \frac{32{,}96}{3} = \frac{1}{2} \cdot \frac{32{,}96}{3} = \frac{412}{75} \approx 5{,}4933.\]
İkinci yol: dağılımdan. \(\operatorname{Var}(\bar X) = E(\bar X^2) - [E(\bar X)]^2\) formülünü (Olasılık Teorisi’ndeki hesap formülü) kullanalım. \(\bar X^2\)’nin değerleri, dağılımdaki değerlerin kareleridir ve paydaları \(9 \cdot 10 = 90\) olur:
\[ \begin{aligned} E(\bar X^2) &= \frac{16^2 + 18^2 + 2 \cdot 24^2 + 26^2 + 30^2 + 2 \cdot 32^2 + 34^2 + 40^2}{90} \\[1mm] &= \frac{256 + 324 + 1152 + 676 + 900 + 2048 + 1156 + 1600}{90} = \frac{8112}{90}. \end{aligned} \]
Beklenen değer \(E(\bar X) = 9{,}2 = \frac{46}{5}\) olduğundan (Örnek 7.6)
\[\operatorname{Var}(\bar X) = \frac{8112}{90} - \left( \frac{46}{5} \right)^2 = \frac{1352}{15} - \frac{2116}{25} = \frac{6760 - 6348}{75} = \frac{412}{75} \approx 5{,}4933.\]
İki yol aynı sonucu verir.
\(\blacksquare\)
Örneklem ortalamasının varyansı (\(5{,}49\)), kitle varyansından (\(32{,}96\)) çok küçüktür: ortalama alma, uç değerlerin etkisini yumuşatır. Örneklem büyüdükçe bu etki artar. Aynı kitlede Teorem 7.3 ile \(n = 1, 2, 3, 4, 5\) için
\[\operatorname{Var}(\bar X) = 32{,}96; \quad 12{,}36; \quad 5{,}4933; \quad 2{,}06; \quad 0\]
bulunur. \(n = 5\) iken bütün kitle seçilir, \(\bar X\) her zaman \(9{,}2\)’dir ve varyansı sıfırdır.
Örneklem ortalaması, kitlenin merkezini tahmin etmek için akla gelen tek istatistik değildir. Aynı örneklemlerle medyanın davranışına bakalım.
Örnek 7.8 (Örneklem Medyanının Beklenen Değeri ve Varyansı) \(2\), \(4\), \(10\), \(12\), \(18\) kitlesinden iadesiz olarak \(n = 3\) birimlik örneklemler çekiliyor. Örneklemin ortanca değerine, yani örneklem medyanına \(Y\) diyelim. \(Y\)’nin örnekleme dağılımını bulunuz; \(E(Y)\) ve \(\operatorname{Var}(Y)\)’yi hesaplayınız.
Çözüm
Üç sayının medyanı, sıralandığında ortada kalan sayıdır. On örneklemin medyanları şöyledir:
| Örneklem | \(y\) | Örneklem | \(y\) |
|---|---|---|---|
| \(2, 4, 10\) | \(4\) | \(2, 12, 18\) | \(12\) |
| \(2, 4, 12\) | \(4\) | \(4, 10, 12\) | \(10\) |
| \(2, 4, 18\) | \(4\) | \(4, 10, 18\) | \(10\) |
| \(2, 10, 12\) | \(10\) | \(4, 12, 18\) | \(12\) |
| \(2, 10, 18\) | \(10\) | \(10, 12, 18\) | \(12\) |
\(4\) üç örneklemde, \(10\) dört örneklemde, \(12\) üç örneklemde ortaya çıkar:
| \(y\) | \(4\) | \(10\) | \(12\) |
|---|---|---|---|
| \(P(Y = y)\) | \(\frac{3}{10}\) | \(\frac{4}{10}\) | \(\frac{3}{10}\) |
Beklenen değer:
\[E(Y) = 4 \cdot \frac{3}{10} + 10 \cdot \frac{4}{10} + 12 \cdot \frac{3}{10} = \frac{12 + 40 + 36}{10} = \frac{88}{10} = 8{,}8.\]
Varyans için önce ikinci momenti bulalım:
\[E(Y^2) = 16 \cdot \frac{3}{10} + 100 \cdot \frac{4}{10} + 144 \cdot \frac{3}{10} = \frac{48 + 400 + 432}{10} = 88.\]
Buradan
\[\operatorname{Var}(Y) = E(Y^2) - [E(Y)]^2 = 88 - 8{,}8^2 = 88 - 77{,}44 = 10{,}56\]
bulunur.
İki sonuç dikkat çekicidir. Birincisi, \(E(Y) = 8{,}8\) ne kitle ortalaması \(9{,}2\)’ye ne de kitlenin medyanı \(10\)’a eşittir; örneklem medyanı bu kitlede ortalamada hedefi tutturmaz. İkincisi, \(\operatorname{Var}(Y) = 10{,}56\), örneklem ortalamasının varyansı \(5{,}49\)’un yaklaşık iki katıdır; örneklem ortalaması örneklemden örnekleme daha az değişir.
\(\blacksquare\)
Son olarak, iadeli çekilişi ve örneklem varyansını en küçük bir kitlede inceleyelim.
Örnek 7.9 (İadeli Çekilişte Varyansın Doğrulanması) \(5\) ve \(7\) sayılarından oluşan iki birimlik bir kitleden iadeli olarak \(n = 2\) birimlik örneklemler çekiliyor. \(\operatorname{Var}(\bar X) = \frac{\sigma^2}{n}\) olduğunu bütün örneklemleri yazarak doğrulayınız.
Çözüm
Kitle ortalaması \(\mu = \frac{5 + 7}{2} = 6\), kitle varyansı
\[\sigma^2 = \frac{1}{2} \left[ (5 - 6)^2 + (7 - 6)^2 \right] = \frac{1 + 1}{2} = 1\]
olur. İadeli çekilişte her çekilişte iki birim de \(\frac{1}{2}\) olasılıkla gelir ve çekilişler bağımsızdır. Dört sıralı örneklem \((5, 5)\), \((5, 7)\), \((7, 5)\), \((7, 7)\)’nin her biri \(\frac{1}{4}\) olasılıklıdır. Ortalamaları sırasıyla \(5\), \(6\), \(6\), \(7\)’dir. Dolayısıyla
\[E(\bar X) = \frac{5 + 6 + 6 + 7}{4} = 6 = \mu\]
ve
\[\operatorname{Var}(\bar X) = \frac{(5 - 6)^2 + 0^2 + 0^2 + (7 - 6)^2}{4} = \frac{2}{4} = \frac{1}{2}\]
bulunur. Bu değer \(\frac{\sigma^2}{n} = \frac{1}{2}\)’ye eşittir.
\(\blacksquare\)
Örnek 7.10 (Örneklem Varyansının Beklenen Değeri) \(5\) ve \(7\) sayılarından oluşan iki birimlik bir kitleden iadeli olarak \(n = 2\) birimlik örneklemler çekiliyor. Örneklem varyansı \(S^2\)’nin beklenen değerinin kitle varyansına eşit olduğunu gösteriniz.
Çözüm
Kitle varyansı \(\sigma^2 = 1\)’dir (Örnek 7.9); dört sıralı örneklemin her biri \(\frac{1}{4}\) olasılıklıdır. \(n = 2\) için \(S^2 = \frac{1}{2-1} \sum_{i=1}^{2} (X_i - \bar X)^2\)’dir.
- \((5, 5)\) ve \((7, 7)\) örneklemlerinde iki gözlem ortalamaya eşittir, sapmalar sıfırdır ve \(S^2 = 0\) olur.
- \((5, 7)\) ve \((7, 5)\) örneklemlerinde \(\bar x = 6\), sapmalar \(\mp 1\)’dir ve \(S^2 = \frac{1 + 1}{1} = 2\) olur.
Buna göre
\[E(S^2) = 0 \cdot \frac{1}{2} + 2 \cdot \frac{1}{2} = 1 = \sigma^2.\]
\(n - 1\) yerine \(n\) ile bölseydik değerler \(0\) ve \(1\) olur, beklenen değer \(\frac{1}{2}\) çıkardı; bu, kitle varyansını sistematik olarak küçük tahmin etmek demektir. \(S^2\)’nin tanımındaki \(n - 1\) tam olarak bu kaymayı düzeltir.
Eşitlik gözlemlerin bağımsızlığına dayanır. Aynı kitleden iadesiz \(2\) birim çekilseydi tek örneklem \(\{5, 7\}\) olurdu, \(S^2\) her zaman \(2\) olur ve \(E(S^2) = 2 \ne \sigma^2\) çıkardı.
\(\blacksquare\)
7.5 Normal Kitleden Alınan Örneklem
Teorem 7.1, \(\bar X\)’in beklenen değerini ve varyansını verir ama dağılımının biçimini vermez. Kitle normal dağılımlıysa biçim de tam olarak belirlenir. Normal dağılımın tanımı için Olasılık Teorisi’ndeki tanıma, moment üreten fonksiyonu için oradaki teoreme bakılabilir.
Teorem 7.4 (Normal Kitlede Örneklem Ortalamasının Dağılımı) \(\mu \in \mathbb{R}\) ve \(\sigma^2 \in (0, \infty)\) olmak üzere \(X_1, X_2, \ldots, X_n\), \(N(\mu, \sigma^2)\) dağılımlı bir kitleden alınan bir örneklem olsun. O zaman
\[\bar X \sim N\!\left( \mu, \frac{\sigma^2}{n} \right)\]
olur.
İspat
Moment üreten fonksiyonlarla gösterelim. Her \(X_i\)’nin moment üreten fonksiyonu
\[M_{X_i}(t) = E\big( e^{tX_i} \big) = \exp\!\left( \mu t + \frac{\sigma^2 t^2}{2} \right), \qquad t \in \mathbb{R}\]
olur. \(\bar X\)’in moment üreten fonksiyonunda üsteki toplamı çarpıma ayıralım:
\[M_{\bar X}(t) = E\big( e^{t\bar X} \big) = E\left( e^{\frac{t}{n} X_1} \cdots e^{\frac{t}{n} X_n} \right).\]
\(X_1, \ldots, X_n\) bağımsız olduğundan \(e^{\frac{t}{n} X_1}, \ldots, e^{\frac{t}{n} X_n}\) de bağımsızdır ve çarpımın beklenen değeri beklenen değerlerin çarpımıdır (Olasılık Teorisi’ndeki teorem). Her çarpan \(M_{X_i}\)’nin \(\frac{t}{n}\) noktasındaki değeridir:
\[M_{\bar X}(t) = \prod_{i=1}^{n} M_{X_i}\!\left( \frac{t}{n} \right) = \left[ \exp\!\left( \frac{\mu t}{n} + \frac{\sigma^2 t^2}{2n^2} \right) \right]^n = \exp\!\left( \mu t + \frac{\sigma^2}{n} \cdot \frac{t^2}{2} \right).\]
Bu, \(N\!\left( \mu, \frac{\sigma^2}{n} \right)\) dağılımının moment üreten fonksiyonudur. Moment üreten fonksiyon dağılımı tek türlü belirlediği için (Olasılık Teorisi’ndeki teklik teoremi) \(\bar X \sim N\!\left( \mu, \frac{\sigma^2}{n} \right)\)’dir. Aynı sonuç, bağımsız normal değişkenlerin toplamının normal olduğunu söyleyen Olasılık Teorisi’ndeki teoremin özel bir durumudur.
\(\blacksquare\)
Yani normal bir kitlede örneklem ortalaması da normaldir, merkezi kitleninkiyle aynıdır, standart sapması ise \(\sqrt{n}\) kat küçüktür. Bu sayede \(\bar X\) ile ilgili olasılıklar standartlaştırma ve standart normal tablosu ile hesaplanır: \(Z = \dfrac{\bar X - \mu}{\sigma / \sqrt{n}} \sim N(0, 1)\).
Örnek 7.11 (Normal Kitlede Ortalamanın Bir Aralığa Düşmesi) Bir kitlede ölçülen özellik \(N(50, 36)\) dağılımlıdır. Bu kitleden \(n = 9\) birimlik bir örneklem alınıyor. \(P(48 \le \bar X \le 53)\) olasılığını hesaplayınız ve tek bir gözlemin aynı aralığa düşme olasılığıyla karşılaştırınız.
Çözüm
Teorem 7.4 gereği \(\bar X \sim N\!\left( 50, \frac{36}{9} \right) = N(50, 4)\), yani standart hata \(\sigma_{\bar X} = 2\)’dir. Aralığın uçlarını standartlaştıralım:
\[\frac{48 - 50}{2} = -1, \qquad \frac{53 - 50}{2} = 1{,}5.\]
Standart normal eğri \(0\)’a göre simetrik olduğundan \(P(-1 \le Z \le 0) = P(0 \le Z \le 1)\)’dir. Standart normal tablosundan \(P(0 \le Z \le 1) = 0{,}3413\) ve \(P(0 \le Z \le 1{,}5) = 0{,}4332\) okunur:
\[P(48 \le \bar X \le 53) = P(-1 \le Z \le 1{,}5) = 0{,}3413 + 0{,}4332 = 0{,}7745.\]
Tek bir gözlem için standart sapma \(6\)’dır ve uçlar \(\frac{48 - 50}{6} \approx -0{,}33\) ile \(\frac{53 - 50}{6} = 0{,}5\)’e dönüşür. Tablodan \(P(0 \le Z \le 0{,}33) = 0{,}1293\) ve \(P(0 \le Z \le 0{,}5) = 0{,}1915\) okunur:
\[P(48 \le X \le 53) \approx 0{,}1293 + 0{,}1915 = 0{,}3208.\]
Dokuz gözlemin ortalaması, tek bir gözleme göre bu aralığa iki kattan fazla olasılıkla düşer.
\(\blacksquare\)
Kitle normal değilse \(\bar X\)’in dağılımı genellikle tam olarak normal değildir. Yine de örneklem hacmi büyüdükçe dağılımı \(N\!\left( \mu, \frac{\sigma^2}{n} \right)\)’ye yaklaşır; bu, bir sonraki bölümde ele alacağımız merkezi limit teoremidir.
7.6 Markov ve Chebyshev Eşitsizlikleri
Kitlenin dağılımını bilmiyorsak \(\bar X\) ile ilgili olasılıkları tam olarak hesaplayamayız. Yine de yalnızca varyansı kullanarak bu olasılıklara kaba ama her durumda geçerli sınırlar koyabiliriz. Bunun için Olasılık Teorisi’nde ispatlanan iki eşitsizliği hatırlayalım.
Markov eşitsizliği (Olasılık Teorisi’ndeki teorem): \(Y\) negatif değer almayan ve beklenen değeri olan bir rastgele değişkense her \(c > 0\) için
\[P(Y \ge c) \le \frac{E(Y)}{c}\]
olur. İspatın özü şudur: \(E(Y) = \sum_y y f(y)\) toplamından \(y < c\) olan negatif olmayan terimleri atıp kalan terimlerde \(y\) yerine daha küçük olan \(c\)’yi yazarsak \(E(Y) \ge c\, P(Y \ge c)\) bulunur; sürekli durumda toplam yerine integral kullanılır. Sınır yalnızca \(c > E(Y)\) olduğunda bilgi verir; \(c \le E(Y)\) için sağ taraf en az \(1\)’dir ve her olasılık zaten \(1\)’den küçük ya da eşittir.
Chebyshev eşitsizliği (Olasılık Teorisi’ndeki teorem): \(X\) varyansı var olan (\(\sigma_X^2 < \infty\)) bir rastgele değişkense her \(c > 0\) için
\[P\big( |X - E(X)| \ge c \big) \le \frac{\operatorname{Var}(X)}{c^2}\]
olur. Bu, Markov eşitsizliğinin \(Y = (X - E(X))^2\) değişkenine ve \(c^2\) eşiğine uygulanmasıdır: \(|X - E(X)| \ge c\) olayı \(Y \ge c^2\) olayıyla aynıdır ve \(E(Y) = \operatorname{Var}(X)\)’tir. \(\sigma_X > 0\) iken \(c = k\sigma_X\) (\(k > 0\)) alınırsa dışarıda kalma olasılığı için bir üst sınır, tümleyen olaya geçilirse içeride kalma olasılığı için bir alt sınır elde edilir:
\[P\big( |X - E(X)| \ge k\sigma_X \big) \le \frac{1}{k^2}, \qquad P\big( |X - E(X)| < k\sigma_X \big) \ge 1 - \frac{1}{k^2}.\]
\(0 < k \le 1\) için bu sınırlar bilgi vermez: üst sınır en az \(1\), alt sınır en çok \(0\)’dır.
Örnek 7.12 (Markov Eşitsizliğiyle Bir Üst Sınır) Bir çağrı merkezine bir saatte gelen çağrı sayısı \(Y\)’nin beklenen değeri \(20\)’dir; dağılımı hakkında başka bilgi yoktur. Bir saatte en az \(50\) çağrı gelme olasılığı için bir üst sınır bulunuz.
Çözüm
Çağrı sayısı negatif olamaz, bu yüzden Markov eşitsizliği \(c = 50\) ile uygulanabilir:
\[P(Y \ge 50) \le \frac{E(Y)}{50} = \frac{20}{50} = 0{,}4.\]
Yani dağılım ne olursa olsun, bir saatte \(50\) ya da daha fazla çağrı gelme olasılığı en çok \(0{,}4\)’tür. Aynı yöntem \(c = 15\) için \(\frac{20}{15} > 1\) verir; bu sınır bir şey söylemez, çünkü \(15 < E(Y)\)’dir.
\(\blacksquare\)
Örnek 7.13 (Varyans Bilinince Sınırın İyileşmesi) Bir çağrı merkezine bir saatte gelen çağrı sayısı \(Y\)’nin beklenen değeri \(20\), varyansı \(20\)’dir. Bir saatte en az \(50\) çağrı gelme olasılığı için Chebyshev eşitsizliğiyle bir üst sınır bulunuz.
Çözüm
\(Y \ge 50\) ise \(Y - 20 \ge 30\)’dur, dolayısıyla \(|Y - 20| \ge 30\) olur. Yani \((Y \ge 50)\) olayı \(\big( |Y - 20| \ge 30 \big)\) olayının içindedir ve olasılığı ondan büyük olamaz. Chebyshev eşitsizliği \(c = 30\) ile
\[P(Y \ge 50) \le P\big( |Y - 20| \ge 30 \big) \le \frac{20}{30^2} = \frac{20}{900} = \frac{1}{45} \approx 0{,}0222\]
verir. Varyans bilgisi, yalnız beklenen değeri kullanan Markov sınırı \(0{,}4\)’ü yaklaşık on sekiz kat iyileştirmiştir.
\(\blacksquare\)
Chebyshev eşitsizliğini örneklem ortalamasına uyguladığımızda, \(\bar X\)’in varyansı \(n\) ile küçüldüğü için çok daha güçlü bir sonuç elde ederiz.
Teorem 7.5 (Örneklem Ortalaması için Chebyshev Eşitsizliği) \(X_1, X_2, \ldots, X_n\), beklenen değeri \(\mu\) ve varyansı \(0 < \sigma^2 < \infty\) olan bir kitleden alınan bir örneklem olsun. Her \(\varepsilon > 0\) için
\[P\big( |\bar X - \mu| \ge \varepsilon \big) \le \frac{\sigma^2}{n \varepsilon^2}\]
olur. Ayrıca her \(k > 0\) için
\[P\big( |\bar X - \mu| < k\sigma_{\bar X} \big) \ge 1 - \frac{1}{k^2}, \qquad \sigma_{\bar X} = \frac{\sigma}{\sqrt{n}}\]
olur.
İspat
Teorem 7.1 gereği \(E(\bar X) = \mu\) ve \(\operatorname{Var}(\bar X) = \frac{\sigma^2}{n}\)’dir. Chebyshev eşitsizliğini \(\bar X\) değişkenine \(c = \varepsilon\) ile uygularsak
\[P\big( |\bar X - \mu| \ge \varepsilon \big) \le \frac{\operatorname{Var}(\bar X)}{\varepsilon^2} = \frac{\sigma^2}{n\varepsilon^2}\]
bulunur. \(c = k\sigma_{\bar X}\) alıp tümleyen olaya geçersek
\[P\big( |\bar X - \mu| < k\sigma_{\bar X} \big) = 1 - P\big( |\bar X - \mu| \ge k\sigma_{\bar X} \big) \ge 1 - \frac{\sigma_{\bar X}^2}{k^2 \sigma_{\bar X}^2} = 1 - \frac{1}{k^2}\]
elde edilir.
\(\blacksquare\)
Yani örneklem ortalamasının kitle ortalamasından \(\varepsilon\) kadar sapma olasılığı, sabit bir \(\varepsilon\) için \(n\) büyüdükçe \(\frac{1}{n}\) hızıyla sıfıra iner. Sonlu bir kitleden iadesiz çekilişte \(\operatorname{Var}(\bar X)\) daha da küçük olduğundan aynı sınırlar orada da geçerlidir.
Örnek 7.14 (Paket Ağırlıklarında Chebyshev Sınırı) Bir makinenin doldurduğu paketlerin ağırlıklarının standart sapması \(\sigma = 10\) gramdır; ağırlıkların dağılımı bilinmiyor. \(100\) paketlik bir örneklemin ortalama ağırlığının kitle ortalamasından \(2\) gramdan az sapma olasılığı için bir alt sınır bulunuz.
Çözüm
Standart hata \(\sigma_{\bar X} = \frac{10}{\sqrt{100}} = 1\) gramdır. \(2\) gram \(= 2\sigma_{\bar X}\) olduğundan Teorem 7.5 \(k = 2\) ile uygulanır:
\[P\big( |\bar X - \mu| < 2 \big) \ge 1 - \frac{1}{2^2} = 0{,}75.\]
Yani örneklem ortalaması en az \(0{,}75\) olasılıkla kitle ortalamasının \(2\) gram yakınındadır.
\(\blacksquare\)
Örnek 7.15 (Normal Kitlede Aynı Olasılığın Tam Değeri) Bir makinenin doldurduğu paketlerin ağırlıkları \(\sigma = 10\) gram standart sapmalı normal dağılıma sahiptir. \(100\) paketlik bir örneklemin ortalama ağırlığının kitle ortalamasından \(2\) gramdan az sapma olasılığını hesaplayınız.
Çözüm
Teorem 7.4 gereği \(\bar X \sim N(\mu, 1)\)’dir, yani \(Z = \bar X - \mu\) standart normaldir. Simetri ve standart normal tablosu ile
\[P\big( |\bar X - \mu| < 2 \big) = P(-2 < Z < 2) = 2\, P(0 \le Z < 2) = 2 \cdot 0{,}4772 = 0{,}9544\]
bulunur. Gerçek olasılık, Chebyshev eşitsizliğinin verdiği \(0{,}75\) alt sınırından (Örnek 7.14) oldukça büyüktür. Chebyshev sınırı her dağılım için geçerli olmanın bedelini bu kabalıkla öder.
\(\blacksquare\)
Örnek 7.16 (Chebyshev ile Örneklem Hacmi) Bir kitlenin standart sapması \(\sigma\) biliniyor, dağılımı bilinmiyor. Örneklem ortalamasının kitle ortalamasına \(0{,}5\sigma\)’dan daha yakın olma olasılığının en az \(0{,}95\) olmasını güvenceye almak için örneklem hacmi en az kaç olmalıdır?
Çözüm
Teorem 7.5 \(\varepsilon = 0{,}5\sigma\) ile
\[P\big( |\bar X - \mu| \ge 0{,}5\sigma \big) \le \frac{\sigma^2}{n \cdot 0{,}25\,\sigma^2} = \frac{4}{n}\]
verir, dolayısıyla \(P\big( |\bar X - \mu| < 0{,}5\sigma \big) \ge 1 - \frac{4}{n}\)’dir. Bu alt sınırın en az \(0{,}95\) olması için
\[1 - \frac{4}{n} \ge 0{,}95 \iff \frac{4}{n} \le 0{,}05 \iff n \ge 80\]
gerekir. Yani \(n = 80\) birimlik bir örneklem, dağılım ne olursa olsun istenen güvenceyi verir.
\(\blacksquare\)
Örnek 7.17 (Normal Kitlede Örneklem Hacmi) Bir kitle \(N(\mu, \sigma^2)\) dağılımlıdır. Örneklem ortalamasının kitle ortalamasına \(0{,}5\sigma\)’dan daha yakın olma olasılığının en az \(0{,}95\) olması için örneklem hacmi en az kaç olmalıdır?
Çözüm
Teorem 7.4 gereği \(Z = \dfrac{\bar X - \mu}{\sigma / \sqrt{n}}\) standart normaldir. \(|\bar X - \mu| < 0{,}5\sigma\) eşitsizliğini \(\frac{\sigma}{\sqrt{n}}\)’ye bölersek \(|Z| < 0{,}5\sqrt{n}\) olur. Simetri ile
\[P\big( |\bar X - \mu| < 0{,}5\sigma \big) = 2\, P\big( 0 \le Z < 0{,}5\sqrt{n} \big).\]
Bunun en az \(0{,}95\) olması için \(P\big( 0 \le Z < 0{,}5\sqrt{n} \big) \ge 0{,}475\) gerekir. Standart normal tablosunda \(0{,}4750\) alanı \(z = 1{,}96\)’ya karşılık gelir ve alan \(z\) ile birlikte artar. Dolayısıyla
\[0{,}5\sqrt{n} \ge 1{,}96 \iff \sqrt{n} \ge 3{,}92 \iff n \ge 15{,}3664\]
olmalıdır; en küçük tam sayı \(n = 16\)’dır. Kitlenin normal olduğunu bilmek, gereken örneklem hacmini \(80\)’den \(16\)’ya indirir.
\(\blacksquare\)
Bu bölümde örneklem ortalamasının kitle ortalaması çevresinde toplandığını ve yayılımının \(\frac{\sigma}{\sqrt{n}}\) hızıyla küçüldüğünü gördük. \(n\) sonsuza giderken bu toplanmanın ne anlama geldiğini ve \(\bar X\)’in dağılımının neden normale yaklaştığını Yakınsama ve Merkezi Limit Teoremi bölümünde inceleyeceğiz.