L34 · 확률과 통계

예제 1-1 (a) 카드 52장에서 5장을 뽑을 때 모두 하트일 확률   (b) 입자 3개를 상태 4개에 넣는 방법 수   (c) $x+y+z=10$의 음이 아닌 정수해 개수

(a) 순서 없음, 중복 없음입니다.

$$\begin{aligned}&\binom{52}5=\frac{52\cdot51\cdot50\cdot49\cdot48}{5!}\\ &=\frac{311875200}{120}=2598960\\ &\binom{13}5=\frac{13\cdot12\cdot11\cdot10\cdot9}{120}\\ &=1287\\ &P=\frac{1287}{2598960}\approx0.000495\end{aligned}$$

무늬 하나가 아니라 "같은 무늬 5장"이면 4배인 $0.00198$입니다.

(b) 구별되는 입자: 각 입자가 상태 4개 중 하나를 고르므로 $4^3=64$. 보손: 중복조합 $\binom{4+3-1}{3}=\binom63=20$. 페르미온: 서로 다른 상태 3개를 고르므로 $\binom43=4$.

(c) 별 10개와 칸막이 2개를 늘어놓습니다: $\binom{12}{2}=66$. 모두 1 이상이어야 하면 $x'=x-1$ 등으로 바꿔 $x'+y'+z'=7$이 되므로 $\binom92=36$.

예제 2-1 유병률 1%인 병의 검사: 환자는 99%가 양성, 건강한 사람은 5%가 양성(위양성)입니다. 양성이 나왔을 때 실제 환자일 확률은? 독립적인 재검사에서도 양성이면?

자연 빈도. 1만 명 중 환자 100명 → 양성 99명. 건강한 사람 9900명 → 양성 495명. 양성은 모두 $99+495=594$명이므로

$$\begin{aligned}P(\text{환자}|+)&=\frac{99}{594}\\ &=\frac16\approx0.1667.\end{aligned}$$

공식. $P(+)=0.99\times0.01+0.05\times0.99=0.0099+0.0495=0.0594$이고, $P(\text{환자}|+)=\dfrac{0.0099}{0.0594}=\dfrac16$. 검사가 "99% 정확"해도 양성인 사람 중 환자는 6명에 1명뿐입니다. 건강한 사람이 훨씬 많기 때문입니다.

재검사. 첫 결과로 바뀐 확률 $\frac16$을 새 사전확률로 씁니다.

$$P=\frac{0.99\cdot\frac16}{0.99\cdot\frac16+0.05\cdot\frac56}$$

분자와 분모에 6을 곱합니다.

$$\begin{aligned}P&=\frac{0.99}{0.99+0.05\times5}\\ &=\frac{0.99}{1.24}\approx0.7984.\end{aligned}$$

예제 3-1 (a) 이항분포의 평균 $np$, 분산 $npq$ 유도   (b) $n=5$, $p=0.4$일 때 $P(X=2)$와 평균·분산

(a) $(p+q)^n=\sum_k\binom nkp^kq^{n-k}$를 $p$로 미분하고 $p$를 곱합니다.

$$\begin{aligned}E[X]&=\sum_kk\binom nkp^kq^{n-k}\\ &=p\frac{\partial}{\partial p}(p+q)^n\\ &=np(p+q)^{n-1}=np.\end{aligned}$$

두 번 미분하고 $p^2$을 곱하면 $k(k-1)$이 붙습니다.

$$\begin{aligned}&E[X(X-1)]\\ &=p^2\frac{\partial^2}{\partial p^2}(p+q)^n\\ &=n(n-1)p^2\\ &\mathrm{Var}\,X\\ &=E[X(X-1)]+E[X]\\ &\quad-(E[X])^2\\ &=n(n-1)p^2+np\\ &\quad-n^2p^2\\ &=np-np^2=npq.\end{aligned}$$

(b) $P(X=2)=\binom52(0.4)^2(0.6)^3=10\times0.16\times0.216=0.3456$. 평균 $np=2$, 분산 $npq=5\times0.4\times0.6=1.2$, 표준편차 $\sqrt{1.2}\approx1.0954$.

예제 4-1 (a) 평균·분산이 $\lambda$임을 유도   (b) $B(100,\,0.02)$와 푸아송$(2)$의 비교

(a) $k=0$ 항은 0이므로 $k\ge1$부터 더하고 $j=k-1$로 바꿉니다.

$$\begin{aligned}E[X]&=\sum_{k\ge1}k\frac{\lambda^ke^{-\lambda}}{k!}\\ &=\lambda e^{-\lambda}\sum_{k\ge1}\frac{\lambda^{k-1}}{(k-1)!}\\ &=\lambda e^{-\lambda}e^{\lambda}=\lambda\end{aligned}$$

$k(k-1)$을 곱하면 $k\ge2$부터 남습니다.

$$\begin{aligned}&E[X(X-1)]\\ &=\lambda^2e^{-\lambda}\sum_{k\ge2}\frac{\lambda^{k-2}}{(k-2)!}=\lambda^2\\ &\mathrm{Var}\,X=\lambda^2+\lambda-\lambda^2=\lambda.\end{aligned}$$

(b) $\lambda=np=2$. 이항: $P(0)=0.98^{100}$, 그다음은 $P(k)=P(k-1)\cdot\dfrac{n-k+1}{k}\cdot\dfrac{p}{q}$. 푸아송: $e^{-2}$에 $\frac21$, $\frac22$, $\frac23$을 차례로 곱합니다.

차이는 0.003 이하입니다. 푸아송 쪽이 계산이 훨씬 쉽습니다.

예제 5-1 (a) 정규화   (b) 분산이 $\sigma^2$   (c) 68–95–99.7   (d) $X\sim N(70,10^2)$일 때 $P(60<X<85)$, $P(X>90)$

(a) $x-\mu=\sigma\sqrt2\,u$, $dx=\sigma\sqrt2\,du$:

$$\begin{aligned}&\int_{-\infty}^{\infty}e^{-(x-\mu)^2/2\sigma^2}dx\\ &=\sigma\sqrt2\int_{-\infty}^{\infty}e^{-u^2}du=\sigma\sqrt{2\pi}.\end{aligned}$$

그래서 앞에 $\dfrac1{\sigma\sqrt{2\pi}}$을 붙이면 전체 확률이 1입니다.

(b) $y=x-\mu$, $a=\dfrac1{2\sigma^2}$로 둡니다.

$$\begin{aligned}\int y^2e^{-ay^2}dy&=\frac{\sqrt\pi}2(2\sigma^2)^{3/2}\\ &=\sqrt{2\pi}\,\sigma^3\\ \mathrm{Var}\,X&=\frac{\sqrt{2\pi}\,\sigma^3}{\sigma\sqrt{2\pi}}=\sigma^2.\end{aligned}$$

(c) $P(|X-\mu|<k\sigma)=P(|Z|<k)=\mathrm{erf}(k/\sqrt2)$: $\mathrm{erf}(0.7071)=0.6827$, $\mathrm{erf}(1.4142)=0.9545$, $\mathrm{erf}(2.1213)=0.9973$.

(d) $\sigma\sqrt2=14.142$. 끝점을 바꾸면 $\frac{85-70}{14.142}=1.0607$, $\frac{60-70}{14.142}=-0.7071$.

$$\begin{aligned}&P(60<X<85)\\ &=\tfrac12\big[\mathrm{erf}(1.0607)\\ &\qquad+\mathrm{erf}(0.7071)\big]\\ &=\tfrac12(0.86639+0.68269)\\ &\approx0.7745\\ &P(X>90)\\ &=\tfrac12\,\mathrm{erfc}(1.4142)\\ &=\tfrac12(1-0.95450)\approx0.0228\end{aligned}$$

예제 5-2 동전을 100번 던져 앞면이 60번 이상 나올 확률: 정규 근사(연속성 보정 있음/없음)와 정확한 값

$\mu=np=50$, $\sigma=\sqrt{100\cdot\frac12\cdot\frac12}=5$.

• 보정 있음: $P(X>59.5)$, $z=\frac{59.5-50}{5}=1.9$. $\frac12\mathrm{erfc}\big(\frac{1.9}{\sqrt2}\big)=\frac12\mathrm{erfc}(1.3435)=\frac12(1-0.94257)\approx0.02872$.
• 보정 없음: $z=\frac{60-50}5=2$. $\frac12\mathrm{erfc}(1.4142)\approx0.02275$.
• 정확한 값: $\sum_{k=60}^{100}\binom{100}{k}2^{-100}\approx0.02844$.

보정하면 오차가 $0.0057$에서 $0.0003$으로 줄어듭니다.

예제 6-1 이항, 푸아송, 정규분포의 $M(t)$를 구하고 평균·분산 얻기

이항. $M=\sum_k\binom nk(pe^t)^kq^{n-k}=(q+pe^t)^n$ (이항정리).

$u=q+pe^t$로 줄여 씁니다. $M=u^n$, $u'=pe^t$, $u(0)=p+q=1$.

$$\begin{aligned}&M'=nu^{n-1}pe^t\\ &M'(0)=np\\ &M''=n(n-1)u^{n-2}p^2e^{2t}\\ &\qquad+nu^{n-1}pe^t\\ &M''(0)=n(n-1)p^2+np\\ &\mathrm{Var}=n(n-1)p^2+np\\ &\qquad-n^2p^2=npq.\end{aligned}$$

푸아송. $M=e^{-\lambda}\sum_k\dfrac{(\lambda e^t)^k}{k!}=e^{-\lambda}e^{\lambda e^t}=e^{\lambda(e^t-1)}$. $K=\lambda(e^t-1)$, $K'=K''=\lambda e^t$이므로 $t=0$에서 평균 $=$ 분산 $=\lambda$.

정규. 지수를 완전제곱합니다.

$$\begin{aligned}&tx-\frac{(x-\mu)^2}{2\sigma^2}\\ &=-\frac{(x-\mu-\sigma^2t)^2}{2\sigma^2}\\ &\quad+\mu t+\frac{\sigma^2t^2}{2}\\ &\Rightarrow\ M(t)=e^{\mu t+\sigma^2t^2/2}.\end{aligned}$$

남은 적분은 중심만 옮긴 정규분포라 1입니다. $K=\mu t+\frac12\sigma^2t^2$, $K'(0)=\mu$, $K''(0)=\sigma^2$.

예제 7-1 (a) $U(0,4)$의 평균·분산   (b) 지수분포의 평균·분산   (c) 평균 수명 10분인 원자핵

(a) $E[X]=\int_0^4\frac x4dx=2$, $E[X^2]=\int_0^4\frac{x^2}4dx=\frac{16}3$, $\mathrm{Var}=\frac{16}3-4=\frac43$. 공식 $\frac{(4-0)^2}{12}=\frac43$과 같습니다.

(b) 부분적분:

$$\begin{aligned}E[X]&=\int_0^\infty x\lambda e^{-\lambda x}dx\\ &=\Big[-xe^{-\lambda x}\Big]_0^\infty\\ &\quad+\int_0^\infty e^{-\lambda x}dx\\ &=\frac1\lambda\\ E[X^2]&=\int_0^\infty x^2\lambda e^{-\lambda x}dx\\ &=\frac2\lambda E[X]=\frac2{\lambda^2}\\ \mathrm{Var}\,X&=\frac2{\lambda^2}-\frac1{\lambda^2}=\frac1{\lambda^2}.\end{aligned}$$

(c) $\lambda=\frac1{10}$ /분.

• 5분 안에 붕괴할 확률: $1-e^{-0.5}\approx0.3935$.
• 20분 동안 붕괴하지 않았을 때, 10분 더 버틸 확률: $e^{-10/10}=e^{-1}\approx0.3679$. 앞의 20분은 상관없습니다(무기억성).
• 반감기: $10\ln2\approx6.93$분.

예제 8-1 (a) $X\sim U(0,1)$, $Y=-\ln X$   (b) $X\sim N(0,1)$, $Y=X^2$   (c) 박스-뮬러 변환

(a) $x=e^{-y}$, $\dfrac{dx}{dy}=-e^{-y}$. $x\in(0,1)$이면 $y\in(0,\infty)$. $f_X=1$이므로 $f_Y(y)=e^{-y}$, 즉 $\lambda=1$인 지수분포입니다. 누적분포로 확인: $P(Y\le y)=P(X\ge e^{-y})=1-e^{-y}$.

(b) $x=\pm\sqrt y$ 두 가지, 각각 $\left|\dfrac{dx}{dy}\right|=\dfrac1{2\sqrt y}$.

$$\begin{aligned}f_Y(y)&=2\cdot\frac{e^{-y/2}}{\sqrt{2\pi}}\cdot\frac1{2\sqrt y}\\ &=\frac{e^{-y/2}}{\sqrt{2\pi y}}\quad(y>0).\end{aligned}$$

자유도 1인 $\chi^2$ 분포입니다. 확인: $y=2u^2$로 치환하면 $\int_0^\infty y^{-1/2}e^{-y/2}dy=2\sqrt2\int_0^\infty e^{-u^2}du=\sqrt{2\pi}$이므로 전체 확률 1.

(c) 박스-뮬러(Box–Muller): $U_1,U_2\sim U(0,1)$ 독립, $R=\sqrt{-2\ln U_1}$, $\Theta=2\pi U_2$, $X=R\cos\Theta$, $Y=R\sin\Theta$.

• $R$의 분포: $u_1=e^{-r^2/2}$, $\left|\dfrac{du_1}{dr}\right|=re^{-r^2/2}$이므로 $f_R(r)=re^{-r^2/2}$ ($r>0$). $\Theta$는 $(0,2\pi)$에서 균일: $f_\Theta=\dfrac1{2\pi}$.
• $(r,\theta)\to(x,y)$: 극좌표 야코비안 $\dfrac{\partial(x,y)}{\partial(r,\theta)}=r$이므로 $r$로 나눕니다.

$$\begin{aligned}f_{XY}&=\frac{f_R\,f_\Theta}{r}=\frac1{2\pi}e^{-(x^2+y^2)/2}\\ &=\frac{e^{-x^2/2}}{\sqrt{2\pi}}\cdot\frac{e^{-y^2/2}}{\sqrt{2\pi}}.\end{aligned}$$

$X$와 $Y$는 서로 독립인 $N(0,1)$입니다. 균일 난수 두 개로 정규 난수 두 개를 만드는 방법입니다.

예제 9-1 (a) 독립인 두 지수분포($\lambda$ 같음)의 합   (b) 결합분포표에서 공분산·상관계수

(a) $z>0$에서 두 인자가 모두 0이 아니려면 $0<x<z$입니다.

$$\begin{aligned}&f_Z(z)\\ &=\int_0^z\lambda e^{-\lambda x}\,\lambda e^{-\lambda(z-x)}dx\\ &=\lambda^2e^{-\lambda z}\int_0^zdx=\lambda^2z\,e^{-\lambda z}.\end{aligned}$$

감마분포(모양 2)입니다. 확인: $\int_0^\infty\lambda^2ze^{-\lambda z}dz=1$, 평균 $\int_0^\infty z\cdot\lambda^2ze^{-\lambda z}dz=\frac2\lambda=\frac1\lambda+\frac1\lambda$, 적률생성함수 $\Big(\dfrac{\lambda}{\lambda-t}\Big)^2$.

(b) $X,Y\in\{0,1\}$, $P(0,0)=0.4$, $P(0,1)=0.1$, $P(1,0)=0.1$, $P(1,1)=0.4$.

• $E[X]=0.1+0.4=0.5$, $E[Y]=0.5$, $E[XY]=1\cdot1\cdot0.4=0.4$.
• $\mathrm{Cov}=0.4-0.5\times0.5=0.15$.
• $\mathrm{Var}\,X=E[X^2]-0.25=0.5-0.25=0.25$, $\mathrm{Var}\,Y=0.25$.
• $\rho=\dfrac{0.15}{\sqrt{0.25}\sqrt{0.25}}=0.6$.

덤: $\mathrm{Var}(X+Y)=0.25+0.25+2(0.15)=0.8$. 직접: $X+Y$는 $0,1,2$를 확률 $0.4,0.2,0.4$로 가지므로 평균 1, $E[(X+Y)^2]=0.2+1.6=1.8$, 분산 $1.8-1=0.8$.

예제 10-1 (a) 길이 측정값 $9.8,\ 10.1,\ 10.0,\ 9.7,\ 10.4$ (cm)의 평균, $s$, 표준오차   (b) 진자로 잰 $g=4\pi^2L/T^2$의 오차 ($L=1.000\pm0.002$ m, $T=2.007\pm0.005$ s)

(a) $\bar x=\frac{50.0}{5}=10.0$. 편차 $-0.2,\ 0.1,\ 0.0,\ -0.3,\ 0.4$ (합이 0인지 확인). 제곱 $0.04,\ 0.01,\ 0,\ 0.09,\ 0.16$, 합 $0.30$.

$$\begin{aligned}s^2&=\frac{0.30}{4}=0.075,\\ s&\approx0.2739,\\ \frac{s}{\sqrt5}&\approx0.1225.\end{aligned}$$

결과: $10.00\pm0.12$ cm.

(b) $g=\dfrac{39.4784}{4.028049}\approx9.8009$ m/s². $L^1T^{-2}$ 꼴이므로 상대오차로 씁니다. $L$의 상대오차는 $\frac{0.002}{1.000}=0.002$, $T$ 쪽은 지수 2를 곱해 $2\cdot\frac{0.005}{2.007}\approx0.004983$입니다.

$$\begin{aligned}\Big(\frac{\sigma_g}{g}\Big)^2&=(0.002)^2\\ &\quad+(0.004983)^2\\ &=4.0\times10^{-6}\\ &\quad+2.483\times10^{-5}\\ &=2.883\times10^{-5}\\ \frac{\sigma_g}{g}&\approx0.005369\\ \sigma_g&\approx0.0526.\end{aligned}$$

결과: $g=9.80\pm0.05$ m/s². $T$의 오차가 지수 2 때문에 두 배로 들어가서 주된 오차가 됩니다.

예제 10-2 데이터 5개에 직선 맞추기와 $\chi^2$ (각 점의 오차 $\sigma=0.2$)

$S_x=15$, $n=5$, $\Delta=5\cdot55-15^2=50$.

$$\begin{aligned}m&=\frac{5(109.7)-15(30.0)}{50}\\ &=\frac{548.5-450}{50}=1.97\\ c&=\frac{30.0-1.97\cdot15}{5}\\ &=\frac{30-29.55}{5}=0.09\end{aligned}$$

잔차 $y_i-(1.97x_i+0.09)$: $0.04$, $-0.13$, $0.20$, $-0.17$, $0.06$ (합 0). 제곱합 $0.0016+0.0169+0.0400+0.0289+0.0036=0.0910$.

$$\begin{aligned}\chi^2&=\frac{0.0910}{0.2^2}=2.275,\\ \nu&=5-2=3,\\ \frac{\chi^2}{\nu}&\approx0.76.\end{aligned}$$

1에 가까우므로 직선과 오차 $0.2$가 데이터와 잘 맞습니다. 덤: $\sigma_m=0.2\sqrt{5/50}\approx0.063$, $\sigma_c=0.2\sqrt{55/50}\approx0.21$.

예제 11-1 (a) 푸아송$(\lambda)$가 큰 $\lambda$에서 정규분포가 됨을 적률생성함수로 보이기   (b) 신뢰구간 두 개

(a) $Z=\dfrac{X-\lambda}{\sqrt\lambda}$ (평균 $\lambda$, 표준편차 $\sqrt\lambda$). $M_Z(t)=E[e^{t(X-\lambda)/\sqrt\lambda}]=e^{-t\sqrt\lambda}M_X\big(t/\sqrt\lambda\big)$이고 $M_X(s)=e^{\lambda(e^s-1)}$이므로

$$\ln M_Z(t)=\lambda\big(e^{t/\sqrt\lambda}-1\big)-t\sqrt\lambda.$$

$e^u-1=u+\frac{u^2}2+\frac{u^3}6+\cdots$에 $u=t/\sqrt\lambda$를 넣습니다.

$$\begin{aligned}\ln M_Z&=\Big(t\sqrt\lambda+\frac{t^2}2+\frac{t^3}{6\sqrt\lambda}+\cdots\Big)-t\sqrt\lambda\\ &=\frac{t^2}{2}+\frac{t^3}{6\sqrt\lambda}+\cdots\ \to\ \frac{t^2}2.\end{aligned}$$

그래서 $\lambda$가 크면 푸아송$(\lambda)\approx N(\lambda,\lambda)$. 수치 확인($\lambda=100$): $P(X\le110)$의 정확한 값 $0.8529$, 연속성 보정한 정규 근사 $\Phi\big(\frac{110.5-100}{10}\big)=\Phi(1.05)=0.8531$.

(b) ① $n=100$번 측정해 $\bar x=9.81$, $s=0.20$. 표준오차 $\frac{0.20}{10}=0.020$, 반폭 $1.96\times0.020=0.0392$. 95% 신뢰구간 $[9.7708,\ 9.8492]$, 즉 $9.81\pm0.04$.

② 예제 10-1의 길이($n=5$, $\bar x=10.00$, $s/\sqrt5=0.1225$): $n$이 작으므로 $t_{0.975,4}=2.776$을 씁니다. 반폭 $2.776\times0.12247\approx0.3400$, 구간 $10.00\pm0.34$ cm. $1.96$을 쓰면 $\pm0.24$로 너무 좁게 나옵니다.

예제 12-1 (a) $10.0\pm0.1$과 $10.3\pm0.2$의 가중 평균을 최대가능도로   (b) $\chi^2_2$ 밀도를 합성곱으로

(a) 가우스 오차이면 $\ln L=-\sum_i\frac{(x_i-\mu)^2}{2\sigma_i^2}+(\text{상수})$. $\mu$로 미분해 0으로 놓습니다.

$$\sum_i\frac{x_i-\mu}{\sigma_i^2}=0\ \Rightarrow\ \hat\mu=\frac{\sum w_ix_i}{\sum w_i}.$$

$w_1=\frac1{0.01}=100$, $w_2=\frac1{0.04}=25$, $\sum w=125$. $\hat\mu=\frac{100\cdot10.0+25\cdot10.3}{125}=\frac{1257.5}{125}=10.06$. 오차는 오차 전파로 $\mathrm{Var}\,\hat\mu=\frac{\sum w_i^2\sigma_i^2}{(\sum w_i)^2}=\frac{\sum w_i}{(\sum w_i)^2}=\frac1{125}$, $\sigma_{\hat\mu}=0.0894$. 결과 $10.06\pm0.09$: 오차가 작은 측정 쪽으로 끌려갑니다.

서로 맞는지: $\chi^2=\frac{(10.0-10.06)^2}{0.01}+\frac{(10.3-10.06)^2}{0.04}=0.36+1.44=1.80$, $\nu=1$. p값 $P(\chi^2_1>1.8)=\mathrm{erfc}(\sqrt{0.9})=0.1797$이라 문제없습니다.

(b) 예제 8-1(b)에서 $\chi^2_1$ 밀도는 $\frac{e^{-y/2}}{\sqrt{2\pi y}}$였습니다. 두 개의 합은 9절의 합성곱입니다.

$$\begin{aligned}f_2(z)&=\int_0^z\frac{e^{-x/2}}{\sqrt{2\pi x}}\cdot\frac{e^{-(z-x)/2}}{\sqrt{2\pi(z-x)}}\,dx\\ &=\frac{e^{-z/2}}{2\pi}\int_0^z\frac{dx}{\sqrt{x(z-x)}}=\frac{e^{-z/2}}{2\pi}\cdot\pi=\frac12e^{-z/2}.\end{aligned}$$

(가운데 적분은 $x=zu$로 바꾸면 $B(\frac12,\frac12)=\pi$.) 레시피 5번 식에 $\nu=2$를 넣은 $\frac{e^{-x/2}}{2\,\Gamma(1)}$과 같습니다. 꼬리확률은 $\int_x^\infty\frac12e^{-z/2}dz=e^{-x/2}$. 예: $\chi^2=5.99$이면 $e^{-2.995}=0.0500$. 덤: 예제 10-2의 $\chi^2=2.275$ ($\nu=3$)은 p값 $0.517$(수치 계산)로 아주 자연스러운 값입니다.