[확률 및 랜덤변수] 2. Random Variables

2020. 3. 20. 15:22

728x90

0. Notation

1. Definition

랜덤 변수 : sample space S의 원소를 실수평면에 연결할 수 있도록 하는 함수
- ex. 동전 던지기 - head를 1로, tail을 2로 정의한다.
- P(X = a) = P( {s | X(s) = a} )
랜덤변수의 조건
- x가 실수라면, $\{ s:X(s \leq x)\}$ 는 이벤트여야 한다.
- 즉 $P(X\leq x) = P(\{s\in S : X(s)\leq x\})$
- $P(X=-\infty) = P(X=\infty) = 0$ : R.V는 적정 범위 내에 있다.
이산/연속 랜덤변수
- 이산 랜덤변수 : PMF(확률질량함수)
- 연속 랜덤변수 : PDF(확률밀도함수)
랜덤 변수의 정의
- Sample Space S = {1, 2, 3, 4} 가 있다고 생각한다.
- 랜덤 변수 X는 X=X(s)= $s^3$ 으로 정의되어 있다.
- S의 원소에 대한 확률을 다음과 같이 정의한다.
  - P({1}) = 4/24, P({2}) = 3/24, P({3}) = 7/24, P({4}) = 10/24
- 이 때 랜덤변수 값의 확률은 다음과 같다.
  - P({X = 1}) = 4/24, P({X = 8}) = 3/24, P({X = 27}) = 7/24, P({X = 64}) = 10/24
  - X = $s^3$ = 8 이므로 s = 2, 즉 Sample space의 원소 {2}의 확률 3/24가 된다.

CDF(Cumulative probability Distribution Fuction) : 누적확률분포
- $F_X(x) = P(X\leq x)$
- $F_X(-\infty) = 0, F_X(\infty) = 1$
- $F_X(x)$ 는 0과 1 사이, x는 실수
- $F_X(x)$ 는 증가하는 함수이다
- $P(x_1<X\leqq x_2) = F_X(x_2) - F_X(x_1)$
- $F_X(x^+) = F_X(x)$ : right continuous
Discrete R.V.에 대해
- $F_X(x) = \sum_{i=1}^N P(x_i)u(x-x_i);$
- $P(x_i) = P(X=x_i)$ : 확률질량함수(PMF)

PDF(probability Density Function) $f_X(x)$ : CDF의 미분형
$f_X(x) = \frac{dF_X(x)}{dx}$
그냥 밀도함수라고도 부름
PDF의 성질
- $f_X(x)>0$ 일 때 x는 실수
- $\int^\infty_{-\infty}f_X(x)dx = 1$
- $F_X(x)=\int^x_{-\infty}f_X(x)dx$ : CDF는 PDF의 적분!
- $P(x_1<X\leqq x_2) = \int^{x_2}_{x_1}f_X(x)dx$

노이즈 모델링 등에 사용 : 자연계 현상들은 미세 요소들의 중첩
정상 분포라고도 함(normal distribution)
Gaussian PDF $f_X(x)=\frac{1}{\sqrt{2\pi\sigma^2}}exp(-\frac{(x-\mu)^2}{2\sigma^2})$
$\mu$ : 평균, $\sigma^2$ : 분산 ( $\sigma$ : 표준편차 )
CDF : $F_X(x)=\frac{1}{\sqrt{2\pi\sigma^2}}\int^x_{-\infty}f_X(t)dt$ $F_{X} (x) = \frac{1}{2 π σ ^{2}} \int_{- \infty}^{x} f_{X} (t) d t$
- special case : $a_X=0, \sigma_X=1$ 인 경우
  $F(x)=\frac{1}{\sqrt{2\pi}}\int^x_{-\infty}exp(-\xi^2/2)d\xi$
- F(x)는 x에만 영향을 받는다
- Normalization
  - $u=(\xi -a_X)/\Sigma_X$
  - $F_X(x) = F(\frac{x-a_X}{\sigma_X})$
  - ex. 평균 3, 표준편차 2를 갖는 가우시안 랜덤변수에 대해 event $\{X\leqq5.5\}$ ${X ≦ 5.5}$ 의 확률을 구하라.
    - $\frac{x-a_X}{\sigma_X}=\frac{5.5-3}{2}$ = 1.25
    - $P\{X\leqq5.5\} = F_X(5.5) = F(1.25) = 0.8944$

binomial density function
- $f_X(x) = \sum^N_{k=0}\binom{N}{k}p^k(1-p)^{N-k}\delta(x-k)$
binomial distribution function
- $F_X(x) = \sum^N_{k=0}\binom{N}{k}p^k(1-p)^{N-k}u(x-k)$
poisson distribution
- 이산 랜덤변수에 대해 회수 N을 무한으로 늘렸을 때의 분포
- 평균 확률을 $\lambda$ , 구간을 T로 정의
- $P(X=k) = \lim_{x\to\infty}\binom{N}{k}(\frac{\lambda T}{N})^k(1-\frac{\lambda T}{N})^{N-k}$

PDF $f_X(x)=\begin{cases} \frac{1}{b-a}\ (a\leq x\leq b)\\ 0\ (other) \end{cases}$
CDF $F_X(x)=\begin{cases} 0\ (x<a)\\ \frac{x-a}{b-a}\ (a\leq x\leq b)\\ 1\ (x\geq b) \end{cases}$

PDF $f_X(x)=\begin{cases} \lambda e^{-\lambda x}\ (x \geq 0)\\ 0\ (X < 0) \end{cases}$
CDF $F_X(x)=\begin{cases} 1-e^{-\lambda x}\ (x \geq 0)\\ 0\ (X < 0) \end{cases}$

x, y축 성분이 각각 가우시안 분포일 때 확률분포
PDF $f_X(x)=\begin{cases} \frac{2}{b}(x-a)e^{-(x-a)^2/b}\ (x \geq a)\\ 0\ (X < a) \end{cases}$
CDF $F_X(x)=\begin{cases} 1-e^{-(x-a)^2/b}\ (x \geq a)\\ 0\ (X < a) \end{cases}$

CDF $F_X(x|B) = \frac{P(\{X\leq x\}\cap B)}{P(B)} = P(X\leq x|B)$
- Property
1. $F_X(-\infty|B)=0$ (공집합)
2. $F_X(\infty|B)=1$ (sample space)
3. $x_1\leq x_2\ then\ F_X(x_1|B)\leq F_X(x_2|B)$
4. $P({x_1<X\leq x_2}|B) = F_X(x_2|B)-F_X(x_1|B)$
5. $F_X(x^+|B) = F_X(x|B)$
PDF $f_x(X|B) = \frac{dF_X(x|B)}{dx}$
- property
1. $f_X(x|B) \geq 0$
2. $\int^\infty_{-\infty}f_X(x|B)dx=1$
3. $F_X(x|B)=\int^x_{-\infty}f_X(t|B)dt$
4. $P({x_1<X\leq x_2}|B)=\int^{x_2}_{x_1}f_X(t|B)dt$
Case 1. $B=\{X\leq b\}$
- $F_X(x|B) = \frac{P({\{X\leq x\} }\cap \{X\leq b\})}{P(\{X\leq b\})}$
- $F_X(x|B) = \begin{cases} \frac{F_X(x)}{F_X(b)}(x<b)\\ 1(x\geq b) \end{cases}$
- $f_X(x|B) = \begin{cases} \frac{f_X(x)}{F_X(b)}(x<b)\\ 1(x\geq b) \end{cases}$
Case 2. $B=\{X=a\}$
- $F_X(x|B) = \begin{cases} 0(x<a)\\ 1(x\geq a) \end{cases}$

728x90