조건부 확률밀도와, 조건부 확률 질량등을 정의해보겠다. $X,Y$가 확률벡터라고 하면 $p(y|x)$를 정의하는것이다. $X$,$Y$ 둘다 연속확률벡터이면 정의하기 쉽지만 연속일경우는 조금 어렵지만 정의가능하다. 천천히 조건부 확률밀도, 조건부 확률 질량을 정의해 보도록 하자.
$X$가 연속일때 정의하는 방법
$X$가 연속일 때 조건부 확률 $P(Y \leq y | X=x)$는 아래와 같이 정의된다.
$$P(Y \leq y | X=x) = \lim_{h\to 0} P( Y \leq y | x \leq X \leq x+h)$$
여기서부터 정의를 시작하면 된다.
$X$가 연속이고 $Y$가 이산일 때
$Y$는 정수에서만 값을 갖는다고 하자.
위에서 정의한 식으로 부터
$$p(y | x) = P(Y = y | x) = \lim_{h\to 0} P(Y=y| x \leq X \leq h) = \lim_{h\to 0}( P(Y\leq y| x \leq X \leq h)-P(Y\leq y-1| x \leq X \leq h)$$
$X$가 연속이고 $Y$가 연속일 때
$p(y|x)$는 pdf역할을 한다. 이 러한 함수를 conditional pdf 조건부 밀도라고 부른다. 정의는 아래와 같이 미분을 해서 구한다.
$$p(y|x) = \lim_{h_2 \to 0 } P( y \leq Y \leq y + h_2 | x)= \lim_{h_2 \to 0 } \lim_{h_1 \to 0 }P( y \leq Y \leq y + h_2 | x\leq X \leq x+h_1)$$
$$=\lim_{h_2 \to 0 } \lim_{h_1 \to 0 }\frac{P( y \leq Y \leq y + h_2, x\leq X \leq x+h_1)h_1}{h_2 h_1 P(x\leq X \leq x+h_1)}=p(x,y)/p(x)$$
$X$가 주어질 때 $(X,Y)$의 조건부 분포
$X$,$Y$가 연속이라 할 때 $X$가 주어질 때 $(X,Y)$의 분포를 구해 보겟습니다.
$$p(x,y|x) = \lim_{h_1 , h_2 \to 0 } P( x \leq X \leq x+h_1, y \leq Y \leq y+h_2 | x \leq X \leq x+h_1)$$
$$p(x,y|x) = \lim_{h_1, h_2 \to 0} P(y \leq Y \leq y+h_2 | x \leq X \leq x + h_1)= p(y|x)$$
결국에 $$p(x,y|x) = p(y|x)$$이다.