[확률과 통계] 조건부 기댓값이란? conditional expectation

확률변수가 X,Y 두개가 있다고 하자. 하나의 확률변수가 주어졌을 때 다른 하나의 확률변수의 확률질량함수와 확률밀도함수인 조건부확률밀도함수와 조건부확률질량함수의 정의와 의미)를 구할 수 있다. 이렇게 조건부확률질량함수와 조건부확률밀도함수는 확률질량함수와 확률밀도함수와 같은 역할을 한다. 확률질량/밀도를 이용해 기대값을 정의하듯 조건부확률질량/밀도를 이용하여 조건부 기대값을 정의할 수 있다.    조건부 기대값(Conditional Expectation) X,Y 가 확률변수 일 때, Y가 주어질 때 X의 기대값이 조건부 … Read more

[해석학] 유계수열의 의미 (bounded sequence)

해석학은 극한을 다루는 학문이라고 볼 수 있습니다. (내 생각) 극한을 다루기 위한 대상에는 여러가지가 잇는데요. 가장 쉽게 생각할 수 있는 것이 바로 수열(sequence)입니다. sequence에 대한 극한을 다루기 전에, 수열의 한 종류인 유계 수열에 대해 보도록 하겠습니다. 유계수열의 의미 (bounded sequence) 유계수열이 무엇인지 알아보겠습니다. 유계수열이 무엇인지 알기 전에 유계집합에 대해 먼저 알아보시면 좋을 것 같습니다.  bounded의 정의를 … Read more

MSE (Mean square error) 평균 제곱 오차의 의미

수리통계나 적응신호처리 등에서 나오는 평균제곱 오차에 대해 알아보도록 하겠습니다. 어떤 것을 추정하려고 할 때, 추정하려고자 하는 값과 나의 추정치가 어느 정도의 차이가 있는지 측정하기 위하여 평균제곱오차를 사용합니다. 아래의 글을 보면서 자세히 알아보도록 하죠.   평균제곱오차 (Mean Squared Error, MSE) 내가 추정하고 하는 parameter $\theta$가 있다고 가정합시다. random variable $x_1,x_2,..,x_n$을 이용해 $\theta$를 추정합니다. $\theta$를 추정하기 위하여 … Read more

조건부 독립(Conditionally independent)에 대한 정의

조건부 독립의 정의 확률변수 X,Y는 Z가 주어질 때 독립이면 X,Y는 조건부 독립이라고 한다. $$p(x,y|z) = p(x|z)p(y|z)$$ 왜 조건부 독립일까? 확률변수 X,Y,Z 라고 하자. X가 가질 수 있는 값은 10개이고 Y가 가질 수 있는 값 또한 10개이다. Z가 가질 수 있는 값은 2개 뿐이다. 이제 Z가 주어질 때의 X,Y의 결합 확률분포를 따져보도록 하자. 확률밀도함수나 확률질량함수를 구해야 … Read more

시그모이드 함수(sigmoid)함수의 미분, 그라디언트

시그모이드 함수의 미분에 대해 알아보자. 시그모이드 함수의 미분을 구해보고 예쁜꼴로 나타내보도록 하겠습니다. 시그모이드 함수가 무엇인지 아실 것이라고 봅니다. 시그모이드 (Sigmoid) 함수? 시그모이드 함수는 아래의 함수입니다. 시그마 $\sigma$ 기호를 써서 표현합니다. $$\sigma(x) = \frac{1}{1+e^{-x}}$$ 시그모이드 (Sigmoid) 함수의 미분 $$\frac{d\sigma(x)}{dx} = \frac{e^{-x}}{(1+e^{-x})^2}$$ 위와 미분해도 충분하다고 생각할 수 있습니다. 그런데! 좀더 생각을 해보면 시그모이드 함수의 미분을 아래와 같이 시그모이드를 … Read more

[음성신호처리] noble identites

noble identites에 대해 알아보겠습니다. identity 몇가지를 제시하겠습니다. 아래에 보게될 identity 를 noble identity 라고 합니다. decimation 과 expanding 할때 유용한 식입니다. 이제 하나씩 보도록 하겠습니다. Noble identites decimation 에 대하여 (identity 1) 신호 $x[n]$이 있다고 합시다. 이것을 $M$만큼 decimation 하고 필터 $G(z)$를 지난다고 합시다. 이것과 같은 식은 무엇일까요? $G(z^M)$을 지나고 $M$만큼 decimation 하는 것이 동일합니다. … Read more

Discrete Time Fourier Transform (이산시간 푸리에변환,DTFT)

 이산시간 푸리에변환 (DTFT Discrete Time Fourier Transform)에 대해서 알아보겠습니다. discrete time signal (이산시간신호) $x[n]$를 주파수 영역에서 분석하기 위해서 신호 $x[n]$을 $n$에 대한 함수가 아닌 주파수에 대한 함수로 변환하기 위해 DTFT 를 사용합니다. 이산시간 푸리에변환 DTFT (Discrete Time Fourier Transform)의 정의 이산 시간 신호 $x[n]$에 대하여 DTFT는 아래와 같이 정의됩니다. $$X(e^{j\omega}) = \sum_{n=-\infty}^\infty x[n] e^{-j\omega n}$$ … Read more

[그래프이론(graph theory)]simple planar graph 의 edge의 총 갯수

이번 글에서는 simple planar graph 의 edge의 총 갯수를 가늠해 보겠습니다. 명제와 증명 자체는 간단한데 이것을 알면 planar graph 를 구분해내는데 도움이 될것입니다. 그러면 이제 simple planar graph 의 edge 수에 대해 알아보도록 하겠습니다. simple planar graph 의 edge 갯수에 관한 부등식 를 simple planar graph 라고 합시다. 그리고 의 vertex가 적어도 세개있다고 합시다. 그러면 … Read more

[Heat Conduction Problem Solving 6.7] A region a ≤ r < ∞ in the cylindrical coordinate system is initially at a temperature F(r). For times t > 0 the boundary at r=a is kept insulated. Obtain an expression for the temperature distribution T(r, t) in the region for times t > 0.

Let’s solve a heat conduction problem. A region a ≤ r < ∞ in the cylindrical coordinate system is initially at a temperature F(r). For times t > 0 the boundary at r=a is kept insulated. Obtain an expression for the temperature distribution T(r, t) in the region for times t > 0. Heat Conduction … Read more

[LaTeX] floor, ceiling 기호 입력 방법

LaTeX 에서 floor와 ceiling 기호 입력하는 방법에 대해 알아보겠습니다. floor(x) 는 x보다 작거나 같은 정수중에서 최대값을 의미하고 ceiling(x)는 x보다 크거나 같은 정수중에서 최소값을 의미합니다. LaTeX floor, ceiling 기호 입력 방법 floor와 ceiling 기호를 입력하는 방법에 대해 알아보겠습니다. LaTeX floor 입력 방법 LaTeX floor 입력 예시 위에서 배운 명령어를 이용해서 활용해보자. 결과는 아래와 같이 나온다. 의 … Read more