로랑급수(Laurent Series)의 정의와 수렴성

복소함수론에서 중요한 내용 중의 하나가 로랑급수(Laurent Series)이다. 로랑 급수는 복소수의 멱급수(power series)인데 음의 제곱항과 양의 제곱항이 공존하는 멱급수이다. 로랑 급수의 정의를 살펴보고 로랑 급수의 수렴 반경(Region of Convergence)에 대해 알아보자. 로랑급수(Laurent Series)란? 로랑급수는 복소수에서 정의된 멱급수로써 음의 제곱항과 양의 제곱항을 갖는다. 복소수 $z=z_0$에 대한 로랑 급수는 다음과 같다. $$\sum_{n=\infty}^{\infty}a_n (z-z_0)^n \tag{1}\label{1}$$ 로랑급수의 수렴성 $z=z_0$에서 로랑급수에 … Read more

[아이디어] Diffusion based Separation에 BBED 적용

지난 글들에서 Diffusion based separation ( [논문리뷰]Diffusion-Based Generative Speech Source Separation )과 Diffusion based enhancement (https://arxiv.org/abs/2212.11851)에 대해 알아보았다. 그리고 이것을 개선하기 위한 아이디어를 생각했다. ([논문 개선 아이디어] Diffusion-Based Generative Speech Source Separation) ([논문식 유도 및 추가 아이디어] StoRM: A Diffusion-based Stochastic Regeneration Model for Speech Enhancement and Dereverberation ). 그런데 내가 생각아이디어를 구현한 논문이 하나있다. 이것을 … Read more

VC(Vapnik–Chervonenkis) Dimension의 정의와 의미, bound

기계학습은 데이터가 주어졌을 때 데이터와 타겟값 사이의 관계를 어떤 모델 $f$로 표현하는 것이 목적이다. 선형회귀모델, SVM, 의사결정나무 등의 여러모델이 있다. 각각의 모델이 몇개의 데이터까지 구분할 수 있는지? 수많은 데이터를 표현할 수 있는 complexity(혹은 power)를 갖고 있는지를 알면 모델마다 성능차이를 가늠할 수 있고 어떤 모델을 사용할 때 이 모델의 complexity와 한계에 맞게 모델을 사용할 수 있다. … Read more

단위 계단 신호(Unit Step Signal)의 이산시간 푸리에 변환(DTFT, Discrete Time Fourier Transformation)

이번 글에서는 신호 및 시스템, 디지털 신호 처리를 공부하면서 맨날 보는 신호 중의 하나인 단위 계단 신호 $u[n]$의 푸리에 변환을 구해보도록 하겠습니다. 푸리에 변환의 몇가지 성질을 이용하면 구할 수 있으니 한번 쭉 따라가 보도로고 하죠.      단위 계단(Unit Step)이란? $$u[n] = \begin{cases}1 &n\geq0 \\ 0 &n<0 \end{cases}$$   이제 위 신호의 푸리에 변환을 구해보도록 … Read more

이항분포(Binomial Distribution)의 분산(Variance) 구하기

이항분포 b(n,p)는 성공 확률인 p인 베르누이 분포를 n번 실행했을 때 성공한 횟수를 모델링 하는 확률 분포이다. 이번 글에서는 이 이항분포의 분산을 구해보도록 하겠다. 이항 분포의 정체 이항 분포 b(n,p)에 해당하는 확률 변수를 X라고 하면 X는 서로 독립인 Bernoulli(p) 확률변수 n개의 합과 같다. 이 사실을 표현하면 아래와 같다. $$X = \sum_{i=1}^{n} X_i \text{ ,$X_i$는 독립인 Bernoulli(p)} … Read more

Low pass filter(저역 통과 필터)의 주파수 응답과 Gibbs phenomenon

신호가 있을 때 이 신호는 여러 주파수의 합성이라는 가정이 깔려있다. 이 신호에서 주파수가 낮은 대역의 신호를 추출하고 싶다면 저역 통과 필터(low pass filter)를 사용하면 된다. 이번 글에서는 저역 통과 필터가 무엇인지 알아보고 이것의 특성중 하나인 Gibbs phenomenon을 알아보자.   Low pass filter(저역 통과 필터) 신호에는 다양한 주파수의 신호가 합성되어있다. 특정 주파수 대역의 신호만을 원한다면 저역 … Read more

이산 시간 푸리에 변환(DTFT, Discrete Time Fourier Transform) 의미와 관련 용어 정리

이산 시간 푸리에 변환(DTFT, Discrete Time Fourier Transform)은 신호 x[n]을 주파수 영역의 함수로 변환 하는 함수이다. DTFT를 이용하면 신호가 가진 여러 주파수 중 원하는 주파수만 줄이고 살리고 등을 할 수 있어 굉장히 유용하다. 오늘은 푸리에 변환이 무엇인지 알아보고 푸리에 변환과 관련된 용어들을 정리해보겠다. 이산 시간 푸리에 변환(DTFT, Discrete Time Fourier Transform)의 정의 신호 x[n]의 DTFT … Read more

[확률과 통계]분산(Variance)의 정의

확률과 통계에서는 확률 변수 X를 분석하는 일을 많이 한다. 확률 변수 X를 분석하기 위해 X와 관련된 여러가지 기대값(Expectation)을 구하기도 한다. 대표적인 기대값으로는 X를 대표할 만한 평균(mean)이 있다. 그리고 이번 글에서 알게 될 분산(Variance)가 있다. 이번 글에서는 확률 변수 X의 분산의 정의를 알아보고 분산의 의미를 알아보도록 하자.   분산이란? 확률변수 X의 평균 $m=E[X]$라고 하자. 그러면 확률변수 … Read more

확률벡터(random vector)의 pdf에 관한 변수변환(change of variable)

이번 글에서는 확률벡터(random vector)의 변수변환(change of variable)에 관해 알아보겠습니다. 확률벡터 $\mathbf{X}$가 있을 때 어떤 변환 $f$에 의해서 $\mathbf{Y}=f(\mathbf{X})$가 있다고 합시다. 이 때 $\mathbf{Y}$의 확률밀도함수(pdf: probability density function)를 구하는 데 유용한 것이 변수변환(change of variable)입니다. 이제 알아보겠습니다.   확률벡터(random vector)의 확률밀도함수(pdf: probability density function)에 관한 변수변환(change of variable) 이 글을 제대로 읽기 위해서는 아래글들을 먼저 읽고 … Read more

유사역행렬(Pseudo Inverse)의 정의와 계산법

역행렬은 행렬이 정방행렬(Square Matrix)일때만 정의된다. 그런데 때때로 정방행렬이 아닌 행렬에 대해 역행렬과 비슷한 성질을 갖는 놈이 종종 필요하다. 다행이도 유사역행렬(Pseudo Inverse)이 있고 역행렬과 성질이 비슷하다. 이번 글에서는 유사역행렬이 무엇인지 알아보고 유사역행렬을 구하는 방법을 알아보자. 유사역행렬(Pseudo Inverse)란? 행렬 $A$의 유사역행렬 $A^+$는 다음의 성질을 만족하는 행렬이다. $AA^+A = A$ $A^+AA^+ = A+$ $(AA^+)^* = AA^+$ $(A^+A)^* = … Read more