미분적분학 (calculus)의 기본적인 내용에 대해 알아보겠습니다.
아래와 같은 미분방정식이 있다. 의 분포를 라고 하자. 그러면 아래를 만족하고 이것을 Instantaneous change of variables formula리 한다. 위의 식에서 입력변수가 stochastic process 로써 는 에 관한 함수로 간주된다. 증명을 해보자. 라는 사실과 log continuity equation을 이용하면! 지금까지 했던것은 Neura ode와 연관있고 neural ode는 flow matching과 관계 있고 flow matching의 응용으로 음성향상에 쓰인 FlowSE [1]가 … Read more
아래와 같은 continuity equation이 있다고 하자. 위의 식을 좀더 전개해보자. 이므로 이것을 contiuity equation에 대입하자. 그러면 이것을 로 나누자. 이것을 다시 정리하면 아래의 논문을 이해하는데 큰 자산이 될것이다. References [1] Lee, S., Cheong, S., Han, S., & Shin, J. W. FlowSE: Flow Matching-based Speech Enhancement. ICASSP 2025. doi:10.1109/ICASSP49660.2025.10888274.
미분 방정식 시간 가 커지는 미분방정식 있다고 하자. 분포를 라고 표현하자. 위의 미분 방정식은 아래와 같은 형태로도 쓸 수 있다. 그러면 의 분포가 라는 얘기죠. Continuity equation은 아래와 같은 식이다. 이 continuity equation을 증명해보자. 주목할점이 있다. 의 표현이다. random vector의 pdf의 change of variable 쓴거라 보면 된다. 일 때 continuity equation 증명을 위하여 … Read more
가 continuous jump process라고 하자. 가 가질수 있는 값은 continuous이라는 것이고 또한 연속적이다. 나는 지금 를 jump process로 정의하고 싶다. jump process는 가 가만히 있다가 갑자기 다른 state로 이동하는 것을 의미한다. 그러면 이것을 정의하기 위하여 어떤 방법을 취하는가? 바로 jump intensity 혹은 rate function 를 것을 정의한다. 의 뜻은 일때 단위시간동안 에서 다른 state로 jump … Read more
아래와 같은 continuous normalizing flow (CNF) 를 기술하는 상미분방정식 (ode: ordinary differentail equation)이 있다고 하자. 는 시작점에 대한 분포이다. 이제 $x_t = \psi_t(x)$라 하자. 그리고 $x_t$의 pdf (probability density function)을 $p_t$라고 하자. $p_t$는 pushforward measure이므로 아래와 같이 정의된다. 이제 의 log likelihood인 $\log p_t(x_t)$를 알려고 한다. log-density가 더 맞는 말인것 같기도 하다. 전설의 논문 NeurODE … Read more
미분에 대해 정의하자. 아래와 같은 함수가 있다고 하자. 를 고정된 point라고 하자. 그러면 의 의 미분 를 아래와 같이 정의한다. 는 linear map
신종원 교수 연구팀 플로우 매칭 기반 음성향상 모델의 추론 및 학습 방법을 추가하여 성능 및 속도 개선 광주과학기술원 전기전자컴퓨터공학부 신종원 교수 연구팀은 최근 플로우 매칭 (flow matching) 기반의 음성향상 모델의 속도 및 성능을 개선할 수 있는 학습방법 및 추론방법을 개발하였고 국제 음성신호처리 학회인 Interspeech 2025에 논문을 출간하였다. (논문링크: Speech Enhancement based on cascaded two flows … Read more
Manifold위에서 만나는 두 curve 사이의 내적 정의해보자. Manifold 이 있다고 하자. 위의 두 곡선 가 있고 라 하자. 그러면 에서 두 curve의 내적을 정의하자. 아래와 같이 정의할 수 있다.
Manifold $\sigma: U \to M $ 가 있다고 하자. 이 위에 곡선 (curve) $\gamma : [a,b] \to M $가 있다고 하자. curve의 미분을 구해보자. chain rule에 의하여 $$\gamma \prime(t) = \sum_{i} \sigma_{u_i} \frac{du_i}{dt} $$
manifold위에서 두 curve가 만나는 점에서의 각도 (angle)에 대해 알아보자. manifold 가 있다고 하자. 이 manifold위에 곡선 가 있다고 하자. 이 두 곡선은 즉 에서 만난다고 하자. 그러면 이 만나는 위에서 교차할테고 각도 가 생기는 이 에 대한 cosine은 아래와 같이 정의한다.