상미분방정식

상미분방정식 (ordinary differential equation)에 대한 설명입니다.

Instantaneous Change of Variables Formula와 그 증명

by

아래와 같은 미분방정식이 있다. 의 분포를 라고 하자. 그러면 아래를 만족하고 이것을 Instantaneous change of variables formula리 한다. 위의 식에서 입력변수가 stochastic process 로써 는 에 관한 함수로 간주된다. 증명을 해보자. 라는 사실과 log continuity equation을 이용하면! 지금까지 했던것은 Neura ode와 연관있고 neural ode는 flow matching과 관계 있고 flow matching의 응용으로 음성향상에 쓰인 FlowSE [1]가 … Read more

log continuity equation을 증명하자.

by

아래와 같은 continuity equation이 있다고 하자. 위의 식을 좀더 전개해보자. 이므로 이것을 contiuity equation에 대입하자. 그러면 이것을 로 나누자. 이것을 다시 정리하면 아래의 논문을 이해하는데 큰 자산이 될것이다. References [1] Lee, S., Cheong, S., Han, S., & Shin, J. W. FlowSE: Flow Matching-based Speech Enhancement. ICASSP 2025. doi:10.1109/ICASSP49660.2025.10888274.    

continuity equation의 증명

by

미분 방정식 시간 가 커지는 미분방정식 있다고 하자.   분포를 라고 표현하자. 위의 미분 방정식은 아래와 같은 형태로도 쓸 수 있다. 그러면 의 분포가 라는 얘기죠. Continuity equation은 아래와 같은 식이다. 이 continuity equation을 증명해보자. 주목할점이 있다. 의 표현이다. random vector의 pdf의 change of variable 쓴거라 보면 된다. 일 때   continuity equation 증명을 위하여 … Read more

continuous normalizing flow의 likelihood,log-density구하기 Instantaneoucs change of variables

by

아래와 같은 continuous normalizing flow (CNF) 를 기술하는 상미분방정식 (ode: ordinary differentail  equation)이 있다고 하자. 는 시작점에 대한 분포이다. 이제 $x_t = \psi_t(x)$라 하자. 그리고 $x_t$의 pdf (probability density function)을 $p_t$라고 하자. $p_t$는 pushforward measure이므로 아래와 같이 정의된다. 이제 의 log likelihood인 $\log p_t(x_t)$를 알려고 한다. log-density가 더 맞는 말인것 같기도 하다. 전설의 논문 NeurODE … Read more

GIST, 플로우 매칭 기반 음성향상 모델의 성능 및 속도 개선

by

신종원 교수 연구팀 플로우 매칭 기반 음성향상 모델의 추론 및 학습 방법을 추가하여 성능 및 속도 개선 광주과학기술원 전기전자컴퓨터공학부 신종원 교수 연구팀은 최근 플로우 매칭 (flow matching) 기반의 음성향상 모델의 속도 및 성능을 개선할 수 있는 학습방법 및 추론방법을 개발하였고 국제 음성신호처리 학회인 Interspeech 2025에 논문을 출간하였다. (논문링크: Speech Enhancement based on cascaded two flows … Read more

광주과학기술원 신종원 교수 연구팀 더 빠른 디퓨전 기반 음성향상 모델 개발

by

광주과학기술원(GIST) 전기전자컴퓨터공학과 신종원 교수 연구팀은 디퓨전 (diffusion) 기반 음성향상 모델의 느린속도를 가속화하는 “플로우 매칭 (flow matching) 기반의 음성향상 모델” 기술 개발을 완료하였다. 기존의 디퓨전 모델은 음성향상을 위해 60번의 함수 호출이 필요했지만, 신종원 교수 연구팀은 플로우 매칭 기술을 사용하여 60번의 1/12 수준인 5번의 호출로 기존 디퓨전 기반의 음성향상 모델이나 fine tuning된 모델과 동등한 성능을 보였다. 플로우 … Read more

Diffusion, Flow matching seminar (2025.08.26-2025.08.29)

by

Day 1 – Denoising Diffusion Probabilistic Models August 26, 2025 (Tuesday) EECS B205 13:00-15:00 Day 2 – Score-Based Generative Modeling through Stochastic Differential Equations August 27, 2025 (Wednesday) EECS B201 13:00-15:00 Day 3 – Flow matching for generative modeling August 28, 2025 (Thursday) EECS B202 13:00-15:00 Day 4 – FlowSE: Flow Matching-based Speech Enhancement (ICASSP … Read more