flow matching에서 flow는 0에서 t로가는 함수들로만 생각을 하는데 사실은 0에서 t로 가는 것이 0에서 m으로 갔다가 m에서 t로 가는 이런 합성함수로 보일 수 있다. Instantaneous Change of Variables (ICOV) formula의 의미 부피의 관점에서 Instantaneous Change of Variables (ICOV) formula와 증명 continuity equation에 대해 알아보자. flow matching flow에 대한 고찰? flow는 flow의 합성
2026년 여름을 맞이하여 세미나를 준비한다. flow matching에 대해 다룰려고 한다. flow matching은 생성모델에 쓰인다. ordinary differential equation (ODE)를 활용한 생성모델 기법이고 2023년에 발표된 논문 [1] 이 제일 유명하다. 이 세미나는 flow matching을 이해하고 flow matching의 응용까지 보기 위해 준비한 세미나이다. flow matching의 응용으로 음성분야에서 음성향상에 쓰인 논문 FlowSE [2]가 있다. 응용은 나중에 살펴보도록 하고 flow … Read more
가 random matrix이다. 성립한다. 왜?
아래와 같은 미분방정식이 있다. 의 분포를 라고 하자. 그러면 아래를 만족하고 이것을 Instantaneous change of variables formula리 한다. 위의 식에서 입력변수가 stochastic process 로써 는 에 관한 함수로 간주된다. 증명을 해보자. 라는 사실과 log continuity equation을 이용하면! 지금까지 했던것은 Neura ode와 연관있고 neural ode는 flow matching과 관계 있고 flow matching의 응용으로 음성향상에 쓰인 FlowSE [1]가 … Read more
아래와 같은 continuity equation이 있다고 하자. 위의 식을 좀더 전개해보자. 이므로 이것을 contiuity equation에 대입하자. 그러면 이것을 로 나누자. 이것을 다시 정리하면 아래의 논문을 이해하는데 큰 자산이 될것이다. References [1] Lee, S., Cheong, S., Han, S., & Shin, J. W. FlowSE: Flow Matching-based Speech Enhancement. ICASSP 2025. doi:10.1109/ICASSP49660.2025.10888274.
미분 방정식 시간 가 커지는 미분방정식 있다고 하자. 분포를 라고 표현하자. 위의 미분 방정식은 아래와 같은 형태로도 쓸 수 있다. 그러면 의 분포가 라는 얘기죠. Continuity equation은 아래와 같은 식이다. 이 continuity equation을 증명해보자. 주목할점이 있다. 의 표현이다. random vector의 pdf의 change of variable 쓴거라 보면 된다. 일 때 continuity equation 증명을 위하여 … Read more
가 continuous jump process라고 하자. 가 가질수 있는 값은 continuous이라는 것이고 또한 연속적이다. 나는 지금 를 jump process로 정의하고 싶다. jump process는 가 가만히 있다가 갑자기 다른 state로 이동하는 것을 의미한다. 그러면 이것을 정의하기 위하여 어떤 방법을 취하는가? 바로 jump intensity 혹은 rate function 를 것을 정의한다. 의 뜻은 일때 단위시간동안 에서 다른 state로 jump … Read more
아래와 같은 continuous normalizing flow (CNF) 를 기술하는 상미분방정식 (ode: ordinary differentail equation)이 있다고 하자. 는 시작점에 대한 분포이다. 이제 $x_t = \psi_t(x)$라 하자. 그리고 $x_t$의 pdf (probability density function)을 $p_t$라고 하자. $p_t$는 pushforward measure이므로 아래와 같이 정의된다. 이제 의 log likelihood인 $\log p_t(x_t)$를 알려고 한다. log-density가 더 맞는 말인것 같기도 하다. 전설의 논문 NeurODE … Read more
[논문리뷰] Modifying Flow Matching for Generative Speech Enhancement.pdf
신종원 교수 연구팀 플로우 매칭 기반 음성향상 모델의 추론 및 학습 방법을 추가하여 성능 및 속도 개선 광주과학기술원 전기전자컴퓨터공학부 신종원 교수 연구팀은 최근 플로우 매칭 (flow matching) 기반의 음성향상 모델의 속도 및 성능을 개선할 수 있는 학습방법 및 추론방법을 개발하였고 국제 음성신호처리 학회인 Interspeech 2025에 논문을 출간하였다. (논문링크: Speech Enhancement based on cascaded two flows … Read more