deeplearning 에 대해 다룹니다.
아래와 같은 미분방정식이 있다. 의 분포를 라고 하자. 그러면 아래를 만족하고 이것을 Instantaneous change of variables formula리 한다. 위의 식에서 입력변수가 stochastic process 로써 는 에 관한 함수로 간주된다. 증명을 해보자. 라는 사실과 log continuity equation을 이용하면! 지금까지 했던것은 Neura ode와 연관있고 neural ode는 flow matching과 관계 있고 flow matching의 응용으로 음성향상에 쓰인 FlowSE [1]가 … Read more
아래와 같은 continuity equation이 있다고 하자. 위의 식을 좀더 전개해보자. 이므로 이것을 contiuity equation에 대입하자. 그러면 이것을 로 나누자. 이것을 다시 정리하면 아래의 논문을 이해하는데 큰 자산이 될것이다. References [1] Lee, S., Cheong, S., Han, S., & Shin, J. W. FlowSE: Flow Matching-based Speech Enhancement. ICASSP 2025. doi:10.1109/ICASSP49660.2025.10888274.
미분 방정식 시간 가 커지는 미분방정식 있다고 하자. 분포를 라고 표현하자. 위의 미분 방정식은 아래와 같은 형태로도 쓸 수 있다. 그러면 의 분포가 라는 얘기죠. Continuity equation은 아래와 같은 식이다. 이 continuity equation을 증명해보자. 주목할점이 있다. 의 표현이다. random vector의 pdf의 change of variable 쓴거라 보면 된다. 일 때 continuity equation 증명을 위하여 … Read more
softplus의 특징에 대해 알아보자. softplus에 대해서는 아래 글에서 확인할 수 있다. softplus의 정의 softplus는 아래와 같이 정의되고요 첫번째 특징 가 뭐든 간에 두번째 특징 가 엄청크면 이므로 , 세번째 특징 는 폭발적으로 커지지만 는 선형적으로증가
softplus의 정의에 대해 알아보자. softplus는 함수다 기호로는 라고 쓴다. 정의는 어떻게 될까?
아래와 같은 continuous normalizing flow (CNF) 를 기술하는 상미분방정식 (ode: ordinary differentail equation)이 있다고 하자. 는 시작점에 대한 분포이다. 이제 $x_t = \psi_t(x)$라 하자. 그리고 $x_t$의 pdf (probability density function)을 $p_t$라고 하자. $p_t$는 pushforward measure이므로 아래와 같이 정의된다. 이제 의 log likelihood인 $\log p_t(x_t)$를 알려고 한다. log-density가 더 맞는 말인것 같기도 하다. 전설의 논문 NeurODE … Read more
K-dimensional unit simplex에 대해 알아보자. 기호로는 라 쓴다. 아래와 같이 정의한다. 이라고 하면 는 event가 K개인 사건에 대한 probability mass function이다. 즉 는 probability mass function의 모임이라고 보면된다.
라는 것이 있다고 하자. 는 feature dimension, 은 token 갯수이다 token은 정하기 나름인데 한문장에서 그 문장을 구성하는 단어의 갯수 정도로 생각하자. 개의 token이 어떤 관계에 있는지 보기 위해 attention을 사용한다. 아래와 같이 아주 간단히 표현된다.
신종원 교수 연구팀 플로우 매칭 기반 음성향상 모델의 추론 및 학습 방법을 추가하여 성능 및 속도 개선 광주과학기술원 전기전자컴퓨터공학부 신종원 교수 연구팀은 최근 플로우 매칭 (flow matching) 기반의 음성향상 모델의 속도 및 성능을 개선할 수 있는 학습방법 및 추론방법을 개발하였고 국제 음성신호처리 학회인 Interspeech 2025에 논문을 출간하였다. (논문링크: Speech Enhancement based on cascaded two flows … Read more
Interspeech 2025 후기 및 논문 공유 Generalizable Audio Deepfake Detection via Hierarchical Structure Learning and Feature Whitening in Poincaré sphere 이성규_interspeech2025_report_20250905