Flow matching Knowledge distillation 이용한 아이디어.

가 모델이고 가 target일 때 아래와 같은 loss들 사용할 수 있겠다. 위의 세가지 조합에 대해 학습 할 수 있다. 만약에 storm 처럼 predictive model 가 있다면 그리고 cascading flow를 활용한다면 만약에 이라는 결과가 에 의해 만들어진다면 아래와 같은 loss 사용 바로 위의 식에서 를 다시 만들어줘야 하는 부분이 전부다?

Flow matching을 이용한 speech enhancement의 모델 구조는 사실 enhancement 모듈만 있으면 되는거였다.

Flow matching을 이용한 speech enhancement의 모델구조는 어떻게 생겨먹었을까? 관찰을 한 결과 enhancement 모듈만 있으면 된다. Noisy speech 가 있고 이것의 clean speech 를 알아맞추는 것이 enhancement의 목적이다. flow matching에서는 가 주어졌을 때 를 noisy speech에 가우시안 노이즈가 낀 분포 이라 두고 를 의 clean speech distribution으로 두어서 이 두 distribution을 잇는 ODE를 만드는 것이 목적이다. … Read more