one step diffusion을 위한 shortcut 모델

지난 글들을 생각해보자.

flow matching에서는 vector field를 학습하려고 했다.

[2026년 여름 세미나] Flow matching과 그것의 응용

mean flow에서는 vector field의 적분값의 평균을 배우려고 했다.

Meanflow에 관한 정리

Meanflow에서 target구하는 거 정정

mean flow를 학습하는데 있어서 jacobian vector product를 구해야 한다는 점이 있었다.

어떤 논문 [1]을 읽다가 다른 방법을 소개받았다. shorcut model [2]에서부터 시작한것이다.

jacobian vector product이런거 구하지 않고 적분을 한번 쪼개본담에 그것을 이용한 identity를 만드는 것이다.

t에서 r까지 평균은 중간에 어떤 점 m이 있을때 t에서 m까지의 변화율과 m에서 t까지의 변화율의 평균으로 표현된다는 것이고 이점을 이용해서 뉴럴네트워크의 두점에서의 값을 이용해 학습한다는 것이다.

굉장히 직관적이고 재밌었다.

[1] G. Yang, Y. Lei, W. Tai, J. Wu, J. Chen, T. Zhong, and F. Zhou, “Compose yourself: Average-velocity flow matching for one-step speech enhancement,” arXiv preprint arXiv:2509.15952, 2025.

[2] K. Frans, D. Hafner, S. Levine, and P. Abbeel, “One step diffusion via shortcut models,” in Proc. Int. Conf. Learn. Represent. (ICLR), 2025.