Meanflow에 관한 정리

Meanflow에 대해 정리해보자.

KakaoTalk 20260804 151938698 01 scaled KakaoTalk 20260804 151938698 scaled

 

사진으로 정리하였다.

수식보다는 말로 정리하자.

flow matching이라 하면 간단한 분포로부터 데이터 분포로 보낼 수 있는 probability flow ode를 설계 하고 학습하는 것이다.

결국에는 적분을 해야 하는 것이다.

적분을 하기 위해서 vector field를 학습해야 한다.

맞죠?

학습을 할때는 특정 시점마다 vector field 배우는것이 flow matching이다.

그런데! Mean flow란 무엇일까? 적분을 하기 위한 함수보다 적분 자체르 배우는 것이다.

어떤 한점에서 다른점까지의 적분을 학습한다.

맞죠?

target을 만들때 어차피 진짜 target없으니 뉴럴넷 학습하면서 거기서 나온값을 self distillation 하는 형태로 학습한다.

이때 jvp가 나오곤 한다.

[MeanFlow] Z. Geng, M. Deng, X. Bai, Z. Kolter, and K. He, “Mean flows for one-step generative modeling,” in Advances in Neural Information Processing Systems, vol. 38, pp. 75460–75482, 2026.

 

Leave a Comment