2026년 여름을 맞이하여 세미나를 준비한다. flow matching에 대해 다룰려고 한다. flow matching은 생성모델에 쓰인다. ordinary differential equation (ODE)를 활용한 생성모델 기법이고 2023년에 발표된 논문 [1] 이 제일 유명하다. 이 세미나는 flow matching을 이해하고 flow matching의 응용까지 보기 위해 준비한 세미나이다. flow matching의 응용으로 음성분야에서 음성향상에 쓰인 논문 FlowSE [2]가 있다. 응용은 나중에 살펴보도록 하고 flow … Read more
FROM nvidia/cuda:12.1.1-cudnn8-devel-ubuntu22.04 ENV DEBIAN_FRONTEND=noninteractive ENV PYTHONUNBUFFERED=1 ENV PIP_NO_CACHE_DIR=1 RUN apt-get update && apt-get install -y \ python3 python3-pip python3-dev \ git wget curl vim tmux \ build-essential cmake ninja-build \ libsndfile1 libsndfile1-dev ffmpeg \ && rm -rf /var/lib/apt/lists/* RUN python3 -m pip install –upgrade pip setuptools wheel RUN pip3 install \ torch==2.1.2 \ torchvision==0.16.2 \ … Read more
가 random matrix이다. 성립한다. 왜?
아래와 같은 미분방정식이 있다. 의 분포를 라고 하자. 그러면 아래를 만족하고 이것을 Instantaneous change of variables formula리 한다. 위의 식에서 입력변수가 stochastic process 로써 는 에 관한 함수로 간주된다. 증명을 해보자. 라는 사실과 log continuity equation을 이용하면! 지금까지 했던것은 Neura ode와 연관있고 neural ode는 flow matching과 관계 있고 flow matching의 응용으로 음성향상에 쓰인 FlowSE [1]가 … Read more
아래와 같은 continuity equation이 있다고 하자. 위의 식을 좀더 전개해보자. 이므로 이것을 contiuity equation에 대입하자. 그러면 이것을 로 나누자. 이것을 다시 정리하면 아래의 논문을 이해하는데 큰 자산이 될것이다. References [1] Lee, S., Cheong, S., Han, S., & Shin, J. W. FlowSE: Flow Matching-based Speech Enhancement. ICASSP 2025. doi:10.1109/ICASSP49660.2025.10888274.
미분 방정식 시간 가 커지는 미분방정식 있다고 하자. 분포를 라고 표현하자. 위의 미분 방정식은 아래와 같은 형태로도 쓸 수 있다. 그러면 의 분포가 라는 얘기죠. Continuity equation은 아래와 같은 식이다. 이 continuity equation을 증명해보자. 주목할점이 있다. 의 표현이다. random vector의 pdf의 change of variable 쓴거라 보면 된다. 일 때 continuity equation 증명을 위하여 … Read more
softplus의 특징에 대해 알아보자. softplus에 대해서는 아래 글에서 확인할 수 있다. softplus의 정의 softplus는 아래와 같이 정의되고요 첫번째 특징 가 뭐든 간에 두번째 특징 가 엄청크면 이므로 , 세번째 특징 는 폭발적으로 커지지만 는 선형적으로증가
softplus의 정의에 대해 알아보자. softplus는 함수다 기호로는 라고 쓴다. 정의는 어떻게 될까?
jump process 가 있다고 하자. 고정된 시간 에 대하여 그리고 state 에 대하여 얘기해보자. 에서 라고 하자. 이때 에서 만큼 흘를 동안 jump가 생기지 않을 확률을 구해보자. 식은 아래와 같다. 이거를 좀 바꿔 써보자. 근데 이것은 survival function을 이용해 표현 가능함 ( jump process의 survival function ) survival function closed form 구했으니 이점을 이용하면 ( jump process의 survival … Read more
jump process 가 있다고 하자. 이것의 survival function 를 구해보자. survival function을 만들기 위하여 어떤 미분방정식을 만들어줘야 함 를 생각하자 이것은 일때 흐르는동안 jump가 없을 확률이다. 동안 jump가 없으려면 초동안 jump가 없어야 하고 남은 동안 jump가없어야 한다. 동안 jump가 없을 확률은 survival function을 이용해 이라 나온다. 동안 jump가 없을 확률은 intensity function인 이용해 구할 수 … Read more