미분방정식에 대해 다룹니다.
In this post, I will introduce the score model in diffusion models. I recommend reading my previous posts before proceedings. Reverse SDE in diffusion models Score function of a stochastic process Reverse stochastic differential equation (SDE) In diffusion models, data samples are generated by integrating reverse SDE: where is the score function of . Score … Read more
In this post, I will introduce the score function of a stochastic process. Before proceeding, I recommend that reading my previous posts below Score function of a random vector stochastic process, random process, 랜덤프로세스, 확률과정의 정의 Stochastic process A stochastic process is a collection of random vectors . For each time index , is a … Read more
In this post, I will introduce the score function of a random vector. Let be a random vector with a probability density function (pdf) Definition of score function The score function of the random vector is defined as the gradient of log of its pdf:
I introduce the mean and variance of stochastic process goverend by an SDE (Stochastic Differential Equation). They are described by two oridinary differential equations (ODEs). Form of SDE An SDE takes the form where f and g are called the drift term and the diffusion term, respectively, and represents Brownian motion. We are interested only … Read more
Brownian Bridge를 구성하는 SDE의 conditional distribution 에 대해 알아보자. 지난 글에서 Brownian Bridge는 아래와 같은 SDE를 따르면서 양 끝점에 값이 정해진 stochastic process 라고 했다. Brownian Bridge의 SDE의 condtiional distribution 의 분포 를 알고자 한다. 어쨋든 는 위에서 소개한 SDE를 따르기 때문에 아래와 같은 꼴을 갖는다. 여기서 X_t=x_t가 주어진다고 하자. 이므로 임을 알 수 있다. … Read more
Brownian bridge의 정의 및 closed form에 대해 알아보자. Brownian bridge는 Brownian motion 에 의해 정의된다. Brownian bridge의 정의 아래의 SDE (Stochastic Differential Equation)을 따르는 stochastic process 를 생각해보자. 여기서 , 는 hyperparameter이다. 여기서 라는 조건이 추가 되었을 때 를 Brownian bridge라고 부른다. 시점에 값이 정해졌다는 의미이다. Brownian bridge의 closed form 라는 조건이 있는 Brownian bridge가 … Read more
여기서부터 입력지금부터는 비선형문제들 (nonlinear problems)과 이것의 해 (solution)에 대해 알아보겠습니다. 자연계에 존재하는 물리 현상들은 미분방정식으로 표현되곤 합니다. 그런데 대부분의 미분방정식은 비선형미분방정식입니다. 이 글에서는 비선형미분방정식을 푸는 방법에 대해 알아보겠습니다. 비선형 문제들(Nonlinear)과 Shooting에 대하여 아래와 같은 미분방정식이 있다고 합시다. 여기서 $x$는 독립변수입니다. 그리고 $v$는 $x$에 관한 함수인데요. 아래의 미분방정식에서 주목할점은 각각의 coefficient $b,c$가 독립변수 $x$와 종속변수 … Read more
역시간 확률미분 방정식에 대해 알아보자. 영어로는 Reverse-time SDE 라고 한다. Reverse-time SDE를 알기 위해서는 정방향 시간에 대해 정의된 Forward-time SDE에 대해 알아야 한다. Forward-time SDE 위와 같은 방정식을 Forward-time SDE라고 한다. 다른 방식으로는 아래와 같이 쓴다. $$ d\mathbf{x} = \mathbf{f}(\mathbf{x},t) dt + \mathbf{G}(\mathbf{x},t) d \mathbf{w}$$ 위 두식은 시간이 0에서 T로 갈때의 변화를 의미한다. T에서 0으로 … Read more
기하 브라운 운동 (geometric brownian motion) 모델에 대해서 알아보자. 줄여서 GBM 모델이라고 한다. 블랙 숄즈 모형 (Black-Scholes model)에서 자산 가격의 변화를 나타내는데 쓰이곤 한다. 이번 글에서는 기하 브라운 운동 줄여서 GBM (Geometric Brownian Motion)에 대해 수식으로 쓰고 분석해보도록 하자. GBM 이란? stochastic process $X_t$가 아래와 같은 SDE로 표현하는 모형을 GBM 이라고 한다. $$dx = \mu x dt + \sigma x dw$$ 해석을 해보면 $x$의 변화량은 $x$와 $\mu$의 곱에 대해 결정나는데, $\sigma x$만큼의 변동성이 있다는 … Read more
error function 혹은 오차함수라 불리는 함수에 대해 알아보자. error function (오차함수)는 편미분 방정식 풀 때 많이 본것 같다. 그리고 정규분포(관련글)의 cdf로써도 생각할 수도 있다. 여러군데에 사용되는 것은 알겠는데 그러면 이 error function 이 무엇인지 보도록 하자. 그러면 이제 시작해보겠습니다.! Error function (오차함수)의 정의 Error function 에 대해 이제 알아보도록 하겠습니다. error function 은 complex domain … Read more