확률미분방정식(stochastic differential equation)에 대한 내용 알아보겠습니다.
In this post, I will introduce the score model in diffusion models. I recommend reading my previous posts before proceedings. Reverse SDE in diffusion models Score function of a stochastic process Reverse stochastic differential equation (SDE) In diffusion models, data samples are generated by integrating reverse SDE: where is the score function of . Score … Read more
In this post, I will introduce the score function of a stochastic process. Before proceeding, I recommend that reading my previous posts below Score function of a random vector stochastic process, random process, 랜덤프로세스, 확률과정의 정의 Stochastic process A stochastic process is a collection of random vectors . For each time index , is a … Read more
In this post, I will introduce the score function of a random vector. Let be a random vector with a probability density function (pdf) Definition of score function The score function of the random vector is defined as the gradient of log of its pdf:
I introduce the mean and variance of stochastic process goverend by an SDE (Stochastic Differential Equation). They are described by two oridinary differential equations (ODEs). Form of SDE An SDE takes the form where f and g are called the drift term and the diffusion term, respectively, and represents Brownian motion. We are interested only … Read more
Brownian Bridge를 구성하는 SDE의 conditional distribution 에 대해 알아보자. 지난 글에서 Brownian Bridge는 아래와 같은 SDE를 따르면서 양 끝점에 값이 정해진 stochastic process 라고 했다. Brownian Bridge의 SDE의 condtiional distribution 의 분포 를 알고자 한다. 어쨋든 는 위에서 소개한 SDE를 따르기 때문에 아래와 같은 꼴을 갖는다. 여기서 X_t=x_t가 주어진다고 하자. 이므로 임을 알 수 있다. … Read more
Brownian bridge의 정의 및 closed form에 대해 알아보자. Brownian bridge는 Brownian motion 에 의해 정의된다. Brownian bridge의 정의 아래의 SDE (Stochastic Differential Equation)을 따르는 stochastic process 를 생각해보자. 여기서 , 는 hyperparameter이다. 여기서 라는 조건이 추가 되었을 때 를 Brownian bridge라고 부른다. 시점에 값이 정해졌다는 의미이다. Brownian bridge의 closed form 라는 조건이 있는 Brownian bridge가 … Read more
역시간 확률미분 방정식에 대해 알아보자. 영어로는 Reverse-time SDE 라고 한다. Reverse-time SDE를 알기 위해서는 정방향 시간에 대해 정의된 Forward-time SDE에 대해 알아야 한다. Forward-time SDE 위와 같은 방정식을 Forward-time SDE라고 한다. 다른 방식으로는 아래와 같이 쓴다. $$ d\mathbf{x} = \mathbf{f}(\mathbf{x},t) dt + \mathbf{G}(\mathbf{x},t) d \mathbf{w}$$ 위 두식은 시간이 0에서 T로 갈때의 변화를 의미한다. T에서 0으로 … Read more
기하 브라운 운동 (geometric brownian motion) 모델에 대해서 알아보자. 줄여서 GBM 모델이라고 한다. 블랙 숄즈 모형 (Black-Scholes model)에서 자산 가격의 변화를 나타내는데 쓰이곤 한다. 이번 글에서는 기하 브라운 운동 줄여서 GBM (Geometric Brownian Motion)에 대해 수식으로 쓰고 분석해보도록 하자. GBM 이란? stochastic process $X_t$가 아래와 같은 SDE로 표현하는 모형을 GBM 이라고 한다. $$dx = \mu x dt + \sigma x dw$$ 해석을 해보면 $x$의 변화량은 $x$와 $\mu$의 곱에 대해 결정나는데, $\sigma x$만큼의 변동성이 있다는 … Read more
이번 글에서는 확률미분방정식의 topic중 하나인 Kolmogorov’s Backward Equation 에 대해 알아보겠습니다. Kolmogorov’s Backward Equation 은 어떤 Diffusion process에 대한 Expectation 을 편미분 방정식 꼴로 나타내는 방식입니다. 역으로 Kolmogorov’s Backward Equation 을 만족하는 함수가 있다면 이 함수를 Diffusion process에 대해 정의된 Expectation으로써 정의 가능합니다. 이제 글을 시작해보겠습니다. Kolmogorov’s Backward Equation 에 대해 알아보자 Kolmogorov’s Backward Equation … Read more
Infinitesimal generator에 대해 알아보겠습니다. 말그대로 아주 조그만 부분(infinitesimal)에서 generator(생성자)라는 뜻인데요. 이것이 무엇을 의미하는 것일까요? Infinitesimal generator 를 이해하기 위해 필요한 것들과 Inifinitesimal generator 의 정의에 대해 알아보도록 하겠습니다. 어렵지 않은 내용이니 따라와 주세요 Infinitesimal generator 대하여 Infinitesimal generator에 대해 알아보겠습니다. 확률미분방정식 (SDE: Stochastic Differential Equation)을 해석하는데 있어서 중요한 역할을 하는 친구입니다. Infinitesimal generator에 대해 한번 … Read more