최적화 문제에서 중요한 역할을 하는 KKT 조건에 대해 알아보자. 이 KKT 조건을 만족하는 최적화 문제는 또 다른 최적화 문제로 변화할 수 있다. 어떤 최적화 문제로 변화하는지는 나중에 알아보도록 하고 이 글에서는 KKT 조건에 대해서만 알아보도록 하자.
KKT 조건이란?
다음과 같은 최적화 문제를 생각해보자.
최적화 함수 : $f(x)$
제한 조건:
모든 $i=1,…,m$과 $j=1,…,l$에 대하여 $g_i(x) \leq 0$ $h_j(x) =0$
위와 같은 최적화 문제가 아래 조건을 만족할 때 KKT 조건을 만족한다고 말한다.
$$\nabla f(x) + \sum_{i=1}^m \mu_i \nabla g_i(x) + \sum_{j=1}^l \lambda_j \nabla h_j(x)=0$$
$$g_j(x) \leq 0$$
$$h_j(x) =0$$
$$\mu_j \geq 0$$
$$\mu_j g_j(x) = 0$$
위의 식이 만족될 경우 최적화 문제는 또다른 최적화 문제로 바뀌게 되는데 그 최적화 문제에 대해서는 다음에 보도록하자.