DA_DS_AI_ML (84) 썸네일형 리스트형 [Khan Academy] Another least squares example (최소제곱법 예시 2) 이번시간에는 또 다른 최소제곱법 예시를 알아본다. 위와 같이 네 점이 주어졌고, 이점들을 한 번에 지나가지는 못하지만 네 점까지의 거리와 최소가 되는 직선을 구해본다. 우리가 구해야하는 것은 직선이기 때문이 y=mx+b라는 식에서 m과 bㄹ르 구해야한다. 각 점을 직선의 방정식에 대입해 행렬식으로 나타낸다. 최소제곱법을 통한 근사 해를 구하기 위해 필요한 행렬과 벡터를 구한다. $\vec{x}^*$의 요소는 $m^*$과 $b^*$가 된다. 연립방정식으로 두 방정식을 구해보면 근사 m은 $\frac{2}{5}$, 근사 b는 $\frac{4}{5}$가 나오게 된다. 위에서 구한 m과 b를 직선의 방정식에 대입하여 좌표평면위에 나타내게 되면 위와 같이 되며, 이는 네 점으로부터의 거리가 최소가 되는 직선을 그.. [Khan Academy] Least squares examples (최소제곱법 예시) 이번 시간에는 최소제곱법을 어떻게 푸는지 알아본다. 위의 세 직선이 한 점에서 만나는 경우가 있는지 생각해본다. 주어진 세 직선은 한 점에서 만나지 않기 때문에 $A\vec{x}=\vec{b}$를 만족시키는 해가 존재하지 않는다 따라서 최소제곱법으로 해의 근사값을 구해보자 최소제곱법을 이용한 해를 구하기 위해 필요한 행렬과 벡터를 구한 뒤 행렬로 방정식을 계산한다. 이 때 근사 벡터 x의 값이 나온다. 이 벡터 x의 값은 세 직선의 각각의 교차점의 거리를 최소화 시키는 값이다. 따라서 위에서 구한 근사 벡터 x를 $A\vec{x}^*$에 대입하여 거리를 최소화 시킨 값을 구하면 위와 같이 나온다. 따라서 거리의 최소값은 $\frac{3\sqrt{35}}{7}$가 됨을 알 수 있다. 본 포스팅은 칸아카데미.. [Khan Academy] Least squares approximation (최소제곱법 근사) 이번시간에는 최소제곱법으로 근사하는 방법에 대해 알아본다. $A\vec{x]=\vec{b}$가 주어졌을 때 해가 존재하지 않는다는 것은 다음과 같다 행렬의 열벡터에 곱해지는 가중치가 없다 벡터 b가 행렬의 열공간에 존재하지 않는다 그렇다면 해를 구하기 위해 벡터 b에 최대한 가까운 해를 구할 수 있지 않을까? 열공간 위의 한 벡터 v($A\vec{x}^*$)와 벡터 b의 거리를 최소화 해보자는 아이디어가 최소제곱법 근사이다. 이전에 배운 내용 중 가장 가까운 해를 구하는 것에 이용한 것은 정사영이었다. 따라서 벡터 b를 열공간에 사영시키면 해의 근사치를 얻을 수 있을 것이다. $A\vec{x}^*=Proj_{C(A)}\vec{b}$라고 할 때 양 변에 벡터 b를 빼준다. 여기서 $Proj_{C(A)}\v.. [Khan Academy] Projection is closest vector in subspace (부분공간에서의 정사영은 가장 가까운 벡터이다) 이번 시간에는 부분공간으로 정사영한 벡터와 원래 벡터의 사이에 생긴 벡터가 가장 짧은 거리임을 보인다. 벡터 x를 부분공간 V에 정사영시킨다. 벡터 x에서 정사영한 x의 벡터까지의 벡터를 a라고 하고 이는 가장 짧은 벡터가 된다. 여기에 V의 임의벡터 v가 주어졌다. 임의의 벡터 v에서 벡터 x까지의 벡터는 $\vec{x}-\vec{v}$가 될 것이다. 벡터 v에서 정사영 벡터 x까지의 벡터를 벡터 b라고 하자. 벡터 x에서 벡터 v를 뺀 길이의 제곱은 벡터 a와 벡터 b를 더한 값의 제곱과 같은데, 식을 정리하면 위와 같이 된다. 따라서 $||\vec{x}-\vec{v}||>=||\vec{x}-Proj_V\vec{x}||$ 본 포스팅은 칸아카데미의 선형대수학을 기반으로 작성하였습니다. Alternate.. [Khan Academy] Another example of a projection matrix (변환 행렬의 다른 예제) 이번 시간에는 정사영식의 변환 행렬을 다른 방법으로 구해본다. 부분공간 V가 위와 같이 주어졌을 때 V로의 벡터 x의 정사영은 어떻게 나올까? 앞선 시간에 배운 것 처럼 기저를 통해 행렬을 구하는 방법이 있을 것이다. 하지만 이 방법은 연산이 길기 때문에 직교여공간의 관계를 통해 변환 행렬을 구해본다. V로의 벡터 x의 정사영 식에서 행렬 더미를 B라고 하고, 직교여공간으로의 벡터 x의 정사영 식을 행렬 C와 벡터 x의 곱으로 나타내보자. 여기서 부분공간과 이의 직교여공간의 관계를 다시 생각해본다. 따라서 행렬 B는 3차원의 identity 행렬과 직교여공간의 변환 행렬의 차로 구성된다. 다시 부분공간 V를 고려하면, 이는 원소가 모두 1인 벡터와 V의 원소벡터를 곱한 것이 영벡터를 만족하는 것이다. 이.. [Khan Academy] Subspace projection matrix example (부분공간 정사영 행렬 예제) 이번시간에는 부분공간으로 정사영할 때의 행렬을 구하는 방법에 대해 알아본다. 부분공간 V가 주어졌고, 이를 생성하는 벡터가 기저벡터가 된다. 벡터 x가 4차원의 원소일 때 위와 같이 정사영 식을 구할 수 있다. 정사영 식에서의 새로운 행렬 더미를 구하기 위해 위와 같이 벡터 V의 기저벡터를 행렬 A로 만들어 필요한 행렬을 구하였다. 따라서 부분공간 V로 벡터 x를 정사영 시킬 경우 이의 변환 행렬은 마지막과 같이 나오게 된다. 본 포스팅은 칸아카데미의 선형대수학을 기반으로 작성하였습니다. Alternate coordinate systems (bases) | Linear algebra | Math | Khan Academy We explore creating and moving between various.. [Khan Academy] A projection onto a subspace is a linear transformation (부분공간으로의 정사영은 선형변환이다) 이번 시간에는 부분공간으로의 정사영이 선형변환인지 알아본다. V가 n차원의 부분공간이고, 벡터 a가 부분공간 V의 원소라 하자. 이 때 벡터 a를 V의 기저를 이용한 선형결합으로 나타낼 수 있다. 이는 벡터 a를 행렬 곱으로 나타낼 수 있다는 것과 같다. 여기서 n차원의 벡터 x를 부분공간 V로 사영시킨 것은 부분공간 V의 원소가 되며, 따라서 벡터 x는 V로 사영시킨 벡터 x와 부분공간의 직교여공간의 벡터를 더한 것으로 나타낼 수 있다. 여기서 벡터 A의 열공간이 부분공간을 형성한다. 따라서 좌영공간을 구했을 때 벡터 x에서 부분공간 V로 벡터 x를 뺀 값이 해당 공간의 원소가 된다 이는 행렬 A를 전치시킨 것과 앞서 구한 영공간의 원소를 곱했을 때 영벡터가 나온다는 의미이다 또한 부분공간 V로 사영시.. [Khan Academy] Visualizing a projection onto a plane (평면에 정사영 시각화하기) 이번 시간에는 평면 위로 정사영을 시각화 하는 법을 배운다. 먼저 직선 위에서 살펴보자. 직선 L로의 벡터 x를 벡터 v라고 해보자. 이 때 벡터 w와 벡터 v를 더하여 부분공간으로 표현할 수 있다. 이번에는 면에서의 정사영을 살펴보자. 면이라는 부분공간 V가 주어지고, 이의 직교여공간이 주어졌다. 벡터 x를 부분공간 V로 사영시켰을 때, 벡터 v는 부분공간 V의 원소이고 , 벡터 w가 직교여공간의 원소일 경우 벡터 x를 이 두 벡터의 합으로 나타낼 수 있다. 따라서 부분공간으로 사영시킨 벡터 x는 부분공간 V의 직교여공간의 원소들과 직교한다는 것을 의미한다. 본 포스팅은 칸아카데미의 선형대수학을 기반으로 작성하였습니다. Alternate coordinate systems (bases) | Linear .. 이전 1 2 3 4 5 ··· 11 다음
