본문 바로가기

DA_DS_AI_ML

(84)
[Khan Academy] Showing that A-transpose x A is invertible (전치행렬 X 행렬 = 역행렬이 존재한다) 이번시간에는 전치행렬과 행렬을 곱하면 역행렬이 존재함을 보인다. n x k의 행렬 A가 주어진다. 행렬 A의 각 열벡터는 선형독립이다. 여기서 전치행렬과 행렬을 곱하면 역행렬이 존재한다는 것을 보인다. 행렬 A가 선형독립이기 때문에 K x k 단위행렬이 도출될 수 있다. k x 1의 벡터가 $A^TA$의 원소라고 하자. 일련의 과정을 통해 벡터 v가 영공간의 원소임을 보였다 여기서 벡터 v가 $A^TA$의 영공간의 원소라는 것은 행렬 A의 영공간의 원소이기도 하다. 따라서 $A^TA$의 연산으로 새로운 행렬이 나오게 되고, 이 값에 대한 해를 구하면 $A^TA$의 열이 선형독립이기 때문에 해가 하나만 나오게 된다. 그렇기 때문에 $A^TA$의 기약행사다리꼴은 단위행렬이 나오게 되므로 $A^TA$은 역행렬..
[Khan Academy] rank(a) = rank(transpose of a) (행렬과 전치행렬의 랭크는 동일하다) $$Rank(A)=Rank(T^T)$$ 이번시간에는 행렬과 전치행렬의 랭크가 동일함을 보인다. $Rank(A^T)는 행렬 A의 전치행렬의 열공간을 이루는 $A^T$의 기저벡터 수이다. 행렬 A와 전치행렬이 주어졌다. $A^T$의 열공간은 행렬 A의 행공간과 동일하다 행렬 A를 기약행사다리꼴로 나타냈다. 여기서 pivot 행은 행공간의 기저가 된다. 따라서 $A^T$의 rank는 pivot entry의 수가 된다. 행렬 A의 열공간에서 rank는 pivot entry 수와 동일한 것을 확인할 수 있다. 본 포스팅은 칸아카데미의 선형대수학을 기반으로 작성하였습니다. Vectors and spaces | Linear algebra | Math | Khan Academy Let's get our feet wet..
[Khan Academy] Visualizations of left nullspace and rowspace (행공간과 좌영공간 시각화) 이번시간에는 좌영공간과 행공간을 시각화한다. 행렬 A가 주어지고 행렬 A와 전치행렬 A에 대한 영공간과 열공간이 주어졌다. 행렬 A의 영공간과 행렬 A의 전치행렬의 영공간을 2차원공간의 부분공간이라 하고 좌표계에 그리면 두 span이 서로 othogonal임을 알 수 있다. 이를 수식으로 보이면 위와 같다. othogonal일 경우 두 벡터의 내적값이 0이기 때문에 이를 이용하여 두 벡터가 직교함을 보였다. 또한 행렬 A의 열공간의 여집합은 전치행렬 A의 영공간이라는 뜻이 된다. 이번에는 행렬 A의 영공간과 전치행렬 A의 열공간이 수직임을 보인다. 영공간의 벡터가 2개이기 때문에 열공간의 벡터와 두 벡터를 각각 내적하여 0이 나옴을 확인하였다. 이를 좀 더 일반화하여 수식으로 보이면 위와 같이 나타낼 수..
[Khan Academy] Rowspace and left nullspace (행공간과 좌영공간) 이번시간에는 행렬의 행공간과 좌영공간에 대해 알아본다 행렬 A가 주어지고 행렬 A의 영공간을 구해보자 행렬 A의 영공간을 구하였다 행렬 A의 열공간을 구하면 위와 같이 되고, 기저를 기준으로 rank =1 이 된다. 이번에는 행렬 A를 전치했을 때 영공간과 열공간을 구해본다 여기서 한 가지 주목할 점은 전치한 행렬 A의 열공간이 행렬 A의 행공간이라는 것이다. 또한 영공간을 구하는 식에 전치를 취하게 될 경우 위와 같이 정리가 되는데, 전치한 행렬 A의 영공간은 영공간이 행렬의 왼쪽에서 곱해지기 때문에 좌영공간이라고 부른다. 마지막으로 행렬 A와 전치한 행렬 A의 rank는 동일하다. 본 포스팅은 칸아카데미의 선형대수학을 기반으로 작성하였습니다. Vectors and spaces | Linear alge..
[Khan Academy] Transpose of a vector (전치 ) 이번시간에는 전치 벡터를 알아본다 n x 1의 열벡터 v가 주어졌을 때 이를 전치시키면 1 x n의 행벡터가 된다. 만약 행렬 A가 주어졌다면, 이를 열벡터의 전치벡터로 행을 나타낼 수 있다. n차원의 벡터 w가 주어졌을 때 벡터 v와 내적을 하였다. 여기서 벡터 v를 전치한 것과 벡터 w를 곱해도 같은 결과가 나온 것을 알 수 있다. 따라서 다음과 같이 정리된다 $$\vec{v}\cdot\vec{w}=\vec{v^T}\times\vec{w}$$ 이번에는 행렬과 벡터 곱에 m 차원의 벡터를 내적 하는 것과 전치의 관계를 알아본다 행렬 A와 벡터 x를 곱한 값은 m x 1의 형태로 나온다. (일종의 벡터값) 이 때 행렬 A와 벡터 x의 곱에 전치를 취한 다음 식을 정리한다 본 포스팅은 칸아카데미의 선형대수..
[Khan Academy] Transposes of sums and inverses (행렬 덧셈과 역함수의 전치) 이번 시간에는 행렬 덧셈과 전치, 역행렬과 전치 관계에 대해 알아본다. 행렬 C는 행렬 A와 B의 합이며 $c_{ij}$의 값은 $a_{ij}+b_{ij}$가 된다. 행렬 A에서 전치한 행렬의 원소 중 하나인 $a'_{ij}$는 $a_{ji}$와 같다. 이는 행렬 B에서도 동일하게 적용된다. 이제 행렬 C를 보자. 행렬 C에서 전치한 행렬의 원소 중 하나인 $c'_{ij}$는 $c_{ji}$와 같으며, 이는 행렬 A와 B의 전치행렬의 원소와 곧ㅇ일한 것을 알 수 있다. 따라서 전치 행렬의 합은 위와 같이 나타낼 수 있다. 이번에는 역행렬에서의 전치행렬을 알아보자. 역행렬 A가 주어졌고, 역행렬과 행렬이 곱은 단위 행렬임이다. 여기서 역행렬과 행렬의 곱에 전치를 할 경우 단위행렬의 전치행렬로 나오는데, 단..
[Khan Academy] Transpose of a matrix product (행렬곱 전치행렬) 이번 시간에는 행렬곱의 전치행렬에 대해 알아본다. 위와 같이 행렬 A, B와 각각의 전치행렬이 주어졌다. 여기서 행렬 C는 행렬 A와 B를 곱한 것이고, 행렬 D는 행렬 A와 B의 전치행렬의 곱으로 만들어진 행렬이라 하자. 이 때 행렬 C의 원소$c_{ij}$와 행렬 D의 원소 $d_{ji}$를 어떻게 구할까? $c_{ij}$ : 행렬 A의 i행과 행렬 B의 j열을 내적한 값 $d_{ji}$ : 전치 행렬 B의 j행과 전치행렬 A의 i열을 내적한 값 두 원소의 내적 식을 보면 동일한 값이 나오는 것을 알 수 있따. 따라서 두 원소는 같은 값을 가지며, 전치행렬이기 때문에 성립하는 관계이다. 여기서 행렬곱의 전치행렬을 나타내기 위해서는 곱하는 순서를 바꿔줘야 한다. 본 포스팅은 칸아카데미의 선형대수학을 기..
[Khan Academy] Determinant of transpose (전지행렬의 행렬식) 이번시간에는 전치행렬의 행렬식에대해 알아본다. 2*2행렬의 경우 전치 전후의 행렬식이 모두 같다. 그렇다면 크기가 이보다 더 큰 행렬에도 똑같이 적용할 수 있을까? 이를 귀납적 증명으로 확인해보자 가정은 모든 n x n 행렬에서 전치 전후의 행렬식이 같다는 것이다. 만약 가정이 성립한다면 n+1 x n+1 행렬도 성립하는지 확인하여 모든 크기의 행렬에 대해 성립함을 증명한다. m x m (=n+1 x n+1)행렬 A와 A의 전치행렬이 주어졌다. 행렬 A의 행렬식을 구하기 위해 부분행렬을 구하게 되는데, 이는 행렬 A보다 행과 열이 하나씩 작은 n x n행렬임을 알 수 있다. 행렬 A의 전치행렬에서도 행렬식을 구하기 위해 n x n 행렬을 사용하는 것을 알 수 있다. 또한 부분행렬의 전치 전후 행렬식이 같..