[Linear Algebra] Lecture 7

학습 목표

• computing the nullspace(\(Ax=0\))
• pivot variables, free variables
• Special solutions \(rref(A) = R\)

\(Ax = 0\)

\(A = \begin{bmatrix} 1 & 2 & 2 & 2 \\ 2 & 4 & 6 & 8 \\ 3 & 6 & 8 & 10 \end{bmatrix}\)

1st stage of elimination

• 1행에 2를 multiply 해서 2행에서 빼기
• 1행에 3을 multiply 해서 3행에서 빼기

\(\to \begin{bmatrix} 1 & 2 & 2 & 2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 2 & 4 \end{bmatrix}\)

2nd stage od elimination

• 2행을 3행에서 빼기

\(\to \begin{bmatrix} 1 & 2 & 2 & 2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 0 & 0 \end{bmatrix} = u\), new echelon form

Echelon form

사다리꼴 행렬이라고도 부르는 Echelon form, 이는 특정한 조건을 따른다.

• 0이 아닌 행(nonzero row)이 항상 모두 0인 행의 위에 있어야 한다.
• leading entry(=pivot?)의 위치가 위에 행의 leading entry보다 오른쪽에 있어야 한다.

\(A(u)\)를 예로 들면,

• 0이 아닌 행이 모두 0인 행의 위에 있고,
• 1행의 1열이 1st pivot이며, leading entry, 2행의 3열이 2nd pivot이며, leading entry.
• 따라서 Echelon form의 조건을 만족한다.

rank of \(A\) = the number of pivots = 2

• 1st pivot = 1행 1열의 1

• 2nd pivot = 2행 3열의 2

• 1,3 columns = pivot columns

• 2,4 columns = free columns

결과로 나온 2equations \(Ax = 0 \sim ux = 0\)

• \(x_1 + 2x_2+2x_3+2x_4 = 0\)
• \(2x_3+4x_4 = 0\)

위의 equations로 nullspace를 만드는 해를 구해보면, \(x_2=1, x_4=0\)이라고 가정한 후

\(x = c\begin{bmatrix} -2 \\ 1 \\ 0 \\ 0\end{bmatrix}\)

\(\to\) \(-2 col_1 + col_2 = 0\)

위의 equations로 nullspace를 만드는 해를 구해보면, \(x_2=0, x_4=1\)이라고 가정한 후

\(x = d\begin{bmatrix} 2 \\ 0 \\ -2 \\ 1\end{bmatrix}\)

\(\to 2col_1 -2col_3 + col_4 = 0\)

- special solution: free variavle에 1 또는 0을 준 결과

? How many special solutions are there?

• If the rank¹ is \(2\), the number of free variable is 2
  • \(n - r=4-2\) \(\to\) free variable
    • \(n\) = The number of column
    • \(r\) = rank
    • We can choose freely.
    • We can give zero or one values.
    • We will got the special solutions.

¹ the number of pivot variables

When we set a row of zeros, that is telliing us that original row that was a combination of other rows and elimination knocked it out.

• A만 해도 u로 변할 수 있다는 것은 행렬을 가우스 소거나 다른 연산을 사용하여 원래의 행이 다른 행들의 선형 조합으로 나타낼 수 있음을 의미함.

즉, 이 \(u\)처럼 어떤 행에 0 자체로 elimination 된다면, \(u = \begin{bmatrix} 1 & 2 & 2 & 2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 0 & 0 \end{bmatrix}\)

\(R\) = reduced row echelon form = zero above + below pivots

• 1행 - 2행을 하면

\(\begin{bmatrix} 1 & 2 & 0 & -2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 0 & 0 \end{bmatrix}\)

• 2행을 2로 나누면

\(\begin{bmatrix} 1 & 2 & 0 & -2 \\ 0 & 0 & 1 & 2 \\ 0 & 0 & 0 & 0 \end{bmatrix} = R\) = rref(\(A\))

2개의 pivot이 나온다.

Notice \(\begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix} = I\) in the pivot rows / cols.

2 equations of rref(\(A\)), \(Rx = 0\)을 만드는 x 행렬을 찾자

• \(x_1 + 2x_2 - x_4 = 0\)
• \(x_3 + 2x_4 =0\)

\(\therefore\) \(Ax = 0\), \(ux = 0\), \(Rx=0\) are all the same.

• 단지 multiply 했을 뿐이니까.

\(\begin{bmatrix} 1 & 0 & 2 & -2 \\ 0 & 1 & 0 & 2 \\ 0 & 0 & 0 & 0 \end{bmatrix}\)

• \(\begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix}\)은 Pivot 열(원래 1,3열),
  • Identity part of matrix \(I\)
• \(\begin{bmatrix} 2 & -2 \\ 0 & 2 \end{bmatrix}\)은 Free 열(원래 2,4열),
  • Free part of matrix \(F\)

rref form(typical reduced echelon)

\(R = \begin{bmatrix} I & F \\ 0 & 0\end{bmatrix}\)

• \(\begin{bmatrix} I & F \end{bmatrix}\) = r pivot rows
• \(\begin{bmatrix} I \\ 0 \end{bmatrix}\) = r pivot cols
• \(\begin{bmatrix} F \\ 0 \end{bmatrix}\) = \(n-r\) free cols

Let’s make nullspace matrix. = Let’s make columns to special solutions.

\(RN = 0\).

• \(N = \begin{bmatrix} -F \\ I \end{bmatrix}\)
  • \(\begin{bmatrix} I & F \\ 0 & 0\end{bmatrix}\) \(\begin{bmatrix} -F \\ I \end{bmatrix}\) = \(\begin{bmatrix} 0 \\ 0 \end{bmatrix}\)

\(Rx = 0\)

• \(\begin{bmatrix} I & F \end{bmatrix}\) \(\begin{bmatrix} x_{pivot} \\ x_{free} \end{bmatrix} = 0\)
  • the pivot variables + \(F\) variables = 0
  • \(I \times x_{pivot} = -F \times x_{free}\)

- \(A\)를 trans해서 다시 pivot등 구해보자.

\(A = \begin{bmatrix} 1 & 2 & 3 \\ 2 & 4 & 6 \\ 2 & 6 & 8 \\ 2 & 8 & 10\end{bmatrix}\)

• 여기서 2열은 independent해서 pivot 이 될 것을 확신할 수 있다.
• 여기서 3열은 1열+2열이라 dependent 해서 free 가 될 것을 확신할 수 있다.

1행에 2배해서 2행에서 빼고, 3행에서 빼고, 4행에서 빼자.

\(\to \begin{bmatrix} 1 & 2 & 3 \\ 0 & 0 & 0 \\ 0 & 2 & 2 \\ 0 & 4 & 4 \end{bmatrix}\)

2행에 2배해서 4행에서 빼고, row exchange 하자.

\(\to \begin{bmatrix} 1 & 2 & 3 \\ 0 & 2 & 2 \\0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix} = u\)

• rank \(r = 2\)

• 1행 1열의 1은 1st pivot

• 2행 2열의 1은 2nd pivot

• free column은 3열이 된다. 1개 free column 존재.

• \(n-r=3-2 = 1\)

\(X = c\begin{bmatrix} -1 \\\ -1 \\ 1 \end{bmatrix}\)

• \(-col_1 -col_2 + col_3 = 0\)

2 equations

• \(x_1 + 2x_2 + 3x_3 = 0\)
• \(2x_2 + 2x_3 = 0\)

R을 만든다면

\(\begin{bmatrix} 1 & 2 & 3 \\ 0 & 2 & 2 \\0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}\)

여기서 2행에 2배해서 1행에서 빼고, 2행을 2로 나누자

\(\to \begin{bmatrix} 1 & 0 & 1 \\ 0 & 1 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}\)

\(x = c\begin{bmatrix} -F \\ I \end{bmatrix}\)

• nullspace를 만들어주는 \(x \sim N\)
  • nullspace matrix whose columns are the special solutions

---

• nullspace를 만드는 \(x\)는 어떤 값을 곱해도 벡터가 표현되는 그 공간 자체임.
• rank는 무조건 행의 개수가 아님. pivot의 개수로 이해하기
  • pivot의 개수를 찾는 쉬운방법 = independent한 행이 몇 개인가?, free(dependent)한 행은 몇 개인가?
    
  • 행의 수에서 pivot 수(rank 수) 빼면 free 수임