2018년 11월 29일 목요일

W3.10 영 공간 활용(Application of the null space)

[커세라] 이과생을 위한 행렬 대수

1주: 행렬(Matrics)
    W1.1 첫째주 강의 안내(Intro to Week One)
    W1.5 연습문제:행렬의 정의(Practice Quiz:Definition of Matrices)
    W1.9 연습문제:전치행렬과 역행렬(Practice Quiz:Transpose and Inverse Matrix)
    W1.13 연습문제:직교행렬(Practice Quiz: Orthogonal Matrix)
    W1.14 첫째주 평가문제(Week One Quiz)

2주: 선형 방정식 시스템(Systems of Linear Equations)
    W2.1 둘째 주 강의안내(Intro. to Week Two)
    W2.3 기약행사다리꼴(RREF: Reduced Row Echelon Form)
    W2.5 연습문제:가우스 소거법(Practice Quiz:Gaussian Elimination)
    W2.9 연습문제:LU 분해(Practice Quiz: LU Decomposition)
    W2.10 둘째주 평가문제(Week Two Quiz)

3주: 벡터 공간(Vector Space)/이 강의를 수강하는 이유
    W3.1 셋째주 강의안내(Intro. to Week Three)
    W3.2 벡터 공간(Vector Spaces)
    W3.3 선형독립(Linear Independence)
    W3.4 선형생성, 기저 그리고 차원(Span, Basis and Dimension)
    W3.5 연습문제:벡터공간(Practice Quiz:Vector Space Definition)
    W3.6 그람-슈미트 알고리즘(Gram-Schmidt Process)
    W3.7 그람-슈미트 알고리즘 예제(Gram-Schmidt Process Example)
    W3.8 연습문제:그람-슈미트 알고리즘(Practice Quiz:Gram-Schmidt Process)
    W3.9 영 공간(Null Space)

W3.10 영 공간 활용(Application of the null space)/동영상/영문자막



- 영공간은 미결 연립 방정식(Underdetermined system, 연립 방정식에서 미지수에 비해 방정식의 갯수가 적을 때)의 일반해(general solution)를 구하는 방법으로 활용된다. Underdetermined system을 행렬로 나타낼 경우, 행의 수가 열의 수보다 작다.



- u 를 Null(A)의 일반 벡터(general vector)라고 하자. 일반 벡터는 기저 벡터들의 집합인 영공간의 기저 벡터를 선형 조합하여 생성한 벡터다.

- v 를 연립 방정식 Ax=b 의 임의 해라고 하자. Underdetermined system 에서 해는 다수 존재 할 수 있다.



- x 를 Ax = b의 일반 해라고 하고 x = u + v 로 놓을 수 있다. 행렬 A 에 대한 영공간(기저 벡터들의 집합)에서 선형 생성된 u는 행렬 A 를 0으로 만드는 벡터라는 점에 유의하자. 이제 일반 해 x는 u로 인해 그 수가 매우 많아진다.



이 성질을 이용해 미결 연립 방정식(Underdetermined system)의 일반해를 구한다.

- 예를 들어보자. 다음과 같은 연립방정식이 있다. 미지수는 셋이지만 방정식은 둘이다. Underdetermined System이다.



행렬식으로 표현하면,



연립방정식을 풀기 위해 Augmented Matrix로 표현하여 상위 삼각행렬(Upper Triangular)을 만들자. Undetermined System 이기 때문에 RREF가 되며 두개의 고정 변수와 한개의 자유변수가 나온다.


영공간(Null Space)와 특정 해(particular solution)으로 나눈다.




그리고,



이제 일반해(general solution)를 구하자.



연습: 다음과 같은 선형 시스템의 일반해를 구하라.
-------------------------------------------------------


선형 시스템의 행렬 표시,

Augmented Matrix에서 RREF,


영공간의 해,

특정 해,


마침내 일반해,



2018년 11월 28일 수요일

W3.9 영 공간(Null Space)

[커세라] 이과생을 위한 행렬 대수

1주: 행렬(Matrics)
    W1.1 첫째주 강의 안내(Intro to Week One)
    W1.5 연습문제:행렬의 정의(Practice Quiz:Definition of Matrices)
    W1.9 연습문제:전치행렬과 역행렬(Practice Quiz:Transpose and Inverse Matrix)
    W1.13 연습문제:직교행렬(Practice Quiz: Orthogonal Matrix)
    W1.14 첫째주 평가문제(Week One Quiz)

2주: 선형 방정식 시스템(Systems of Linear Equations)
    W2.1 둘째 주 강의안내(Intro. to Week Two)
    W2.3 기약행사다리꼴(RREF: Reduced Row Echelon Form)
    W2.5 연습문제:가우스 소거법(Practice Quiz:Gaussian Elimination)
    W2.9 연습문제:LU 분해(Practice Quiz: LU Decomposition)
    W2.10 둘째주 평가문제(Week Two Quiz)

3주: 벡터 공간(Vector Space)/이 강의를 수강하는 이유
    W3.1 셋째주 강의안내(Intro. to Week Three)
    W3.2 벡터 공간(Vector Spaces)
    W3.3 선형독립(Linear Independence)
    W3.4 선형생성, 기저 그리고 차원(Span, Basis and Dimension)
    W3.5 연습문제:벡터공간(Practice Quiz:Vector Space Definition)
    W3.6 그람-슈미트 알고리즘(Gram-Schmidt Process)
    W3.7 그람-슈미트 알고리즘 예제(Gram-Schmidt Process Example)
    W3.8 연습문제:그람-슈미트 알고리즘(Practice Quiz:Gram-Schmidt Process)

W3.9 영 공간(Null Space)/동영상/영문자막



- 영 공간(Null Space): 행렬 A에 대하여 다음의 행렬 방정식을 만족하는 모든 열 벡터에 의해 생성된 벡터 공간으로 Null(A)로 표기한다.


'행렬 A 곱하기 벡터 x 가 0'이 되는 모든 열 벡터 x 의 집합을 '영 공간(Null Space)'이라 한다.

- 만일 x 와 y 가 행렬 A의 영 공간에 포함된 벡터 들인 경우,  '영 공간'은 벡터 선형 확장(실수 값을 곱한 벡터들 끼리의 합)에 닫혀있다.

- 행렬 A가 다음과 같을 때, 이 행렬의 '영 공간' Null(A) 구하기 예:


먼저 rref(A)를 구한다.



rref(A)는 두개의 피벗 열을 가지고 있다. 두 피벗 열에 대하여,


피벗 열을 기초 변수(basic variable), 그외 열을 자유 변수(free variable)라 한다. Ax = 0을 만족하는 벡터 x 는,

결국 행렬 A의 '영 공간', Null(A) 는

행렬 A의 '영 공간'은 3개의 기저 벡터를 갖는 3차원이다. 각 기저(basis)는 5 x 1 벡터다. 일반적으로 영공간 Null(A)의 차원은 rref(A)의 비-피벗 열(자유변수)의 갯수와 같다.

연습: 다음과 같은 3 x 4 행렬에 대한 영공간의 기저 벡터 집합을 구하라.
------------------------------------------------------------------------------


rref(A),



Ax=0 을 만족하는 벡터 x,

 행렬 A의 '영 공간' Null(A)는,


W3.8 연습문제:그람-슈미트 알고리즘(Practice Quiz:Gram-Schmidt Process)

[커세라] 이과생을 위한 행렬 대수

1주: 행렬(Matrics)
    W1.1 첫째주 강의 안내(Intro to Week One)
    W1.5 연습문제:행렬의 정의(Practice Quiz:Definition of Matrices)
    W1.9 연습문제:전치행렬과 역행렬(Practice Quiz:Transpose and Inverse Matrix)
    W1.13 연습문제:직교행렬(Practice Quiz: Orthogonal Matrix)
    W1.14 첫째주 평가문제(Week One Quiz)

2주: 선형 방정식 시스템(Systems of Linear Equations)
    W2.1 둘째 주 강의안내(Intro. to Week Two)
    W2.3 기약행사다리꼴(RREF: Reduced Row Echelon Form)
    W2.5 연습문제:가우스 소거법(Practice Quiz:Gaussian Elimination)
    W2.9 연습문제:LU 분해(Practice Quiz: LU Decomposition)
    W2.10 둘째주 평가문제(Week Two Quiz)

3주: 벡터 공간(Vector Space)/이 강의를 수강하는 이유
    W3.1 셋째주 강의안내(Intro. to Week Three)
    W3.2 벡터 공간(Vector Spaces)
    W3.3 선형독립(Linear Independence)
    W3.4 선형생성, 기저 그리고 차원(Span, Basis and Dimension)
    W3.5 연습문제:벡터공간(Practice Quiz:Vector Space Definition)
    W3.6 그람-슈미트 알고리즘(Gram-Schmidt Process)
    W3.7 그람-슈미트 알고리즘 예제(Gram-Schmidt Process Example)

W3.8 연습문제:그람-슈미트 알고리즘(Practice Quiz:Gram-Schmidt Process)









W3.7 그람-슈미트 알고리즘 예제(Gram-Schmidt Process Example)

[커세라] 이과생을 위한 행렬 대수

1주: 행렬(Matrics)
    W1.1 첫째주 강의 안내(Intro to Week One)
    W1.5 연습문제:행렬의 정의(Practice Quiz:Definition of Matrices)
    W1.9 연습문제:전치행렬과 역행렬(Practice Quiz:Transpose and Inverse Matrix)
    W1.13 연습문제:직교행렬(Practice Quiz: Orthogonal Matrix)
    W1.14 첫째주 평가문제(Week One Quiz)

2주: 선형 방정식 시스템(Systems of Linear Equations)
    W2.1 둘째 주 강의안내(Intro. to Week Two)
    W2.3 기약행사다리꼴(RREF: Reduced Row Echelon Form)
    W2.5 연습문제:가우스 소거법(Practice Quiz:Gaussian Elimination)
    W2.9 연습문제:LU 분해(Practice Quiz: LU Decomposition)
    W2.10 둘째주 평가문제(Week Two Quiz)

3주: 벡터 공간(Vector Space)/이 강의를 수강하는 이유
    W3.1 셋째주 강의안내(Intro. to Week Three)
    W3.2 벡터 공간(Vector Spaces)
    W3.3 선형독립(Linear Independence)
    W3.4 선형생성, 기저 그리고 차원(Span, Basis and Dimension)
    W3.5 연습문제:벡터공간(Practice Quiz:Vector Space Definition)
    W3.6 그람-슈미트 알고리즘(Gram-Schmidt Process)

W3.7 그람-슈미트 알고리즘 예제(Gram-Schmidt Process Example)/동영상/영문자막



- 기저 벡터 공간 -> 단위 직교 벡터 -> 복수 차원

- 예제의 벡터 공간은 두번째와 세번째 행이 같은 집합의 하위 벡터로 서로 선형 독립인 기저 벡터임(basis).

 (i) 두 벡터는 서로 직교(Orthogonal)하지않다.

(ii) 두 벡터는 각각 정규화(normalize) 되어있지도 않다.


그람-슈미트 알고리즘으로 단위 직교 벡터를 만들어보면 직교성과 정규성을 만족하며,

기저벡터로부터 생성(span)된다.



연습 1: 세번재 행이 두번째 행의 값에 음인 3 x 1 벡터 공간에 대하여,



연습2: 4 x 1 벡터 공간




W3.6 그람-슈미트 알고리즘(GramSchmidt Process)

[커세라] 이과생을 위한 행렬 대수

1주: 행렬(Matrics)
    W1.1 첫째주 강의 안내(Intro to Week One)
    W1.5 연습문제:행렬의 정의(Practice Quiz:Definition of Matrices)
    W1.9 연습문제:전치행렬과 역행렬(Practice Quiz:Transpose and Inverse Matrix)
    W1.13 연습문제:직교행렬(Practice Quiz: Orthogonal Matrix)
    W1.14 첫째주 평가문제(Week One Quiz)

2주: 선형 방정식 시스템(Systems of Linear Equations)
    W2.1 둘째 주 강의안내(Intro. to Week Two)
    W2.3 기약행사다리꼴(RREF: Reduced Row Echelon Form)
    W2.5 연습문제:가우스 소거법(Practice Quiz:Gaussian Elimination)
    W2.9 연습문제:LU 분해(Practice Quiz: LU Decomposition)
    W2.10 둘째주 평가문제(Week Two Quiz)

3주: 벡터 공간(Vector Space)/이 강의를 수강하는 이유
    W3.1 셋째주 강의안내(Intro. to Week Three)
    W3.2 벡터 공간(Vector Spaces)
    W3.3 선형독립(Linear Independence)
    W3.4 선형생성, 기저 그리고 차원(Span, Basis and Dimension)
    W3.5 연습문제:벡터공간(Practice Quiz:Vector Space Definition)

W3.6 그람-슈미트 알고리즘(Gram-Schmidt Process)/동영상/영문자막



- 그람-슈미트 알고리즘은 기저 벡터(basis vector) 집합에서 이에 대응하는 직교 단위 벡터(orthonormal, normalized orthogonal)를 구하는 과정이다.

By ortho-normal that means each vector in the set is orthogonal to every each other vector and they all have unit length, unit norm.



(1) 직교 기저 벡터를 구한다(Find orthogonal basis)
- 기저(basis) 벡터는 선형 독립
- 직교(orthogonal) 벡터는 역행렬과 전치 행렬이 같은 벡터.


(2) 정규화 한다(Normalize)



- 수학,물리학에서 '벡터' 연산


연습: 기저 벡터가 다음과 같은 때, 네번째 직교 벡터를 구하는 공식을 쓰시오.