[선형대수] Rank에 따른 Ax=b의 해의 개수 구하기

이론적인 내용(가우스 소거법, RREF니 다 무시)은 제외하고 개념적인 내용만 이해해보려고 한다.

수학 문제를 풀기 위한 이해가 아니라, 논리적으로 개념을 이해하기 위한 글.

 

rank에 대한 자세한 설명은 이전 글을 참고.

https://kongjino.tistory.com/33

[선형대수] Rank란? (수학적, 기하학적인 의미) - 왕초보 기준으로 이해하기

 

 

---

 

# 연립일차방정식의 해의 개수 구하기

n차원 공간에서 이해하기 전에, 우리가 중학생 때 배웠던 2차원 상의 연립방정식의 해의 개수를 복기해보자.

 

# 해의 개수가 2개일 때

먼저
2x + y = 1
3x + y = 3
를 연립해보자.

x=2, y=3이라는 하나의 해가 나온다.

왜냐, 방정식의 개수 == 미지수의 개수(x와 y 두개) 이기 때문에 하나로 결정되었다.

 

# 해가 없을 때

2x + y = 1
3x + y = 3
에서

7x + y = 1
까지 추가된다면?

해는 구할 수 없다.
세 직선이 동시에 만나는 점은 없다는 것이다.

 

하지만,
7x + 3y = 5
가 추가된다면?

해는 여전히 (2, 3)이 된다.

 

즉, 방정식의 개수 > 미지수의 개수 이면 해가 없을 수도 있고, 있다면 1개 존재한다.

 

# 해의 개수가 무한개일 때

2x + y =1
4x + 2y = 2
를 연립해보면?

어차피 두 식은 같은 식이나 마찬가지다. (동일한 직선)

방정식의 개수 < 미지수의 개수 이기 때문에 해가 무한개이다. 

 

이걸 왜 설명했냐면, 결국 행렬과 벡터의 연산도 방정식처럼 표현된다.

A = [a b c / d f g], x = [x1 x2 x3], b = [b1 b2] 를 연산해보면

ax1 + bx2 + cx3 = b1
dx1 + fx2 + gx3 = b2
의 연립방정식이 된다. 

미리 다음 내용을 예습해보자면,
위의 내용과 연결지어봤을 때 위의 연립방정식은 어떻게 될까?

미지수보다 방정식이 적으므로 해가 무한대가 될 것이다~

 

---

 

# Rank에 따른 행렬 분류

A가 mxn 행렬일 때(row가 m개, column이 n개라는 뜻)

1. m>n, rank == n 이면 Full Column Rank
2. m<n, rank == m 이면 Full Row Rank
3. m == n == rank 이면 Full Rank (이면서 동시에 Square matrix, 정사각)
4. m != n != rank 이면 Rank Deficient

(이 글에서는 설명을 위해 우선 1, 2 케이스는 정사각 행렬이 아님을 가정한다.)

 

Full Column Rank면 m차원 공간에서 column space가 n차원을 span하는 것이고,
Full Row Rank면 m차원 공간에서 column space가 m차원을 span하는 것이다.

 

 

이 내용을 잘 기억하고 다음을 봐보자.

 

---

 

# Ax = b 의 해를 구하기

대문자는 행렬, 소문자는 벡터를 의미한다.

A가 mxn 행렬일 때(row가 m개, column이 n개)로 설명한다.
당연히 x는 n차원, b는 m차원이다.

 

1. A가 Full Column Rank일 때

m>n 이고, col의 개수 n == rank일 때

1) 수학적인 의미
- 위에 잠깐 소개했듯이, m은 방정식의 개수가 되고 n은 미지수의 개수가 된다.
- 방정식의 개수 > 미지수의 개수 ====> 해가 유일하거나 없을 수도 있다.

2) 기하학적인 의미
- rank가 n이므로, m차원 공간에서 A의 column space는 n차원을 span하는 것이다.
- 근데 b는 m차원이다.
- 만약 b가 우연히 column space 안에 있다면 Ax가 표현 가능한 벡터이다.
- 하지만 b가 그 밖에 표현되는 벡터라면 해가 없는 것이다.

 

2. A가 Full Row Rank일 때

m<n이고, row의 개수 m == rank일 때

1) 수학적인 의미
- 위와 마찬가지로, 방정식의 개수 < 미지수의 개수가 되므로 해가 무한개로 있다.

2) 기하학적인 의미
- column space가 m차원 전부를 나타낼 수 있다.
- 즉, b가 이 column space 밖에 있을 수는 없다.
- 완전 해 A(xn + xp) = b이다.

# 완전 해?

# Complete Solution

(솔직히 나도 이해 잘 못해서 느낌만 이해하면 될듯)

- Xn은 Ax=0의 해로, null space의 solution을 의미한다.
- Xp는 Ax=b의 해로, particulart solution을 의미한다.
(소문자로 쓰는 게 맞는데 잘 안 보여서 얘만 대문자로 표기. n, p를 아래첨자로 쓰면 됩니다.)

- xp는 특정한 1개의 해가 되겠지만, xn은 무한개로 존재할 수 있다.

- xn이 xp에 자유도를 제공하게 된다. xp를 자유롭게 움직여준다.

- 즉 위의 Full row rank에서 xn이 무한개가 되므로 xp가 있던 말던 아무튼 무한개의 해가 있다는 뜻이다.

 

3. A가 Full Rank일 때

- m == n == rank

1) 수학적인 의미
- 방정식의 개수 == 미지수의 개수이므로 해가 1개 있다.

2) 기하학적인 의미
- A의 column vector와 row vector가 모두 독립적이므로, 하나의 미지수만 정해지면 다른 미지수로 하나로 고정된다.

이때 A는 invertible(역행렬 A'이 존재)이므로
x = A'b
가 된다.

 

4. A가 Rank Deficient일 때

- b가 A의 Column space 안에 들어있다면 무한개, 아니면 해가 없다.

 

 

---

 

 

아 어렵다....

 

---

참고

https://youtu.be/nNI2TlD598c?si=T9asA27XudjgAAed

https://twlab.tistory.com/22

[Linear Algebra] Lecture 8 선형방정식 Ax=b의 완전해(complete solution)와 Rank