1. 벡터 이론

1)주요 개념와 용어

벡터(vector)

-크기와 방향을 갖는 어떠한 물리량

-패턴인식에서 인식 대상이 되는 객체가 특징으로 표현되고, 특징은 차원을 가진 벡터(열 벡터)로 표현 :특징벡터(feature vector) [[1 x N : 행 벡터, M x1 : 열 벡터, 1 x 1 : 스칼라]]

-행렬 A의 각 성분(entry)은 로 표현

백터의 전치(transpose)

-행과 열을 바꾼 행렬 (Nx1행렬을 1xN으로, 혹은 1xN행렬을 Nx1행렬로)

벡터의 크기(norm)

-원점에서 벡터 공간상의 한 점까지의 거리

단위 벡터(unit vector)

-벡터의 크기가 1인 벡터

-만약 벡터 v가 영(0)이 아닌 벡터라면 v방향의 단위 벡터 u는 다음과 같이 구함 :벡터의 정규화(normalization)

스칼라 곱

-임의의 벡터에 임의의 실수(스칼라) 를 곱하는 것

내적(dot product or inner product)

-차원이 동일한 두 개의 벡터 A, B에 대하여 성분별로 곱하여 합하는 것

-내적의 결과는 실수 스칼라가 됨

-두 벡터 사이의 각 가 주어질 경우의 내적 계산

외적(cross product)

-소행렬식을 이용한 determinent 구하는 방법

수직사영(vertical projection)

선형 결합(linear combination, 1차 결합)

-벡터 집합 를 스칼라 계수 집합 과의 곱의 합으로 표현할수 있을 때, 벡터 y를 벡터 x의 선형 결합이라고 함

선형 종속(linearly dependent), 선형 독립(linearly independent)

-벡터의 집합 중 적어도 하나를 다른 벡터들의 선형 결합으로 표현할 수 있다면, 이 벡터 집합은 "선형 종속" 이라고 함

-위 식을 만족하는 유일한 해가 라면 벡터 집합은 "선형 독립" 이라고 함

기저 집합(baseis set)

-행렬 Nx1로 표현되는 모든 벡터를 표현할 수 있는 벡터의 집합

유클리디안 거리

2.행렬 대수

-M(i)개의 행과 N(j)개의 열을 가진 실수 혹은 복소수로 이루어진 사각형 블록

-

: i번째 행과 j번째 열의 성분/원소

1)행렬의 종류

전치(transpose) 행렬

-원래 행렬(A)의 행과 열을 바꾸어 놓은 행렬

-

전방(square)행렬

-행의 수와 열의 수가 동일한 행렬

-역행렬, 행렬식, 고유식 계산은 모두 정방행렬인 경우만을 대상으로 함

대각(diagonal) 행렬

-행렬의 대각 성분을 제외하고는 원소가 모두 영인 행렬

-스칼라 행렬 : 대각 성분이 모두 같고 비대각 성분이 모두 0인 정방행렬

-상삼각 행렬 : 대각 성분 아래 성분이 모두 0인 정방행렬

-하삼각 행렬 : 대각 성분 위 성분이 모두 0인 정방행렬

항등(identity)행렬(단위행렬)

-대각 성분이 모두 1이고 그 밖의 성분이 모두 0인 정방행렬

 -항등행렬은 행렬 대수에서 1과 같은 역할을 하기 때문에 행렬의 곱셈 결과에 영향을 주지 않으면서 임의로 삽입 또는 삭제할 수 있음

대칭(symmetric)행렬

-대각선을 축으로 모든 성분이 대칭되는 행렬

-

영 행렬

-행렬 구성 원소가 모두 0인 행렬

-행렬 대수에서 0과 같은 역할

직교(orthogonal) 행렬

-주어진 행렬 A가 정방행렬일 때 를 만족하는 행렬

-요인 분석, 주성분 분석, 판별 분석 등에서 널리 사용

2)행렬의 곱셈

-행렬 A의 열의 수와 행렬 B의 행의 수가 같을 경우에만 곱셈이 가능

곱셈의 결과 (행렬 A의 행의 수) x (행렬 B의 열의 수)의 크기의 행렬

-

3)행렬의 트레이스 tr(A)

-정방행렬에서 대각 성분의 합

-행렬의 고유값 문제에서 고유근을 구할 때 매우 중요한 역할을 함

4)역행렬

-

-

-행렬 A가 정방행렬이어야 함

-행렬식의 값이 0이 아니어야 함

5)행렬식 (혹은 det(A)

-행렬을 어떠한 하나의 실수 값으로 표현한 것

-행렬식의 설질

-행렬식은 오직 정방행렬에서만 정의함

-구성 성분이 하나인 행렬의 행렬식은 그 성분 자체

-행렬식의 값은 하나의 상수, 즉 이므이의 실수

-n차의 행렬식 은 n개의 행과 열의 위치가 서로 다른 성분들의 곱의 합으로 표현

 -2x2 행렬에 대한 행렬식

-3x3 행렬에 대한 행렬식

6)고유값과 고유벡터

-통계학의 다변량 분석에서 많이 사용되는 주요 개념

-행렬 A가 nxn의 정방행렬이고, 인 벡터 가 존재할 때, 다음 관계를 만족하는 스칼라 를 행렬 A의 고유치(eigenvalue)라고 하고, 벡터 x 는에 대응하는 A의 고유 벡터(eigenvector)라고 함

7)선형 변환

-벡터 으로부터 벡터 상으로 매핑하는 것

-패턴인식에서 특징 벡터의 차원을 축소하는데 이용

참조:

1. 패턴인식 개론, 한빛미디어

2. Basic Mathematics for Pattern Recognition, 부경대학교, 2011