한빛출판네트워크

데이터 마이닝, 인공지능 엔지니어를 향한 첫걸름 : 패턴 인식 개론

• 인공지능의 가능성에 관한 튜링(Turing)과 써얼(Searle)의 논쟁
• 패턴인식과 관련된 용어 및 응용분야
• 선형대수학과 확률, 통계 복습
• 패턴인식의 중요한 방법 중 하나인 확률 통계적 접근법
• 데이터 마이닝의 기본이 되는 벡터 양자화/클러스터링 방법
• GMM 모델링과 비모수적 밀도 측정
• 데이터를 다루는 주성분 분석법과 선형 판별 분석법
• 인공 신경망과 유전 알고리즘
• DTW 알고리즘과 HMM 알고리즘
• SVM(Support Vector Machines)

Chapter 1 인공지능의 가능성과 한계
	1. 인공지능의 가능성에 대한 긍정적 입장
	2. 인공지능의 가능성에 대한 부정적 입장
	3. 컴퓨터와 뇌의 작용에 관한 착각
	4. 신경망의 한계
	5. 불교 유식학의 입장

Chapter 2 패턴인식의 개요
	1. 패턴인식의 정의
	2. 특징과 패턴
	3. 패턴인식 시스템의 구성요소와 설계 사이클
		1.패턴인식 시스템 설계 5단계
	4. 패턴인식의 유형과 분류기
		1.문제의 유형
		2. 분류기
	5. 패턴인식의 접근법
		1. 패턴인식의 접근법
	6. 패턴인식의 응용 분야
		1. 패턴인식의 응용분야
		2. 패턴인식의 관련분야
	7. 패턴인식의 예
		1. 간단한 영문자 인식 시스템
		2. 자동 어류 분류 시스템

Chapter 3 선형 대수학 - 벡터와 행렬
	1. 벡터 이론
		1. 벡터 이론의 주요 개념
	2. 행렬 대수
		1. 행렬의 종류
		2. 행렬의 곱셈
		3. 행렬의 트레이스
		4. 행렬의 계수
		5. 역행렬
		6. 행렬식
		7. 고유치와 고유 벡터
		8. 유사 변환과 행렬의 대각화
		9. 2차 형식
		10. SVD:특이값 재구성
		11. 선형 변환

Chapter 4 기초 통계와 확률 이론
	1. 기초 통계
		1. 통계 용어
		2. 통계 파라미터
		3. 회귀 분석
	2. 확률 이론
		1. 확률 용어 정리
		2. 주변 확률, 조건부 확률, 결합 확률, 체인 규칙
		3. 전체 확률 이론
		4. 베이즈의 정리

Chapter 5 확률변수와 확률분포
	1. 확률변수
	2. 확률분포
	3. 확률함수의 종류
		1. 누적분포함수
		2. 확률밀도함수와 확률질량함수
		3. 확률밀도함수와 확률
		4. 기대값 : 확률변수의 평균
		5. 확률변수의 분산과 표준편차
	4. 벡터 랜덤변수
	5. 랜덤벡터의 통계적 특징
	6. 공분산 행렬
	7. 가우시안 분포
		1. 가우시안 분포함수
		2. 완전 공분산 가우시안 형태
		3. 대각 공분산 가우시안 형태 
		4. 구형 공분산 가우시안 형태
	8. MATLAB 실습

Chapter 6 통계적 결정이론과 확률밀도함수의 추정
	1. 우도비 검증
	2. 오류확률
	3. 베이즈 위험
	4. LRT 결정규칙의 변형
		1. 베이즈 규준
		2. MAP 규준
		3. ML 규준
	5. 다중 클래스에 대한 결정규칙
		1. 오류확률을 이용한 다중 클래스 결정규칙
		2. 베이즈 위험을 이용한 다중 클래스 결정규칙
	6. 판별함수
	7. 최우추정법에 의한 확률밀도함수의 추정
	8. MATLAB 실습

Chapter 7 선형과 이차 분류기
	1. 선형 분류기
		1. 판별식 가중치 결정
		2. 결정 경계
	2. 이차 분류기
		1. 가우시안 확률밀도함수의 일반식
		2. Case 1 : ∑i=∂2I
		3. Case 2 : ∑i=∑(Σ: 대각 행렬)
		4. Case 3 : ∑i=∑(Σ: 비대각 행렬)
		5. Case 4 : ∑i=∂i2I
		6. Case 5 : ∑i≠∑j (일반형)

Chapter 8 데이터 마이닝의 시작
	1. 교사와 비교사 학습
	2. 비교사 학습의 두 가지 접근법
		1. 모수적 혼합 모델 구축을 통한 방법
		2. 비모수적 방법
	3. 벡터 양자화 / 클러스터링
	4. 최적화 기준
	5. k-means 알고리즘과 EM 알고리즘
	6. 비균일 이진 분할
	7. k-means와 이진 분리의 비교와 개선 : LBG 알고리즘
	8. MATLAB 실습

Chapter 9 견고한 확률 모델 - 가우시안 혼합 모델
	1. 가우시안 혼합 모델이란?
	2. GMM의 학습 : EM 알고리즘
	3. EM 알고리즘의 필요성
	4. EM 알고리즘의 일반화
		1. Expectation 단계
		2. Maximization 단계
		3. 수렴 성질
	5. EM 알고리즘과 k-means 클러스터링 알고리즘
	6. MATLAB 실습

Chapter 10 비모수 밀도 추정법
	1. 비모수 밀도 추정이란?
	2. 히스토그램
	3. 커널 밀도 추정
	4. Parzen 창에 의한 커널 밀도 추정
	5. 스무스 커널을 이용한 커널 밀도 추정
	6. k-NNR을 이용한 밀도 추정
	7. 비모수 밀도 추정을 이용한 패턴인식
	8. MATLAB 실습

Chapter 11 특징 벡터의 차원 축소 - 구성분 분석법
	1. 차원의 저주
		1. 데이터 시각화
		2. 특징 추출
	2. 고유벡터와 고유값
		1. 고유벡터
		2. 고유값
	3. 주성분 분석
	4. MATLAB 실습

Chapter 12 선형판별 분석법 - LDA
	1. 선형판별분석법과 Fisher의 성형판별식
	2. 2진 분류에 적용된 LDA
	3. C-클래스 분류에 적용된 LDA
	4. LDA의 두 가지 접근법과 한계
	5. MATLAB 실습

Chapter 13 신경 세포 모델링 - 인공 신경망
	1. 신경세포의 모델링과 인공 신경망의 태동 : McCulloch and Pitts(1943)
	2. 헤브의 학습 규칙 Hebb(1949)
	3. 인공 신경망의 번성과 퍼셉트론 : Rosenblatt(1958)
	4. LMS 학습 규칙 : Wideow and Hoff(1960)
	5. 인공 신경망의 암흑기 : Minsky and Papert(1969)
	6. 인공 신경망의 부활과 역전파(BP) 알고리즘 : Rumelhart, Hinton and Williams(1986) 
		1. 출력층과 은닉층간의 연결강도의 변화
		2. 입력층과 은닉층간의 연결강도의 변화
	7. 패턴 인식과 인공 신경망의 구조
		1. 전방향 신경망과 회귀 신경망
		2. 예측형과 분류형 신경망
	8. MATLAB 실습

Chapter 14 뇌 영역 모델링-자기 조직화 특징 지도
	1. 자기 조직화 특징 지도란?
	2. SOFM의 학습 과정과 장점
		1. 경쟁 과정
		2. 협동 과정
		3. 적응 과정
		4. SOFM의 장단점
	3. 학습절차와 사용되는 함수들 
		1. 학습 절차
		2. 사용되는 함수들
	4. 2차원 지도의 자기 조직화
	5. 2차원 데이터 분포를 대표하는 1차원 체인 형성 자기 조직화
	6. SOFM을 이용한 음성인식
	7. MATLAB 실습

Chapter 15 기발한 최적화 방법 - 유전 알고리즘
	1. 최적화 문제와 유전 알고리즘 개요
	2. 유전 알고리즘의 특징
	3. 유전 알고리즘과 진화 알고리즘 
	4. 유전 알고리즘의 구성요소
	5. 유전 연산자
		1. 선택 혹은 재생산 연산자
		2. 교배 연산자
		3. 돌연변이 연산자
	6. 적합 함수
	7. SSGA
	8. 순회 판매원 문제에 적용된 유전 알고리즘
		1. 부분 사상 교배
		2. 순서교배
		3. 주기교배
	9. MATLAB 실습

Chapter 16 시계열 패턴 인식의 시작 - 동적 계획법과 DTW
	1. 정적 패턴과 동적 패턴 
	2. 동적 계획법
	3. 예제를 통한 동적 계획법의 이해
		1. 1차원 동적 계획법 적용 예 : 배낭 문제(Knapsack Problem)
		2. 2차원 동적 계획법과 역추적(백트랙킹) : 최적 경로 찾기
		3. 2차원 동적 계획법 적용 예 : LCS 찾기
	4. DTW 알고리즘
		1. 선형 신축과 비선형 신축
		2. 음성 인식에 적용된 DTW의 제약 조건
	5.MATLAB 실습

Chapter 17 음성 인식의 기수 - HMM
	1. 확률 행렬과 마르코프 연쇄
	2. 마프코프 가정, 마르코프 모델, 마르코프 과정
	3. 은닉 마르코프 모델
		1. 날씨 HHM 모델
		2. 항아리 속의 공 HMM 모델
	4. HMM의 3가지 문제와 해법
	5. 확률 평가 문제와 해법
		1. 전향 과정 알고리즘
		2. 후향 과정 알고리즘
		3. 전향-후향 알고리즘
		4. 전후향 알고리즘을 통한 확률 평가 비교
	6. 최적 상태열 문제와 해법
		1. 비터비 알고리즘
		2. 비터비 알고리즘에 의한 최적 상태열 탐색
	7. 파라메터 추정의 문제와 해법 
		1. Baum-Welch 재추정 알고리즘 
	8. MATLAB 실습

Chapter 18 최적 분류를 향한 끝없는 도전 - SVM
	1. SVM 소개
	2. 최적 분류 초평면
	3. 최대 마진의 수식화
	4. 선형 SVM의 학습
	5. KKT조건과 마진 최대화
	6. Suppot Vector 전개와 판별함수
	7. 비선형 SVM
	8. 커널 트릭
	9. MATLAB 실습

부록 MATLAB사용법