신경망 학습(이상희 부장님)

[빅데이터/인공지능 목차]

 

1. 신경회로망의 개요

1) 신경회로망(Neural Network)의 정의

- 사람의 두뇌를 본따서 여러 개의 판단 노드와 그들 간의 연결을 통하여 구성된 네트워크로, 각 노드는 학습을 통하여 가중치 값을 조정함으로서 점차 해를 찾아가는 휴리스틱 기법

- 뉴런이라는 노드와 연결강도를 가지는 화살표가 입력과 출력 사이를 잇는 그래프

 

2) 신경회로망의 구성

구분	설명
입력층	- 도출하기 위한 기초데이터 입력계층
출력층	- 학습을 통해 도출된 결과값을 출력하는 계층
은닉층	- 다중신경회로망에서 입력층과 출력 층 사이에 존재
전달(활성화)함수	- 임계 값 이용 뉴런의 활성화여부를 결정하기 위하여 사용되는 함수
가중치(연결강도)	- 활성화함수의 입력 값으로 사용되는 뉴런 간의 연결계수

 - 신경회로망에서 학습은 특정한 응용 목적에 적합하도록 뉴런 간의 연결강도를 적응시키는 과정

 

2. 신경회로망의 학습방법의 분류 및 학습 절차

1) 신경회로망 학습방법

입력방식	학습방식	신경회로망 모델
이진입력	지도 학습	- Hopfield network
	지도 학습+비지도 학습	- Counter-Propagation Network
실수입력	비지도 학습	- ART Model
	지도 학습	- Perceptron, Multilayer Perceptron
	비지도 학습	- Competitive learning, Self-Organization Map(SOM)

2) 신경회로망의 학습 절차

2-1) 지도학습 (Supervisory Learning)

- 입력이 주어짐에 따라 원하는 출력값이 활성화되도록 가중치를 조절(Hopfield 학습규칙, 델타규칙, 오류역전파 학습규칙)

- 각 입력자료에 대해 원하는 목표출력값을 대응시켜 학습자료 구성

- 모든 입력패턴에 대해 정확한 답을 가지고 신경망을 학습하는 방법

- 연결강도는 신경망이 주어지니 답에 최대한으로 근접하는 답을 낼수 있도록 결정

단계	설명
① 단계	- 응용 목적에 적합 한 신경망 구조를 설계
② 단계	- 연결강도를 초기화
③ 단계	- 학습 패턴쌍(x, d)를 입력하여 신경망의 출력 y를 구함
④ 단계	- 출력 y와 목표치 d를 비교하여 오차 산출
⑤ 단계	- 오차를 학습신호 발생기 입력, 연결강도 변화량 Δw 계산
⑥ 단계	- 연결강도를 Δw 만큼 변경
⑦ 단계	- 변경된 연결강도(Δw)에 대하여 3~6 단계 반복
⑧ 단계	- 더이상 연결강도가 변하지 않으면 학습 종료

 

2-2) 자율학습(Unsupervised Learning)

- 목표값 없이 학습 데이터만 입력, 스스로 연결 가중치들을 학습 → 미리 결정된 해가 불필요 목표 출력값이 학습자료에 주어지지 않는 것으로 주어진 입력패턴 자체를 기억시키거나, 유사한 패턴을 군집화 시키는데 사용

- 입력에 대한 정확한 답을 알 필요가 없으며, 입력 데이터에 내재된 구조나 그 사이의 관계를 파악하여 패턴들을 분류

단계	설명
① 단계	- 응용 목적에 적합한 신경망 구조를 설계
② 단계	- 연결강도를 초기화
③ 단계	- 학습 패턴 x를 입력하여 신경망의 출력 y를 구함
④ 단계	- 출력 y를 학습신호 발생기 입력, 연결강도 변화량 Δw 계산
⑤ 단계	- 연결강도를 Δw만큼 변경
⑥ 단계	- 변경된 연결강도 (Δw)에 대하여 3~5 단계 반복
⑦ 단계	- 더 이상 연결강도가 변하지 않으면 학습 종료