14번째 수업(0501)

weight가 한 개밖에 없을 때 단층 퍼셉트론이라 한다.

g'(in) : 출력 노드의 기울기(출력노드의 미분값)

한 층 가지고도 안되는 문제가 있음

그래서 입력층과 출력층이 아니라 입력층과 중간층, 출력층이 있어야겠다는 말이 나옴

 

 

1층 구조 : (그 동안 한거) 선 하나 밖에 없음

 

2층 구조  -> 중간 층(2개의 원이 평행하게 있는 곳)에서 타켓값이 없다는 문제 존재

 

※ 몇 십년 전과 오늘날 다른점

1. 데이터가 많아졌다.

2. 메모리뿐만 아니라 컴퓨팅 파워가 발전했다.

 

역전파 : 에러를 뒤로 전달한다. 

 

wji : j는 위쪽, i는 아래쪽 번호

 

위 그림에서 

는 w(new) - w(old) 와 같다.

n은 학습률 , O는 출력

 

mlp 가 필요한 이유 : 단층으로는 구분이 안되는 부분을 구분할 수 있음

 

은닉층 : hidden

입력층 : input

 

△ w = n * Err * f '(n) * x