왜 활성함수는 비선형함수인가?
- 함수
- 선형함수 : 입력값과 출력값의 지수가 모두 1인 함수
- 비선형함수 : 선형함수가 아닌 함수
- 퍼셉트론
- 일련의 과정
- 입력 : x
- 첫번째 작용 : 가중치 w1을 x에 곱하고, 상수 b1을 더한다.
- 두번째 작용 : 첫번째 작용값을 활성화함수의 입력값으로 지정
- 출력 : 활성화함수의 출력
- 예
- 입력 : x
- 작용 : w1 * x + b1
- 출력 : 활성화함수(w1*x + b1)
- 일련의 과정
- 활성화함수 - 퍼셉트론이 2개 이상인 경우
- 출력값 = w1*(w2*x+b2)+b2 = w1*w3*x + w1*b2 + b2
- 일차함수 = 선형함수
- 퍼셉트론이 1개인 경우와 차이점이 없다.
- 가중치 w1 * w3
- 상수 w1*b2 + b2
- 결론
- 활성화함수가 일차함수(선형함수)인 경우에는 퍼셉트론이 여러개라도 한개인 경우와 차이가 없으므로 여러개의 퍼셉트론을 사용하기 위해서는 비선형함수를 활성함수로 해야 한다.