인공지능 - 활성화 함수

- 항등함수(identity function) : 입력값과 동일한 값을 출력

 

- 계단함수(step function)

 

- 부호함수(sign function)

 

 

- 시그모이드 함수(sigmoid function) : 계단함수나 부호함수와 다르게 미분이 가능, 0 ~ 1사이로 출력값이 서서히 매끄럽게 변화한다는 특성을 가짐

 

- 하이퍼탄젠트 함수(Hyper tangent function) : 미분 가능, 1 ~ -1 사이로 출력 값이 변화함

 

- 램프 함수(ramp function, ReLU, Rectified Linear function) : 단순하고, 계산량이 적으며, 시그모이드나 하이퍼탄젠트 함수보 다 학습이 빠르다는 장점으로 인해 연산량을 많이 필요한 딥러닝 네트워크에서 주로 사용