비선형 활성화1 비선형 활성화 함수 1. 비선형 활성화 함수(Activation Functions) 비선형 활성화 함수는 신경망에서 사용되는 함수로, 주로 입력값에 비선형성을 추가하여 신경망이 복잡한 비선형 관계를 학습할 수 있도록 도와줍니다. 이 함수들은 신경망의 각 뉴런에 적용되어 그 결과를 생성합니다. 선형 함수는 입력값과 가중치를 곱한 결과를 그대로 출력하기 때문에, 여러 층의 선형 함수를 사용하면 결국 전체 네트워크가 하나의 선형 함수로 표현될 수 있습니다. 이는 층을 여러 번 쌓아도 신경망의 복잡성이 증가하지 않는다는 의미이며, 복잡한 패턴을 학습하는 데 한계가 있습니다. 비선형 활성화 함수를 사용함으로써, 각 뉴런의 출력이 비선형 관계를 나타낼 수 있습니다. 이를 통해 신경망은 다양한 데이터의 패턴을 학습할 수 있게 됩니다. .. 2024. 1. 10. 이전 1 다음
