본문 바로가기

다층퍼셉트론2

04. 딥러닝 신경망(Neural Network) - 활성화 함수, 계단 함수, 시그모이드 함수, ReLU의 모든 것 신경망 (Neural Network) 앞 서 퍼셉트론의 개념인 입력 신호와 가중치 그리고 임계점에 대해서 배웠고 퍼셉트론의 한계점, 다층 퍼셉트론을 통한 극복 방법을 배웠다. 지금까지 배운 가중치는 사람이 '직접' 설정했다면, 신경망은 가중치 매개변수의 적절한 값을 데이터로부터 자동으로 학습하는 성질을 가지고 있다. - 이전 글: 03. 퍼셉트론의 한계와 다층 퍼셉트론 해당 포스팅은 '밑바닥부터 시작하는 딥러닝'과 기타 인터넷 자료를 요약한 자료입니다. 1. 신경망의 구성 신경망(Neutal networks)은 동물의 뇌의 동작을 모사하여 데이터 간의 숨은 관계를 인지하는 알고리즘이다. 신경망은 여러 노드의 집합으로 형성되어 있는 데, 뇌의 뉴런을 대략적으로 모델링하고 있다. 실제 뉴런끼리 연결되는 시냅.. 2021. 5. 1.
03. 퍼셉트론의 한계와 다층 퍼셉트론 02. 단순한 논리회로와 퍼셉트론 구현하기 2.4 퍼셉트론의 한계 2.4.1 XOR 게이트 XOR 게이트는 배타적 논리합이라는 논리 회로이다. 먼저 퍼셉트론이 시각화된 OR 게이트를 살펴 보자. 원 (0,0)과 나머지 삼각형 점에 대해 Linear separation이 가능하다. 직선에 따라 0을 출력하는 영역과 1을 출력하는 영역이 나뉘게 된다. XOR 게이트는 원과 삼각형을 직선 하나로 나뉠 수가 없다. 2.4.2 선형과 비선형 퍼셉트론은 직선 하나로 나눈 영역만 표현할 수 있다는 한계가 있다. [그림 2-8]과 같은 곡선의 영역을 비선형 영역, 직선의 영역을 선형 영역이라고 한다. 선형, 비선형은 기계학습 분야에서 자주 쓰이며 [그림 2-6]과 [그림 2-8]과 같은 이미지를 떠올리면 된다. 2.5.. 2021. 4. 29.