관리 메뉴

Storage Gonie

모두를 위한 딥러닝 제25강 lec9-1: XOR 문제 딥러닝으로 풀기 본문

데이터 사이언스/모두를 위한 딥러닝

모두를 위한 딥러닝 제25강 lec9-1: XOR 문제 딥러닝으로 풀기

Storage Gonie 2018. 9. 30. 17:57
반응형

# XOR 문제를 Neural network로 어떻게 풀 수 있는지 확인

- 단, weight와 bias를 학습시키는 방법은 다다음장에서 배움


1) 하나의 유닛 or 모델로는 XOR 문제를 풀 수 없다는 것을 Minsky교수가 수학적으로 증명하였고, XOR문제는 풀 수 없는 것이라 믿는 계기가 되었음.


2) Minsky교수는 유닛을 2개, 3개 붙이면 XOR 문제를 풀 수 있다고 하였는데, weight, bias를 학습시킬 방법을 아는 사람이 아무도 없다고 하였음.

https://cs231n.github.io/convolutional-networks


3) 지금은 weight, bias를 학습시키는 대신, 값을 잘 초기화 시켜서 한번 XOR 문제를 풀어보자

- 네모난 박스에서는 xw+b의 연산이 일어나고 이 결과에 시그모이드를 취해준게 출력 y가 된다.

- weight, bias는 아래와 같이 초기화 시켰다고 가정.

- 아래서 시그모이드 취한 값은 근접값을 따짐. 0 or 1로.



- case1) x1 = 0, x2 = 0일때


- case2) x1 = 0, x2 = 1일때



- case3) x1 = 1, x2 = 0일때



- case4) x1 = 1, x2 = 1일때


4) 위의 것을 하나로 나타내면 아래와 같고 이것으로 XOR문제를 해결할 수 있음이 확인되었음.

- 네모 박스는 하나의 퍼셉트론 혹은 유닛이라고 부르며 이로 구성된 것을 뉴럴네트워크 라고 함


5) 박스를 합쳐보자.

- 이를 텐서플로우로 구현하면 아래와 같다.


* 다다음 강의에서는 Minsky 교수님이 못푼다고 말한 weight, bias을 자동으로 학습시키는 방법에 대해 알아볼 예정.



반응형
Comments