본문 바로가기

딥러닝

딥러닝 내용 정리 1편

오늘 배워볼 내용은 제가 책을 읽고 정리한 딥러닝 내용인데요

부족하지만 한번 정리 해보겠습니다.

 

퍼셉트론(Perceptron)

뉴런, 퍼셉트론

 

퍼셉트론은 인간의 신경망 단위인 뉴런을 구조로 만들어진 형태이다.

인공지능은 이렇게 인간의 신경망 단위를 모티브로 다음과 같이 가장 작은 단위를 퍼셉트론으로 정의하였습니다.

 

 여러가지 작을 받으면 기준치를 정하고 그이상이면 신호를 전달하는 형태로 구별을 합니다.

이러한 구분선을 우리는 다음과 같이 정의하는데

 

> y = w x +b (어디서 한번쯤은 본 식...)

 

바로 1차 방정식이다. x앞의 w는 기울기를 나타내는 가중치이며, b는 y절편으로 편향의 정도를 나타내는 바이어스다

 

 

이렇게 간단한 선을 이용해서 영역을 나눠서 구분한다 생각하면 된다.

 

예를 들어 

일차 방정식

위와 같이  A를 좋아하는 집단 : ○

              B를 좋아하는 집단 : □

 

이면 다음과 같이 일차방정식 선 하나로 구별 할 수 있게 된다.

 

그렇지만 세상에 있는 문제는 그렇게 만만 하지 않았으니....

 

바로 XOR과 같은 문제에서는 선하나로 구별을 할 수 없게 되는 것이다.

XOR만 하더라도 세상에 수많은 문제에 비하면 매우 쉬운 편에 속하는데 이 문제도 해결하지 못하다니 ㅠ,ㅠ

여기서 xor이 무엇인지 모르는 사람을 위해 설명해드리자면 or 과 and는 무슨 말인지 대충 아는데

공대가아닌 비전공자들에게는 낯선 단어가 될거 같다.

 

이해를 돕기위해 구글에서 이미지 하나를 가져와 봤다

OR , AND, XOR GATE

즉 or은 하나만 조건이 성립해도 1이고

    and는 두개다 성립할 때만 1 

    xor은 서로 다른 조건일 때만 1

 

(디지털 공학 시간에는 입력이 세개인 경우도 있어서 이럴때에는 조건 성립이 홀수 개일 때만 1인걸로 배웠던거 같다 그냥 참고만 하세요 TMI ㅎㅎ) 

 

그림에도 나와있듯이 저렇게 분포가 되어있으면 도저히 나눌 수 있지 못합니다.

아까도 말했지만 세상을 선하나로 구분지을만큼 단순하지 않습니다.

(즉 모든 문제가 선형으로 풀리지 않고 비선형 적인 모습을 보입니다. > 비선형이란 1차가 아니라고 생각하면 편하다.)

 

그로인해 사람들은 한동안 개발을 못하다가 문득 이러한 생각을 해냅니다.

 

꼭 한층만 쌓아햐 하나? 여러층은 안되나?

 

다층 퍼셉트론

퍼셉트론과 다층 퍼셉트론

해서 나온 개념이 다층의 퍼셉트론 개념입니다.

단지 층 하나만 더 쌓는다고 해결될려나..

네 가능합니다 선하나만 더쌓았을 뿐인데 결과는 천차 만별이죠 (비선형이 될 수 있다.)

 

다음과 같이 선을 그어 나눌수 있게 됩니다.

 

그렇게 되서 층을 세분화 시켜보면

Layer 구분

크게 3가지로 구분할 수 있습니다. 입력인 인풋 출력인 아웃풋 그리고 생각의 중간인 히든 레이어 

우리는 히든레이어를 블랙 박스라고도 칭하기도 합니다. 현대에 딥러닝은 깊은 신경망설계로 예전에는 불가능 할 법한 일들을 놀랍도록 잘 해냅니다. 그안에는 히든레이어를 통해 가능하게 된것이죠.

그렇지만 블랙박스라 칭하는 이유는 아직까지 정확하게 이 레이어의 구성 이나 설계 있어서 타당한 근거를 가지고 하기에는 아직 설득력이 부족한게 현실입니다. 그래서 앞으로 발전하기에 많은 노력이 필요하겠지요.

저 또한 이분야에 관심이 있구요 ㅎㅎ

 

오늘은 처음으로 글을 써보는 거라 여기까지 해서 마무리 짓도록 하겠습니다.

부족하거나 틀린 부분이 있으면 적극적으로 알려주시면 감사하겠습니다!

즐거운 하루 되세요~

'딥러닝' 카테고리의 다른 글

Inductive Bias  (8) 2021.01.24
딥러닝 내용 정리 2편  (1) 2020.02.25