[Week 1] What is a Neural Network?

 

 

강의 키워드

• 신경망(Neural Network)

 

강의 내용

신경망이란 input이 들어왔을 때, 알맞은 output을 매칭하는 함수를 찾는 과정이다,

예를 들어, figure 1과 같은 집 크기에 비례하는 집값 데이터를 가지고 있을 때,

figure 1.                                                                                    figure 2.

 

figure 2에서의 파란 선과 같은 알맞은 함수를 찾아 결과값을 예측하는 것을 신경망을 통해 구현할 수 있다.

이 때, 집 값의 가격은 (-)가 될 수 없으니, 음수 부분이 되는 직선 부분은 0으로 맞춰준다.

이런 함수를 신경망으로 간단하게 나타내면 아래와 같다.

 

really a tiny little neural network. 이런 작은 신경망을 레고 블럭처럼 쌓아, 커다란 신경망을 만든다.

 

 

집의 크기(size)를 input x로 받고, 이 값은 다음 노드인, neuron으로 들어가서 예측된 집의 가격(price)을 output y로 나온다.

 

그림에 나타난 neuron은 신경망에 있는 single neuron(1개의 뉴런)을 나타내며, 이 때, neuron이 하는 일은, input값을 통해 figure 2.에서 나온 것과 같은 함수를 만들고, 최대값을 0으로 가지면서 price(예상 집값)을 결과값 y로 추출하는 것이다.

 

figure 2.에서 사용된 함수는 ReLU 함수라고 하며, 이 함수는 특정 부분까지 0의 값을 갖고, 어느 시점 이후, 일차함수로 값이 증가하는 형태를 가진다.

 

ReLU: Rectified Linear Units의 약자이다. (R-E-L-U) 그리고, rectifiy라고 하는 것은 0을 최대값으로 한다는 뜻이다.

 

실제로, 집값은 크기 뿐 아니라, 방의 개수, 가족 규모(몇명이 살기에 적합한가), zip code, 도보 가능 여부, 편의성(집 주변 편의 시설에 대한 접근성), 집 주변 지역 학군 등에 많은 영향을 받을 수가 있다. 따라서 이것을 전부 input으로 받아 집값을 예측하는 신경망은 아래와 같다.

 

4개의 입력값을 가지고 있는 신경망. 신경망을 관리하는 방법은 input x와 output y 값을 training set에 넣어 학습을 시키기만 하면 된다.

 

신경망의 역할은 입력 값의 특성(feature x)을 바탕으로 output y의 값을 예측하는 것이다.

각각의 hidden units들은 4가지 특성 input \( (x_1 ... x_4) \)을 반영한다.

또한, input layer들은 신경망 가운데에 있는 layer와 밀접하게 연결되어 있고, 이는 모든 입력 값이 hidden units에 연결되어 있기 때문이다.

신경망은 input x와 output y에 대한 정보가 어느 정도 존재하고, x와 y에 대한 충분한 트레이닝 example도 있는 경우에 x에서 y를 매칭하는 함수를 굉장히 잘 파악한다.

 

 

요약

• 신경망란 입력(x)와 출력(y)를 매칭해주는 함수를 찾는 과정이다.
• 충분한 데이터가 주어지면 더 잘 알아낼 수 있다.
• 해당 뉴런에 관계없는 입력값이라도 입력으로 넣어주어야 한다. 관계 여부는 신경망이 학습하면서 알아서 조절해준다.