본문 바로가기

반응형

Machine Learning/DNN

Neural Network (Deep Learning/ MLP) Neural Network (Deep Learning) 딥러닝은 특정 분야에 정교하게 적용되는 경우가 많다. 이 장에선 간단하게 분류와 회귀 모두 가능하며, 딥러닝의 출발점인 Multi layer Perceptrons( MLP )를 다룬다. MLP는 feed-foward Neural Network, 또는 Neural Network으로 불린다. MLP는 여러 단계를 거쳐 결정을 만들어내는 Linear Model의 일반화된 모습이라고 볼 수 있다. 가중치 합을 만드는 과정이 여러 번 반복되며, 먼저 중간 단계를 구성하는 hidden unit을 계산하고 이를 이용하여 최종 결과를 산출하기 위해 다시 가중치의 합을 계산한다. input이 다음 layer로 가면서 또 다른 input을 만들어 내는 end-to-e.. 더보기
Exponential Moving Average (EMA) 위와 같은 날짜와 기온 데이터가 있다고 하자. 1년의 데이터를 표현한 것인데, 1월 ~ 12월의 흐름을 생각하면 된다. 모든 날짜를 표현하니 noise가 있어 다소 지저분하다. 따라서, 지역적인 평균(local average) 즉, moving average로 표현하는 것이 분석에 용이할 것이다. 이와 같은 식으로 날짜의 θ를 v로 대체하자. exponentially weighted moving average 를 얻을 수 있다. 일반화한 EMA의 식은 위와 같다. v_t는 의 대략적인 평균이다. 즉, 위와 같이 볼 수 있다. β의 크기가 커질 수록, v_t에서 고려하는 날짜의 크기 (window size)가 커지므로, 보다 곡선이 smooth해진다. 따라서, 급격한 기온변화에 둔감해진다. β가 커진다는 .. 더보기

반응형