LSTM

LSTM 는 기존의 RNN이 출력과 먼 위치에 있는 정보를 기억할 수 없다는 단점을 보완

장/단기 기억을 가능하게 설계한 신경망의 구조

주로 시계열 처리나, 자연어 처리에 사용

GRU

LSTM에서는 출력, 입력, 삭제 게이트라는 3개의 게이트가 존재했지만

반면, GRU에서는 업데이트 게이트와 리셋 게이트 두 가지 게이트만이 존재. 

GRU는 LSTM보다 학습 속도가 빠르다고 알려져있지만 

여러 평가에서 GRU는 LSTM과 비슷한 성능을 보인다고 알려짐

SVD(Singular Value Decomposition)

특이값 분해

임의의 m×n�×�차원의 행렬 A�에 대해  행렬 분해(decomposition)방법 중 하나

나머지도 다 수학이론일듯?

갠적으론 저거보고 에반게리온느낌도 좀 났음