LSTM
LSTM 는 기존의 RNN이 출력과 먼 위치에 있는 정보를 기억할 수 없다는 단점을 보완
장/단기 기억을 가능하게 설계한 신경망의 구조
주로 시계열 처리나, 자연어 처리에 사용
GRU
LSTM에서는 출력, 입력, 삭제 게이트라는 3개의 게이트가 존재했지만
반면, GRU에서는 업데이트 게이트와 리셋 게이트 두 가지 게이트만이 존재.
GRU는 LSTM보다 학습 속도가 빠르다고 알려져있지만
여러 평가에서 GRU는 LSTM과 비슷한 성능을 보인다고 알려짐
SVD(Singular Value Decomposition)
특이값 분해
임의의 m×n�×�차원의 행렬 A�에 대해 행렬 분해(decomposition)방법 중 하나
나머지도 다 수학이론일듯?
갠적으론 저거보고 에반게리온느낌도 좀 났음