레이어 갯수가 늘어나고 normalization을 추가하면

이전에는 1e-6같은 느려터진 학습속도로 막아야 했던 overfitting을 알아서 개선을 해줌

이제는 스케줄러 기능도 생겨서

0.01:100, 0.001:1000, 1e-4:3000, 1e-5 이런식으로 적으면
100, 1000, 3000 스텝마다 학습속도를 조절할 수 있음

그거랑 별개로 레이어가 너무 많은데 그림체가 단순하면 그 내용이 다른 레이어에 전파가 안되어서 학습이 거의 무시됨

그래서 필요한게 dropout인데 그건 아직 지원 안하는거 같고

레이어 욕심은 엥간하면 안부리는게 좋음