적용전
적용 후
[1.0, 1.5, 1.5, 1.0]
Activation function is mish
Weight initialization is Normal
Layer norm is set to False
Dropout usage is set to True
1e-5로 7000스탭까지하고 5e-6으로 180000스탭까지 진행한 것
https://mega.nz/file/lyoHyLKI#kqI4uJ2uOQFgxrD8saMSY4uByVctWtkyDRkpCFM7CQU
이건 보너스 작가 애정캐 뽑으려고 햇던것.... 원본은 밑에