요즘은 맨날 하이퍼랑 드림부스만 돌리다가
심심해서 임베딩 돌려봄
대충 캐릭터 학습 세게 시킬거라 50토큰 주고 돌렸는데
한번에 학습이 너무 잘 됐음.
어? 뭐지?
하는 생각에 학습률 바꾸고 토큰 별 벡터 수 바꾸고
심지어 처음 잘 나왔던 세팅 그대로 서너번 다시 학습시켜봤는데
그때마다 학습 퀄리티가 천차만별에
그냥 처음 나왔던게 우연히 너무 잘 나왔던 거였음.
임베딩 해외포럼에도 그렇고 내 경험상으로도
이거 진짜 아무것도 변수 다른 것 없이
완전 똑같은 세팅으로 돌려도 매번 결과가 너무 크게 다르더라
아니 그림 뽑는것도 랜덤인데 학습도 랜덤으로 해야해?
이런 생각에 현타와서 2시간 재밌게 놀다가 그만 둠