오

우리의 로그가 더 나은 한국어 모델을 위해 기여할 수 있다면!

음 일단 고지능 요구하는 봇에선 바로 찐빠가 나내 더 가벼운거로 바꿔봐야겠다

사랑해요 좋아해요 고마워요

음..챈섭에 올라온 짧은 후기만 봤을 때는 소네트보다 뛰어난 모델이라고 했는데 막 제 기대만큼 뛰어난 모델같지는 않네요. 워낙 이전 로컬 모델들이 이미 너무 발전해서 그런가... 문장 표현은 나쁘지 않지만 그렇게 크게 뛰어난것 같지도 않고 찐빠도 조금 발생하고, 프롬은 만화경을 썼는데 오히려 사칭이랑 합쳐져서 채팅보단 소설 느낌이 강하네요. 전용 프롬을 따로 깍아야할듯한... 아직 잠깐 써보고 느낀 점이라 또 계속 쓰다보면 평가가 달라질 수도 있겠지만요.

혹시이거 뭐로 여는건지 알수있을까요? 런포드는 아닌거같은데

기존 WizardLM 2 8x22b 대비 오히려 못하는 경우가 매우 많음... 특히 에셋봇은 제대로 쓰기 힘든 것 같고
오픈라우터 모델은 양자화가 안 된 거고 이건 좀 다른 건가?
근데 내가 직접 극단적으로 2.5bpw 양자화 된 모델을 돌렸을 때도 이런 느낌은 아니였는데 뭐지

그리고 예전 70b에 후처리 붙인 모델 잠깐 썼을 때도 느끼는 건데, 후처리가 재귀적으로 응답을 다시 개선시키는 그런건지는 잘 모르겠지만
2b, 7b같이 파라미터가 작은 모델에서는 정신나간 성능을 보여줬는데
지금처럼 기본적인 모델 성능이 어느 정도 임계점을 넘어 충분해지는 경우에는 그게 특별히 효과가 있는지 잘 모르겠음.

윗댓 사람들이랑 마찬가지로 거의 소설 느낌으로 나오는 거 같음

개인적으로는 소설 느낌이라 더 좋았음.