https://twitter.com/Yampeleg/status/1771610338766544985
제목 그대로 Mistral 7B v0.2 가 나왔습니다.
트윗 reply 에 보면 https://t.co/rElZgUTv23 링크가 있고, 이것으로 받을 수 있습니다.
이걸 HF Transformers 로 변환한 것도 바로 업로드 되었군요.
https://huggingface.co/alpindale/Mistral-7B-v0.2-hf
특이하게도 미스트랄 공식 Hugging Face 로 공개되지는 않았지만,
여하튼 7B 모델 돌풍을 몰고왔던 미스트랄의 다음 버젼이 나왔습니다.
v0.1 에서는 Sliding Window Attention (SWA) 이 추가된 것이 특징이었는데 v0.2 에서는 이게 없어졌다고 적어놨네요.
용량도 적고 해서 일단 받고 있습니다.