한 세션으로 몇달동안 계속 채팅하다보면

아무리 짧게 요약해도 컨텍양을 늘려야하는 순간이 오는데

오푸스나 기존 돈까스, 왕돈은 32k정도만 돼도 중간 컨텍 잊어버려서 기억력 이슈가 크게 다가왔었음

근데 샤오는 32k에서도 중간 컨텍을 제대로 인식함

심지어 그냥 ~~한 일이 있었다 수준으로 인식하는 게 아니라 전후맥락부터 자세한 디테일까지 전부 인식하고 출력함

소프트 검열도 1106이나 0409보다 나아졌고

제일 고민이었던 기억력 이슈도 엄청 개선돼서 한동안은 사오에 정착할듯

알트만은 신이야