어제 올린 모델의 64k 까지의 기억력을 평가해보니 아래와 같았습니다.
구리죠.
https://arca.live/b/alpaca/104706944?p=1 이러한 방법론을 적용해서 고쳤는데 관심 있으시다면 한번 읽어보시길
현재 수정된 모델은
기억력 100% 찍힙니다. 64k 까지 꽉꽉 채워서 드셔보시길
===================
URL
MODEL SLUG
lynn/soliloquy-l3-v2-beta
MAX SEQ
64k
모델 테스트 하고 조금 손본 후 허깅페이스 업로드 하겠습니다.
후기 많이 써줘잉.><