수파메모리는 최대컨텍스트를 넘어가는 가장 마지막 대화를 설정한 청크값만큼 가져와서 요약하는걸로 앎.

하이파메모리는 수파메모리로 요약된걸 세네개씩 쌓일때마다 다시 재요약하는걸로 앎.


수파메모리까지는 그럭저럭 사용법을 알겠는데 하이파메모리 사용법을 모르겠음.

정확하게는 중간부터 사용 할 경우 어떻게 사용해야하는가. 그걸 모르겠음.












사용하는 모델과보조모델, 최대콘텍스트,응답크기








마지막으로 출력받은 대화임. 슬슬 최대콘텍스트 넘치기 직전임.











This is part of the history of the last conversation between Characters and Persona(User). Summarize, approximately timestamp(date only) the content of the messages exchanged between them, focusing on concrete events and direct information from their conversation. Try to get the name and the gender of Characters/Persona from the conversation history as much as possible, and make sure the summarized syntax makes the subject of the action clear. Remove or simplify any content that appears to be redundant or repetitive. Use abbreviations, common language shortcuts.




메인프롬에다 위의 텍스트를 입력해놨고






설정-기타봇에도 같은내용을 작성해놨음.







마지막으로 봇 고급설정-수파메모리에도 같은 내용을 복붙해놓음.







여기서 하이파메모리 체크를 한 뒤에 




캐릭터 설정에서 하이파메모리 토글을 누른 뒤에 채팅을 하면






이런게 뜸.


캐릭터설정에서 토글을 해제하면 정상작동됨. 해제하면 수파메모리만 쓰는거같은데 난 하이파메모리도 같이 쓰게하고싶음.


이제 궁금한거

1.수파메모리도 설정-채팅 봇에서 지정한(내 경우 35k)의 리소스내에서 굴리는건가?





2.캐릭터-고급설정에서 수파메모리 관련 내용을 전부 날리고 다시 요약을 하게 시키는중임.


하이파메모리토글을 클릭하고 새로운 채팅을 입력하면 저런게 뜨는데 아마 한번에 요약하느라 최대컨텍스트값보다 많은 토큰을 요구래서 그런거같음. 이런경우에는 어떻게 해야하는가.


3.하이파메모리 토글을 중간에 누른다면 누르기 전까지는 수파메모리만 쓰는걸로 아는데 이 토글을 중간부터 사용하려면 어떻게 해야하는가.