서론

현재 챈산 대부분의 상태창은 [ ] 안에 모든 정보를 넣고 | 로 구분하는 형태를 쓰고 있음. 

내가 챈질을 시작했을 때에는 이미 정립되어 있었어서 언제부터 이런 양식이 생겼는지는 모르겠지만, 아마도 정규식 캡쳐를 원활하게 하기 위한 무언가가 아니었을까 혼자 추측만 하고 있음.

그런데 사실 나는 예전부터 [ | ] 양식에 약간의 불편함을 느끼고 있었는데, 일단은 모델 능지가 낮을 경우 형식 자체에 다양하게 찐빠가 나기 쉽고, 이런 경우에는 포맷을 인지시키기 위해 예시를 작성하는 등 추가 토큰이 소모되고, 상태창에 쓰이는 파라미터가 늘어나거나 내용이 길어지는 경우에도 뭔가뭔가 애매한 부분들이 있었기 때문읾.

그래서 최근에 나는 상태창에서 양식을 제거해서 써 왔고 며칠 써 본 결과 큰 문제가 없는 듯해 챈에 공유해 봄

양식

일단 아이디어는 심플함. 아예 양식을 제거하고 줄바꿈만 해서 출력시키는 것임.

특문이 없어지면서 토큰이 2 정도 줄어드는데 그건 뭐 큰 차이는 아니고... 익숙하지 않은 출력양식을 지킬 필요가 없기 때문에 모델의 부담이 좀 덜어진다는 장점 정도가 있겠음. 이건 100% 뇌피셜이지만 상태창 내용을 조금 더 잘 참조하는 느낌도 있었다. 원래도 상태창이 유사 CoT처럼 작용했는데 형식이 더 명료해져서 그런 게 아닐까 싶긴 한데 이건 진짜로 뇌피셜이니까 제껴도 됨... 아무튼 양식 찐빠는 날 일이 애초에 없어서 완벽하게 사라짐. 이전에는 능지가 약간 딸리거나 지돈눅 상태에서는 상태창 양식이 깨지는 일이 종종 있어서 짜증났거든.

상태창 출력 프롬프트는 기존 거에서 조금만 손대주면 됨. 내 프롬프트 예시는 다음과 같다

당연히 정규식도 바꿔줘야겠지

보다시피 (.*?):(.*?)\n 이 한 줄임

각자 쓰는 상태창 라인 갯수에 따라 넣으면 됨. 나는 총 4줄이니까 4번 넣었다

OUT은 굳이 손댈 필요 없고 두면 잘 나옴

본인쟝 정규식 알못대가리라 뭔가 찐빠가 날 수도 있긴 한데 그건 채찍이한테 물어서 해결하자

난 몰라

아무튼 형식 제거한 상태창... 상태창이라고 할 수 있나 아무튼 뭐 그런 걸 소개해보고 싶었음

그럼이만