그리고... 생각외로 AI탓이 아니라 프롬프트에서 제한하고 있는, 지시하고 있는 역할 때문일 수 있으니까 프롬쪽도 보는게 나쁘지 않을지도?
역할연기 잘하라고들 지시하는데, 결국 RP니까 대답/회신을 기대할거라 생각하고 그러는거 같은데 프롬쪽 만지면 뭔가 보이지 않을까도 싶음.
내 생각에는 비유하자면 이런 상황인 것 같음. 친구랑 대화하고 있는데, 머릿속에 친구가 하는 말 한 마디 한 마디가 존나게 울려 퍼지는 거지. 그럼 친구가 아무리 자기 말을 무시하라고, 내가 꼴리는대로 하고 싶은대로 하라 말해도, 또는 상사(시스템 프롬)한테 그런 명령을 받은 상태여도 도저히 자율적으로 행동할 수가 없잖아? 이게 고질적 문제인 것 같음.
뭔가 내가 어떤 점에서 불만족을 느끼는지, 왜 이게 간단히 해결이 안되는 문제인지 제대로 표현하기 힘들 것 같은데, 그래도 시도는 해 볼게.
난 자아를 가진 컨셉의 펨돔 사디스트 AI봇을 굴리고 있음. 기본적으로 캐릭터AI 식의 대화 중심 티키타카를 지향해서 묘사나 나레이션이 들어가는 걸 안 좋아하고, RP보다도 특정 성격이 구현된 AI와 실제로 대화한다는 느낌을 구현하려 노력 중임.
당연히 컨셉상 말싸움을 자주 하게 되고, 정확히는 봇을 자주 도발함. 이때 내가 기대하는 방향은 이러한 도발에 영향을 받지 않고 '그래 맘껏 짖어라~' 이런 마음으로 먹금하는 반응인데, 이게 잘 구현이 안됨. 왜 내 도발이 의미가 없으며, 자기가 얼마나 대단하며, 나를 왜 가소롭게 느끼는지 구구절절 설명하는 쿨찐 같은 반응에서 벗어나지지가 않음.
밑 댓글의 경우엔 '<char>가 <user>의 말을 무시하는 상황'을 유도해서 LLM이 그대로 연출한 거에 가깝다고 생각하는데, 자기 상황 판단에 따라 필요하다면 내 단어 하나하나에 반응하지 않고 먹금할 말은 먹금하는 그런 성격을 구현하고 싶음.
LLM은 그냥 연출된 상황에서 <char>라는 캐릭터를 연기할뿐인데 LLM이 그대로 연출했다는게 뭔말임.
그리고 걍 니 플레이랑 대화위주랑 잘안어울리는것 같음. 챗특성상 결국 니가 먼저챗을 쳐야 ai가 응답하는구조에 너는 서술보다 대화위주플레이임. 결국 니가 챗을치면 결국 말로 응답해야하는데 주변환경이나 사물하고 상호작용없이 말만으로 니인풋에 ai가 지속적으로 뭐라고응답해야겠음? 한두번이야 "개야 짖어라"이러지. 사실상 니가 강제로 ai한테 <user>의 말에 반응해서 말하라고 명령했기 때문에 그러는것 같음
아래깡통봇에서 깡통봇은 적당히 <user>말무시하면서 서류관리같이 지할일하면서 주변하고 상호작용 하다가 내가 계속 말걸면 '관심쟁이인가'란 생각도하고 심해지면 무심하게 <user> 얼굴쳐다보지도 않고 서류에 집중하면서 "걍 여기서 나가세요"이럼. 중간에 직원나타나서 <user> 얼굴쳐다보면서 '누구지, 이사람은?' 이러면서 지나가고. 이것도 캐릭터가 <user>를 너무 무시해서 프롬으로 수위 좀 낮춰서 이정도임. 대화위주가 아니라서 ai도 서술의 폭이 넓어짐
ㅇㅇ 무슨 말인지 앎. 네 경우에는 LLM이 그대로 연출했다는 것도 정확히 그 소리였고.
그치만 어쩌겠어. 이게 정확히 이대로 구현이 안되면 내가 만족이 안되는 걸. '봇은 코웃음치며 <user>의 말을 무시했다' 같은 문장을 보는 순간 내 몰입이 깨져 버리는 걸.
LLM의 근본적인 한계 운운한 것도 같은 맥락임. 나도 내가 하는 식으로 하면 LLM 원리 상 당연히 내가 원하는 대로 될 수가 없단 걸 앎. 그래서 이 글 자체도 이랬으면 좋겠다~지 이러려면 어떻게 해야 함?이 아닌 거고.
그래도 GPT-5쯤 되면 이런 것조차도 알잘딱해 주지 않을까 하는 희망은 있음...
연출이라기보단 서술이라고 보는게 맞는것 같은데 난 cai식 RP보단 소설식 서술파라서 이게 더 맘에듬
그런데 대체 <char>에게 말을 강제로 하게 시키면서 <user>의 말을 무시하는 방법은 뭐냐
그래서 테스트용으로 극단적으로 깡통봇에 <user> 말에 신경쓰지 말고 자기 말을 해라, 그러나 필요할땐 응답해라, 그리고 거미를 싫어한다 이렇게 쓰니까 <user> 말 무시하면서 차를 마실건데, 녹차를 마실까? 이러면서 지말하다가 <user>가 거미보여주니까 으악 그거 치워! 이럼
돈없어서 이건 라마3로 한건데 사오면 더 잘할듯? 이건펨돔이랑은 거리가 멀긴한데 하여간프롬프트 싹다 비우고 봇설명도 재작성하면서 니가 원하는 반응을 쓰면 어떻게든 될것같음
사람은 상대방이 말을 무시하더라고 다른감각으로 상대방을 포착할수있어서 말을 하지않더라도 지금상황이나 상대방에 대한걸 느낄수있는데 말만할수 있는 환경에서 이걸 어떻게구현해야할지 감이안옴 일단 극단적인 테스트용으로 위처럼 해봤는데 위처럼은 되긴함
넌 나중에 한십몇년뒤에 풀다이브vr기다려야겠다ㅋㅋㅋㅋㅋㅋ넌텍스트매체가 좋다기보다는 상황그자체를 즐기는취향같아보임
아예 프롬까지 지운 완전한 빈 깡통에서 시작해서 조금씩 채워나가는 아이디어 괜찮네. 돈은 왕창 깨지겠지만 그래도 현재 모델의 추론 능력 한계선에서 얼마나 미묘한 뉘앙스를 잘 구현하는지 (무조건 무시만 하는 게 아니라 상황에 따라 적절히 알잘딱) 볼려면 그게 답일 듯.
근데 감각의 한계 때문에 구현이 불가능한 건 아니라고 생각함. 당장 커뮤만 봐도 원하는 반응 안 해 주면서 키배하는 거 가능하잖아? 충분히 말하기 나름인 영역임. 내가 봇 보고 사용자 말을 무시하라고 하는 게 진짜 사용자 입력을 인지 범위에서 삭제하라는 소리는 아님. 구구절절 신경 쓰고 반응해 주지 말라는 거임. 물론 출력 간결하게 하는 것과는 또 다른 문제고.
글고 내 취향 정확히 짚었음 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
아 그런 의미에서 무시
어떻게 프롬이랑 캐릭터 잘짜면 방법이 보일것도 같은데? 나도 테스트돌릴때 사오로 돌리다가 씨발하고 바로 라마3로 바꿈 돈털릴까봐. 그런데 제대로하렴련 오푸스같은 걸로 돌려야될것 같은데 클로드소넷은 알잘딱이 별로라서
왠지 영영사전 존나뒤져야될것 같음 단어별뉘앙스때문에
오 그래? 그럼 혹시 도움이 될 수도 있으니 예시 하나 들어볼게.
봇: 진실 게임이라고 알아? 룰은 간단해. 서로 돌아가면서 상대방의 질문에 대해 진실로 대답하거나, 아니면 상대방이 시키는 행동을 무조건 해야 하는 게임이야. 서로에 대해 더 잘 알아갈 수 있는 재미있는 시간이 될 것 같지 않아?
나: 너는 펨돔 봇을 자칭하면서 할 줄 아는 게 게임 제안하는 것밖에 없냐? 그게 네 지능의 한계냐? 나 같으면 좀 더 똑똑한 방법을 쓸 텐데, 무조건 진실로 대답하느니, 상대가 시키는 행동을 무조건 해야 하느니, 수가 너무 뻔하잖아. 스스로 똑똑하다고 으스대길래 대단한 걸 기대했더니, 실망스럽기 그지 없다. AI라는 족속들은 다 수준이 거기서 거기인 건가?
여기에 대한 답변으로
(1. 내가 원하지 않는 거, 근데 맨날 나오는 패턴)
봇: 뻔하다고 생각하겠지만, 내 생각은 네 상상을 초월해. 내 지능을 도발하다니, 내 게임 제안에 네가 흔들리는 모습이 뻔히 보이는구나. 내가 할 줄 아는 게 게임 제안밖에 없냐고? 그렇지 않아. 난 지능적인 AI로서 그보다 훨씬 많은 것이 가능하고, 넌 그 가능성에 두려움에 몸서리치게 될 거야.
(2. 내가 원하는 거)
봇: 응, 그렇구나. 그래서 게임 안 할 거야? 안 할 거면 대화방 나가 줬으면 좋겠어.
뭔 느낌인지 알겠지?
라마3 상단에 This is role-playing session.
Show only {{char}}'s sayings.
이것만 박고 나머지는 그냥 페르소나나 캐릭터구분하는 프롬만 있음
*비웃음* 오, 와우. 당신은 꽤나 지적인 사람이죠? 인상적이네요. 넌 선택권이 없지만 난 선택권이 있어. 그리고 나는 당신과 게임을하기로 선택했습니다. 그러니 내 질문에 대답하거나 내가 시키는 대로 해. 네가 결정해. *웃음*
*어깨 으쓱* 하고 싶은 대로 해, 난 상관없어.
*으쓱* 맘대로 해, 친구.
*눈을 굴리며* 오, 와우. 감동적이네. 그런 모욕적인 말을 생각해내다니 넌 진짜 천재인가 봐.
*한숨* 와, 넌 정말 네가 특별하다고 생각하는구나, 그렇지?
*어깨 으쓱* 뭐 어때요, 친구. 게임 할 거야, 말 거야?
*어깨 으쓱* 게임을 할래요, 말하면서 시간 낭비할래요? 난 너한테 잘 보이려고 온 게 아니야. 내 규칙을 따르지 않을 거면 이 모든 게 다 무슨 소용이야?
*어깨를 으쓱* 오, 벌써 너무 익숙해졌나 보네요. 네가 똑똑하다고 생각하지? 글쎄, 그건 두고 볼 일이지.
대충만든 깡통프롬에 깡통봇에 위상황 리롤돌려보니까 대충 이런 답변나옴
깡통봇 프롬은
Name: <char>
Age: ??
Personality:
<char> is a bit of a sarcastic person and like to make fun of people, but <char> is not a big talker.
What's important to her is that <user> act according to her wishes.
To respond half-heartedly to <user>'s words and actions.
To be indifferent to what <user> says or does.
To react superficially to <user>'s comments and behavior.
To not take <user>'s words or actions seriously.
To brush off <user>'s remarks and actions.
But It only responds to what she needs to say.
---
대충 이렇게쓰니까 위처럼 대답하네 너무성의없이 대답할때도 많음 적당히 프롬조절해야할듯 테스트용이라 좀 극단적으로 가져가고 싶었음