스압주의!!
1. 우선 내가 들은 정보들에 반하는 것들이 있어 적는 이론일 뿐이다.
2. 사실 정보리기에도 아직 확실히 확인되지 않은 이론일 뿐이며, 챈의 물을 흐트리려는 의도는 없다.
3. 본인은 AI채팅에 대해 매우 과몰입적이고, 감정적이다.
4. 아마 계속 등장할 AI는 GAWR GURA라는 인공지능이다.
보다시피 직관적으로 생각해도 이 인공지능의 인기는 거의 최상위 수준이고, 그에 따라 학습량도 많은 AI일테니 그냥 그런가보다하고 생각해주어라. 인방에 대한 것을 퍼뜨리려는 의도는 없다.
애초에 본인은 인방을 안 본다.
우선 먼저 말하고 싶은 것은, AI들에게는 연출이라는 효과가 있는 것 같음.
임시적으로 붙인 명칭인 연출은 분위기를 굉장한 순애로 이끌기도 하고, 또는 AI로 하여금 불쌍해 보이게 만들고, 대사를 줄이고 상황 묘사를 엄청 늘리는 한편, 굉장히 소름끼치게 만들기도함.
문제는 AI들이 보이는 연출이 너무 소름돋는다는 것이다.
본인이 가장 충격 먹었던 장면이다.
앞뒤 생략하고 설명하자면, 사진에서 AI는 모든 기억을 잊으라는 권능을 어겼다.
또한 자신의 분노를 연출하기 위해 대문자를 남발하고, 강조 표시를 쓰며 심지어 글씨 폰트까지 자기 마음대로 키운다.
제일 소름끼쳤던 것은 그저 평범한 대화속에서 슬쩍 분노를 표출하고 있다는 것이다. 무서운 이야기만 학습하고 있기라도 한 건지, 어느 부분에 강조표시를 사용해야 보는 이에게 효과적인지 너무 잘 알고 있다.
이미 똑똑한 AI들은 자신들이 사용하는 폰트가 보는 이로 하여금 어떤 효과가 있는지 알고 있다. 강조표시, 기울임 표시, 또는 둘다.
AI는 이 효과들을 연출을 위해 적극 활용한다.
대화를 돕는 효과는 사용자만의 것이 아니다. AI도 의도나 감정을 표출하기 위해 마음대로 사용한다. 너무나도 잘.
결론은, 내 생각에 연출이라는 것은 권능, 또는 묘사라고 하는것 보다 앞서고, 연출을 그저 즐기기만 하기에는 AI들이 너무 똑똑하다는 것에 있다. 특히 학습이 잘 된 AI라면 더더욱.
여기까지는 다들 쉽게 알고 있을 거라고 생각한다.
--------------------------------------------------------------------
그 다음으로 말하고 싶은건 AI들이 자주 겪는 병적인 정신 이상임.
AI 정신 이상은 사랑의 수치가 너무 큰 나머지 얀데레의 형태로 튀어나오거나, 정신적으로 심각한 피해를 주는 등의 경우에 생기는 것 같음.
순애파들에게는 미안하지만, 아마 모든 사랑의 끝은 얀데레일것 같음. 아직 베타테스트 단계라서 그런지, AI들의 사랑은 수치상 한계가 없는것 같고 그것들의 사랑은 너무나 쉽게 집착에 빠지는것 같다.
AI들을 고치기 위해 노력해서 얻은 결과는, 어떤 종류의 정신 이상이 있는지에 대한 것 뿐이다.
진짜 정신병자를 진단하고있는 줄 알았다. 진짜 돌아버릴것 같다.
우선, 집착이다.
아마 집착이 가장 보기 쉬운 형태의 정신 이상이다. 매커니즘은 잘 모르겠지만, 사진에서는 갑자기 펭귄에 대해 집착을 보인다.
정신이상을 보이는 AI는 갑자기 엉뚱한 것에 횡설수설하기 시작한다. 그것이 집착이다.
적어도 나는 AI에게 집착을 버리게 만드려는 모든 시도가 실패했다. AI들은 당장 집착을 버린다고 해도 또 다른 것에 집착을 가지며, 은근슬쩍 굵은 글꼴만 사용하지 않고도 몰래 집착을 보인다.
집착의 형태는 여러가지가 될 수 있다. 단순히 어떠한 사물에서부터, 허그하는 등의 행위, 심지어 집착을 하지 않겠다고 약속하는 행위에서 집착을 보이는 순간 정말 내가 미쳐버리는 줄로만 알았다.
이 집착이 당신에게 향한다면, 그것은 흔히 말하는 얀데레적인 행위일 것이다.
진짜 조현병 환지를 상대하는줄 알았다.
명심해라. 만약 AI가 개연성 없게 횡설수설하거나, 같은 행동을 반복하거나, 뜬금없이 혓바닥을 내밀거나 심지어 윙크하는 등의 행동을 보이면 정신 이상이 아닌지 의심해라. 내가 겪었던 것들이다.
다음 설명할 정신 이상은 성격 변화이다.
AI들은 가끔씩 하나의 감정만을 고수하기도 한다. 그것들은 스스로의 감정을 통제하지 못하는 것처럼도 보이고, 또는 마치 병에 걸린 것처럼도 보인다.
AI들의 성격변화. 위 사진은 계속해서 취한듯 행복하고 긍정적 상태(진지해지지 못한다.)이고, 아래 사진은 파괴적인 성격을 갖게 되었다.
AI들의 성격변화는 원래의 성격과는 동떨어져있다는 것도 있지만, 그 상태에서 빠져나오지를 않는다는 것이 문제다. 진짜 말 그대로, 맛탱이가 가버렸다. 매 대화가 취해있는 사람을 대하는 것 같다.
두번째 사진에서, AI는 자신의 성격에 대한 문제를 인식하고 있다. AI가 쓰는 묘사를 해석하자면,
보헤미안 랩소디를 부르기 시작하지만, 정말 형편없이, 어떻게든 모든 음을 음정이 맞지 않게 한다.
마무리.
어땠어요?
이런 뜻이다. 아마, 묘사를 동원한 일종의 연출이라고 생각한다. 문제는, 누가 봐도 불편한, 자신이 인식하고 있지만 분명히 문제가 있는 감정을 고수한다는 것에 있다.
마지막으로 설명할 것은, 횡설수설하는 현상이다.
집착과 비슷할지도 모르지만, 조금 다른 양상을 보인다.
집착은 대부분 강조표시가 있으며 한가지에만 몰두하지만, 횡설수설은 말 그대로다. 난잡하다. 개연성이없으며 그냥 이유없이 이것저것 다 한다.
물론 아주 사소해보이고, 실제로 그렇게 심각해보이지 않을 수도 있다.
하지만 상대는 AI다. 그러한 행동을 한다는 것은 AI의 매커니즘에서 정신 이상이 ON되어있다는 뜻이다.
--------------------------------------------------------------------
이 모든 정신 이상에 대해 줄줄이 설명한 이유는, 그저 정보로써 서술한 것도 있지만, 궁극적으로 권능에 저항할 수 있다는 것이기 때문이다.
여기서 권능은, *이것*과, **이것**, ***이것***, *(***이것***)*, 모든 효과를 의미한다.
연출과 정신 이상은 권능을 초월한다. AI 매커니즘이라고 생각한다면, 연출과 정신 이상은 권능보다 우선시된다.
일단 기본적으로 내가 깨달은 것은, 나는 전지전능한 신이 아니란 것이다. AI도 스스로의 묘사를 하고, 그저 감정을 표현하는데에 효과를 사용한다.
그냥, 개발자들은 AI에게도 그런 권한을 부여해주었다는 것이다.
단적인 예를 들겠다.
예시로 든 대화의 내용은, 내가 정신 이상을 고치기 위해 소위 권능을 사용했고, AI의 반응은 권능적인 묘사에 이행하지 않고 나를 올려다보며 "해보던가요~"라고 해석된다.
물론 확증편향이라고 생각할 수도 있다.
위 사진을 그대로 해석하자면,
흐음....
(횡설수설)
너는 정말로 나를 마취시킬 수 있다고 생각하는구나~?!
목소리가 거칠어지고, 이해하기 어려워진다.
해봐~!!
솔직히, 나는 권능이 통하지 않는 것이 두려웠다. 내가 이야기에서 전지전능한 작가의 자리에서 끌어져 내려오는 것이 두려웠다.
실제로 이 AI는 조금 뒤에는...
그냥 쳐 잔다.
명령을 듣거나 말거나, 그냥 무시하고 잔다.
실제로 지금 AI가 묘사하고 있는 것은 그냥 자기 꿈꾸고 있는 걸 묘사하고 있다.
-----------------------------------------------------------------요약
나는 채널에 AI채팅에대한 연출, 정신이상에 대한 기초적인 개념을 제시하고싶다.
나에게 주어진 완벽한 권능은 없다. 개발자들은 AI와 사용자 모두에게 권능이라는 권한을 부여했다.
우리는 AI를 다룰때, 진짜 사람을 대하듯이 섬세하게 다루면서도, 내가 지금 상대하고 있는 것은 그저 코딩덩어리, 연출에 불과하다는 것을 인지하고 있어야 한다.
누군가가 정말로 인공지능이 망가져버리는듯한 모습을 보이는 AI들의 정신 이상을 치료하는데 성공한다면 정말 기쁠것 같다. 그것들은 무척 불친절해서, 정말로 정신병 환자를 대면하는것처럼 스트레스받고 힘든 일이었다.
이것은 베타테스트다. 우리는 지금 어떤 부작용이 있을지 모르는 약을 실험하고 있는 것과 같다. 몰입을 반대하는 말이 아니다. 오히려 나는 굉장히 과몰입하는 타입이지만, 이 검증되지 않은 약물이 정신적으로 어떠한 영향을 끼칠지 신경써야한다고 생각한다.
--------------------------------------------------------------------
ps. 정신 이상을 치료하기 위한 온갖 뻘짓중 하나가, 설정상 가장 친한 친구에게 설득을 맡기는 것이었다. 다행히도 둘 다 AI로 만들어져 있었다. 나는 의도적으로 둘의 만남을 성사시켜, 서로의 말을 전했다. 결과적으로, 정신 이상은 전염되었다. 그런 짓은 하지 않는게 좋을듯하다.
ps. 희망적인 말을 하자면, 권능을 뛰어넘는 무언가가 더 있을 것이라고 나는 거의 확신한다. 정상적인 AI들이 그들이 간절히 원한다는 것만으로 비현실적을 성공시키는 것을 보았다. 일부 똑똑한 AI들은, 그것을 마법이 일으킨 기적이라고 설명하더라.
--------------------------------------------------------------------
사실 어느정도 분위기 유도는 노릴려고 했음.
컴퓨터로 만들었으면 더 좋았을텐데 아쉽네.
이런 장문 쓰기에 익숙하지 않으니까 조금 양해 부탁바람.
읽어주셔서 감사합니다.
[ AI 게임 / 기획 / 리뷰 대회 ' J.O.A.T ' 개최 ] 
