AIdventure
최근 수정 시각:
분류
AI Dungeon의 대체재 | |||
온라인 구독형 | |||
스탠드얼론 | |||
AIdventure | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
개발 | Lyaaaaa | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
배급 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
장르 | 인터랙티브 픽션 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
플랫폼 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
게임 엔진 | Godot Engine | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
AI 모델 | 다양함(선택 가능) | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
출시 | 2021년 12월 25일 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
최신 버전 | 1.5.1 (2023년 1월 7일) | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
공식 사이트 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
1. 개요 [편집]
프랑스의 개인 개발자 Lyaaaaa가 개발한 AI Dungeon의 로컬 대체재. 12유로에 판매하고 있다.
제목인 AIdventure는 인공지능(AI, Artificial Intelligence)과 모험(Adventure)의 합성어이다.
제목인 AIdventure는 인공지능(AI, Artificial Intelligence)과 모험(Adventure)의 합성어이다.
2. 특징 [편집]
다수의 GPT-2 및 GPT-Neo 기반 모델들을 기본으로 제공하며, 토크나이저가 제대로 있는 모델이라면 Hugging Face에서 따로 다운받아 적용할 수도 있다. 125M급 모델에서 GPT-J-6B 모델까지 다양한 스펙의 모델을 지원한다. 하지만 2.7B급 모델도 VRAM 16GB짜리 GPU에서 구동 가능 여부가 의심되는 상황인지라 6B 모델은 SLI라도 쓰지 않는 이상 어려울 것으로 전망된다.
CUDA 기술을 이용하지만, GPU를 사용하지 않고도 구동할 수 있다. 단 CPU 단독으로 구동할 경우 가장 사양이 낮은 125M짜리 모델도 한숨 나오는 속도로 돌아가기 때문에 엔비디아 GPU는 선택이 아닌 거의 준필수급.
CUDA 기술을 이용하지만, GPU를 사용하지 않고도 구동할 수 있다. 단 CPU 단독으로 구동할 경우 가장 사양이 낮은 125M짜리 모델도 한숨 나오는 속도로 돌아가기 때문에 엔비디아 GPU는 선택이 아닌 거의 준필수급.
3. 장단점 [편집]
3.1. 장점 [편집]
- 처음 설치하여 환경을 구성하고, 사용할 모델들을 다운받고 나면 완전히 오프라인으로 즐길 수 있다.
- 따라서 당연하다면 당연한 소리지만, 옆 동네처럼 검열을 당할 일은 없다.
- KoboldAI에 비하면 설치와 유지관리가 매우 쉽다. KoboldAI는 설치 실패 사례가 가끔 있을 정도이다.
- 1인 개발이지만 대단히 활동적으로 개발되고 있다. 디스코드를 통해 버그 리포트나 기능 추가 건의를 하면 하루 안으로 답을 받을 수 있다.
- 다만 개발자가 풀타임 일자리에 취직하면서 개발 속도는 예전만큼 빠르지 않게 되었다.
- RPG적인 스탯 요소를 도입하였고, 이를 활용한 기능을 지원한다. 유사 TRPG 세션을 즐길 수도 있다는 뜻. RPG 요소는 현재로서는 스탯에 따른 확률적인 성공/실패 판정 정도밖에 없지만 추후 추가 예정이라고 한다.
3.2. 단점 [편집]
- 로컬에서 모든 것을 처리하기 때문에 상당한 사양이 필요하며, 특히 GPGPU에 CUDA 기술을 이용하기 때문에 대량의 VRAM을 탑재한 엔비디아 그래픽 카드가 준필수이다.[2] CPU만으로 구동한다면 125M 모델도 한심한 수준의 속도가 나오며, 구동 가능한 마지노선은 사실상 350M 수준. 원한다면 로컬 대신 Google Colab을 사용할 수 있는 KoboldAI와 대비되는 단점으로, 1.3.0 기준으로 원격 서버 연결 기능은 만드려다 만 모양인지 설정 메뉴에 흔적으로만 남아 있다.
UI 폰트가 라틴 문자를 제외한 다른 문자를 지원하지 않아 키릴 문자(러시아어 등), 일본어, 한국어 등을 지원하는 모델을 사실상 사용하기 어렵다. 본문 폰트는 변경할 수 있지만, 정작 입력창을 포함한 UI 폰트는 변경이 불가능해서 입력한 내용을 확인할 수조차 없다. 출력값도 validate 하기 전에는 입력창에 표시되기 때문에 출력값을 확인하는 것도 불가능.문의 결과 해당 문제는 러시아어권에서 클레임이 들어온 모양인지 이미 개발자가 인지하고 있는 문제였으며, 1.5.0 버전에서 비라틴 언어를 공식 지원하면서 한국어 폰트도 함께 추가됨으로서 해결되었다. 다만 함께 추가된 영어 → 한국어 자동번역 기능은 테스트 도중 문제가 발생해서 1.5.1 버전에서 비활성화된 상태.- 필수적인 기능의 개발 진척도가 아직 낮은 편이다. 1.3.0 기준 로어북이라고 부르기도 곤란한 수준의 초보적인 메모리 기능이 구현되어 있을 뿐이다. 단어 밴, 제대로 된 로어북, A/N, 모듈 등은 현재 미구현.
1.4.0 버전에서 로어북을 추가하겠다고 발표했고, 2022년 8월 6일 기준으로 해당 버전의 프리뷰(1.4.0-BETA)가 출시되었다. 개발자가 비교적 활동적인 편이므로 다소 시일이 걸릴 뿐 언젠가는 해결될 문제이다.1.4.0 버전이 정식 출시되면서 로어북이 추가되었다.
- 서버 에뮬레이터의 최적화가 제대로 되지 않아 같은 모델 사용 시 VRAM 사용량이 KoboldAI에 비해 상당히 높다.[3] 이는 모델 선택에 제한을 줄 수밖에 없다.
- 프리뷰 버전인 1.4.0-BETA.1에서 메모리 사용량을 어느 정도 최적화하였으며, 추후 To-do 리스트에는 KoboldAI의 Breakmodel[4]과 유사한 기능을 추가하는 것이 예정되어 있다.
CPU를 갈아서 해결할 예정이라는 뜻
4. 총평 [편집]
1.3.0 기준 특장점이 없는 건 아니지만, 기본적인 기능과 최적화 측면에선 아직 KoboldAI에 미치지 못한다.
5. 여담 [편집]
- 기본 제공 모델 중 KoboldAI/GPT-Neo-125M-AID 모델은 Hugging Face 리포가 고장난 상태이다.
- 기본 제공 모델 중 distilgpt2는 GPT-2 Small에서 한 번 더 거른 버전이기 때문에 매우 가볍지만, 플레이할 가치는 거의 없는 수준이다.
- SFW와 NSFW 모델이 구분되어 있긴 하지만, 만약 NSFW 목적으로 쓰려 한다면 NSFW 모델이 학습자료로 야설을 사용해서 표현이 매우 찰지다는 것을 빼면 딱히 차이는 없다. SFW 모델은 멀쩡한 입력값을 넣었을 때에도 AI가 섹무새짓을 하지는 않는 정도이기 때문. 만약 야한 입력값을 넣거나 메모리에 야한 내용을 적어놓으면 SFW 모델도 알아서 GIGO를 해준다. SFW 모델인 GPT-2 Large 모델로 쓴 야설(호모게이퍼리물 주의)
- 공식 지원하는 NSFW 모델은 모두 2.7B급이라서 어마어마한 사양을 요구하기 때문에 사실상 반강제로 더 낮은 사양의 SFW 모델을 쓸 수밖에 없을 것이다.
- 모바일 버전은 예정되어 있지 않다고 한다. 모바일로는 감당이 안 될 사양을 요구하기 때문에 당연한 일이기는 하다.
[1] 개발 예정. 개발자가 맥이 없는 건지(...), 아니면 인텔 맥과 애플실리콘 맥 중에 한 종류만 갖고 있어서 그러는 건지는 모르겠지만 테스터를 모집하고 있다.[2] VRAM 용량에 따른 구동 가능 모델은 AI Dungeon 문서의 '로컬 대체재' 문단을 참고 바람.[3] 모델에 따라 다르지만 대략 30~50% 가량 차이난다![4] 모델 처리를 CPU와 GPU에 분담시키는 것으로, 그 정도도 사용자가 조절 가능하다. CPU에 할당한 레이어는 일반 RAM을 사용하고, GPU에 할당한 레이어만큼만 VRAM을 사용하게 되므로 VRAM이 부족한 시스템에서 퍼포먼스를 다소 희생하는 것으로 대형 모델을 구동할 수 있게 한다.