KoboldAI

AI 인터랙티브 픽션에 쓰이는 모델을 파인튜닝하여 제공하고, 그걸 구동할 수 있는 서버-클라이언트 세트도 제공하는 단체.

AID 플레이 데이터나 CYOA 텍스트로 파인튜닝시킨 모델이나, 야설을 '주입식' 해버려서 NSFW 플레이에 최적화된 모델 등을 제공한다.

로컬에서 AI 게임을 즐길 수 있는 서버와 클라이언트 세트. 클라이언트는 웹 기반이다. 오픈 소스인 데다가, AIdventure와 비교하면 기능 구현도와 최적화 수준이 매우 좋다. 단어밴만 없는 정도고 대체로 있을 건 다 있는 수준. AIdventure는 누가 봐도 얼리 액세스나 다름없는 수준이라서 더 비교된다
설치 및 유지관리가 다소 어렵다는 후기가 있긴 한데, 공식 제공하는 Windows 전용 인스톨러를 사용할 경우 설치 이후 소소하게 거슬리는 점은 있어도 설치 자체는 매우 쉽다. 보통 실패하는 경우는 리눅스이거나, 수동 설치를 원하거나, 서버 등에 설치를 시도하는 경우 등등.

CUDA를 사용하기 때문에 로컬에서 구동할 경우 VRAM이 풍족한 엔비디아 그래픽카드는 준필수나 다름없다. 하지만 GPGPU를 쓰려면 무조건 GPU에 몰빵해야 하는 AIdventure와는 달리[1], KoboldAI는 Breakmodel로 CPU와 GPU에 사용자가 원하는 만큼 지정하여 작업을 분담시킬 수 있기 때문에, GPU가 해당 모델을 굴리기에 약간 사양, 아니, VRAM이 부족하더라도 CPU와 일반 RAM에 분담시키는 것으로 타협할 수 있다. 반면 AMD GPU는 극히 일부의 모델만, 그것도 리눅스에서만 지원하고 있다. AMD의 GPGPU 지원이 매우 끔찍하다고 까는 건 덤. 그래도 아예 언급조차 안 되는 인텔 바탕화면 표시기보다는 취급이 낫다

Google Colab을 사용할 수 있다. 비공식공식

기본 제공하지 않는 다른 모델도 수동으로 다운로드해서 사용할 수 있다. 사용 가능한 한국어 모델로는 SK텔레콤의 Ko-GPT-Trinity 1.2B 등이 있다. 다만 성능은 몰?루?? 데이터셋이 블로그 글, 뉴스 기사, 네이버쇼핑 구매후기 따위라서 이런 용도로는 완전 못 써먹을 수준이니까 얌전히 영어 모델 돌리자.