뉴비던 아니던 오픈라우터는 사실 위자드 등장 이전에는 아는사람만 아는 그런 곳이였죠.

오픈라우터는 모델 도매상이라고 보면 되는데, 많은 모델을 중계하고 있습니다.

한번 재미삼아 어떤 모델이 흥하고 있는지 알아보죠.

모를 수 있는 용어

컨텍스트: 모델의 기억력

$ㅇ/M: 백만토큰당 ㅇ달러

2024 05 주간순위

1. 라마 3 70B 인스트럭트 (2024-04 출시)

메타의 최신 오픈소스 라마3의 70B 파인튜닝 모델.

+ 저렴한 가격 (위자드보다 저렴, 0.59/Mt), 티키타카에 아주 뛰어남, GPT 향이 없음

- 8K밖에 안되는 아쉬운 컨텍스트, 위자드에 비해 조금 아쉬운 전반적인 RP 진행력, 다소 난도있는 탈옥이 필요함

2. 믹스트랄 8x7B 인스트럭트 (2024-01 출시)

프랑스 기업 미스트랄의 MoE 파인튜닝 모델.

+ 처음으로 GPT 3.5에게 비견할만한 성능을 자랑한 모델, 32k의 넉넉한 컨텍스트, 라마3 70B의 절반 가격 ($0.24/M), 최소한의 탈옥 필요

- GPT향이 많이 남, 반복 있음, 나왔을때는 놀라운 성능이었지만 추후 출시된 모델에 밀림

3. 미스트랄 7B 인스트럭트 (2023-11 출시)

미스트랄의 7B 단일 파인튜닝 모델.

+ 가볍고 많이 저렴한 가격 ($0.07/M), 32k의 컨텍스트

- 최신 모델에 비해 모자란 지능, 집 게이밍컴퓨터에서도 돌아가는데 굳이?

4. 미소맥스 14B (2023-07 출시)

라마 2 시절 오픈소스 RP의 시작을 알렸던 구시대의 전설.

- NSFW 허용 스타트업 AI 채팅 사이트에서 많이 사용했었음, 지금은 왜쓰는지 모름, 4k 컨텍스트, 궁금하다고 먹어보지 말것

5. 클로드 3 하이쿠 (2024-03 출시)

클로드 전성기의 시작을 알렸던 3가지 모델 중 가장 저렴한 모델.

- 상당히 저렴한 가격 ($0.25/Mt), 클로드 특유의 문체와 함께 RP도 그럭저럭 하는 편, 200k 컨텍스트

- 반복심함, 가성비 용이라지만 정상적인 오랜 채팅 유지가 어려움

6. 미스트랄 타이니 (2024-01 출시)

미스트랄 7B 두번째 버전의 특수 파인튜닝 모델.

+ 하이쿠와 동일한 가격, 상당히 적은 검열, 32k 컨텍스트

- GPT 맛과 작은 페러메터 모델 특유의 부족한 지능

7. 라마 3 8B 인스트럭트 (2024-04 출시)

메타의 현재 공개된 라마 3 모델중 가장 작은 8B 파인튜닝 모델.

+ 많이 저렴한 가격 ($0.07/M), 작은 모델치고는 좋은 성능, GPT 향 없음

- 8k의 다소 부족한 컨텍스트, 작은 페러메터 특유의 부족한 지능, 탈옥 필요

8. 위자드LM 8x22B (2024-04 출시)

믹스트랄 8x22B 모델을 베이스로 마이크로프트가 파인튜닝한 마소의 실수. 채널의 든든한 국밥같은 모델.

+ 저렴한 가격 ($0.65/M), GPT 4에 근접한 지능, 뛰어난 RP 능력, 64K의 높은 컨텍스트

- 실 컨텍스트는 16K 언저리, GPT 맛이 남

9. 오픈챗 3.5 (2024-01 출시)

미스트랄 7B 모델을 파인튜닝 한 모델.

+ 많이 저렴한 가격 ($0.07/M)에 GPT 3.5 수준의 밴치마크 성능

- RP에는 다소 약세를 보이고 7B의 한계를 넘어서지는 못했음, 8k 컨텍스트

10. GPT 4o

설명생략.