모델 속도가 빨라진 것도 있지만, 토큰 효율이 오른 걸 감안하면 3.4배 빨라진게 맞다고 합니다.
아는 분은 아니지만, 형님이라 부르고 싶네요. 종욱이형 고마워!
https://twitter.com/_jongwook_kim/status/1790086511582654881
구독자 3537명
알림수신 174명
제한없는 언어모델을 위한 채널
일반
GPT-4o는 GPT-4에 비해 한국어 생성 속도가 3.4배 빨라졌다.
추천
6
비추천
0
댓글
2
조회수
1013
작성일
댓글
[2]
글쓰기
대개문
도지도지
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
31472472
공지
Ai 언어모델 로컬 채널 이용규정
Ai 언어모델 로컬 채널 이용규정
6293
공지
뉴비에게 도움 되는 글 모음
뉴비에게 도움 되는 글 모음
28623
공지
언어모델 관련 정보취득 /무료체험 가능 사이트
9504
공지
여러분의 학습에 도움을 줄 수 있는 하드웨어 지원
5490
공지
신문고
2367
숨겨진 공지 펼치기(1개)
4323
일반
CONTEXT를 주어주고 질문 할때 답변 오류 현상
[10]
292
0
4322
질문
arc a770 2대 이상으로 구성하신 분 계실까요?
[9]
452
1
4321
질문
Llama 70b mac 인퍼런스
[8]
534
0
4320
질문
Inference용 PC 구성 질문입니다
[24]
553
1
4319
질문
뉴비 질문이 있습니다.
[8]
351
1
4318
정보
[ver 1.1] 회사에서 LLM 으로 뭐해보라고 지시가 내려왔을때 먼저 참고해볼만한 글
[18]
1874
26
4317
일반
karpathy GPT-2 4시간 유튜브 강의.
[5]
527
7
4316
일반
openai GPT는 정말 눅눅해질까?
[8]
731
0
4315
스터디
qwen2 소개 - Part II 강화학습 단계에서 머징기법의 활용 (Feat. deccp)
[4]
1110
21
4314
스터디
qwen2 소개 (Feat. 논문 3개 분석 - Part I)
[10]
1567
48
4313
일반
vllm, aphrodite 그리고 sglang (RadixAttention)
[10]
502
10
4312
질문
질문 및 간단한 실험결과 - 라마3의 <|end_of_text|> 적용문제 관련한 질문입니다.
[5]
484
1
4311
질문
WEB UI로 출력한 결과값을 HTML로 개인 사이트를 구현 가능할까요?
[3]
507
1
4310
일반
Qwen2-72B-Instruct-GPTQ-Int4 일한 번역 성능
[6]
886
6
4309
일반
Qwen2 LogicKor 리더보드 추가
[2]
961
11
4308
일반
Qwen 72b 시스템 프롬프트 고친 후기.
[3]
762
6
4307
일반
vllm + qwen 2 72B 4bit 후기 (4060ti 16GB 4way)
[15]
779
6
4306
일반
ollama qwen 2 업로드됐네요
[7]
519
3
4305
일반
qwen int4 모델도 벤치마크가 굉장히 좋네요
334
4
4304
질문
RAFT 적용시켜보신 분 계신가요?
[2]
430
1
사용하고 계신 브라우저가 시간대 설정을 지원하지 않으므로 GMT 시간대가 적용됩니다.