대층 vllm 써보려 했는데 방법을 모르겠네요
vllm은 잘 안써봐서
구독자 3440명
알림수신 169명
제한없는 언어모델을 위한 채널
질문
3090×4에서 wizardlm 8x22b를 배포할 수 있을까요?
추천
0
비추천
1
댓글
6
조회수
657
작성일
⚠️ 이 게시물은 작성자가 삭제할 수 없도록 설정되어 있습니다.
댓글
[6]
글쓰기
namuduk
ㅇㅇ (211.234)
삭제
수정
그래요
모맵
감별사
모맵
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
29823055
공지
Ai 언어모델 로컬 채널 이용규정
Ai 언어모델 로컬 채널 이용규정
6103
공지
뉴비에게 도움 되는 글 모음
뉴비에게 도움 되는 글 모음
27553
공지
언어모델 관련 정보취득 /무료체험 가능 사이트
9093
공지
여러분의 학습에 도움을 줄 수 있는 하드웨어 지원
5231
공지
신문고
2297
숨겨진 공지 펼치기(1개)
4273
일반
메타, 라마3-v 8b모델 공개했네요
[1]
60
1
4272
질문
LoRA 제작 두번 실패하면서 모은 질문들
108
0
4271
일반
command r plus 4bit + 3090 4way 후기
[6]
313
5
4270
일반
특징 조작 관련 라마 모델 몇 가지 및 기술(Orthogonalization, ReFT, 우울한 라마, 금문교 라마)
[3]
283
13
4269
일반
일지
157
0
4268
일반
vast.ai + command r plus 4bit + a4000 * 8
[8]
248
5
4267
일반
오늘은 다른 방식으로 굽는 중
184
0
4266
질문
데이터 형식 질문
160
0
4265
일반
rtx5090 vram 28기가 루머
[17]
637
2
4264
일반
4060ti 16g 4way 로는 command r plus 는 좀 힘드네요
[12]
418
3
4263
일반
runpod tinyllama 야인시대 LoRA 시도(실패)
[2]
309
4
4262
일반
gpu 안좋은 분들 뭐 씀?
[9]
640
0
4261
일반
aya-23-35B 6.0bpw + 아프로디테로 "소설가가 되자" 일한 번역
[16]
872
16
4260
일반
하 이직하고 오랜만에 접속하니 세계가 바뀌어 있네요...
[10]
814
5
4259
정보
Mistral의 첫 코딩 AI, Codestral 발표
[3]
639
5
4258
정보
MS, 미세조정 기술 '로라' 개선한 '모라' 공개
[3]
967
17
4257
일반
역시 Kiqu 70B는 맛있네요
[2]
640
0
4256
일반
(리눅스) 수정된 nvidia 드라이버로 3090/4090 에서 P2P를 활성화해보자.
425
5
4255
일반
혹시 채널발 '한국어' 정보글 집대성 해볼 생각 없음?
[26]
1000
13
4254
일반
(성공) Aphrodite + 160GB + 4060ti * 4 + llama 3 70b
[23]
1004
11
사용하고 계신 브라우저가 시간대 설정을 지원하지 않으므로 GMT 시간대가 적용됩니다.