회사 개발환경은 CUDA라서 vLLM으로 재미좀 보고있는데
개인 장비는 Mac Silicon이라서 vLLM을 못쓰는데...너무 슬퍼요
aphrodite engine은 아직 못봤는데, 지원 안되겠지...
구독자 3538명
알림수신 174명
제한없는 언어모델을 위한 채널
일반
Silicon 유저는 오늘도 운다
추천
1
비추천
0
댓글
8
조회수
671
작성일
댓글
[8]
글쓰기
ㅇㅇ
용바오
ㅇㅇ
용바오
ㅇㅇ
ㅇㅇ
noopSD
ㅇㅇ
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
31481377
공지
Ai 언어모델 로컬 채널 이용규정
Ai 언어모델 로컬 채널 이용규정
6294
공지
뉴비에게 도움 되는 글 모음
뉴비에게 도움 되는 글 모음
28627
공지
언어모델 관련 정보취득 /무료체험 가능 사이트
9505
공지
여러분의 학습에 도움을 줄 수 있는 하드웨어 지원
5490
공지
신문고
2367
숨겨진 공지 펼치기(1개)
4083
일반
llm 또는 RAG 논문 추천해주실수 있을까요??
[8]
756
2
4082
일반
초딩도 할 수 있는 컨텍 확장 가이드
[24]
2250
23
4081
질문
llm을 이용해서 돈벌고계신분들 계신가요??
[13]
1395
0
4080
질문
m2 mac studio ultra로 llama3 8b fine tuning 될까요?
[7]
693
0
4079
정보
서울과기대, LLama3 8B 파인튜닝 영어-한국어 모델 'Bllossom'
[10]
1859
4
4078
일반
qwen1.5 110b출시
415
4
4077
일반
Llama-3-8B-Instruct 262k 컨텍스트 확장 출시
[16]
1551
12
4076
질문
OpenAI Embeddings
[5]
752
0
4075
질문
chat model에 raw text 학습시키는 방법은 어떤게 있을까요?
[1]
474
0
4074
질문
4060ti로도 개인용으로 돌릴 수 있음?
[5]
727
0
4073
질문
70b 모델을 2.5~3T/s 정도 나오게 하려면 어느정도 사양이 필요할까요?
[7]
714
0
4072
질문
finetuning 도구 추천 부탁드릴수 있을까요?
[7]
723
-1
4071
일반
라마3 온디바이스 추론
[6]
953
0
4070
일반
NurtureAI <- 여기 모델 사용하지 마시길
[7]
1542
11
4069
일반
OAI Batch API 기능 번역
398
4
4068
질문
ai용 컴퓨터 장만하려고하는데요
[6]
832
1
4067
질문
데이타셋중 Prompt, Chosen, Rejected로 되어 있는건 어떻게 사용해야 하나요?
[4]
357
0
4066
질문
파인튜닝과 관련하여
[2]
666
0
4065
질문
ollama 로 llama3 구동하여 성향을 가진 챗봇처럼 대화할 수 있나요?
[5]
983
0
4064
일반
라마3 시대를 맞이하여 새로 정보 공지글 정리하려고 합니다.
[26]
2005
29