80ti 2개 있는데
80ti VRAM이 11기가라서 30b 모델은 힘들고
그래픽 카드 서로 발열 간섭 없이 만드려면 돈이 꽤나 들겠네요.
구독자 3541명
알림수신 175명
제한없는 언어모델을 위한 채널
질문
남는 글카가 있는데 로컬 챗봇용 서버 만들기가 가능할까요
추천
1
비추천
0
댓글
4
조회수
169
작성일
⚠️ 이 게시물은 작성자가 삭제할 수 없도록 설정되어 있습니다.
댓글
[4]
글쓰기
변태Lv1
변태Lv1
노랑노랑
변태Lv1
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
31625520
공지
Ai 언어모델 로컬 채널 이용규정
Ai 언어모델 로컬 채널 이용규정
6310
공지
뉴비에게 도움 되는 글 모음
뉴비에게 도움 되는 글 모음
28684
공지
언어모델 관련 정보취득 /무료체험 가능 사이트
9524
공지
여러분의 학습에 도움을 줄 수 있는 하드웨어 지원
5513
공지
신문고
2368
숨겨진 공지 펼치기(1개)
정보
llama와 시리의 목소리를 활용한 100% 로컬 비서
[2]
380
2
일반
30분 뒤면 다운로드 완료되겠네
[10]
183
1
질문
근데 파인튜닝은 좀 좋은 장비환경이어야지 가능한가?
[2]
270
0
질문
언어모델은 쿠다가속 안들어가나? 그러면 진짜 애플이 답 되는거 아닌가
[3]
152
0
일반
메타 라마 못없애겠는데 이제
[13]
289
0
일반
이게 맞니? 코알파카야?
[4]
372
4
일반
챗닥터의 등장으로 드는 개인적인 생각.
[3]
167
0
일반
sk회선은 vpn 먹여야 해외발 자료 토렌트가 받아지네
[2]
147
0
일반
검열을 풀어야 전기 낭비가 줄어들텐데 왜 다들 그걸 모를까
162
1
정보
ChatDoctor: 의료 분야 지식을 사용하여 LLaMA 모델에서 미세 조정된 의료 채팅 모델
[9]
499
5
질문
남는 글카가 있는데 로컬 챗봇용 서버 만들기가 가능할까요
[4]
170
1
일반
애플 이새끼들 가격정책 양심이 ㅋㅋ
[4]
197
0
질문
65b는 cpp로 돌리기엔 무리임?
[2]
194
0
일반
여기가 따로 존재하는지도 몰랐네
98
0
일반
라마 Group size 128 30B 후기
[5]
315
2
질문
코랩 라마 7b로 소설 쓰는 것 가능함?
[5]
289
0
정보
GPTQ 의 방식별 성능 비교 + 하드웨어별 어떤 모델이 최선인가
[8]
1461
2
정보
몇몇 모델 후기 겸 최적의 설정값 공유 및 각 설정값 설명
[3]
2409
12
일반
라마관련 페이스북 반응 근황 있음?
[1]
133
0