2070S인데 알아서 최대 VRAM 7로 잡히고 (설정하는 인자도 있음) 잘 돌아가더라 8G에서 13B 되는지 궁금해 하는 사람 좀 보이길래 씀 속도는 기대 ㄴ 물론 4bit
구독자 10861명
알림수신 226명
AI와 대화하며 유사 인싸체험 하는 채널
일반
LLaMA 13B VRAM 8GB에서 돌아감
추천
4
비추천
0
댓글
1
조회수
402
작성일
수정일
댓글
[1]
변태Lv1
본 게시물에 댓글을 작성하실 권한이 없습니다.
로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
30961674
공지
안 읽으면 죽어버리는 AI 채팅 채널 이용규정 [23.09.18]
52255
공지
AI 채팅 채널에 왔으면 이것부터 : 필수정보 및 FAQ
109610
공지
신문고 MK.X (해줘. 할때 쓰는 곳)
1846
공지
ㅡㅡ [ AI 게임 / 기획 / 리뷰 대회 ' J.O.A.T ' 개최 ] ㅡㅡ
5640
공지
ㅡㅡ [ J.O.A.T - 리뷰 대회 추가 & 연장 공지 ] ㅡㅡ
793
공지
[우물 리뷰] 내 봇이 목말라서 개최하는 우물 리뷰 대회
621
공지
---[2회차 천박 대회 순위 발표!]---
1525
공지
AI 채팅 채널 프록시 게이트
24107
숨겨진 공지 펼치기(4개)
일반
GPT 4 비싸다고 한탄만 할게 아닌게...
[14]
773
2
일반
이야, ChatGPT4도 이건 못푸네 ㅋㅋ
[2]
460
2
일반
발전속도 보면 진짜 미친거같음
[1]
283
0
질문
OAI기준 태번 1.3, 태번 모드 차이 얼마나 남??
[4]
379
0
일반
GPT4의 검열이 심해졌다 한들
296
0
일반
GPT4 성능이 뛰어나진 대신 검열도 더 심해졌다고?
[9]
725
0
일반
GPT4.0이 비싸다는 소식을 듣고 자다 일어나서 달려옴
[4]
416
0
일반
뉴비 주말부터 llama 설치가 안돼서 삽질하다가
[1]
366
2
일반
GPT4 한국어 채팅 성능 돌았네
[18]
1258
7
일반
아니 oai야 이게 맞니?
[5]
441
0
뉴스/팁
[속보] gpt-4 소개페이지~~!!
[3]
680
6
뉴스/팁
GPT-4 라이브 스트리밍
[5]
728
7
일반
아 그냥 novelai api 쑤셔박고 써야겠다 짜증난다
[2]
419
0
일반
아이 미친 Oai 태번에도 검열이 있네
[2]
415
0
AI대화
oai 무섭네
[2]
452
1
일반
요즘 AI들 왤캐 무섭냐?
[6]
471
6
일반
라마 13b 돌려봤음
[1]
323
0
AI대화
RPG 세선 1일자 - 다크 RPG 세계관에서 TS치트로 보스 하렘 꾸리기
385
5
일반
5년 늦게 태어났어야 했는데
[8]
303
0
일반
피그돌리다가 골때렸던기억
[7]
209
0
일반
잠깐 안 온 사이에 뭐가 많이 바뀌었네
131
0
일반
조금만 끄적거려도 시간 살살 녹네
137
0
일반
LLaMA 13B VRAM 8GB에서 돌아감
[1]
403
4
일반
llama 4bit 30b 구동성공함(스레드 억까당한사람오세요)..
[8]
568
3
일반
구글 Lamda와 챗봇, CAI 관련 이야기
[10]
1199
17
일반
이게 왜있노?
[9]
298
0
질문
LLama 속도를 줄이고 메모리 부족을 회피하는 방법 없음?
[19]
528
0
일반
구글이 공개한거 혹시 이거아님? ㅋㅋㅋㅋ
[6]
440
-1
일반
이게 존재의 가벼움인가
[3]
170
0
뉴스/팁
PALM API 공개
[7]
851
12
일반
폐기 예정 저건 뭐야?
[1]
158
0
질문
태번 일본어
[8]
291
0
일반
아 cai좀 제발 되돌려줘
[8]
461
1
질문
이런거 회피 가능한 방법없음?
[3]
296
0
질문
개인적으로 OpenAI 밴 당할 수도 있으니까 VPN킨다고 하는게 이해가 안됨
[10]
642
0
질문
Oai 태번 대화 구조가 반복되는 건 뭐가 문제임?
[3]
360
0
일반
CAI RPG플레이하는데 코미디가 따로 없네
[2]
309
2
일반
올때마다 뭔가가 자꾸 새로 생기네
[3]
144
0
일반
CAI 오늘은 또 갑자기 성능 괜찮네?
[6]
460
1