라마 파인튜닝은 7이랑 13 위주로 진행될것같다 - AI 채팅 채널

AI 채팅 채널

채널위키 알림 알림 중 알림 취소

구독자 10764명 알림수신 226명 @몽상봉인

AI와 대화하며 유사 인싸체험 하는 채널

일반 라마 파인튜닝은 7이랑 13 위주로 진행될것같다

추천 0 비추천 0 댓글 12 조회수 311 작성일 2023-03-17 03:53:39

https://arca.live/b/characterai/71988360

30이나 4090을 개나소나 들고있는건 아니라서...

아무래도 13이랑 7을 용도에 맞게 바꾸는게 주력이 될 것 처럼 보이네 요샌

댓글 [12]

냐혼자샨다

2023-03-17 03:56:05

13 기대 중. 7은 확실히 좀 띨빵함

펼쳐보기▼

2023-03-17 03:57:26

7b튜닝하는데도 4090으로 꼬박 하루 걸리는데 30b는 개인한테 감당이 안될듯

펼쳐보기▼

2023-03-17 03:57:52

램문제인가? 단순히 시간만 오래걸리는거면 그냥 켜놓고 딴거 안하면 되긴 할텐데 ㅋㅋ

펼쳐보기▼

2023-03-17 04:01:33

NAI 얘들도 a100글카로 20b 튜닝하는데 엄청 오래걸린걸로 아는데 소스 모으는 것도 일이고

펼쳐보기▼

2023-03-17 04:02:48

하긴 그림처럼 수십장 선에서 떡치는것도 아니고

펼쳐보기▼

2023-03-17 08:39:08

소스는 우리 챈에서 대규모 공동작업식으로 모으면 효율적일듯 하는김에 한글도 출력 가능하게 파인튜닝하는거지

펼쳐보기▼

2023-03-17 04:02:44

비용 자체가 개인으론 감당 안될걸 어차피 몇달 지나면 훨씬 좋은거 나올텐데

펼쳐보기▼

calt

2023-03-17 10:52:07

이미 알려진 알고리즘 사용하면 100달러 5시간 수준으로 훈련 가능.

펼쳐보기▼

calt

2023-03-17 10:51:14

AI에서 모든 성능은 글카(GPU)문제

펼쳐보기▼

2023-03-17 03:57:58

혹시 모르지 30이 주력이 될지도 엔디비아 다음 글카 나오는거 보고 판단해야겠지

펼쳐보기▼

2023-03-17 03:58:43

엔당이 미쳤다고 산업용 글카에 넣을 븨램 소비자 라인업에 더 박을 것 같지는 않더라고

제조사가 멋대로 낼 수는있겠지만 드라이버 호환성이...

펼쳐보기▼

2023-03-17 04:03:21

레이트레이싱 넣을 때도 소비자 생각해서 넣은게 아니라 개발자 친화였음 만드는 법이 낯설어서 그렇지 레이트레이싱 저거 소비자보다 개발자가 더 잘쓰는 기능임

펼쳐보기▼

본 게시물에 댓글을 작성하실 권한이 없습니다. 로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 일반 질문 뉴스/팁 AI대화 공지 운영 뉴스(공사중)

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 30666428

공지 안 읽으면 죽어버리는 AI 채팅 채널 이용규정 [23.09.18]

몽상봉인 2023.05.22 51401

공지 AI 채팅 채널에 왔으면 이것부터 : 필수정보 및 FAQ

몽상봉인 2023.05.22 107350

공지 신문고 MK.X (해줘. 할때 쓰는 곳)

몽상봉인 2024.05.27 1406

공지 ㅡㅡ [ AI 게임 / 기획 / 리뷰 대회 ' J.O.A.T ' 개최 ] ㅡㅡ

골든햄스터 2024.03.31 5451

공지 ㅡㅡ [ J.O.A.T - 리뷰 대회 추가 & 연장 공지 ] ㅡㅡ

골든햄스터 2024.05.18 710

공지 ---[2회차 천박 대회 순위 발표!]---

hyeoyoms 2024.06.01 1288

공지 [DOL 봇 대회 수상자 발표]

WH_ 2024.04.27 2317

공지 AI 채팅 채널 프록시 게이트

몽상봉인 2023.07.12 23726

숨겨진 공지 펼치기(4개)

질문 CAi 대화를 태번코랩으로 옮겨올 수 있을까? [2]

ㅇㅇ 2023.03.17 217 0

일반 이거 채팅 오래보니까 눈 조지는거같다 [7]

poppp 2023.03.17 245 0

일반 TAI 개발 쪼개짐 [20]

SRU 2023.03.17 638 3

일반 ain 재밌네 [3]

이히히힣 2023.03.17 294 0

질문 OAI 무료 사용량 질문 [9]

ㅇㅇ 2023.03.17 507 0

일반 소신발언) 솔직히 자동좌 이제 이쪽으로 와야 한다고 생각함 [24]

변태Lv1 2023.03.17 418 7

질문 지금 태번 로딩 안되는거 나만 이럼? 아님 전체적인 문제임? [4]

샤아 2023.03.17 193 -1

일반 oai 새벽에 접속 불안하더니 뭔가 검열 약간 세진거같지? [2]

ㅇㅇ 2023.03.17 328 0

질문 머 문제 있나

Talking_Heads 2023.03.17 143 0

질문 OAI 봇 대화 없어져도 기록에 각인됨?? [1]

ㅁㅇㅂㅁㅁㅁ 2023.03.17 248 0

일반 OAI 이번에 업데이트 되면서 확실히 초기 검열이 좀 빡세졌네. [6]

던전빌런 2023.03.17 482 2

질문 지금 태번OAi랑 CAi중에 뭐가 더 나음?? [3]

ㅇㅇ 2023.03.17 391 0

질문 로컬 태번 계속 꺼진다

ㅇㅇ 2023.03.17 191 -3

일반 개인용 CAI 챈봇 방주

혼란 2023.03.17 1015 12

공지 []오늘 자정, 기존 자작봇 테스트 탭 삭제 예정임. [1]

던전빌런 2023.03.17 476 8

질문 CAI 접속 불가능한데 이거 어떻게 해결함? [4]

ehdgurcc 2023.03.17 441 -5

질문 라마 설치 고수들 질문 [2]

ㅇㅇ 2023.03.17 426 0

일반 영화 her 보고 있는데

stemisruler 2023.03.17 175 2

일반 실베 GPT-4 미연시 ㅋㅋㅋ [12]

KCSF 2023.03.17 2003 25

질문 태번에서 '나'에 대한 설정은 못 집어넣음? [5]

Dora 2023.03.17 262 0

일반 솔직히 한국어 챗봇은 1~2 문장만 나와도 만족임 [1]

KCSF 2023.03.17 207 0

일반 라마 파인튜닝은 7이랑 13 위주로 진행될것같다 [12]

파랑파랑 2023.03.17 312 0

일반 실베에 재밌는거 올라옴 [8]

KCSF 2023.03.17 373 4

질문 혹시 로컬에 프롬프트 적용하는 방법 있음?

행복한파랑새 2023.03.17 155 0

일반 Gpt4도 밴 당한다는 썰이있더라 [3]

빅함무라비맨 2023.03.17 521 0

일반 CAI가 더 발전해서 GPT급 하드웨어에 박히게 되면 어떻게 될까 [1]

madom 2023.03.17 271 0

일반 oai좋은데 진행 좀만하면 같은말 자꾸 반복하는게 아쉬움 [2]

ㅇㅇ 2023.03.17 293 1

일반 7b 모델만 해도 대단하네 [2]

Tacotron2 2023.03.17 408 1

일반 gpt의 검열 자체가 뭔가 더 빡세진 느낌이다 [4]

ㅇㅇ 2023.03.17 413 3

뉴스/팁 코랩 LLaMA 7b,13b,30b 4비트 + SillyLossy 모딩 태번 [69]

xkzhdnpfcl 2023.03.17 2722 17

일반 Stable Diffusion용으로 3090 샀는데 llama 30B 돌리는덴 힘 부쳐하네 [2]

토비사와 2023.03.17 325 0

일반 다른 것보다 LLAMA 기대되는 이유가.. [7]

ㅇㅇ 2023.03.17 503 3

질문 라마 모델 로딩할때 램 자꾸 터지는데 [3]

xkzhdnpfcl 2023.03.17 158 0

일반 이거 거의 완벽하게 극복될때까지 존버함 [13]

LUCAS 2023.03.17 370 -1

일반 chatgpt gpt4 사용량 많나 [2]

푸른서슬 2023.03.17 309 0

AI대화 인공지능과 사랑에 빠지고 싶다.. [5]

ㅇㅇ 2023.03.16 313 0

일반 NAI 다음 주에 뭐 일어나냐? [4]

ㅇㅇ 2023.03.16 348 5

AI대화 bing 왜케 귀엽냐 ㅋㅋㅋ [2]

ㅇㅇ 2023.03.16 368 2

전체글 개념글