LLaMA 7B 3090ti 16기가 VRAM 깃허브 리뷰 - AI 그림 채널

AI 그림 채널

채널위키 알림 알림 중 알림 취소

구독자 75280명 알림수신 1664명 @NO_NSFW

인공지능으로 제작한 그림을 자랑하고 정보를 공유하는 채널

일반 LLaMA 7B 3090ti 16기가 VRAM 깃허브 리뷰

추천 27 비추천 1 댓글 7 조회수 2609 작성일 2023-03-04 15:30:53

https://arca.live/b/aiart/71138224

7B 모델은 3090ti에서 빠르게 생성되며(~500개 토큰의 경우 ~30초, ~17개 토큰/초) ChatGPT 인터페이스보다 훨씬 빠릅니다. 생성하는 동안 ~14GB VRAM을 사용합니다. 이것은 또한 batch_size=1이론적인 처리량이 이보다 높다는 것을 의미합니다.

https://github.com/facebookresearch/llama/issues/4

댓글 [7]

2023-03-04 15:32:00

실시간으로 해부당하는 LLaMa...

펼쳐보기▼

어이김씨손가락이나지워

2023-03-04 15:32:40

*수정됨

속도는 인상적이지만 대충 읽어 보니까 역시 7b라 그런지 생성된 글의 품질이 높지는 않네.
그래도 개인들이 쓰는 일반 PC에서 이 정도면 앞으로 미래가 기대된다.

펼쳐보기▼

2023-03-04 15:33:06

66b모델의 힘을 쓰면...

펼쳐보기▼

어이김씨손가락이나지워

2023-03-04 15:33:51

언제쯤 중저사양에서도 그 정도 모델이 돌아갈까 ㅋㅋㅋ

펼쳐보기▼

2023-03-04 15:33:52

와 시발 생성속도 미쳤다

펼쳐보기▼

2023-03-04 16:01:55

저정도는 돼야 개념글 가는구나..

펼쳐보기▼

2023-03-04 17:13:20

본 게시물에 댓글을 작성하실 권한이 없습니다. 로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 일반 그림 공지 운영

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 29137176

공지 AI 그림 채널 통합 공지 (2024-05-18)

NO_NSFW 2022.10.23 602904

공지 ( 진행중 ) 대회 관련 공지 / 현재 진행중인 대회

NO_NSFW 2023.02.01 70131

공지 AI그림 채널 신문고

NO_NSFW 2022.12.10 76416

공지 곤살레스(아카 AI) 관련 공지

NO_NSFW 2024.03.26 12864

공지 본 채널은 AI 그림의 수익화를 반대합니다.

NO_NSFW 2023.05.11 58411

공지 공지 정보글에 여러분들의 기여가 필요합니다

DeepCreamPy 2023.02.21 84923

숨겨진 공지 펼치기(2개)

334 일반 4chan 형들 근황 [53]

youchan 2023.03.05 10119 125

333 일반 그림판 i2i 놀이..이런식으로..하면될듯? 아니면 말고 ㅋㅋ [3]

제로니 2023.03.05 1600 16

332 일반 그림판 i2i 놀이.jpg [12]

퐁짱 2023.03.05 1443 26

331 일반 요즘 1일차들 특징 [12]

ㅇㅇ 2023.03.04 2225 17

330 일반 LLaMA 13B 더블 3090로 쓴 소설! [11]

youchan 2023.03.04 3014 17

329 일반 LLaMA 7B 3090ti 16기가 VRAM 깃허브 리뷰 [7]

youchan 2023.03.04 2610 26

328 일반 AI 그림이 발전이 빠를 수 밖에 없는 이유 [10]

siwkim77 2023.03.04 2746 39

327 일반 LLaMA 필요 VRAM 정리 [16]

ㅇㅇ 2023.03.04 5140 27

326 일반 이챈 처음와보는데 여기 뭐냐 ㅋㅋㅋㅋ [17]

gogogo33355 2023.03.04 2642 40

325 일반 ???: 여기 한국인 있어요? [16]

파랑파랑 2023.03.04 2095 29

324 일반 오히려 AI그림에대해 알게될수록 그림그리는 사람 안 깔아보게 되는거 같음 [45]

스카이워커 2023.03.04 4809 46

323 일반 LLaMA 경량화 떴다!!! [52]

youchan 2023.03.04 3929 49

322 일반 페북이 완전 오픈소스화 사실상 허용해버림ㅋㅋ [17]

youchan 2023.03.04 2190 40

321 일반 4080 챈섭 온 [29]

라이드제로 2023.03.04 2036 18

320 일반 AI그림 전용 장비 도착했다... [22]

ㅁㅋㅍ 2023.03.04 2206 30

319 일반 그림AI에 홀려 여기까지 왔다... [30]

보급폰블붕이 2023.03.04 2200 20

318 일반 NovelAI 유출 사건이랑 비슷한거 또 터짐ㄷㄷ [52]

youchan 2023.03.04 4182 39

317 일반 공지 다 봤는데 AI 그림 어떻게 하나요? [23]

Anon 2023.03.04 2168 46

316 일반 본인 그림으로 ai 대충 돌려본 결과물 [41]

풒푸 2023.03.03 2134 26

315 일반 야 진짜 큰거 왔다 [19]

와이크리스 2023.03.03 2373 26

314 일반 투샷 기능 상위호환? 나올 예정 [21]

apphhq 2023.03.02 2058 41

313 일반 ai 입문하고 싶다는 뉴비 가르친 흐름도 [10]

ㅇㅇ 2023.03.02 8155 40

312 일반 요즘 만들라는 그림은 안만들고 [37]

에라이 2023.03.02 5638 114

311 일반 형들 나 코랩 60달러 짜리 질렀어 잘부탁해!!! [11]

된놈 2023.03.02 1428 13

310 일반 결국 본체값만 400들여서 컴터 새로 샀다 [34]

보급폰블붕이 2023.03.02 1724 19

309 일반 오랜만에 챈섭 열음 [10]

ATN 2023.03.01 1844 11

308 일반 난 가끔 발전이 멈췄으면 해 [14]

ㅇㅇ 2023.03.01 2090 21

307 일반 [스압][데이터주의] Dora의 AI 그림 학습 일기-2 : 제발... 내가 원하는 것 좀 그려봐... 컨트롤넷과 인페인트 [5]

Dododora 2023.03.01 4952 13

306 일반 AI그림의 중독성이 심각한건 당연한거지 [19]

ㅇㅇ 2023.02.28 5309 74

305 일반 컨트롤넷 하다가 현타 온 썰 [15]

은배기 2023.02.28 2392 22

304 일반 아니 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [10]

플라이하이 2023.02.28 1716 21

303 일반 이번주만 두번 보인 질문 자주묻는질문에 추가함 [27]

DeepCreamPy 2023.02.28 1424 30

302 일반 [초스압][데이터주의] Dora의 AI 그림 학습 일기-1 : 일반인도 그림쟁이가 될 수 있다고? [9]

Dododora 2023.02.27 6280 20

301 일반 레딧 : '조만간 자동 손 수정 기능이 나올 수도 있다' [58]

xeno 2023.02.27 9570 116

300 일반 ??? : 님들 이 그림 보셈 쩔죠? 이거 Ai로 만든 거임! [15]

he11o123 2023.02.27 2423 36

299 일반 이것도 옛날짤이네 [15]

유노 2023.02.27 1662 24

298 일반 Corridor에서 만든 AI 애니메이션.youtube [13]

SGG 2023.02.26 2292 23

297 일반 쉼표도 딱히 안 붙여도 되네? [10]

ㅇㅇ 2023.02.26 2204 31

296 일반 김홍도 lora가 이런거임? [23]

A4쥬지 2023.02.25 7877 137

295 일반 언제쩍 소녀전선 다시 갖고 놀기 [9]

나태 2023.02.25 1818 28

294 일반 뽑으라는 야짤은 안 뽑고 이러고있네 [14]

산호볼 2023.02.25 2073 43

293 일반 AI가 추천해준 프롬프트로 그린 성녀 [16]

대밋 2023.02.25 3479 24

292 일반 3월달에 클립스튜디오 기능 확 업뎃되네 [17]

어이김씨손가락이나지워 2023.02.25 2382 13

291 일반 스압) 응애뉴비 배우면서 처음으로 도자기 깎아봤어오 칭찬해주세오 [10]

ㅇㅇㅇㅇㅇ 2023.02.24 1787 21

290 일반 오늘자 Ai그림콘 업데이트 [19]

근첩A 2023.02.24 2563 24

전체글 개념글