llama 램 용량 관련해서 얘기 많이 나오던데

AI 그림 채널

채널위키 알림 알림 중 알림 취소

구독자 75991명 알림수신 1673명 @NO_NSFW

인공지능으로 제작한 그림을 자랑하고 정보를 공유하는 채널

일반 llama 램 용량 관련해서 얘기 많이 나오던데

이하비스

추천 1 비추천 1 댓글 19 조회수 952 작성일 2023-03-04 07:17:51

https://arca.live/b/aiart/71105472

속도는 좀 느리겠지만 그냥 128기가 usb나 sd카드 하나 사다가 용량 100%를 가상메모리로 돌리면 되는거 아님?

집에 글카가 없어서 아무나 '해줘'

댓글 [19]

다스놀이

2023-03-04 07:19:18

느려서 폭망이지. 그렇게 할거면 그냥 속도빠른 NVME SSD 디스크 스와핑으로도 감당 가능할텐데 뭐하러 속도느린 USB메모리를 살까

펼쳐보기▼

이하비스

2023-03-04 07:19:29

싸잖아

펼쳐보기▼

ㅇㅇ

2023-03-04 07:19:41

속도가 수천배씩 차이난다고 하더라

펼쳐보기▼

이하비스

2023-03-04 07:19:57

그럼 어쩔 수 없겠네

펼쳐보기▼

siwkim77

2023-03-04 07:19:52

토큰 하나 출력하는데 10분씩 걸릴듯 ㅋㅋ

펼쳐보기▼

이하비스

2023-03-04 07:20:20

확실히 느려지긴 할것 같은데 그정도인지는 잘 몰?루

펼쳐보기▼

siwkim77

2023-03-04 07:22:46

랜덤엑세스 차이가 넘사라서 램을 대체할 수 있는건 아직은 더 많은 램 밖에 없음... 물론 요즘은 스스디를 잘 갈구면서 램사용량 줄이는 최적화가 중요하다는 말을 듣기는함

펼쳐보기▼

호랑할배

2023-03-04 07:20:35

디스크랑 램으로 보내라고 설정했는데. GPU 용량 제한해도 자꾸 out of cuda 뜨면서 터지던데

펼쳐보기▼

호랑할배

2023-03-04 07:20:54

대충 한줄 정도는 출력하고 터지긴 함.

펼쳐보기▼

이하비스

2023-03-04 07:21:11

그건 설정하는 프로그램에 뭔가 문제 있는거 아님?

펼쳐보기▼

호랑할배

2023-03-04 07:21:33

그런거 같긴 함. 그냥 화나서 누가 해주겠지 하고 입벌리고 기다리는 중

펼쳐보기▼

이하비스

2023-03-04 07:23:41

얘기 자꾸 나오길래 지금 해보려고 코드 다운중인데 빨리 됬으면 좋겠네
일단 int4로 양자화 돌려서 용량 토막내고 시작해볼듯

펼쳐보기▼

호랑할배

2023-03-04 07:25:13

잘 되길 빌어드림

펼쳐보기▼

이하비스

2023-03-04 07:25:50

대신 cpu에서 돌릴 예정이라 속도는 씹창날듯?

펼쳐보기▼

별빛대장간

2023-03-04 07:29:21

그거 gpu 최대 용량 계속 1기가씩 줄이면서 테스트 해봐야 함.

펼쳐보기▼

모닝콘

2023-03-04 07:27:36

RAM과 가상 메모리의 속도 차이는 약 100배 정도 차이가 난다고 합니다잉~

펼쳐보기▼

이하비스

2023-03-04 07:28:30

속도가 느린데 돈이 없는 경우에는 그나마 저런게 답 아닌가 싶어서 한번 얘기해봤음

펼쳐보기▼

모닝콘

2023-03-04 07:30:06

가능은 한데 시간은 유한하니... 한번 돌려봐야 체감이 올듯

펼쳐보기▼

하루도루

2023-03-04 07:42:29

불가능

펼쳐보기▼

본 게시물에 댓글을 작성하실 권한이 없습니다. 로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 일반 그림 공지 운영

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 32078312

공지 AI 그림 채널 통합 공지 (2024-06-08)

NO_NSFW 2022.10.23 621659

공지 AI그림 채널 신문고

NO_NSFW 2022.12.10 79221

공지 본 채널은 AI 그림의 수익화를 반대합니다.

NO_NSFW 2023.05.11 61512

공지 질문하기 전에 한번만 보고 가면

라스파이 2024.06.21 2879

공지 ( 진행중 ) 대회 관련 공지 / 현재 진행중인 대회

NO_NSFW 2023.02.01 72154

공지 공지 정보글에 여러분들의 기여가 필요합니다

DeepCreamPy 2023.02.21 87020

숨겨진 공지 펼치기(2개)

일반 AI의 발전은 유출로부터 시작된다? [4]

ㅇㅇ 2023.03.04 737 0

일반 LLaMA 데이터셋은 어디서구함? [4]

하루도루 2023.03.04 666 0

일반 chatgpt랑 대화할 때 주의할 점 [3]

adkjf 2023.03.04 456 1

그림 뭔가 업소같은데차럼 뽑혔네 [3]

robosuccu 2023.03.04 766 1

일반 c드라이브말고 다른 드라이브에서 쓰는 사람 있음? [10]

이지부먹 2023.03.04 417 0

일반 LLaMA 저거 런포드로 돌릴 수 있을 거 같은데 [25]

ㅇㅇ 2023.03.04 878 0

그림 쓰고 있는 표지 만들어보면서 건드리는데 재미있다 [13]

아비오 2023.03.04 534 0

그림 서큐버스 몇장 [6]

robosuccu 2023.03.04 683 3

일반 인싸들 보는 유튜브에도 컨트롤넷 얘기 떴네 [2]

파랑파랑 2023.03.04 609 0

일반 애들아 LLaMA 다운 다 받아는데...이제 어떻게 함 ㅋㅋㅋ? [6]

제로니 2023.03.04 952 0

일반 llama 경랑화 및 최적화되어서 아이폰에 이식하는 그날까지 [3]

까나리아 2023.03.04 386 0

일반 토렌트 설치 프로그램이 원래 이렇게 오래걸렸나... [5]

보급폰블붕이 2023.03.04 365 0

일반 llama 램 용량 관련해서 얘기 많이 나오던데 [19]

이하비스 2023.03.04 953 0

일반 앞으로 고생길 훤히 열림 [2]

Tacotron2 2023.03.04 418 1

그림 남캐 만들기 뒤지게 힘드네

kkkkb 2023.03.04 876 2

일반 램 업글한다면 윈도도 업글 필요하더라 [7]

나태 2023.03.04 328 0

일반 5090은 브램 80기가로 내줘 [5]

siwkim77 2023.03.04 412 0

그림 [데이터주의] i2i로 노는 것도 재밌네요. [8]

Dododora 2023.03.04 876 3

일반 ??? : AI용 고사양 컴퓨터 견적 하나 주세요 [6]

ㅇㅇ 2023.03.04 534 4

일반 다른분들 글카 소음 궁금하네요 [15]

ㅇㅇ 2023.03.04 700 0

일반 LLaMA 있으면 내 휴대폰에 이거 넣고 다닐 수 있을까... [8]

파랑파랑 2023.03.04 697 0

일반 llama 최소사양 심하다 [8]

나태 2023.03.04 1083 1

일반 lora이거 캐릭터 뽑을 때 완전 갓인데(직접 학습시킨 프로세카 히노모리 시호 lora)

ㅇㅇ 2023.03.04 806 2

일반 메가 터키 우회결제 말인데 이미 느그나라 국적으로 결제 했던 계정도 해도 되나 [4]

동양반달곰입문 2023.03.04 529 0

일반 나도 LLaMA 돌려보고 싶다 [2]

oㅇo 2023.03.04 528 0

일반 개 야해 [6]

오이오이 2023.03.04 738 1

일반 뭐야 시발 [8]

ㅇoㅇ 2023.03.04 378 0

일반 LLaMA 받는것보다 뿌리는게 많네 [15]

파랑파랑 2023.03.04 719 2

전체글 개념글