우바부가로 언어 모데 설치후 제너레이트 햇는대 현상 - Ai 언어모델 로컬 채널

Ai 언어모델 로컬 채널

알림 알림 중 알림 취소

구독자 3523명 알림수신 174명 @바바리맨

제한없는 언어모델을 위한 채널

질문 우바부가로 언어 모데 설치후 제너레이트 햇는대 현상

추천 0 비추천 0 댓글 10 조회수 249 작성일 2023-04-18 05:40:00

⚠️ 이 게시물은 작성자가 삭제할 수 없도록 설정되어 있습니다.

https://arca.live/b/alpaca/74304926

안녕하세요

우바부가로 webui 실행해서 사용시

답변이 이런 식으로 나옵니다.

어떻게 해결할 수 있을까요 ?

댓글 [10] 글쓰기

2023-04-18 05:49:39 답글

어떤 상황인지, 환경, 진행과정등등 자세하게 질문해야 대답을 받을 수 있음

펼쳐보기▼

2023-04-18 08:39:37 답글

*수정됨

우바부가로 설치 하엿고요 어떤 모델로 선택해도 저렇게 답변이 나옵니다.
우바부가로 설치후 git install로 설치하였고, cuda가 없다고 나와서 https://arca.live/b/alpaca/72615971?target=all&keyword=gptq&p=2 이내용 참고 하여 cuda설치만 하고 돌려보니 그렇게 되내요

펼쳐보기▼

2023-04-18 09:16:12 답글

설치환경이 윈도우인가요? wsl? 맥?
링크에서 어느걸 가져다 설치했는지 적어주세요
정확하게 자신이 어떤 과정을 거쳤는지 전부 자세히 설명 안하면 도움 못받아요

펼쳐보기▼

2023-04-20 01:40:52 답글

윈도우 환경입니다. 
https://github.com/oobabooga/text-generation-webui
https://huggingface.co/anon8231489123/vicuna-13b-GPTQ-4bit-128g
여기꺼 가져다가 설치했습니다 ㅜㅜ

GitHub - oobabooga/text-generation-webui: A Gradio web UI for Large Language Models. Supports transformers, GPTQ, AWQ, EXL2, llama.cpp (GGUF), Llama models.

A Gradio web UI for Large Language Models. Supports transformers, GPTQ, AWQ, EXL2, llama.cpp (GGUF), Llama models. - oobabooga/text-generation-webui

윈도우 환경입니다. 
https://github.com/oobabooga/text-generation-webui
https://huggingface.co/anon8231489123/vicuna-13b-GPTQ-4bit-128g
여기꺼 가져다가 설치했습니다 ㅜㅜ

펼쳐보기▼

2023-04-18 05:54:11 답글

이거 비쿠냐 활용한 멀티모달도 이렇게 나와요 몇번 시도해도 같음

펼쳐보기▼

2023-04-18 17:53:11 답글

답을 알아옴
아마 gpql인가 그 양자화 레포가 safesansors 지원 하는 최신 레포가 아니기 때문일것

펼쳐보기▼

2023-04-20 01:38:34 답글

그럼 어떻게 해결할수 있을까요 ?

펼쳐보기▼

2023-04-20 01:52:59 답글

git pull

펼쳐보기▼

2023-04-20 06:19:34 답글

안되요 ㅜㅜ

펼쳐보기▼

2023-04-20 06:24:36 답글

될때까지 싹 밀고 다시 깔기 밖에 없는 것 같습니다.
일단 저 조차 로컬은 버전이 꼬여서 못하고 있어서

펼쳐보기▼

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 일반 질문 정보 학습 자료 자작모델 스터디 공지 운영 공모

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 31364888

공지 Ai 언어모델 로컬 채널 이용규정

바바리맨 2023.04.18 6278

공지 뉴비에게 도움 되는 글 모음

바바리맨 2023.04.18 28529

공지 언어모델 관련 정보취득 /무료체험 가능 사이트

바바리맨 2023.04.18 9477

공지 여러분의 학습에 도움을 줄 수 있는 하드웨어 지원

바바리맨 2023.08.01 5474

공지 신문고

바바리맨 2023.04.18 2360

숨겨진 공지 펼치기(1개)

일반 openai의 ceo가 이제 더 이상 거대언어모델을 크게 만드는건 의미 없다고 했다네요 [8]

그래요 2023.04.18 402 0

정보 비쿠나 1.1 4비트 버전 나왔다는데? [2]

노랑노랑 2023.04.18 392 4

일반 트레이닝 돌려놓으니까 잠을 못자겠네 [7]

하늘의아리아 2023.04.18 276 1

일반 방금 conda의 존재의의를 깨달음 [15]

ㅇㅇ 2023.04.18 364 3

학습 sharegpt학습 실패했다 [6]

hkhk 2023.04.18 397 3

일반 오늘도 함 로컬 죠져볼까? [5]

ㅇㅇ 2023.04.18 253 0

일반 엔비디아 최신 딥러닝 GPU H100 가격 근황 [7]

Tacotron2 2023.04.18 769 0

정보 wasm으로 구현한 '로컬' 웹 LLM, webLLM [8]

Tacotron2 2023.04.18 623 9

일반 비쿠나 검열 우회방법 [3]

산정 2023.04.18 516 8

질문 우바부가로 언어 모데 설치후 제너레이트 햇는대 현상 [10]

timilon 2023.04.18 250 0

공지 언어모델 관련 정보취득 /무료체험 가능 사이트 [10]

바바리맨 2023.04.18 9477 2

공지 신문고

바바리맨 2023.04.18 2360 0

공지 뉴비에게 도움 되는 글 모음 [12]

바바리맨 2023.04.18 28529 3

공지 Ai 언어모델 로컬 채널 이용규정

바바리맨 2023.04.18 6278 0

일반 채널 이용자분들한테 알립니다 [11]

바바리맨 2023.04.18 528 11

학습 sharegpt 한글 학습 시작했다 [24]

hkhk 2023.04.18 955 7

일반 언어모델쪽에서 이미지 모델까지 포섭, 통합하려는 움직임은 흥미롭네. [6]

파라노이아 2023.04.18 265 1

일반 Vicuna에게 눈을 (minigpt-4) 실행 성공했습니다만 이상한 답변이네요 [4]

그래요 2023.04.18 408 3

정보 LLaVA: 라마를 사용한 시각 언어 도우미 [5]

Ark1st 2023.04.18 540 1

전체글 개념글