뉴비에게 도움 되는 글 모음
1.솔루션 별
가. 우바부가 (text-generation-webui)
(1).설치 방법
https://arca.live/b/alpaca/100152092?target=all&keyword=%EA%B0%80%EC%9D%B4%EB%93%9C&p=1
- Text Generation web UI의 모든 것
https://arca.live/b/alpaca/72962856?p=1
- 몇몇 모델 후기 겸 최적의 설정값 공유 및 각 설정값 설명
https://arca.live/b/alpaca/72744614?mode=best&p=1
- webui 사용하다 모르는 옵션 있으면 열어보세요
https://huggingface.co/docs/transformers/main_classes/text_generation#transformers.GenerationConfig
- 댓글 200개 이상 달려있는 레딧의 라마 가이드(참고만 할 것)
https://arca.live/b/alpaca/72550861?category=%EC%A0%95%EB%B3%B4&p=1
나. cpp - CPU로 LLM을 돌리는 초보를 위한 링크집
A - llama.cpp
(1). 윈도우 기준 설치 방법
https://arca.live/b/alpaca/73563500
(2). mac 기준 설치 방법
https://arca.live/b/alpaca/73758823?p=1
2.설치 환경별 가이드
가. linux
나. window
설치 명령어(윈도우 패키지 매니저 사용)
(1). Git
winget install git.git
(1). CMake
winget install kitware.cmake
다. wsl2 가이드
(1). 앞으로를 위한 wsl2 기본 지식
https://arca.live/b/alpaca/72918599
(2). wsl2 및 vscode 설치
https://arca.live/b/alpaca/72944376
(3). wsl2 에 cuda toolkit 설치
https://arca.live/b/alpaca/72949486
라.공통
(1). 아나콘다 - 파이썬 환경관리
(2). 미니콘다 - 경량화 버전
https://conda.io/miniconda.html
(3). 미니 맘바 - 원클릭 환경의 포터블 버전
https://github.com/mamba-org/mamba
3.모델 리스트 링크
https://github.com/underlines/awesome-ml/blob/master/llm-model-list.md
https://rentry.co/ayumi_erp_rating (erp기준 모델랭킹)
4. 설정 정보 및 프롬프트 등등
가. 토큰 관련 설정.
(1). ~~
나. 속성값 설정
(1). ~~
다. 프롬프트 설정.
(1). ~~
5.학습 가이드
가. 알파카 네이티브 7b 풀파인튜닝 가이드
https://gist.github.com/edp1096
6.난 전문적인 뉴비가 되고 싶다
나. Transformer 강좌
https://wikidocs.net/book/8056
다. 기초부터 시작해서 최근 나온 파인튜닝, 모델 확장등에 대한 정보들 총망라
https://github.com/mlabonne/llm-course
*준비중
- 현 시점 설치법
- 컴퓨터 사양별로 어떤 것을 설치해야 하는지 선택 기준
- wsl 을 쓸지, 안 쓸지, GPU 로 할지 (내 비디오카드에 따라), CPU 로 할지 (내 컴 사양에 따라) 선택 가이드
- 필요한 모델을 바로 받을 수 있는 허깅페이스 저장소 링크 or 토렌트 마그넷
- 트러블 슈팅 가이드, 자가 진단법
- 커맨드라인에서 conda --version 을 기입해서 결과물 사전 확인
- 마찬가지로 git --version, python --version, 파이토치와 쿠다 버전 확인하는 프롬프트,
- 내가 갖고 있는 모델이 맞는 모델인지 모델 파일의 갯수, 확장자, 파일명 패턴
- 주요 에러 메시지별로 대응방법
---
링크 걸 글 제보 받습니다
Transformers (신경망 언어모델 라이브러리) 강좌
