LORA - 6gb vram으로 드림부스를?

AI그림 학습 채널

알림 알림 중 알림 취소

구독자 8786명 알림수신 124명 @Anon

그림 AI 학습 정보를 공유하는 채널

정보 LORA - 6gb vram으로 드림부스를?

소탈한_하얀_하마

추천 10 비추천 0 댓글 18 조회수 2096 작성일 2022-12-09 01:19:41

https://arca.live/b/hypernetworks/64843910

https://github.com/cloneofsimo/lora

임베딩의 용량경량화

하이퍼의 지식 (모든 레이어를 다 파인튜닝할 필요가 없음)

드림부스의 퀄리티

LORA가 등장

드림부스의 퀄리티를 가지면서 약 30MB 파일을 엑스트라로 만들고

모델에 병합해서도 쓸 수 있다고 함

근데 아직은 Diffusers만 호환가능해서 webui로 올려면 좀 걸릴듯

암튼 이게 하이퍼 상위호환이라 하이퍼는 필요없을듯

훈훈한_까만_늑대

2022-12-09 01:28:30

진짜 별게 다 나오네, 대단하다 연구자들

펼쳐보기▼

싹싹한_노란_올빼미

2022-12-09 01:38:23

이건 나온지 꽤된 기술임 한 1년?

펼쳐보기▼

훈훈한_까만_늑대

2022-12-09 01:38:36

싹싹한_노란_올빼미

2022-12-09 01:42:08

*수정됨

LoRA(Low Rank Adataion)은 가볍긴한데 드림부스처럼 완전히 finetuing하는게 아닌지라 드림부스보다 약간 셩능이 딸릴수 있음.

펼쳐보기▼

싹싹한_노란_올빼미

2022-12-09 01:43:54

메모리가 남아돌고 성능을 원하면 그냥 드림부스 써라

펼쳐보기▼

소탈한_하얀_하마

2022-12-09 02:16:17

용량차이도 크잖어

펼쳐보기▼

싹싹한_노란_올빼미

2022-12-09 02:53:24

*수정됨

그게 가벼운거임(메모리적으로도,용량적으로도).어디까지나 대안이지 원본을 대체하지 못한다는 이야기임

펼쳐보기▼

야무진_파란_캥거루

2022-12-09 02:32:34

꼭 드림아티스트 같은 소리네

펼쳐보기▼

건방진_파란_익룡

2022-12-09 02:39:22

드림아티스트도 첨엔 드림부스를 압도할 미친 학습인줄 알았는데......

펼쳐보기▼

씩씩한_분홍_호랑이

2022-12-09 02:46:24

오오...

펼쳐보기▼

쾌활한_주황_개구리

2022-12-09 02:48:47

residual 학습으로 용량 절약도 하고 weight조절도 되니 좀 대단하긴하네

펼쳐보기▼

싹싹한_노란_올빼미

2022-12-09 02:56:53

이건 드림아티스트랑 다름 드림아티스트는 어디까지나 텍스트 인버전과 같은 계열이라 미세조정이 아니지만 얘는 드림부스를 기반으로 가볍게 만들기 위해 LoRA를 사용한거라 드림부스에 가까움

펼쳐보기▼

훈훈한_까만_늑대

2022-12-09 03:03:40

드림부스에 가깝다면 얘는 그 모델이 표현하지 못하는 것도 학습에 따라 표현할 수 있다는거임? 임베딩이나 하이퍼는 그 모델이 표현하지 못할 것은 구현못한다던데

펼쳐보기▼

싹싹한_노란_올빼미

2022-12-09 03:07:36

*수정됨

ㅇㅇ 근데 LoRA가 드림부스와 비슷한 성능응 낼지는 확답을 못하겠음.근데 아마 성능은 비슷할거임

펼쳐보기▼

훈훈한_까만_늑대

2022-12-09 03:11:01

답변 ㄳㄳ

펼쳐보기▼

씩씩한_분홍_호랑이

2022-12-09 06:49:00

오오오...

펼쳐보기▼

즐거운_보라_문어

2022-12-09 04:24:53

*수정됨

애초에 학습하는 파라미터 수가 적은데 어떻게 성능이 비슷함?글 보니까 지도 아닌거 같아서 비교는 미래의 연구에 맡긴다고 써놨네 ㅋㅋㅋ

펼쳐보기▼

소탈한_하얀_하마

2022-12-09 06:00:24

그림을 재현하는데 필요한 파라미터들만 학습해서 그런거임 하이퍼처럼
실제 성능은 하이퍼이상 드림부스 이하일듯

펼쳐보기▼

본 게시물에 댓글을 작성하실 권한이 없습니다. 로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 정보 그림 드림부스 임베딩 하이퍼

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 27962203

공지 파딱 마음대로 작성한 AI그림 학습 채널 규정 - [24-01-24]

포리X 2023.10.29 1940

공지 [리퀘스트] 탭이 추가되었습니다.

선한_하얀_사자 2023.02.10 3359

공지 신문고

Anon 2023.02.21 3155

공지 각종 학습파일 적용법

거만한_보라_달팽이 2023.01.24 39170

공지 그림 학습법 모음

거친_핑크_외계인 2022.10.30 72070

숨겨진 공지 펼치기(1개)

353 정보 WD 1.4 관련 이야기는 정확히 설명하자면

건방진_빨간_오징어 2022.12.14 1334 9

352 WD 1.4 프리뷰 공개 [7]

센치한_분홍_돼지 2022.12.13 1103 10

351 캐릭터 하나 학습 일지 [5]

싹싹한_갈색_치타 2022.12.13 1353 9

350 아 이거 볼때 반응 졸잼 이였는데

거친_빨간_돌고래 2022.12.12 519 5

349 나는 챈붕이들한테 항상 감사하고 있음 [3]

소심한_은색_사자 2022.12.12 692 11

348 하이퍼 요즘 하이퍼 돌리는 친구들중 스텝수 깔짝 돌리는사람 많길래 예시사진 들고옴 [9]

시크한_파란_외계인 2022.12.11 1815 14

347 정보 Monkeypatch extension 설명 [2]

센치한_보라_고양이 2022.12.09 1403 8

346 정보 Custom Diffusion - 하이퍼 + 드림부스 = ?? [6]

분노한_주황_뻐꾸기 2022.12.09 1738 6

345 정보 LORA - 6gb vram으로 드림부스를? [18]

소탈한_하얀_하마 2022.12.09 2097 10

344 정보 내가 원하는 색상을 뽑아 사용해보자 [6]

선한_파란_코알라 2022.12.07 1226 9

343 정보 null text inversion 공식 코드 떴다. [5]

거만한_노란_다람쥐 2022.12.06 823 7

342 하이퍼 하이퍼네트워크 가이드 (일반편은 일단완성 -) [26]

얌전한_초록_악어 2022.12.04 4576 20

341 정보 정규화 유무 차이 정리함 [1]

못된_초록_다람쥐 2022.12.02 2133 6

340 그림 Hypernetwork Monkeypatch Extension <- 이거 잘되네요!! [5]

기쁜_청록_너구리 2022.12.02 866 6

339 정보 지금까지 나온 드림부스 레포 전부써봤는데 kohya_ss가 제일 상위호환인듯 [10]

소심한_남색_돼지 2022.12.01 1927 6

338 정보 Gamma Train(Extension)으로 하이퍼 학습 따라하기 [8]

행복한_남색_수달 2022.12.01 1391 9

337 그림 차가 좋다 [1]

흉악한_파란_호랑이 2022.11.30 399 5

336 MonkeyPatch 학습률 문제 해결함 [1]

쌀쌀한_하얀_돌고래 2022.11.30 408 5

335 11/30 학습파일 공유 메가 업데이트 [6]

시크한_빨간_문어 2022.11.30 1032 17

334 슬프거나 기분 안좋은 일 있을때 보셈 [11]

센치한_핑크_하마 2022.11.30 779 10

333 그림 그림에서 중요한건 표현력이지 그림체가 아니다 [16]

겸손한_청록_나비 2022.11.29 1658 12

332 주딱아 하이퍼 드림부스 임베딩 탭 나누는게 좋지 않음? [5]

기쁜_은색_곰 2022.11.28 493 7

331 정보 폴더 내 이미지들 gif로 합치기 (파이썬 스크립트) [5]

즐거운_주황_호랑이 2022.11.27 887 6

330 Monkey patch Extension 또 업데이트 (스케쥴러 관련) [4]

엉뚱한_보라_코끼리 2022.11.27 401 5

329 정보 WD 1.4 소식 [6]

씩씩한_까만_원숭이 2022.11.26 923 7

전체글 개념글

사용하고 계신 브라우저가 시간대 설정을 지원하지 않으므로 GMT 시간대가 적용됩니다.