WebUI 그래픽 카드 가이드 (1) : 입문 - '3천번대 미만 코랩 써라'?
WebUI 그래픽 카드 가이드 (2) : 실전 - 어떤 그래픽 카드를 사야할까?
WebUI 그래픽 카드 가이드 (3) : 심화 - 그래픽 카드 수명 연장의 꿈
챈에 코랩or로컬 질문이 올라오면 고인물들은 
콘으로 답변을 갈음함
구글 코랩은 WebUI는 하고 싶은데, 그래픽 카드 맞출 자금, 생각이 없거나 전기세, 발열 걱정이 앞서는 사람들에겐 구원이나 다름 없음
그럼에도 불구하고, 내가 만든 이미지를 바다 건너 구글 직원과 공유하기 꺼림칙하다던가,
코랩의 어정쩡한 속도에 실망했다던가, 계정당 사용량 제한과 버그에 취약한 모습에 로컬로 눈을 돌리는 유저들도 많음
그들에게 남은 선택지는 그래픽 카드를 구매하는 것임
그러면 어떤 그래픽카드부터 코랩보다 빠른걸까? 표를 통해 비교해봤음
일단 그래픽카드의 성능을 비교하는 방법은 정말 다양하지만,
이 글에서는 WebUI 성능과 가장 연관성이 큰 CUDA, VRAM (위 아카콘의 Memory를 담당)만 다루도록 하겠음
먼저 CUDA 성능이 좋을 수록, 동일 조건 하에서 이미지를 뽑아내는데 걸리는 시간은 줄어듦
(RTX 2000번대 부터 들어간 텐서코어라는 것을 이용한 TensorRT도 있지만 아직 지원이 제한적이라 생략)
그 다음으로 VRAM의 용량이 클 수록, CUDA 성능에 따라 느릴 수는 있지만 할 수 있는 작업의 한계점이 늘어나고,
그만큼 ControlNET, Hires.fix 등 메모리를 더 필요로 하는 작업을 추가 할 수 있음
그러다 마침내 주어진 작업 크기가 메모리 한계 보다 커지면 작업이 불가능해지고
'CUDA out of memory'가 나옴
현재 WebUI를 위한 VRAM은 최소 용량 6GB , 권장 8GB 이지만,
Hires.fix, ControlNET 등 더 많은 VRAM을 요구하는 작업이 사실상 보편화 됐기 때문에
경우에 따라 8GB VRAM도 성능 하락이 필연적인 medvram 옵션을 필요로 함
CUDA 성능 벤치마크 레퍼런스로 Compubench의 Advanced Compute - Level Set Segmentation 256 과
WebUI 실제사용 벤치마크 레퍼런스로는 Tomshardware의 Stable Diffusion Benchmarked: Which GPU Runs AI Fastest (Updated)를 참조했음
WebUI 벤치마크 중 왼쪽은 512x512, 오른쪽은 768x432 hires 2048x1152 임. (프롬프트와 모델 등 벤치마크 조건은 링크 참조)
코랩을 사용하게 되면 할당받는 Tesla T4의 CUDA 성능은 RTX 2060보다 약간 처지지만, VRAM은 16GB로 굉장히 여유로움
때문에 동급 그래픽 카드라면 medvram 옵션을 강요 받았을 상황에도 코랩은 성능 하락 없이 생성이 가능할 수 있음
RTX 2060 보다 상급 그래픽 카드 모델들은 VRAM을 제외하면 코랩의 T4를 여유롭게 따돌리는 성능을 가지고 있어서
VRAM이 모자라서 medvram 옵션을 켜도 코랩보다 빠르거나 비슷한 성능을 보여줄 가능성이 높음
때문에 전기세, 발열에 대한 우려가 있거나, 드림부스 학습을 돌릴 것이 아니면
버그와 사용량 제한을 감내하고 코랩을 사용할 필요가 거의 없어 보임
성능과 VRAM 모두 열세인
RTX 3050, GTX 1080, 980(Ti), 780 Ti, 1660 (Ti, S), 1650, 1060 등에 해당하는 그래픽 카드들을 가지고 있다면 코랩 사용을 고려 해 볼만 함
요약
RTX 2060 급 성능의 코랩 GPU 보다 VRAM, CUDA 성능 모두 딸리는 그래픽 카드를 가지고 있다면 코랩 사용 추천
그 외 윗급 그래픽 카드들은 드림부스 학습을 하고 싶거나 전기세, 발열 걱정하는게 아니라면 굳이 코랩 안써도 괜찮음
+ 코랩의 상당히 버그에 취약한 모습과 계정당 사용량 제한이 단점으로 작용하니 주의
다음 2편 - 실전 에서는 성능과 신품, 중고품 시세를 모두 고려해서 WebUI용 그래픽 카드를 골라보겠음.
궁금한게 있다면 언제든 댓글 달아주십쇼
혹시 잘못된 정보가 있다면 댓글로 지적해주면 감사하겠음
