3줄 요약
1. 세상에 공짜는 없고 글카는 여전히 비싸다.
2. 값 싸고 좋은 서비스는 다른 사람들이 이미 사용하고 있다.
3. 비싼 서비스는 대게 편하고 좋다.
코랩, 케글, 구름IDE 그리고 페이퍼스페이스의 Gradient 등은 상호작용 주피터 노트북을 제공하는 서비스임
약관 상 안정적인 서비스를 보장하지도, 권장하지도 않을 뿐더러 애초에 돈 없는 학생이나 개발자에게 저렴하게 공부 또는 개발 할 수 있는 환경 구성이 목적인지라 웹UI 마냥 사심 가득한 프로그램 하루종일 굴리고 있으면 언제 차단 박혀도 이상할게 없음
국내에선 유료 서비스로 코랩 프로나 런포드 정도만 널리 쓰이는거 같은데
코랩은 위에서 말했듯이 프로+ 플랜이여도 약관 상 안정적이지 못함...
1년 이상 장기적으로 사용할 예정이라면 솔직히 워크스테이션 글카 하나 지르고 집에서 돌리는게 좋음
물론 클라우드마냥 24시간 뺑뺑이 돌리면 허구한 날 고장나고 부가적으로 빠지는 금액이 생기겠지만...
저렴하지도 않은데 왜 알려줌? 꿀팁도 아니면서 목록이 필요함?
라고 생각할 수 있겠지만... 지속적인 GPU 품귀 현상과 머신러닝 수요 증가 등으로 인해
전문 클라우드 업체조차 GPU 수급에 어려움이 있어 평범하거나 저렴한 가격대의 서비스는 돈 주고도 못 쓰는 상황임
그니까... 지갑 열고 계정에 돈 충전해뒀다 울며 겨자 먹기로 쓰지 말고 잘 알아보고 고르셈...
Amazon Web Server (AWS)
Google Cloud Platform (GCP)
Microsoft Azure
신뢰할 수 있는 업계 표준
더럽게 비싸다고 생각하지만 GPU 클라우딩은 기본적으로 가격이 씹창났기 때문에
계획적으로 사용하면 은근히 저렴하고 효율적으로 사용할 수 있음
Naver Cloud Platform
국내 서비스는 전부 거르자
저 돈 낼 수 있는 재력가면 GCP 풀 프라이스 박지ㅋㅋ
Paperspace
https://www.paperspace.com/pricing
Core 와 Gradient 서비스로 나눠짐
Core 는 가상 서버를 빌려주는거고 (일반적인 GPU 클라우딩 서비스에 속함)
Gradient 는 코랩 같은 서비스인데 A4000 부터 A100-80GB 까지 매우 다양한 GPU 를 고를 수 있음
와 한 달에 40불 내고 A100-80GB 무제한으로 쓸 수 있다고?? 라는 생각이 들 수 있겠지만
사용자는 많은데 GPU 수는 제한되어 있음, A4000 또는 A5000 정도로 만족하면 될 듯...
사실 요즘은 사용자 폭증으로 그마저도 부족해서 P4000 따리 밖에 못 씀
https://console.vast.ai/create/
Interruptible 는 다른 놈이 내가 건 돈보다 더 높은 금액을 박을 때까지만 쓸 수 있는 서버
On-Demand 는 내가 종료하기 전까지 사용할 수 있는 안정적인 서버
우측 필터에서 Secure Cloud 체크해두면 데이터센터에 위치한 안정적인 서버만 볼 수 있음
머신러닝 돌리는 사람들한테 꽤 욕을 많이 먹었는데 중계 판매업 비스무리한 애들이라 대부분의 서버는 직접 관리하지 않음
각 서버를 보면 GPU 파워부터 인터넷 속도까지 매우 자세하게 알려주는데 이거 다 신뢰할 수 없는 정보임
네트워크 사용료가 추가로 붙는데 저장장치 같은 부가 서비스가 없어서 실행할 때마다 모델, 데이터셋 전부 올려줘야함ㅋㅋ
저렴해 보이지만 절대 그렇지 않음, 양아치 장사꾼임
RunPod
https://www.runpod.io/gpu-instance/pricing
커뮤니티 인스턴트는 Vast.ai 마냥 불특정 다수가 남아도는 GPU 파워를 잠시 빌려주는 형태이고
런포드는 중간 판매만 도와주기 때문에 안정적인 환경이 필요한 학습 등의 작업으론 매우 비추함
시큐어 클라우드 가격만 보면 되는데... 그냥 비싸지도 저렴하지도 않고 평범한 수준임
CoreWeave
https://www.coreweave.com/gpu-cloud-pricing
Waifu Diffusion 학습할 때 사용한 클라우드 서비스
HGX H100 를 시간 당 렌탈 서비스로 제공하는 유일한 업체
하이엔드 데이터센터 GPU 를 주로 제공하고 가격은 평범함
LambdaLabs
https://lambdalabs.com/service/gpu-cloud
하이엔드 데이터센터 GPU 를 주로 제공하고 가격은 평범함
