최근에 3090 1대 구매했는데 업자한테 넘겨도 97받는다는 이야기 들었습니다.
중국에서 안사서 다시 중고로 파는 업자가 있거나 할 수 있어요.
3090ti 가격 내리는 건 슬슬 업글 시기가 되서 그럴 수도 있구요. (5090 준비?)

3090 ti 한대 구매해서 전력 60% 로 제한해놓고 사용중임. 4090 이랑 같이 사용중인데 암페어 아키텍처라서 플래시 어텐션 지원되서 그런지 쓸만함. 초당 11에서 12토큰 나옴.
(둘다 전력 제한 걸어놔서 전기 거의 안 먹음)
웃긴건 IDC 에 개인 서버 인텔 랩터레이크 CPU 13900T 사용중인데 여기에 gguf 모델 돌리면 초당 11에서 12토큰 나옴.
옵션 주는게 핵심인데 쓰레드는 31개로 주고(코어가 최대 32임) ulimit 로 메모리 제한 충분히 걸어주고 페이지 스왑 못하게 --mlock 옵션 주면 속도가 기본으로 돌릴때보다 2.5배나 빨라짐. ㅎㅎㅎ 로컬에서 돌릴때는 그래픽 카드로 풀모델 돌리고 서버에 돌릴때는 gguf 로 양자화 모델 돌리는데 솔직히 퀄러티 차이는 그다지 많이 안나는 느낌임. 속도는 똑같이 11~13 토큰 사이임.

이번년도에 5090 나온다는 소문이 도니 밀수업자들이 중국에서 팔던 4090의 가격이 떨어졌고 덩달아 3090의 가격도 떨어진걸로 보이네요
보통 한국, 동남아에서 중국으로 밀수입해가던걸 생각하면 중국 가격이 떨어지니 한국에서의 가격도 떨어진걸거에요