뭐 자고 일어났더니 내 똥컴에서 LLaMA 65b 가 비록 4비트 양자화지만 미친 속도로 돌아가는 꼴을 보니, 아 똥컴의 운명이 바뀌었구나 싶더라. 근데 그림뽑기나 LLM 이나 너무 CUDA 에 묶여있어서, 생성을 위한 추론은 어떻게 된다 해도 학습은 정말 힘들듯

근데 M1X 기준으로 좆플실리콘 그래픽 성능이 워낙 개차반이라 솔직히 이동네는 뭐 기대가 안되네

애플은 생성 인공지능 원툴 마이크로소프트보다는 언어는 찍먹 수준으로 하고 각종 센서랑 조합된 인체공학 관련 AI 쪽에 집중하는 듯. 이게 어느 한 쪽이 절대 하찮은 것도 아니고 반드시 이것만 해야 한다는 법도 아닌거라 마소 애플 어느 한 쪽이 뭘 잘못하고 있다고 생각하짐 않음.

애플 어마어마하지 포텐도 높고 자본이 곧 힘이되는 인공지능 시장이니