이 채널의 존재의의는 학구적인 정보의 교환과 지식습득이 중요한 부분을 차지함. 그냥 언어모델 설치해서 그거 갖고 놀고 싶은 사람에게는 이미 AI 채팅 채널이 있기 때문에 거기서 원하는 것을 충분히 얻을 수 있음.
처음에 LLaMA 와 textgen-webui 가 나왔을 때에는 여러가지 문제들 (빠르게 올라가는 버전, 모델을 쉽게 구하기 어려워 토렌트 등에 의존, 잘못된 정보들이 흩어져 있음, 버그가 있는 패키지들이 남아있음, 요구사양이 분명하지 않음 등등) 때문에 그냥 내 컴에 깔아서 뭘 해보는 것 조차 엄두가 안나는 사람들이 대부분이었음. 그래서 AI 채팅 채널에서 설치방법/성공담 등의 정보를 교환하다가 주딱이 채널을 판 덕분에 여기에 와서 놀게 되었음.
그러다가 우바부가가 계속 업데이트되고 원클릭 인스톨러가 윈도우 환경에서도 잘 작동하게 되면서 지금은 설치에 대한 허들은 예전에 비하면 극적으로 낮아진 상태가 되었음. 즉 로컬 언어모델의 설치와 실행은 이미 해결된 문제임.
그런데 단순히 언어모델을 실행해서 노는 것이 아니라 학습을 시켜본다라는 단계를 생각하면 단순히 마우스 딸깍으로 가능한게 아니고 훨씬 더 많은 기본지식을 요하게 됨. 내가 원하는 결과를 뽑아내는 챗봇을 만들려면 데이타셋을 어떻게 구성할지부터 시작해서, 한국어라는 특성에 맞출려면 어떻게 해야 할지, 학습을 어떻게 해야 할지, 각종 이상증상 (학습 자체가 실패한다던가, 학습 결과가 마음에 안든다던가) 에 어떻게 대응해야 할지, 신기술들이 나오는 것을 활용할 방법은 없을지 (플러그인 구조를 이용해 챗봇이 인터넷 검색을 한다던가, 랭체인 같은 방법들을 통해 다른 서비스에 끼워넣는다던가 ) 하는 것들의 세계는 무궁무진함.
이런 정보들을 외부에서 충분히 얻을 수 있는 공간이 있다면 나도 거기 가서 활동하고 싶음. 근데 없어서 여기에서 맨땅에 헤딩하다보니 생각보다 능력을 갖춘 사람들이 어찌어찌 냄새를 맡고 여기에 오고있다는 것이 느껴졌음.
그래서 정보글도 쓰고 책추천도 하고 했는데 의미가 있는것 같아서, 그 다음을 해보면 어떨까 함.
그것이 바로 온라인 공부모임임.
내 추천을 보고 책 산 사람들 몇명 있을텐데, 아무래도 혼자서 공부하는건 힘듬. 그렇다고 오프라인 모임에 나가서 공부하자니 여건이 안되거나 부담되는 사람들도 많을 것임. 친목질은 커뮤가 깨지는 지름길인데 오프라인 모임은 말할 것도 없음
내가 제안하는 방법은 일정 기간별로 교재와 범위를 정해서 그 범위 안에 있는 내용을 학습하고 질문/답변하는식으로 운영해보자는 것임. 예를 들어서 이번주는 밑바닥부터 시작하는 딥러닝 1권의 1장을 공부하고 질문 받는 식으로..
어떻게 생각하는지? 의견들 주면 좋겠음.
Ai 언어모델 로컬 채널 이용규정
