이번주 랭체인 목표 - Ai 언어모델 로컬 채널

Ai 언어모델 로컬 채널

알림 알림 중 알림 취소

구독자 3512명 알림수신 173명 @바바리맨

제한없는 언어모델을 위한 채널

일반 이번주 랭체인 목표

추천 3 비추천 0 댓글 14 조회수 569 작성일 2023-05-03 01:37:12

https://arca.live/b/alpaca/75447277

랭체인을 몇번 돌려보니까 제가 원하던 것에 거의 가까운 느낌이 나서

이번주내로 로컬에서 폴리글롯으로 응답하는 api서버를 돌려볼려고 합니다

gpt는 정말 못 써먹을만큼 비싸네요 ㅠㅠ..

댓글 [14] 글쓰기

2023-05-03 01:41:47 답글

랭체인 강의 좀... 쿨럭... 공식메뉴얼 봐도 영 아리송해요.ㅜㅜ
오픈AI의 API는 앗 하는 사이 지갑에 구멍을 뚫어버리죠.ㅎㅎ

펼쳐보기▼

2023-05-03 01:50:41 답글

아직 채널에서 말하시는거 1/3도 이해 못하면서 보고 있어서 제 수준이 좀 높아지면 글 써보겠습니다 ㅠㅠ..

펼쳐보기▼

2023-05-03 01:42:15 답글

*수정됨

오 로컬에서 성공했어요? 오픈ai 비용은 현업에서 쓴다는 가정하에는 비싼비용 아닌데 이걸 테스트하는데 때려넣기엔 가격이 만만치 않죠

펼쳐보기▼

2023-05-03 01:50:05 답글

로컬에서 이제 돌려보려고 해요 gpt로 테스트 하는건 원하는 결과로 충분히 다 나온거 같습니다..! 이제 로컬로 api 서버 형식으로 제작해보려고 합니다 ㅠㅠ

펼쳐보기▼

2023-05-03 02:02:54 답글

문제는 로컬 성능이 아무리 좋은거 쓴다고 해도 3.5 성능(오픈ai api) 안나올거 같아요

펼쳐보기▼

2023-05-03 02:04:07 답글

임베딩 수준은 충분히 따라잡을거 같고 임베딩된 데이터내에서만 문맥을 알아듣고 찾아주는 답변기를 만들거라서 크게 문제될거 같지는 않아요

펼쳐보기▼

2023-05-03 03:56:01 답글

로컬 랭체인은 예시가 없어서 빌드하기 빡세네요 ㅋㅋ

펼쳐보기▼

etal

2023-05-03 03:58:47 답글

*수정됨

착각함..ㅠ 랭체인이 아니라 로컬임베딩 서칭엔진었슴 ㅈㅅㅋㅋ

펼쳐보기▼

2023-05-03 04:31:37 답글

엇.. 로컬모델로 랭체인 빌드 해보려고 하고 있었는데 로컬임베딩 서칭엔진 자료는 참고할만한 글이 있을까요? 아니면 그냥 로컬모델로 랭체인에서 open ai api 대신하는걸 그렇게 부르는걸까요?

펼쳐보기▼

사과는맛있어맛있으면바나나

2023-05-03 06:33:03 답글

글 이미지에 나온 랭체인 결과값은 폴리글롯 원본 모델로 나온건가요? 아님 따로 파인튜닝하셨나요?

펼쳐보기▼

2023-05-03 06:33:40 답글

해당 사진에 있는 모델은 gpt입니다 폴리글롯으로 만들 수 있도록 찾아보고 있어요

펼쳐보기▼

사과는맛있어맛있으면바나나

2023-05-03 06:35:31 답글

아하 그렇군요. 순수 폴리글롯만으로는 구현하기 힘드실 거에요 워낙 이상한 소리를 많이해서...

펼쳐보기▼

2023-05-03 06:36:55 답글

우선 랭체인과 임베딩을 koalpaca나 polyglot으로 진행이 될지가 먼저 일거 같습니다 자료도 없고 로컬의 llm을 랭체인과 연결하여 작업하는 예시도 독스에 딱히 나와있지 않아서 해매고 있어서 어떻게 구현해야할지 고민되네요

펼쳐보기▼

2023-05-10 06:37:07 답글

혹시 금액이 어떻게 나왔나요...?

펼쳐보기▼

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 일반 질문 정보 학습 자료 자작모델 스터디 공지 운영 공모

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 31247419

공지 Ai 언어모델 로컬 채널 이용규정

바바리맨 2023.04.18 6244

공지 뉴비에게 도움 되는 글 모음

바바리맨 2023.04.18 28384

공지 언어모델 관련 정보취득 /무료체험 가능 사이트

바바리맨 2023.04.18 9386

공지 여러분의 학습에 도움을 줄 수 있는 하드웨어 지원

바바리맨 2023.08.01 5431

공지 신문고

바바리맨 2023.04.18 2350

숨겨진 공지 펼치기(1개)

일반 이번주 랭체인 목표 [14]

웹러닝 2023.05.03 570 3

스터디 In-context Learning 에 대해 알아보자 (Feat. 논문 읽는 tip) [28]

hkhk 2023.05.02 6329 43

스터디 (쌉스압)21년도에 받아놨던 딥러닝 관련 책 내용 일부 [3]

곰주 2023.05.02 634 4

정보 과기정통부, AI 학습용 데이터 15억건 개방 [18]

산정 2023.05.02 789 7

일반 polyglot 4bit 양자화 버전 만든사람 아직 없나 [2]

Uat 2023.05.02 358 0

질문 KoAlpaca 사용해보신 분들께 조언을 부탁드리고 싶습니다 [12]

Mwaaaaaaa 2023.05.02 1037 0

일반 AI계의 대부가 AI 위험성을 경고하기 위해 구글을 떠났다고 합니다 [5]

그래요 2023.05.02 374 3

질문 최근에 공개됐다는 피그말리온 7b 모델 써본 사람 있음? [2]

파라노이아 2023.05.02 305 0

정보 64k 컨텍스트의 LLM이 곧 공개 예정 [12]

산정 2023.05.02 686 7

일반 OpenAI는 치트키 썼는데 이걸 다른회사나 개발자들은 못쓰는게 그래서 OA 응원중인데요 [7]

그래요 2023.05.02 419 2

일반 방향성을 어떻게 잡고 가야할지 고민중입니다 [9]

웹러닝 2023.05.02 513 0

일반 13b학습중인데 인자 이렇게 하면 될려나.. [20]

하늘의아리아 2023.05.02 486 0

정보 코딩 테스트 결과 : GPT4, 빙, 클로드, 바드, 깃허브 코파일럿 [10]

산정 2023.05.02 681 0

정보 Nvidia에서 4k 시퀀스의 언어모델을 발표 [4]

산정 2023.05.02 329 1

정보 GPT-4 평가에 편향이 있다는군요. [8]

산정 2023.05.02 614 7

일반 우바부가 오늘 첫 게시 해봤습니다..! [6]

웹러닝 2023.05.01 341 0

자료 polyglot 개행 관련해서 정정함 [18]

사과는맛있어맛있으면바나나 2023.05.01 591 2

전체글 개념글