임베딩 모델을 로컬로 기존 챗봇에 연동하여 굴려보고싶군요 ㅎㅎ
구독자 3483명
알림수신 174명
제한없는 언어모델을 위한 채널
일반
bge-m3 모델을 openai compatible api 방식으로 사용할 방법이 있을까요?
추천
0
비추천
0
댓글
1
조회수
644
작성일
수정일
댓글
[1]
글쓰기
angmond2
GitHub
GitHub - huggingface/text-embeddings-inference: A blazing fast inference solution for text embeddings models
A blazing fast inference solution for text embeddings models - huggingface/text-embeddings-inference
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
30744488
공지
Ai 언어모델 로컬 채널 이용규정
6197
공지
뉴비에게 도움 되는 글 모음
28085
공지
언어모델 관련 정보취득 /무료체험 가능 사이트
9269
공지
여러분의 학습에 도움을 줄 수 있는 하드웨어 지원
5354
공지
신문고
2330
숨겨진 공지 펼치기(1개)
정보
Gpt4는 1800b 파라메터 moe 모델이었음
[15]
1527
11
일반
GPT-2를 액셀 시트에 가둬버렸다는 충격적인 소식
[4]
1320
15
정보
RWKV-5가 1.7T 갯수의 토큰을 사용하여 llama2의 성능을 능가함
[1]
619
8
일반
레딧) grok 1 벤치마크
[4]
721
3
질문
말뭉치 추가로 학습하신분들 (한글 토큰추가), 주로 몇 토큰 정도 추가하셨나요?
[7]
513
0
일반
grok-1 312B(8x39B)모델 출시
[9]
1374
13
질문
선생님들!! 견적과 실현 가능성을 문의하고 싶습니다!
[17]
851
2
정보
gpt 3.5 turbo의 hidden dim을 4096으로 추정한 논문이 나왔네요.
[1]
784
9
일반
bge-m3 모델을 openai compatible api 방식으로 사용할 방법이 있을까요?
[1]
645
0
질문
궁금한 것이 있슴돠..
[9]
624
0
질문
langchain LlamaCpp 비동기화 어렵네요ㅜ
[2]
406
1
일반
한국어 멀티턴 데이터셋 생성 모델, KoMultiGen-General
[7]
1552
35
질문
우바부가 쳇 오류
201
0
질문
Grok 써보신 분들 계신가요?
[8]
743
0
질문
Whisper-WebUI 인스톨 오류 관련
[5]
432
-5
질문
갑자기 로컬 코랩이 안되는데 방법이 있을까요?
[4]
371
1
질문
지금와서 한국어 모델 tokenizer합치기로 굽는다면 뭐 해보는게 가장 좋을까요?
[3]
622
1
일반
full fine tune이나 MoE 제작할때 훈련하는 코드나 데이터 전처리 pipeline 코드 정보를 어디서 얻나요??
415
0