phi-3 small/medium 나왔네요

개념글 모음

알림 알림 중 알림 취소

구독자 2765명 알림수신 78명

각 채널의 개념글을 모은 게시판입니다.

Ai 언어모델 로컬 일반 phi-3 small/medium 나왔네요

딸기맛봇치

추천 17 비추천 0 댓글 15 조회수 1661 작성일 2024-05-21 17:50:54

https://arca.live/b/alpaca/106792405

https://huggingface.co/microsoft/Phi-3-medium-128k-instruct

small은 7B에 컨텍스트 8k/128k

medium은 14B에 컨텍스트 4k/128k

학습은 전부 4.8T 토큰 정도 했다네요

댓글 [15] 글쓰기

이하비스

2024-05-21 20:26:54 답글

maywell

2024-05-21 22:20:00 답글

심지어 멀티링규얼..! 한국어도 잘함

펼쳐보기▼

하나악

2024-05-21 23:37:08 답글

넙적곰치

2024-05-21 23:39:52 답글

방금 써 봤는데, 파인튜닝을 안하고 원샷 러닝만 했을 뿐인데도 성능이 꽤 괜찮네요 ㄷㄷ

펼쳐보기▼

그래요

2024-05-22 00:00:15 답글

*수정됨

오 써봐야 겠네요 한글 토크나이저가 4o에 적용된 최적화된 그거려나요. vision도 공개했네요.

펼쳐보기▼

chimasal

2024-05-22 00:27:43 답글

*수정됨

bartowski/Phi-3-medium-4k-instruct-GGUF  May 22, 2024 (today)
Phi-3-medium-4k-instruct-Q8_0.gguf (14.83GB) 받는중인데 다운로드 속도가 느리네요.;;

펼쳐보기▼

그래요

2024-05-22 01:00:13 답글

https://ai.azure.com/explore/models?&selectedCollection=phi 여기에서 써볼수 있습니다

ai.azure.com

Azure AI Studio

여기에서 써볼수 있습니다

펼쳐보기▼

Dikko

2024-05-22 04:58:09 답글

아..방금 써봤는데 역시 반복답변문제는 해결을못했네요ㅠ 메타형님이 다국어 모델 만들어줄때까지 존버해야하나

펼쳐보기▼

tail

2024-05-22 13:34:12 답글

간단한 도형(네모, 세모, 원) 에 대한 인식여부를 테스트 해봤는데, 인식불가 할루시네이션 답변이 반복되네요

펼쳐보기▼

ㅇㅇ (222.101)

2024-05-22 01:45:24 삭제 수정 답글

*수정됨

아니 이거 벤치마크가 왜케 좋아요? 커맨드 R 플러스급이네.. (medium inst)
써보니까 개인적으론(특히 다국어)
phi-3 medium <<< command r plus < deepseek v2 정도네요.
차이가 아직 많이 납니다.

펼쳐보기▼

hkhk

2024-05-22 02:42:26 답글

벤치마크 발표된거 자세히보면 5shot 기준입니다. 프롬프트에 영향을 많이 받는거 같네요

펼쳐보기▼

Dikko

2024-05-22 04:56:28 답글

deepseek v2가 한국어 성능이 가장 좋은거네요? 혹시 모델 돌려보셨을때 반복적인 답변현상이 있었는지 궁금합니다.

펼쳐보기▼

ㅇㅇ (222.101)

2024-05-22 04:59:42 삭제 수정 답글

deepseek 도 반복적인 답변 현상이 드문드문 나타나기는 합니다만, prompt 가 엉망인 경우에 나타나구요
command r plus 는 한글로 답변하라는 말에 영어로 답변하기도 하는 등의 문제가 있어서
deepseek v2 를 좀 더 우위로 쳐주고 싶네요 MMLU 도 deepseek v2 가 높다는 점도 있구요.
https://artificialanalysis.ai/models/deepseek-v2/providers

Artificial Analysis

DeepSeek-V2: API Provider Performance Benchmarking & Price Analysis | Artificial Analysis

Analysis of API providers for DeepSeek-V2-Chat across performance metrics including latency (time to first token), throughput (tokens per second), price and others. API providers benchmarked include DeepSeek.

deepseek 도 반복적인 답변 현상이 드문드문 나타나기는 합니다만, prompt 가 엉망인 경우에 나타나구요
command r plus 는 한글로 답변하라는 말에 영어로 답변하기도 하는 등의 문제가 있어서
deepseek v2 를 좀 더 우위로 쳐주고 싶네요 MMLU 도 deepseek v2 가 높다는 점도 있구요.

펼쳐보기▼

Dikko

2024-05-22 05:01:02 답글

아하..그래도 드문드문 나타나는 정도면 꽤 괜찮네요! 답변 감사합니다!

펼쳐보기▼

ㅇㅇ (210.91)

2024-05-22 06:47:30 삭제 수정 답글

와 7b짜리 오라마에 올라올테니 라즈베리파이로 돌려봐야겠네요.

펼쳐보기▼

글쓰기

전체글 Ai 언어모델 로컬 채널

최근 최근 방문 채널

최근 방문 채널

전체

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 31354443

2999944 유희왕 🎨창작 트릭컬 스타일로 카드 몇장 그려와봤음.. [15]

새틀라이트빔 4시간전 236 24

김영어 4시간전 376 9

2999942 우마무스메 프리티 더비 괴문서 [괴문서] 베드엔딩 트레이너 14화 - 골드시티(4) [4]

지나가던이야기꾼 11시간전 249 14

2999941 던전앤파이터 6천억 돌파 기념 도검신 공략 [23]

청연광장쓰레기청소부 6시간전 1012 23

2999940 트릭컬 RE:VIVE 🎨창작 트릭컬 유희왕카드 재밌어서 몇장 더 그러왔음!! [16]

새틀라이트빔 4시간전 466 32

2999939 최면세뇌 📄직번 [MC@Rim] R.S.I. 사 기술검증 실험보고_C104 브리뷰 #1 [6]

Amule1 5시간전 1797 25

2999938 페르소나5 더 팬텀 X 노게 짭천젤콘 만들었음 [8]

샤즈 4시간전 198 13

2999937 카운터사이드 님들 들어올때 축하메시지와 개추 준비해주세요 [27]

카린웡 4시간전 264 16

2999936 던전앤파이터 챈에서 모은 개꼴리는 짤 모음 [22]

버퍼 15시간전 1055 19

2999935 명조 명조에서 온 방랑자 입니다^^ [32]

ㅇㅇ 4시간전 2791 35

2999934 붕괴3rd 아 씨이발ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [22]

붕원스찢헤 4시간전 706 18

2999933 툴리우스 모드/번역 3D Dwemer Sun - Subterranean Object SMIMed - Blackreach [6]

ㅇㅇ 06-14 785 8

2999932 케모노 번역물 직번,장신녀,19금)레나몬을 숨기는 법-미완성 [10]

albatrozzz 5시간전 310 20

2999931 유희왕 🎨창작 간단하게 블매걸그려옴 [4]

무대회전 5시간전 120 13

2999930 툴리우스 🔞스샷 이새끼 나 왜 이렇게 쳐다보는거냐? [5]

Huge 7시간전 382 8

2999929 VRChat 🔞야짤 파이즈리 [10]

ㅇㅇ 9시간전 623 9

2999928 붕괴 스타레일 하 누만 기다리면 반 디가 나와요? [37]

아찔한아칠이 4시간전 3672 106

2999927 느금마엔터 뼈구방송 채팅상태 [2]

Moks 13시간전 288 10

2999926 블루 아카이브 💾정보/공략 님 그거 알고 있었음? 고즈 패턴 정리편 [29]

유우카허벅지착정질압압축프레스 6시간전 1730 45

2999925 폴아웃 76 나눔 도서관 오프 [38]

ㅇㅇ 4시간전 306 15

2999924 얀데레 짤(외부) 블아) 으아악! 사이버사이코 아스나다! [8]

Ewa 7시간전 2633 45

2999923 트릭컬 RE:VIVE 🎨창작 조물조물 테라피 [5]

세명 4시간전 366 25

2999922 블루 아카이브 🎨창작 그 카드를 본 프라나 [43]

ㅁㅁ 4시간전 1876 92

2999921 TS물 🔞19펌 와 이게 여자지ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [9]

ㅇㅇ 4시간전 596 15

2999920 가이진 팁/정보/마이닝 지상전 tip `헐다운 하는법` [8]

pkm1804 5시간전 549 18

2999919 TS물 뭐야 모자이크없는버젼 벌써올렸어? [14]

김히로히로히로 4시간전 409 24

2999918 보드게임 테이블탑 시뮬 어제 샀어 [12]

LOTNA 8시간전 114 6

2999917 호남 갠적으로 댓글 많이 달고 활동 많이 하는 사람은 ㅇㅇ 닉네임 말고 아무거나 좀 바꾸자 [11]

첨단사람 8시간전 156 8

2999916 명조 ★창작 금희의 다섯가지곡물토핑쇼에금주가 왈칵?! ~오곡오곡오고곡오곡하는 아익스가 되어버렷더는 알낳기싫어엇!~ 4 [32]

주머니날개짓 4시간전 2772 44

2999915 툴리우스 🔞스샷 여름 보양식 GOAT [8]

betabeta2 8시간전 382 10

글쓰기

전체글 Ai 언어모델 로컬 채널