마소 엔지니어에게 GPT-6 트레이닝을 위한 클러스터 프로젝트에 대해 들었다. 그는 서로 다른 지역에 있는 GPU들에 인피니밴드 연결을 지원하는게 얼마나 어려운 일인지에 대해 자주 불평하였다.
질문: 왜 클러스터들을 동일한 지역에 모아두지 않은거야?
마소 답: 아 우리도 처음에 그렇게 함. 근데 한 주(state)에 H100을 10만개 이상 놓으면 파워그리드 전체가 다운돼 버리더라고
한 주에서 H100 10만개 이상을 쓰지 못해 클러스터를 구성 중이란걸 보면 수십만개 써서 트레이닝 중인가봄
찌라시라서 뉴스탭 땟음
구독자 2683명
알림수신 75명
각 채널의 개념글을 모은 게시판입니다.
AI 채팅
일반
마소는 H100 10만개로 GPT6 트레이닝중
추천
19
비추천
0
댓글
9
조회수
552
작성일
수정일
댓글
고구마
cyrus
coa
K아논
휘진
Dekamik
Sks
사카마타보다안씻는사육원
Londobell
본 게시물에 댓글을 작성하실 권한이 없습니다.
로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
27812838
2872162
하츠 오브 아이언
호이
들크 가격 ㅈ박았으면 개추
[4]
79
12
2872161
원신
쇼군님 불방구뀌신다!!
[23]
2452
65
2872159
죠죠의 기묘한 모험
만화
죠린이 감옥갔다는 것을 알게된 죠스타일족
[1]
118
6
2872158
유머
유머
일본이 지금 엔저에 빠진 이유
[98]
5458
54
2872157
로보토미 코퍼레이션
🎨창작
Sd쥐싱 손그림+쥐파우 3동일러
[5]
674
19
2872156
자동차
자는데 갑자기 알림이 왔다..
[9]
241
5
2872154
프로젝트 세카이
창작
피닉스 원더랜드의 수호자
[7]
71
6
2872152
죠죠의 기묘한 모험
만화
죠타로에게 장난치는 죠스케,죠린
[1]
85
6
2872151
유즈소프트
후방
사가플래닛 25주년 공모전 이벤트 수상 후기
[34]
275
16
2872150
케모노
창작🔞
댕댕이 누나 스턱인월 L2d
[8]
171
16
2872149
블루 아카이브
🎨창작
쀼장님 그려왔어
[10]
729
36
2872148
블루 아카이브
번역
번역)당신 누구야?-☆
[52]
3675
87
2872147
블루 아카이브
🎨창작
운마리 그려옴
[7]
568
27
2872146
유희왕
🎨창작
라도리 격림 선딴거
[6]
264
14
2872144
프로젝트 문 이슈
잡담
생각해보면 되게 웃기지 않냐
[4]
386
11
2872143
붕괴 스타레일
🔞야짤
검으로 딸치는 케로니
[11]
2882
47
2872142
프라모델
건프라
RG 페넥스 NT 완성
[3]
187
8
2872141
야짤
동인지/망가
선생님한테 똥침하는 망가
[3]
2196
23
2872140
장르소설
세계최대의 참독 사이트
[11]
806
25
2872139
하드펨돔
여자친구한테 성향들킴
[6]
1108
18
2872138
원신
뉴비인데 얘 왜 안죽음?
[39]
3028
46
2872137
얀데레
짤(외부)
AI, 블아) 노아의 계획
[16]
1934
61
2872136
데이트 어 라이브
창작
데어라챈 떡상하는 만화
[3]
82
5
2872135
라스트오리진
창작
사관원 찐텀
[10]
399
37