Softmax와 cross-entropy loss를 - 코딩 채널

알림 알림 중 알림 취소

구독자 4410명 알림수신 85명 @은월영

프로그래밍 및 코딩 채널

질문 Softmax와 cross-entropy loss를

ㅇㅇ

추천 0 비추천 0 댓글 4 조회수 78 작성일 2023-04-17 08:19:27 수정일 2023-04-17 08:19:54

⚠️ 이 게시물은 작성자가 삭제할 수 없도록 설정되어 있습니다.

https://arca.live/b/programmer/74245612

어떻게 하면 쉽게 설명할 수 있을까...

댓글 [4] 글쓰기

ㅇㅇ

2023-04-17 09:17:49 답글

*수정됨

애초에 어려운 주제라면 어설프게 만든 비유때문에 더 헷갈랄때도 많음... 그냥 있는 그대로 설명해주는게 나을 때도 종종 있으

펼쳐보기▼

농즈

2023-04-17 13:56:37 답글

cross entrophy loss랑 로드우도함수는 multi-class classification 상황에서 사용하면 이해가 빠름.
cross entrophy는 통계학 관점에서 보면 이해가 엄청 빠름. 그냥 쉽게 말해서 "원본과 추정한 모델이 얼마나 겹쳐지냐"라고 생각하면 될 듯? 너가 그린 삼각형(추정한 모델)이랑 교수님이 그린 삼각형(정답 모델)을 포개었을 때 비슷한 정도라고 생각하면 될 듯

Softmax는 쉽게 말해 확률반형 max라고 하면 되지 않을까? 모든 항을 자연상수의 거듭제곱으로 변형하고, 이 array에 대한 확률이라고 보면 될 듯?

펼쳐보기▼

ㅇㅇ

2023-04-17 15:43:56 답글

일반적인 multiclass classification task 에서 CE를 사용하면 output을 일종의 one-hot vector꼴로 나타나는 거잖아? 그러면 이제 'loss'를 내가 예측한 output(predicted_y)의 one-hot vector 랑 진짜 정답(ground truth y)의 one-hot vector의 차이로 이해하면 되는거지?

펼쳐보기▼

농즈

2023-04-17 17:09:53 답글

ㅇㅇㅇㅇ 그게 맞음. 로그우도는 one hot code로 안 만들고 숫자 연산함

펼쳐보기▼

댓글 작성

업로드 중

0초

녹음 중지 삭제

글쓰기

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 공지 정보 질문 잡담 유머 C/C++ C# Python Java Front-end Back-end 앱·겜 AI·Data 그 외

번호 제목

작성자 작성일 조회수 추천

광고 광고 책임 없는 쾌락

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 52698380

공지 코딩 채널에 오신 것을 환영합니다.

강성호 2022.03.31 23793

유머 태양의 힘이 내 손 안에 있다. [2]

Lua 2023.04.17 423 0

버퍼 오버플로우 배우는중인데 [12]

Watney 2023.04.17 205 2

아까 CORS 오류 물어본 사람인데 [5]

link 2023.04.17 110 1

질문 3시간 검색하고 질문함, 플로팅 리모컨 프로그램 없음? [19]

심호흡을한다 2023.04.17 210 2

질문 AWS amplify rewrite rule 질문

진격의엄ㅋ 2023.04.17 123 0

문득 시스템소프트웨어 과목 과제하다가 뇌정지가 와버렸다 [5]

지나가고싶다 2023.04.17 161 1

질문 유틸 념글, 리모트 마우스 멀웨어라고 뜸 [5]

심호흡을한다 2023.04.17 119 0

웹뷰라는 개념은 누가 만든걸까? [2]

보빗보빗보비빗 2023.04.17 137 0

질문 동영상플레이어 질문 [4]

해_줘 2023.04.17 187 -1

잡담 공부 계획 [4]

심호흡을한다 2023.04.17 185 5

질문 Softmax와 cross-entropy loss를 [4]

ㅇㅇ 2023.04.17 79 0

github pages 에서 http:// 로 시작하는 api가 요청이 안됨;; [3]

파이썬바보 2023.04.17 261 0

질문 질문이 있음 [12]

그림쟁이 2023.04.17 207 -10

질문 python으로 hwp파일 제어하기... [5]

랑린이 2023.04.17 673 0

질문 대학생 공부하는데 [28]

_Shin_ 2023.04.17 314 1

왠지 잘 돌아가는데..?

정규식 2023.04.17 110 0

질문 이산 수학 교재나 강의 추천 가능할까요? [1]

ㅇㅇ (183.108) 2023.04.17 559 1

질문 CORS 오류 관련 질문좀 [13]

link 2023.04.17 172 0

잡담 요즘 강의들 보면 게시판 제대로 만드는 곳이 없네. [1]

무조건건강 2023.04.17 212 0

하루 마다 배운 것을 정리하여 포스팅 하는게 쉽지 않구나 [1]

핑챙 2023.04.16 118 1

글쓰기

전체글 개념글