다층 퍼셉트론에서 결과값은 어캐 출력함?

코딩 채널

알림 알림 중 알림 취소

구독자 4411명 알림수신 85명 @은월영

프로그래밍 및 코딩 채널

AI·Data 다층 퍼셉트론에서 결과값은 어캐 출력함?

악해병당고가너무좋아준코님

추천 0 비추천 0 댓글 12 조회수 201 작성일 2022-11-12 18:06:04 수정일 2022-11-12 18:06:24

https://arca.live/b/programmer/62848709

학습끝나고

Input 넣어서 Output 출력할려는데

Output값은 활성화 함수 사용해가지고 특정 값 범위에서 놀잖어

근데 내가 학습에 사용한 output perceptron data들은 binary값인 0,1만 가지는데

테스트 데이터가 어떤상태인지는 판단을 어캐함?

Signal function 사용해서 뉴런값이 일정값 이상 이하 판단해서 1,0으로 만들어버리고 결과내는건가?

[0.93 0.05] 이런 데이터는 [1, 0] 판단한다는 이런식?

역전파 알고리즘이나 이런건 다 이해해놓고

이상한곳에서 고민을하게되네 ㅋㅋㅋㅋㅋ

댓글 [12] 글쓰기

ㅇㅇ (121.160)

2022-11-12 18:24:38 삭제 수정 답글

출력값이 0하고 1뿐이면 계단함수 써야지

펼쳐보기▼

악해병당고가너무좋아준코님

2022-11-12 18:31:43 답글

출력층 뉴런은 sign(act(output)) 이런형식으로 나오는걸려나 학습때는 신호함수 안썻고

펼쳐보기▼

맑은사과

2022-11-13 03:22:09 답글

보통 학습이 아닌 결론으로는 argmax 쓰지.
물론 단 한개의 답이 존재하는 경우 기준

펼쳐보기▼

2022-11-13 04:08:15 답글

binary classification이면 activation을 sigmoid로 사용해서 logit을 0~1 사이로 매핑하지

펼쳐보기▼

2022-11-13 04:09:59 답글

multi class면 일반적으로 softmax

펼쳐보기▼

악해병당고가너무좋아준코님

2022-11-13 06:34:41 답글

*수정됨

그 머라해야하나 헷갈리는데
예시로 [1 0] [0 1] [1 1] [0 0]이 내가 학습에 사용했고 분류한 결과에 대한 퍼셉트론 출력인데
학습을 끝내고 특정 입력을 가했더니 [0.9 0.2] 이런 결과가 나왔다. 그러면 이걸 어떤 class라고 봐야하는가?
이런거임
L2 distance로 가장 값 작은 클래스로 결론내리묜되나요?

펼쳐보기▼

2022-11-13 06:53:55 답글

그 이해가 잘안되서 질문드리고 싶은건데

X의 shape가 (None, 2) (==[1, 1], ..) / MLP에 입력된 X로 예측된 반환값 y_hat의 shape가 (None, 2) (== [.9, .2])라고 하면 실제 label인 y의 shape은 어떻게되나요 몇개의 클래스를 가진 경우인가요 

말씀주신 y_hat의 예시가 합했을 때 1.이 아닌걸 보면 softmax를 취한 값이 아닌 hidden state를 말씀하시는것 같아서 그래요

펼쳐보기▼

악해병당고가너무좋아준코님

2022-11-13 06:57:38 답글

[1 0] [0 1] [1 1] [0 0]가 각각 위암 폐암 간암 대장암이라고 할때 [0.9 0.2]는 무슨암이라 판별해야하는가? 이런건데... 음... 전부 활성화함수는 sigmoid 사용했구요 최종값으로 나온벡터도 sigmoid 적용시킨 결과입니다

펼쳐보기▼

2022-11-13 07:10:53 답글

아 그럼 [위암, 폐암, 간암, 대장암] 4개의 label을 [[1,0], [0,1], [1,1], [0,0]] 이렇게 인코딩하신거네여 

근데 이렇게 하는 경우는 제가 못봐서 그런데 이유가 있으신건가여? 말씀주신 방법이라면 각각 label이랑 distance 계산해서 최소값을 label로 해석하는게 맞는거같긴해요

보통은 label을 [[1,0,0,0], [0,1,0,0], [0,0,1,0], [0,0,0,1]] 이렇게 원핫인코딩하고 y_hat(None, 4)에 softmax를 취한 값을 class에 대한 확률로 해석하긴해요( ex. [.4, .3, .15, .15] -> class_0 )

펼쳐보기▼

악해병당고가너무좋아준코님

2022-11-13 07:24:33 답글

이유는 없습니다. 그냥 이론 배운걸 파이썬코드로 직접 짜보겠다고 저리 한건데, 일반적으론 원핫인코딩형식으로 사용하나 보네요

펼쳐보기▼

2022-11-13 09:36:24 답글

네네 근데 지금생각난건데 output이 sigmoid activation이면 그냥 binarize한값이 label 아닐가여

펼쳐보기▼

형님슈비츠

2022-11-14 20:11:25 답글

위에 할배가 잘 설명해줬구만
활성함수따라 다르긴하겠지만 유의미한 수준은 아니고, 확률의 분포라고 생각하면 편함
4개를 원핫쳐서 [0.5 0.2 0.3 0] 이런식으로 뜨면 첫째로 예측되었다고 보는게 맞고
일반적으로 소프트맥스씀
아웃풋이 여러갠데 시그모이드쓰는건 일반적인 문제형태는 아니지. 특히 mlp같은 단순구조는..

펼쳐보기▼

댓글 작성