근데 지금까지 활성함수 없이 학습했단건 - AI그림 학습 채널

AI그림 학습 채널

알림 알림 중 알림 취소

구독자 8793명 알림수신 126명 @Anon

그림 AI 학습 정보를 공유하는 채널

근데 지금까지 활성함수 없이 학습했단건

추천 1 비추천 0 댓글 2 조회수 197 작성일 2022-10-22 08:55:29

https://arca.live/b/hypernetworks/61178874

레이어를 뭐 1, 2, 1을 주건 1, 2, 4, 2, 1을 주건 그냥 단층 레이어랑 똑같았다는 거 아님?

그럼 그냥 1, 1 구조로 학습시켜도 지금까지 공유됐던 하이퍼넷이랑 같은 결과를 얻을 수 있는 거? 아니면 활성함수가 없다고 해도 단순히 레이어를 쌓았다는 점에서 더 정보를 추출해내거나 하는 게 가능한건가?

댓글

2022-10-22 09:00:31

*수정됨

행렬 연산에서 B(Ax+b )+c = Cx+d로 표현이 가능하니깐, non-linear function인 activation이 없으면 그냥 단층이랑 같음

펼쳐보기▼

2022-10-22 09:03:52

그니깐 이게 분명 걍 선형인데... 일단 직접 1,1로 돌려보는중

펼쳐보기▼

본 게시물에 댓글을 작성하실 권한이 없습니다. 로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 정보 그림 드림부스 임베딩 하이퍼

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 28250396

공지 파딱 마음대로 작성한 AI그림 학습 채널 규정 - [24-01-24]

포리X 2023.10.29 2031

공지 [리퀘스트] 탭이 추가되었습니다.

선한_하얀_사자 2023.02.10 3402

공지 신문고

Anon 2023.02.21 3191

공지 각종 학습파일 적용법

거만한_보라_달팽이 2023.01.24 39454

공지 그림 학습법 모음

거친_핑크_외계인 2022.10.30 72584

숨겨진 공지 펼치기(1개)

얘들아 곧 드롭아웃기능 업뎃될꺼임 [13]

기쁜_은색_익룡 2022.10.22 400 8

익명이라그러니까 작가언급막하네 [6]

겸손한_청록_코끼리 (211.244) 2022.10.22 429 11

임베딩이랑 하이퍼 구분방법이 있나 [2]

화가난_금색_개구리 2022.10.22 174 1

relu vs leakyrelu vs linear 학습 간단 비교 1편

흉악한_주황_잠자리 2022.10.22 359 10

하이퍼, 임베딩 교차적용 확인용 [2]

거만한_밤색_다람쥐 2022.10.22 241 3

어 이거 이렇게하면 익명화 풀리는거 아닌가? [2]

엉뚱한_갈색_쭈꾸미 2022.10.22 174 0

두부 하이퍼 써봄 [4]

당당한_핑크_오리 2022.10.22 139 1

하이퍼네트워크랑 임베딩 섞어쓰면 퀄리티 더 올라감? [3]

소탈한_갈색_사자 2022.10.22 137 1

데이터셋 별 특별한거없음 [2]

소탈한_남색_고양이 2022.10.22 168 1

데이터셋의 저작권은 작가한테 있을거잖음 [13]

예민한_보라_쭈꾸미 2022.10.22 331 -2

데이터셋은 살짝 맛집 비법소스 느낌 아닌가 [1]

건방진_남색_늑대 2022.10.22 163 0

다들 전신도 512로 학습 중? [4]

야무진_갈색_소 2022.10.22 214 0

데이터셋 올리는건 용량이 문제지 [4]

센치한_갈색_오징어 2022.10.22 158 1

데이터셋 올리지 못하는 이유?

싹싹한_금색_토끼 2022.10.22 102 1

normalization키면 하이퍼네트워크 속도 느려지나? [3]

한심한_주황_쥐 2022.10.22 119 0

저희 익명챈 된김에 작업중인 작가이름 적어보아요 [10]

수수한_까만_코끼리 2022.10.22 515 0

다 빼고 생 Linear로 돌릴 거면 단일 레이어도 괜찮네 [4]

분노한_까만_거위 2022.10.22 155 1

익명됐으니 하는말인데 [7]

즐거운_주황_문어 2022.10.22 201 0

지금 생각중인거 더 있긴한데 [4]

굼뜬_밤색_수달 2022.10.22 114 1

아틀리에 시리즈 만들면 어때 [8]

순박한_빨간_양 2022.10.22 126 3

익명챈돼서 활동좀 할줄알았더니 [10]

쌀쌀한_보라_원숭이 2022.10.22 230 0

이제 익명챈된거네? [5]

흉악한_은색_강아지 2022.10.22 240 0

normalization, 5레이어 6레이어 쓰면서 1e-5 이하로 두면 안됨 [9]

흉악한_청록_문어 2022.10.22 308 3

normalization는 확실히 효과가 없는거같네 [4]

상냥한_갈색_소 2022.10.22 151 0

AI 학습 채널이 익명 채널이 되었습니다 [9]

즐거운_빨간_앵무새 2022.10.22 470 14

그림 임베딩 섞어쓰기가 존맛이긴하네 (적용 비적용샷 추가) [3]

aiaiai 2022.10.22 387 1

그림 질문! 다락방을 원하는데 인물이 나와요(미드저니) [3]

헨타이 2022.10.22 166 0

학습 계속 터지는거 때문에 자료 또또또 다시 긁고 있는데 [2]

ㅇㅇ 2022.10.22 160 1

그림 파스텔컬러 + 하이퍼 [8]

나애기블붕이 2022.10.22 471 7

하이퍼네트워크 학습 돌리다가 과적합 나더니 오류로 굳어버렸는데 [8]

ㅇㅇ 2022.10.22 213 0

거 학습좀 시킬수도 있지 [2]

oㅇo 2022.10.22 149 0

2레이어로 늘렸다고 시간이 2배가 됐네ㅋㅋㅋㅋ [1]

ㅇㅇ 2022.10.22 126 1

여러번 돌려봤는데 체감상 하이퍼학습에서 레이어 정규화가 오히려 억제기역할 하는것 같기도? [9]

단지널사랑해 2022.10.22 365 1

이제 lr 좀 올려도 되지않나 [2]

율화 2022.10.22 162 1

하이퍼 업뎃 된 기능 좋은지 잘 몰겠음 [4]

ㅇㅇ 2022.10.22 228 0

근데 지금까지 활성함수 없이 학습했단건 [2]

ㅇㅇ 2022.10.22 198 1

이런 채널도 있네

Agnostic4110 2022.10.22 68 0

ReLU 각각 다른 데이터셋에서 2번 실패! [6]

틀딱분쇄기 2022.10.22 209 1

그림 20k되니까 이제 살짝 느낌나는듯 [1]

우흐 2022.10.22 322 1

어어 여기 익명챈 되는거농? [1]

껌정도깨비 2022.10.22 123 1

전체글 개념글