로그인 바로가기 하위 메뉴 바로가기 본문 바로가기

인공지능 및 기계학습 심화 2

임시 이미지 KAIST 산업및시스템공학과 문일철 교수님
http://kooc.kaist.ac.kr/aiml-adv2/forum/134020
좋아요 96 수강생 490

좀 더 구체적으로 얘기하면 deterministic 부분이 제대로 이해했는지 좀 헷갈립니다.

어떤 부분이 deterministic하다고 하는건가요?

1.NN를 통해 학습된 mu와 sigma가 있고 한번 sampling된 epsilon값에 대해서는 이전과 같은 mu와 sigma를 넣으면 이전과 같은 결과값이 나오니 deterministic한건가요? 다시 말해 정규분포로부터 샘플링된 특정한 입실론값에 대해서 deterministic하다고 하는건가요?

2.아니면 입실론이 정규분포의 형태로 가정했기때문에 여기에 대해서 학습할 필요가 없이 바로 sampling만 하면되니 입실론의 모양에 대해서 deterministic 하다고 한건가요?

강박증이 생긴건지 단어 하나에 꽂히니까 이부분을 못벗어나네요ㅠ

여기까지가 사실은 이전 강의 질문이였구요.

이번 강의를 듣고나니 1번이 맞는말이고 이렇게 deterministic하게 만든 이유가 그렇지 않으면 feed forward에서 sampling된 z값이 backprogation때 다시 sampling되기 때문에 mu와 sigma를 학습하는데 어려움이 있어 입실론을 도입해서 정규분포로부터 sampling한 특정 값을 forward와 backprogation까지 고정된 값을 써서 안정적으로 mu와 sigma를 학습하는데에 쓰기 위함으로 이해하는게 맞나요?