로그인 바로가기 하위 메뉴 바로가기 본문 바로가기

인공지능 및 기계학습 심화

임시 이미지 KAIST 산업및시스템공학과 문일철 교수
http://kooc.kaist.ac.kr/aiml-adv/forum/102879
좋아요 694 수강생 3329

1. Linear Regression 및 Multivariate Gaussian Distribution과의 차이

 - Linear Regression과 GPR의 차이를 말한다면 결과값에 대한 uncertainty의 포함 여부로 말할 수 있을까요?

 - Multivariate Gaussian Distribution과 GPR의 차이를 말한다면 변량의 차원이 유한인지 무한인지로 구분할 수 있을까요?

 - GP를 Multivariate Distribution의 무한차원확장이라고 정의하는 다른 글을 보았는데, Mean과 Covariance를 value 혹은 Matrix가 아닌 Function으로 정의하기 때문에 무한차원 확장이라 일컫는지 궁금합니다.


2.GPR을 정리하면, 유한한 data set을 바탕으로 Kernel Function의 hyperparameter를 학습하고 이 Kernel Function을 이용하여 GP의 Covariance Function 과 Mean Function을 정의하는 것이 맞나요? 


3. Hyperparameter Learning 부분에서 mu(N+1) 과 cov(N+1) 의 결과값을 정의하였는데 해당 결과값이 결국  각각  GP의 Mean function과 Covariance Function이 되는 것이 맞나요?

 3-1)위의 질문이 맞는 경우,  mean function과 covariance function이  일반적인 수식이라는 느낌보다 여러개의 수식으로 부터 나온 행렬의 계산으로 생각이 되는데요, 해당 function들을 특정 구간에 대해 적분할 수 있는지, 적분을 하기 위해서는 어떠한 수식을 이용해야 하는지 여쭤보고 싶습니다.


4. 강의를 진행할 때 초기 Mean Function을 0으로 가정하였는데, 0으로 가정하지 않아도 예측된 Mean function 및 Covariance function의 수식이 변하지 않는건지 궁금합니다. (초기 값 설정으로 0을 가정한건지 궁금합니다.)


5. 강의 초반 Continous Domain을 분석하는 기법으로 1) underlying function Estimation 2) Prediction 두 가지로 분류하였는데  전반적인 강의의 내용을 다음과 같이 분류할 수 있는 것인가요?

  1) Underlying Function Estimation: 관측값을 통한 P(Tn)에 대한 확률분포 Estimation

 2) Prediction: 새로운 data(tn+1)의 output을 계산하는 mean function 및 covariance function 유도  


6. 확률 공간상에서 t를 고정한 경우 Random Variable, w를 고정한 경우 Sample function임을 이해하였는데

 Gaussian Process의 경우 Random variable이 Normal Distribution을 따르고 Sample function의 경우 Multivariate Distribution을 따르는 게 맞는지 궁금합니다

 

7. 직관적으로 Gaussian Process가 어떻게 Smooth한 곡선이 나올 수 있는지 궁금합니다. 수식 내에서 랜덤하게 data를 sampling 하게되는 경우 noise와 별개로 값들의 변화가 smooth한 형태로 나오지 않는 경우가 더 많지 않을까 생각되었습니다. 


아직 머신러닝에 대한 경험과 지식이 부족하여 추상적인 질문드린 점 양해부탁드립니다. 답변주시면 감사드리겠습니다!