본문 바로가기

MLE4

[Theme 00] Basic Machine Learning 정리 scheduler! [Theme 01] What is the AI [Theme 02] Linear Regression [Theme 03] Logistic Regression [Theme 04] Softmax Regression [Theme 05] MLE [Theme 06] XOR / Perceptron / MLP [Theme 07] Back Propagation/Gradient Descent [Theme 08] Machine Learning tip [Theme 09] Convolution 2023. 1. 24.
[Theme 05] MLE (Maximum likelihood estimation) 을 통한 Loss 안녕하세요 pulluper 입니다! 😀 저번까지 linear regression, logistic regression, softmax regression 등의 개념을 살펴보았는데요. 머신러닝공부를 하다보면 나오는 심심찮은 개념인 MLE 이름은 익숙한데, 실제 개념이 헷갈리시다면 이번 포스팅을 잘 읽어보시기 바랍니다! 이번 시간에는 MLE의 개념과, 이를통해서 만들어지는 Loss의 특징들에 대하여 알아보겠습니다. 목차는 다음과 같습니다. Likelihood (bayes' rule) MLE Negative Log Likelihood Examples 먼저 bayesian rule 에 나오는 likelihood 와, MLE에 개념, 이를 Loss 로 사용하는 NLL, 그리고 task에 맞는 examples 들의.. 2022. 7. 5.
[Theme 02] Linear Regression(선형회귀) (Feat. OLS/GD/MLE) 안녕하세요 Pulluper입니다. 😀 Basic ML 2번째 주제는 supervised learning 의 기본인 Classification / Regression 중 Regression 의 한 종류인 Linear Regression(선형회귀)입니다. 먼저 회귀(Regress) 란 옛날 상태로 돌아가는 것을 의미합니다. 옛날 영국의 유전학자가 부모의 키와 아이들의 키가 선형적인 관계가 있고 전체 키 평균으로 돌아가는 경향이 잇다는 가설을 세웠으며 이를 분석하는 방법을 회귀분석이라고 하였습니다. 이를 알아보기 위해 몇가지 용어들에 대하여 알아보겠습니다. 통계적 기법에서 회귀란 다음과 같습니다. 회귀(Regression) : 둘 이상의 변수들 간의 관계를 보여주는 통계적 방법 또한 수학적, 통계적 모델에서 .. 2022. 4. 28.
[Object Detection] FreeAnchor: Learning to Match Anchors for Visual Object Detection (NIPS2019) 안녕하세요! pulluper 입니다. 오늘은 NeurIPS 2019 에 발표된 FreeAnchor 에 대하여 리뷰해보는시간을 가져보겠습니다! 저자는 Xiaosong Zhang 등 5분으로 object detection 을 하셨던 분들입니다. 이 paper 의 가장 큰 특징은 MLE의 관점으로 object detection 을 제안했다는 것입니다. 먼저 MLE 에 대하여 알아보겠습니다. likelihood 이를 위해 likelihood 에 대하여 알아보겠습니다. 위키피디아에 likehood 에 대하여 찾아보면 다음과 같이 나옵니다. In statistics, the likelihood function (often simply called the likelihood) measures the goodness .. 2021. 8. 22.