Loss2 [Theme 07] Back Propagation 설명 안녕하세요 pulluper 입니다. 😄 이번 포스팅은 드디어 Back Propagation에 대하여 다뤄보도록 하겠습니다. 지난 시간에 다룬 MLP에 대하여 이어서 다뤄보겠습니다. 다음과 같은 MLP 가 있다고 하겠습니다. 이를 그림으로 표시하면 다음과 같습니다. 2개의 feature 를 갖는 하나의 input을 네트워크에 넣었을때의 그림입니다. x1, x2 에서 h1, h2, h3 로 갈때를 수식으로 표현하면 다음과 같습니다. (h1, h2, h3) = $\phi$ (XW + B) 로 표현할 수 있습니다. $\phi$ 는 activation function 입니다. 혹은 다음과 같이 XW + B 를 matrix multiplication으로 한번에 표현 할 수 있습니다. 이런 방식으로 전체 네트워크 o.. 2023. 1. 25. 여러 distance 정리 - 1 안녕하세요~! pulluper 입니다. :) 오늘은 machine learning 에서 사용하는 여러가지 distance 를 비교, 분석 해 보는 시간을 가져보려고 합니다. 요새 '사회적 거리두기' 가 4단계로 지정된다고 하는데요. 여기서 '거리' 란 무엇일까요? 위키피디아에 따르면 "거리(距離)는 어떤 사물이나 장소가 공간적으로 얼마나 멀리 떨어져 있는가를 수치로 나타낸 것이다." 라고 하네요! 즉, 거리란 얼마나 차이가 있느냐의 개념으로 이해 할 수 있겠네요! 1. 거리란? machine learning 에서도 이 거리의 개념이 아주 많이 사용됩니다. 수학적으로 거리는 어떤 집합 X위의 함수로 정의됩니다. 집합X의 두원소 x, y 에 대하여, 그 두 원소간의 거리는 다음과 같이 정의됩니다. d: X .. 2021. 7. 11. 이전 1 다음