[혼공머신] 4주차 05-1 결정트리
본 게시글은 한빛미디어의 혼자 공부하는 머신러닝+딥러닝을 바탕으로 작성되었습니다. 혼공학습단 오늘은 너무 추웠다. 날씨 때문인지 주식 창이 파란색으로 가득 찼기 때문인지는 모르겠지만 너무 온도차가 컸다. 아무튼 이번주 내용을 보다가 실수를 하나 했다는 생각이 들었다. 지난주에 minibatch gradient descent를 설명하면서 교차검증을 ...
본 게시글은 한빛미디어의 혼자 공부하는 머신러닝+딥러닝을 바탕으로 작성되었습니다. 혼공학습단 오늘은 너무 추웠다. 날씨 때문인지 주식 창이 파란색으로 가득 찼기 때문인지는 모르겠지만 너무 온도차가 컸다. 아무튼 이번주 내용을 보다가 실수를 하나 했다는 생각이 들었다. 지난주에 minibatch gradient descent를 설명하면서 교차검증을 ...
Tensor 텐서(Tensor)는 matrix을 표현하는 자료형으로, NumPy의 Array와 동일하게 multidimensional matrix를 표현하는 것이다. 다만, tensor는 array보다 gpu 사용, 자동 미분 등의 기능이 추가된 것이라고 생각하면 된다. 이때, Pandas의 dataframe과 동일하지 않나 생각을 할 수 있으나, p...
아직 작성중인 게시글입니다. 마크다운 언어 마크다운 언어를 처음 배운 것은 학교에서 R을 배울 때이다. R 마크다운을 작성해서 과제를 제출해야 했기에 자연스럽게 배우게 되었다. 그런데 그 이후로는 전혀 사용하지 않았다. 물론 주피터 노트북의 ipynb 파일에서도 마크다운을 사용할 수 있긴 하지만, 제목 작성 제목은 #을 활용하여 표시하며, 총 6...
본 게시글은 한빛미디어의 혼자 공부하는 머신러닝+딥러닝을 바탕으로 작성되었습니다. 점진적 학습 우리는 지금까지 한정된 data를 가지고 학습을 했었다. 그런데 세상은 이렇게 단순하지 않다. 우리는 살면서 수많은 data를 생성한다. 기업이나 연구에서도 단순히 일회성 취미로 data 분석을 할 것이 아니라면 항상 갱신을 해줘야 한다. 이때, 시간이 ...
아직 작성중인 게시글입니다. 아달린 아달린은 버나드 위드로(B. Widrow)와 제자 마르시안 호프(M. Hoff)가 만든 인공신경망 모델이다. 퍼셉트론은 loss function가 없기에 단순히 오차가 발생했을 때만 가중치를 갱신한다. 또한, 학습을 할 때, step function을 사용하기에 오차의 크기가 아니라 오차의 유무만을 확인하여 갱...
퍼셉트론 프랑크 로젠블랫(F. Rosenblatt)에 의해 고안된 인공신경망 이진분류기이다. 퍼셉트론은 특성에 대한 입력값(Input)인 벡터 $\mathbf{x}$에 가중치(Weight) 벡터 $\mathbf{w}$를 곱한 $\mathbf{wx}$를, 즉 모든 input에 weight를 곱한 것을 더한 것을 계단함수에 넣어 0 또는 1로 분류...
본 게시글은 한빛미디어의 혼자 공부하는 머신러닝+딥러닝을 바탕으로 작성되었습니다. 혼공학습단 이번에 글을 작성하려고 했는데, 너무 귀찮았다. 아직 3번이 더 남았는데 벌써 귀찮으면 어떡하지라는 생각이 들었지만 어쩔 수 없었다. 그래서 미루고 미루다가 마지막날에 완성을 하게 될 것 같다. 하지만 그동안 다른 여러 가지를 시도해 보았다. 먼저, 수식...
정의 $SST=\sum^n_{i=1}(y_ i-\bar{y})^2 \tag{1}$ $SSR=\sum^n_ {i=1}(\hat{y}_ i-\bar{y})^2 \tag{2}$ $SSE=\sum^n_ {i=1}(y_ i-\hat{y}_ i)^2 \tag{3}$ $SST=SSE+SSR$ 유도 $SST=\sum^n_{i=1}(y_ i-\bar{y})^2 \...
정의 $Y$: 종속변수(Dependent Variable) $X$: 독립변수(Independent Variable) $\beta_0$: 절편(Intercept) $\beta_1$: 계수(Coefficient) $\varepsilon_i$: 오차(Error) $S_{XX}$: $\sum^n_{i=1}(x_i-\bar{x})(x_i-\bar{x})$ $S...
정의 $Y$: 종속변수(Dependent Variable) $X$: 독립변수(Independent Variable) $\beta_0$: 절편(Intercept) $\beta_1$: 계수(Coefficient) $\varepsilon_i$: 오차(Error) 기본 가정 선형성 가정: 변수 $X$와 $Y$ 사이에는 선형 관계가 존재한다. 오차의...