본문 바로가기

AI & ML

(4)
[DL] RNN, Recursive Neural Network RNN이란? RNN은 Recurrent Neural Network의 약자로 순환 신경망을 의미하며 hidden layer에서 나온 값이 다시 hidden layer로 돌아가 연산을 수행하는 순환 구조를 띈다. CNN은 hidden layer의 결과가 출력층 방향으로 이동하지만 RNN은 다시 layer로 순환한다는 차이점이 있다. RNN은 시계열 데이터나 자연어와 같은 데이터 처리를 위해 설계되었으며 시간 별로 같은 weight를 공유한다는 것이 특징이다. 구조 위 그림은 RNN의 순환 구조를 나타낸 그림이다. 그림에서 RNN계층은 모두 같으며 시점만 다르다고 할 수 있다. 입력 x1…xt를 순차적으로 입력했을 때 결과 h0…ht가 출력되고 출력을 시점 k에서의 은닉 상태라고 한다. 이처럼 출력이 같은 계..
[DL] CNN, Convolution Neural Network CNN이란? CNN은 Convolution Neural Network의 약자로 합성곱 신경망을 이용한 딥러닝 기법이다. DNN에서 이미지, 영상 등의 데이터 처리 시 생기는 문제점들을 보완하기 위해 인간의 시신경을 모방한 방법으로 Vison 분야에서 우수한 성능을 보인다. 구조 CNN은 완전 연결 계층(Fully Connected Layer, FCL)이 아닌 합성곱(Convolution)층과 풀링(Pooling)층으로 구성되어 있다. CNN의 구조는 보통 아래와 같다. Convoltion Convolution은 Input에서 stride값 만큼 filter(kernel)를 이동시켜 연산을 진행한다. 이때 Input의 data 손실을 막기 위해 padding을 설정하기도 한다. 아래 그림처럼 input에 ..
[ML] Logistic Rrgression, 로지스틱 회귀 💡 Logistic Regression 로지스틱 회귀는 일반적인 회귀 분석의 목표와 동일하게 종속 변수와 독립 변수간의 관계를 구체적인 함수로 나타낸다. 독립 변수의 선형 결합으로 종속 변수를 설명한다는 관점에서 선형 회귀 분석과 유사하나 선형 회귀 분석과 달리 종속 변수가 범주형 데이터이고 입력 데이터가 주어졌을 때 해당 데이터의 결과가 특정 분류로 나뉘기 때문에 일종의 분류(classification) 기법으로도 볼 수도 있다. Sigmoid Function 그림을 보면 선형회귀 방식으로는 데이터에 따른 결과를 정확히 예측하기 힘들다. 따라서 Sigmoid function을 이용해 hypothesis를 수정해준다. sigmoid function은 쉽게 말해 hypothesis의 범위를 0과 1 사이로..
[ML] Linear Regression, 선형회귀 💡 Linear Regression Linear Regression, 선형회귀는 Supervised learning(지도학습) 방법 중 하나로 데이터를 가장 잘 대변하는 하나의 직선을 찾는 알고리즘이다. 임의의 data에 대한 선형 회귀 결과를 보자. 아래 그림에서 점들은 data, 파란 직선은 data들을 가장 잘 표현하는 직선이라고 할 수 있다. 이처럼 선형회귀는 $x$와 $y$의 관계를 보여주는 것으로 $x$는 독립 변수, $y$를 종속 변수라고 한다. Hypothesis 선형회귀를 통해 직선을 유추해내기 위해 세우는 식을 Hypothesis, 가설이라고 한다. 가설은 $H(x) = W(x) + b$의 형태이며, 이때 $W$는 Weight(가중치), $b$는 bias(편향)이다. Cost Funct..