Deep Learning5 심층 신경망 심층 신경망(Deep Neural Network)이란? - 실제 학습데이터들은 입력벡터의 차원이 크고 개수가 몇 만개 이상이므로 복잡한 신경망 네트워크가 필요 - 다층 신경망을 여러 겹의 계층으로 쌓아서 학습 모델을 구현한 것 - 딥러닝 알고리즘 과적합(Overfitting) - 과적합은 분류 모델이 훈련 데이터의 각 샘플에 너무 가깝게 맞춰지는 현상 - 과적합이 발생할 경우, 훈련 데이터에 대해 정확도가 100%에 가깝게 수렴하지만 새로운 데이터에 대한 분류 성능이 떨어짐 과소적합(Underfitting) - 훈련 데이터에 대해 학습이 부족하여 데이터의 다양성을 반영하지 못하는 분류 모델이 선택되는 현상 ※ 과적합은 Layer 수가 너무 많거나 변수가 복잡해서 발생 Batch - 1 epoch 의미 :.. 2022. 2. 20. 다층 인공 신경망 다층 신경망의 구성 - 입력층(input layer) - 출력층(output layer) - 은닉충(hidden layer) 입력값의 특성을 파악하여 목표한 출력을 내도록 하는 역할 은닉층에 부여된 가중치에 따라 출력값의 패턴이 결정 은닉충 多 -> 분류성능 상승, 하지만 과적합(overfitting)에 빠질 위험이 있어 일반화 성능은 감소할 수 있음 전방향 연산에 의해 획득된 에러를 앞으로 되돌려 가중치를 갱신하는 오류역전파 알고리즘(error backpropagation algorithm)을 사용하여 다층 신경망 구성 원-핫 인코딩(One-Hot Encoding) - 표현하고 싶은 클래스만 1로 표시하고, 나머지는 0으로 표시하는 방법 - 클래스 정보를 표현하는 방법 - 추론시 사용 소프트맥스 함수(.. 2022. 2. 12. 퍼셉트론 퍼셉트론 - 로젠블라트가 제안한 단일 신경망 구조의 인공신경망 - 생물학적 신경망과 유사점을 가짐 - 다수의 입력을 받아서 하나의 신호를 출력 - 입력 값들은 각 입력마다 다른 가중치(weight)를 각각 곱한 뒤 바이어스 값과 더함 - 더해진 총합은 활성화 함수(Activation Function)에 적용 활성화 수준 계산 - 활성화된 값은 출력값으로 연결 인공신경망을 학습시킨다는 것은 입력 값에 곱해지는 가중치를 반복적으로 조정하여 학습한다는 것 가중치는 입력 값과 목표 값이 주어지면 목표 값을 만족시키기 위한 학습 과정에서 결정 y = activationfunction(X × W + b) 활성화 함수 - 임계치 값에 따른 활성화를 결정 계단함수(step function) : 입력이 0 이상일 경우 .. 2022. 2. 12. 회귀 분석 회귀 분석(regression analysis)이란? - 둘 또는 그 이상의 변수간의 상관관계를 모델링하여 변수들의 값을 예상하는 방법 - 예측 값이 연속형 숫자 값으로 나타남 ※ 모델이란? 시스템을 정보로서 표현한 것 회귀 분석 종류 - 선형 회귀분석(linear regression) 두 변수 간의 데이터 분포를 직선의 식으로 표현 - 비선형 회귀분석(non-linear regression) 변수들 간의 관계를 직선의 관계가 아닌 곡선의 관계가 있는 데이터를 다항식으로 표현한 것 선형회귀 함수 fx = Wx + b 최소 제곱법(least squares method) 어떤 계의 해방정식을 근사적으로 구하는 방법, 근사적으로 구하려는 해와 실제 해의 오차의 제곱의 합(SS)이 최소가 되는 해를 구하는 방법.. 2022. 2. 8. 딥러닝 프레임 워크 ※ 딥러닝 프레임 워크 - 딥 러닝과 관련된 프로그램을 쉽게 작성할 수 있도록 하기 위한 라이브러리 PyTorch FaceBook 인공지능 연구팀이 기존 Torch를 기반으로 만든 프레임워크 개발 언어 : 파이썬, C, C++, CUDA 장점 파이썬 기반 라이브러리 (Numpy, Scipy, Cython)와 높은 호환성을 가짐 직관적이고 간결한 코드 디버깅이 쉬움 TensorFlow 구글 브래인에서 개발 지원 : CUDA, Multi-GPU, 분산 환경 구글의 모든 AI 제품 및 서비스에 사용되고 있음 장점 디버깅을 위한 시각도구인 TensorBoard를 제공 다양한 자료와 범용성을 기반으로 널리 사용됨 ※ Tensor - 3차원 이상 다차원 숫자 배열 - 백터 -> 행렬 -> 텐서 Keras 구글 엔지.. 2022. 2. 4. 이전 1 다음
