Chapter 01 딥러닝의 기본
05. 딥러닝의 부상
빅데이터가 나오면서 규칙기반 인공지능에서 학습기반 인공지능(IBM의 왓슨이 대표적)으로 패러다임이 전환되었다. 딥러닝에서 데이터 확보는 매우 중요하다.
또한 GPU를 활용하고 고성능의 컴퓨팅 자원을 통해 성공적인 인공지능을 구현할 수 있다.
06. 심층신경망 (Deep Neural Network)
심층이라는 말은 다수의 은닉층을 구성한다는 것이다. 학습과정에서는 초기 가중치가 중요한데, 가중치가 많아질수록 신경망의 복잡도는 증가하고 손실함수의 최소값을 찾는 과정이 지역적인 최소값에 매몰될 가능성이 크다. 이런 단점을 극복하고자 초기 가중치를 얻기 위해 비지도학습을 적용하고 이후 지도학습을 수행한다.
다수의 가중치는 과적합(Overfitting)이 발생하는데 이는 학습을 할 때 가중치가 학습 데이터에 최적화된다는 것이다. 이를 해소하기 위해 일부 데이터를 검증 데이터로 남겨두는 방법을 사용한다.
07. 합성곱신경망 (Convolutional Neural Network)
두 행렬의 합성곱은 새로운 행렬을 생성하며, 생성된 합성곱 행렬의 원소는 서로 겹치는 영역의 원소를 모두 곱한 합으로 표현한다. 합성곱신경망은 이미지 처리 분야에서 주로 활용된다.
08. 순환신경망 (Recurrent Neural Network)
출력을 다시 입력으로 활용하는 재귀적인 개념에서 출발한다. 주로 문장에서 많이 사용되고 기계번역을 크게 혁신시켰다. 구글 번역도 본 기술을 활용하였다.
09. 적대적생성신경망 (Generative Adversarial Network)
GAN은 생성기와 판별기가 서로 경쟁하며 학습하는 방법이다. A가 다양한 위조지폐를 만들고 B가 감별하는 경우 A가 만든 것을 B가 더이상 판별하지 못할 때까지 A를 학습시킨다고 보면 된다.
GAN은 최근 회자되는 가짜사진, 가짜동영상의 핵심 기술로 현재 딥러닝의 큰 흐름을 지배하고 있다.
10. 강화학습 (Reinforcement Learning)
강화학습은 자체 대결을 통해 전략을 고도화한다는 개념이다. 이는 게임 인공지능 분야에 가장 많이 활용되며 구글 딥마인드가 만든 알파고는 물론 2019년 스타크래프트2의 인공지능인 알파스타에도 적용되었다.
11. 어텐션 메커니즘 (Attention Mechanism)
수많은 대화가 오고가는 혼잡한 상황에서 특정 대화에 집중한다는 칵테일 효과로 설명할 수 있는 개념이다. 주로 기계번역의 성능을 개선하는 기술로 주목받았다. 구글이나 네이버의 번역 서비스가 크게 성장한 이유도 어텐션 메커니즘의 덕이다.
'AI_머신러닝_딥러닝' 카테고리의 다른 글
| 딥러닝 최신 용어정리 #6 메타학습 원샷학습 지속적인학습 신경망구조탐색 AutoML (0) | 2022.09.16 |
|---|---|
| 딥러닝 최신 용어정리 #5 스타크래프트2의 인공지능 알파스타 (0) | 2022.09.12 |
| 딥러닝 최신 용어정리 #4 GPU TPU 뉴로모픽칩 등 (0) | 2022.09.12 |
| 딥러닝 최신 용어정리 #3 전처리 개인정보 알고리즘 편향 지속적인 학습 등 (0) | 2022.09.07 |
| 딥러닝 최신 용어정리 #1 퍼셉트론 엣지 손실함수 등 (0) | 2022.09.05 |