최근 <딥러닝의 최신 트렌드>라는 책을 읽으면서 정리한 용어를 올려본다.
딥러닝이라는 주제가 워낙 어렵기도 하고 나의 배경지식이 짧은 탓에 온전히 이해한 건 많지 않지만, 추후 개인적인 학습을 위해 정리해 보고자 한다.
Chapter 01 딥러닝의 기본
01. 퍼셉트론과 엣지 Perceptron and Edge
인공신경망에서 퍼셉트론은 신경세포(뉴런), 엣지는 신경세포를 연결하는 시냅스를 표현한 것이다.
퍼셉트론은 노드라고도 하며 엣지는 두 노드를 연결하는 가중치(Weight)라고도 표현한다.
인공지능의 학습과정은 최적의 weight를 찾는 행위이다.
02. 인공신경망 Artificial Neural Network
인공신경망의 가장 일반적인 형태는 다층 퍼셉트론 구조로서 입력층, 은닉층, 출력층으로 구성된다. 은닉층의 역할은 비선형으로 분류된 영역을 선형 분류가 가능하도록 영역 자체를 재구성하는 일이다.
03. 손실함수 Loss Function
손실함수는 학습이라는 행위에서 가장 시작점에 위치하는 것으로 실제값고 예측값의 차이를 나타낸다. 입력이 사과 이미지일 때 출력을 사과로 예측하면 손실함수의 값이 0이 되고, 귤이라면 값이 커지는 형태이다.
04. 학습과정
인공신경망의 학습은 손실함수가 최소화되는 엣지의 가중치를 찾는 것이다. 그러나 가중치는 보통 수백만 개가 넘기 때문에 최적의 값을 찾는 건 사실상 불가능하고 근사값을 구하는 것이 일반적이다.
학습은 크게 지도학습과 비지도학습으로 나뉘는데, 지도학습은 정답이 있는 문제를 알려주기 때문에 보통 분류(classification)에 활용되고, 비지도학습은 입력 데이터만 존재하므로 군집(clustering)에 특화되어 있다.
지도학습의 방법에는 미분 가능한 비선형 함수의 근사 해를 찾는 뉴턴방법과 일치하는 오류역전파법(Error Back-Propagation)이 있다.
'AI_머신러닝_딥러닝' 카테고리의 다른 글
| 딥러닝 최신 용어정리 #6 메타학습 원샷학습 지속적인학습 신경망구조탐색 AutoML (0) | 2022.09.16 |
|---|---|
| 딥러닝 최신 용어정리 #5 스타크래프트2의 인공지능 알파스타 (0) | 2022.09.12 |
| 딥러닝 최신 용어정리 #4 GPU TPU 뉴로모픽칩 등 (0) | 2022.09.12 |
| 딥러닝 최신 용어정리 #3 전처리 개인정보 알고리즘 편향 지속적인 학습 등 (0) | 2022.09.07 |
| 딥러닝 최신 용어정리 #2 CNN GNN 강화학습 과적합 등 (0) | 2022.09.05 |