딥러닝 기초

딥러닝

• 인간의 신경망 이론을 이용한 인공신경망의 일종
• 계층구조로 구성되어 입력층과 출력층 사이에 하나 이상의 은닉층을 가지고 있는 심층 신경망
• 뉴런의 입력은 다수이고, 출력은 하나이다. 여러 신경세포로 부터 전달받은 신호를 기반으로 일정 수치의 신호를 만든다. 해당 수치가 설정값 이상이면 출력신호가 생기고, 그렇지 않으면 출력신호가 생기지 않는다.
• 인공신경망도 이와 마찬가지로 입력값을 가중치로 계산해서 특정 값을 만들고, 해당 값에 따라 출력을 한다.
• 인간의 뇌를 형성하는 뉴런의 집합체를 수학 모델로 표현한 것
• 1957년 코넬 대학의 Frank Rosenblatt에 의해 고안된 퍼셉트론부터 시작한다. 이후 다층퍼셉트론, 역전파이론, 순환신경망, Drop Out 알고리즘 등 다양한 아이디어를 거치며 발전한다.
• 충분한 하드웨어와 그래픽 처리장치, 알고리즘 등의 발달로 최근 급격히 발달 중
• 이미지 인식 경쟁대회 : 점점 알고리즘을 깊고 복잡하게 쌓아 발전, 에러율을 낮춤.

---

딥러닝 알고리즘 활용 예시

• CNN(Convolutional Neural Network, 합성곱신경망) : 이미지 인식에 주로 활용된다. 인식이라는 범주에서 더 나아가기도 하는데, 유명 화가들의 화풍을 따라하는 기술이나 자율주행을 위해 카메라에 담긴 주변 환경을 픽셀 수준으로 분할하여 인식하는 SegNet 등이 그것이다..
• 순환 신경망 : 음성 혹은 글자와 관련된 기술에 주로 활용된다. 길이가 가변적인 음성과 텍스트는 문맥을 파악하기 위해 이전의 기억을 어느정도 활용이 가능해야 한다. 이후 LSTM(Long Short-Term Memory), GRU(Gated Recurrent Unit) 등으로 발전하면서 긴 문장 번역에서도 높은 성과를 달성한다. 손글씨를 만드는 기술에도 사용되었다. 독순술해석에 대해 94%의 정확도를 보이는 알고리즘을 만들어, 청각장애를 가지고 있어 대화에 어려움 겪는 사람들에게 유용하게 사용될 수 있다. 다만 우리의 일상을 감시하는데 활욛될수도 있다는 우려가 있다.

---

대기업의 딥러닝

• MS : 지능형 도우미 앱 Cortana
• 바이두 : 성조 음성인식 시스템 Deep speech2
• Facebook : 동일 인물 판단 시스템 Deep face
• IBM : Watson
• Google : 텐서플로우, TPU 등 활발한 개발