딥 러닝 기초 | ㄹㅇ쉬운 딥러닝 1강 : 머신러닝 개념부터 중학교 레벨로 설명해줌 모든 답변

당신은 주제를 찾고 있습니까 “딥 러닝 기초 – ㄹㅇ쉬운 딥러닝 1강 : 머신러닝 개념부터 중학교 레벨로 설명해줌“? 다음 카테고리의 웹사이트 https://ppa.charoenmotorcycles.com 에서 귀하의 모든 질문에 답변해 드립니다: ppa.charoenmotorcycles.com/blog. 바로 아래에서 답을 찾을 수 있습니다. 작성자 코딩애플 이(가) 작성한 기사에는 조회수 32,860회 및 좋아요 503개 개의 좋아요가 있습니다.

Table of Contents

딥 러닝 기초 주제에 대한 동영상 보기

여기에서 이 주제에 대한 비디오를 시청하십시오. 주의 깊게 살펴보고 읽고 있는 내용에 대한 피드백을 제공하세요!

아래 상세 동영상 보기

d여기에서 ㄹㅇ쉬운 딥러닝 1강 : 머신러닝 개념부터 중학교 레벨로 설명해줌 – 딥 러닝 기초 주제에 대한 세부정보를 참조하세요

머신러닝은 실은 ax + b = 10을 만족하는 a와 b를 찾으라는 중학교 수준 수학계산인데
a와 b값 찾는걸 컴퓨터에게 찾게하는 가혹행위를 바로 머신러닝이라고 합니다.
딥러닝은 값 도출 중간에 뉴럴 네트워크라는걸 이용할 뿐이고요. 가혹행위하는건 동일합니다.
전체 강의는 https://codingapple.com/course/python-deep-learning/ 에서 이용가능합니다.
구독자용 10% 할인 코드 YT123

딥 러닝 기초 주제에 대한 자세한 내용은 여기를 참조하세요.

1. 인공지능, 머신러닝, 딥러닝 기초개념 다지기 – HONG’S DB

인공지능, 머신러닝, 딥러닝 기초개념 다지기. Kellyyyy 2020. 6. 1. 08:00. 요즘 신문기사를 읽다보면 인공지능, AI 와 같은 단어를 매일 한번씩은 꼭 마주친다.

+ 자세한 내용은 여기를 클릭하십시오

Source: hyjykelly.tistory.com

Date Published: 11/14/2022

3. 딥러닝 기초

딥러닝 기초¶. 이 장에서는 딥러닝의 기본적인 내용들을 소개합니다. 네트워크 아키텍처, 데이터, 손실 함수(loss functino), 최적화, 그리고 용량 제어를 포함합니다.

+ 자세한 내용은 여기를 클릭하십시오

Source: ko.d2l.ai

Date Published: 2/25/2021

딥러닝 기초(1) 신경망이란

딥러닝(deep learning)은 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화를 시도하는 머신러닝 알고리즘의 집합으로 정의되며, …

+ 자세한 내용은 여기를 클릭하십시오

Source: losskatsu.github.io

Date Published: 5/28/2022

[딥러닝 #1] 딥러닝의 기초

[딥러닝 #1] 딥러닝의 기초 … [인공지능과 머신러닝, 딥러닝의 차이] … 딥러닝은 인간의 뉴런과 비슷한 인공신경망(Artificial Neural Network, …

+ 여기에 자세히 보기

Source: g-idler.tistory.com

Date Published: 3/16/2021

딥러닝의 기초 – 서울대학교 컴퓨터공학부

딥러닝의 기초. 교과목 구분: 전공선택. 교과목 번호: M2177.004300. 학년: 4학년. 학점: 3. 4차 산업혁명의 핵심기술인 인공지능(딥러닝)의 배경지식과 활용방법을 …

+ 자세한 내용은 여기를 클릭하십시오

Source: cse.snu.ac.kr

Date Published: 8/20/2021

실체가 손에 잡히는 딥러닝, 기초부터 실전 프로그래밍 – YES24

딥러닝의 기초 지식과 수학부터 파이썬을 활용한 실전 프로그래밍 구현까지, 한 권으로 모든 것을 끝내는딥러닝 입문자를 위한 최고의 책!

+ 자세한 내용은 여기를 클릭하십시오

Source: www.yes24.com

Date Published: 4/26/2022

딥러닝 기초 | Cognex

딥러닝 기술은 품질 검사 및 다른 판단 기반 애플리케이션을 위한 첨단 생산 방식에서 사용됩니다. 휴대 전화기에서부터 자율 주행 자동차에 이르기까지 소비자 경제 …

+ 여기에 더 보기

Source: www.cognex.com

Date Published: 3/4/2022

주제와 관련된 이미지 딥 러닝 기초

주제와 관련된 더 많은 사진을 참조하십시오 ㄹㅇ쉬운 딥러닝 1강 : 머신러닝 개념부터 중학교 레벨로 설명해줌. 댓글에서 더 많은 관련 이미지를 보거나 필요한 경우 더 많은 관련 기사를 볼 수 있습니다.

주제에 대한 기사 평가 딥 러닝 기초

Author: 코딩애플
Views: 조회수 32,860회
Likes: 좋아요 503개
Date Published: 2020. 11. 4.
Video Url link: https://www.youtube.com/watch?v=U57LVkQVf4o

1. 인공지능, 머신러닝, 딥러닝 기초개념 다지기

요즘 신문기사를 읽다보면 인공지능, AI 와 같은 단어를 매일 한번씩은 꼭 마주친다.

그만큼 우리가 인공지능을 실생활에서 점점 더 많이 활용하고 있는 것이라 생각한다.

인공지능을 공부하는 사람으로써, 오늘은 ‘인공지능’의 기초개념을 짚고 넘어가려고 한다.

인공지능(AI)이란?

인공지능(AI)은 Artificial Intelligence의 우리말이다.

나무위키에서는 인공지능을 아래와 같이 정의한다.

인공지능 인간의 지능을 갖고 있는 기능을 갖춘 컴퓨터시스템이며, 인간의 지능을 기계 등에 인공적으로 시연(구현)한 것이다. 또한 그와 같은 지능을 만들 수 있는 방법론이나 실현 가능성 등을 연구하는 과학 분야를 지칭하기도 한다.

정리하면,

인공지능이란 인간의 지능을 기계에 구현하는 것 또는 관련 연구 분야를 의미한다.

인공지능은 2가지 개념으로 나뉜다.

강인공지능(strong AI)과 약인공지능(weak AI).

① 강인공지능

강인공지능은 사람과 구분이 안 될 정도로 강한 성능을 가진 인공지능이다.

아이언맨의 자비스를 생각하면 된다.

영화 <아이언맨>

영화 <아이언맨>에서 자비스는 마치 사람처럼 대화하고 농담을 하기도 한다.

책 에서는 강인공지능에 대해 아래와 같이 기술한다.

‘현재 강인공지능을 만들 수 있는 방법에 대해 아는 사람은 아무도 없습니다. 심지어 강인공지능이 나올 만한 시기도 예측하기 어렵습니다. 그래서 많은 인공지능 과학자들은 강인공지능에 대해 섣불리 예측하거나 이야기하는 것을 꺼립니다. 지금까지 발전을 거듭하고 있는 인공지능 기술은 모두 약인공지능입니다.’

그렇다.

우리가 신문기사에서 접하는 인공지능은

모두 약인공지능에 속한다.

(자비스가 출시되려면 아~직 멀었다.)

② 약인공지능

약인공지능은 특정 영역에서 작업을 수행하는 인공지능을 의미한다.

테슬라의 자율주행자동차나 애플의 시리를 생각하면 된다.

머신러닝과 딥러닝도 모두 약인공지능의 영역에 속하는 개념이다.

그래서 인공지능, 머신러닝, 딥러닝의 관계도를 그려보면 아래와 같다.

인공지능, 머신러닝, 딥러닝 관계도

그렇다면 머신러닝과 딥러닝은 대체 뭘까?

인공지능에 대해서 조금 공부해봤다면

머신러닝과 딥러닝에 대해 자주 접했을 것이다.

머신러닝과 딥러닝은 인공지능을 구현하기 위한 핵심기술들이다.

머신러닝이란?

머신러닝(Machine Learning)은 우리말로는 기계학습이다.

기계학습??

이게 뭔소린가 싶을수도 있는데,

머신러닝의 근본적인 원리를 알면

참 직관적인 단어라는 생각이 들 것이다.

머신러닝을 이해하기 위해서는 학습이라는 개념을 알아야한다.

학습이란 컴퓨터가 스스로 데이터의 규칙을 찾아내도록 하는 기술을 말한다.

이건 또 뭔소린가?

전통적인 프로그램은 사람(프로그래머)이 데이터의 규칙을 정해주었다.

반면 머신러닝을 사용한 프로그램은 컴퓨터가 데이터의 규칙을 찾는다.

전통적인 프로그램 (머신러닝 X) 인공지능 (머신러닝 O) 사람이 규칙을 정함 컴퓨터가 규칙을 찾음

데이터의 규칙을 찾는다는 게 무슨 말일까?

이해를 돕기 위해 예를 들어보겠다.

당신은 프로그래머이고,

강수여부를 예측하는 프로그램을 만든다고 해보자.

당신은 머신러닝, 인공지능 기술에 대해 모른다.

그럼 강수여부를 예측하는 프로그램을 만들기 위해

어떤 일을 해야할까?

우선 비가 오는 날의 특징을 파악해야 할 것이다.

그래서 당신은 기상청 사이트에서 들어가서

최근 1년간 비가 온 날들의 온도, 습도등의 지표를 확인했다.

몇일에 걸쳐 1년치의 날씨데이터(온/습도, 강수여부 등)를 살펴보던 당신은 한 가지 규칙을 찾아냈다.

습도 강수여부 60% O 20% X 70% O … 50% X

‘습도가 60% 이상이면 그 다음날은 비, 습도가 50% 이하이면 그 다음날은 맑음이다!!’

당신은 강수여부를 예측하기 위해 데이터를 확인했고, 규칙을 찾아냈다.

이제 이 규칙에 맞게 프로그래밍을 하면

강수여부를 예측하는 프로그램을 만드는 것이다.

하지만 이 방식에는 큰 한계가 있다.

우선 최근 1년간의 데이터를 모두 확인하는 것은 시간도 너무 오래걸리고,

고작 1년치로 강수여부를 파악하기에는 데이터가 너무 적다.

(그 해에만 비가 너무 자주 왔을 수 있다..)

데이터를 확인하면서 실수가 있을 수도 있으며,

새로운 데이터가 생길 때마다 확인해서 필요하면 규칙을 수정해줘야한다.

매우 비효율적이다.

그래서 컴퓨터가 스스로 데이터의 규칙을 찾을 수 있는 방법을 찾아내기 시작했고,

그 결과 머신러닝이 탄생했다.

머신러닝을 사용한 강수예측 프로그램은

컴퓨터가 아래와 같은 규칙을 스스로 찾는다.

‘지금까지 비 온 날의 데이터를 종합해보니 습도가 58%이상이면 다음날 비가 왔다’

속도는 사람이 하는 것 보다 훨씬 빠르기 때문에

같은 시간안에 3~4년치의 데이터를 확인할 수 있고,

실수도 하지 않는다.

당신이 해주어야할 것은 프로그램에 머신러닝 기술을 구현하는 것뿐이다.

이렇게 컴퓨터가 스스로 데이터의 규칙을 찾아내는 기술을 학습이라고하고,

학습이 바로 머신러닝의 핵심개념이다.

머신러닝의 핵심개념을 알았으니 다시 이름을 살펴보자.

머신(기계, 컴퓨터) + 러닝(학습) : 기계(컴퓨터)가 학습(스스로 데이터의 규칙을 찾아내는)하는 기술

정말 직관적이다!

한 스텝 더 나가보자.

그렇다면 어떻게 머신러닝을 구현할 것인가?

머신러닝 알고리즘을 사용하면 된다.

*알고리즘이란 어떤 문제를 해결하기 위한 절차, 방법, 명령어들을 말한다.

이미 많은 머신러닝 알고리즘이 개발돼있기 때문에

당신은 머신러닝 알고리즘을 공부하고,

프로그램 언어(ex. 파이썬)로 컴퓨터에 구현해주면 된다.

머신러닝 알고리즘의 종류는 여러가지가 있는데,

선형회귀, 로지스틱회귀, 인공신경망등이 있다.

이때 인공신경망 알고리즘을 사용한 방식을

바로 딥러닝이라고 한다.

딥러닝이란?

그렇다.

딥러닝은 머신러닝의 일부분이다.

그래서 위에서 그린 관계도는 다음과 같이 수정할 수 있다.

딥러닝에 대해서 조금 더 살펴보자.

딥러닝은 인공신경망 알고리즘을 사용한 기술이라고 했다.

그럼 인공신경망은 무엇일까?

인공신경망은 인공 + 신경 + 망을 합친 단어이다.

인공적으로 구현한 신경구조의 모임이다.

그럼 우리 뇌의 신경구조와 인공신경의 구조를 비교해보자.

(좌) 우리 뇌의 신경(뉴런) vs (우) 인공신경

어떤가?

비슷한 구조를 가진 것 같은가?

그림 상으로는 비슷하다고 느끼지 못할 수 있지만,

우리 뇌의 신경과 인공신경 모두 입력을 받아 출력으로 전달하는 구조를 가지고 있다.

인공신경 그림에서 x,w,b는 입력, y는 출력을 의미한다.

(다만 구조만 같을 뿐 인공신경은 실제 우리 뇌가 작동하는 방식과는 완전히 다르다고 한다.)

자세한 내용은 다음에 인공신경망을 구현하는 내용을 다룰 때 살펴보도록 하고,

지금은 큰 구조만 이해하자.

위와 같은 인공신경이 여러개 쌓여서 모임을 만들면

그게 바로 인공신경망이다.

인공신경망

머신러닝 vs 딥러닝

그럼 마지막으로 머신러닝과 딥러닝의 차이점에 대해서 짚어보자.

머신러닝과 딥러닝의 가장 큰 차이점은 처리하는 데이터의 종류이다.

딥러닝은 머신러닝이 처리하기 어려운 데이터를 더 잘 처리한다.

머신러닝은 데이터베이스나 엑셀 등에 담긴 형식이 정해진 데이터를 잘 처리한다.

반면, 딥러닝은 일정한 형식이 없는 영상, 음성 등의 비정형데이터를 잘 처리한다.

머신러닝 딥러닝 데이터베이스, 엑셀, csv등에 담긴 정형데이터

(ex. 암환자의 검진데이터, 매출데이터 등) 이미지, 영상, 음성, 소리, 텍스트 등 비정형데이터

무조건 딥러닝이 더 발전된 기술인 거 같으니 써봐야지! 가 아니라

어떤 기술이 언제 적합한지 따져보고 활용하는게 중요할 것 같다.

이상 인공지능, 머신러닝, 딥러닝에 대한 기초개념 포스팅을 마친다.

참고문헌

책 [Do it! 정직하게 코딩하며 배우는 딥러닝 입문], 박해선 지음, 이지스퍼블리싱

3. 딥러닝 기초 — Dive into Deep Learning documentation

3. 딥러닝 기초¶

이 장에서는 딥러닝의 기본적인 내용들을 소개합니다. 네트워크 아키텍처, 데이터, 손실 함수(loss functino), 최적화, 그리고 용량 제어를 포함합니다. 이해를 돕기 위해서, 선형 함수, 선형 회귀, 그리고 확률적 경사 하강법(stochastic gradient descent)과 같은 간단한 개념부터 시작합니다. 이것들은 softmax나 다층 퍼셉트론(multilayer perceptron)와 같은 보다 복잡한 개념의 기초가 됩니다. 우리는 이미 상당히 강력한 네트워크를 디자인할 수 있지만, 필수적인 제어나 기교는 배우지 않았습니다. 이를 위해서, 용량 제어, 오버피팅(overfitting)과 언더피팅(underfitting)에 대한 개념을 이해할 필요가 있습니다. 드롭아웃(dropout), 수치 안정화(numerical stability), 그리고 초기화에 대한 설명으로 이 장을 마무리할 예정입니다. 우리는 실제 데이터에 모델을 적용하는 방법에 집중하겠습니다. 이를 통해서 여러분은 기본 개념 뿐만 아니라 딥 네트워크를 실제 문제에 적용할 수 있도록 할 예정입니다. 성능, 확장성 그리고 효율성은 다음 장들에서 다룹니다.

[딥러닝] 딥러닝 기초(1) 신경망이란

딥러닝 기초(1) 신경망이란

딥러닝기초

참고링크

딥러닝이란

본 포스팅은 MIT 6.034 Artificial Intelligence 수업을 참고하여 작성하였습니다.

딥러닝(deep learning)은 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화를 시도하는 머신러닝 알고리즘의 집합으로 정의되며, 큰 틀에서 사람의 사고방식을 컴퓨터에게 가르치는 기계학습의 한 분야라고 이야기 할 수 있다.

딥러닝의 목적

딥러닝에서는 다루는 변수 및 결과 카테고리가 아주 많습니다. 많게는 수천만개의 변수를 이용해 수천개의 카테고리 중 어느쪽에 속하는지 판별합니다. 가장 흔하게 쓰는 예제가 개와 고양이를 식별하는 것이죠.

뉴런?

딥러닝을 다루기 앞서 뉴런(neuron)에 대해 이야기 해야할 것 같은데요. 왜냐하면 딥러닝을 이루고 있는 기초 단위가 뉴런이기 때문입니다. 뉴런은 실제로 신경계를 구성하는 세포인데요. 아래 그림 처럼 생겼습니다.

위 그림에서처럼 뉴런은 다른 뉴런의 축색돌기에서 자신의 수상돌기로 자극을 받아 자신의 축색돌기로 다른 뉴런에게 자극을 전달하는 과정을 거칩니다. 딥러닝 또한 마찬가지 입니다. 수많은 뉴런들이 자극을 전달 하듯, 수많은 노드들이 가중치와 함께 서로의 연산결과를 주고 받습니다.

신경망

신경망은 하나 이상의 뉴런의 집합니다. 실제 딥러닝에서 쓰이는 신경망은 아래 그림처럼 생겼는데요. $x_1, \dots ,x_n$는 실제로는 저희가 학습시킬 학습데이터 변수이죠. 이미지라고 하면 이미지의 픽셀 rgb값이라고 할 수있습니다. 이는 위 뉴런 그림에서 자극에 해당한다고 할 수 있죠.

위 그림에서 입력값을 전달받은 시그마 박스(?)는 지금까지 입력값의 영향럭을 다 더한다는 것입니다. 그리고 그 산출값이 임계치를 넘기기에 충분한지 테스트합니다. 결국 임계치 t를 넘기면 1이됩니다.

그래서 뭘 해야 하나

ALL or NONE

누적된 영향(cumulative influence)

시냅틱 가중치(synaptic weight)

위 그림에서 임계치 박스를 보시면 계단함수라는 것을 알 수 있습니다. 이는 곧 0 또는 1임을 의미하고 이는 ALL or NONE 이라는 뜻입니다. 한편 임계치 박스 이전의 시그마 박스에는 모든 영향력을 더하는 단계가 있는데요. 이것은 누적된 영향을 의미합니다. 그리고 그 이전에는 원본데이터에 가중치를 주는 단계가 있는데요. 그 때는 가중치를 정하는 것이 매우 중요한 일이 됩니다.

2편으로 이동

잠깐! 선형대수, 머신러닝에 대해 좀 더 자세히 알고 싶다면?

선형대수와 통계학으로 배우는 머신러닝 with 파이썬

[딥러닝 #1] 딥러닝의 기초

[인공지능과 머신러닝, 딥러닝의 차이]
인공지능: 인간과 유사한 사고 구조를 컴퓨터로 구현한 기술이다.

머신러닝: 기계를 학습시킴으로써 인공지능의 성능을 보다 향상시킨 기술이다. 사람이 직접 필요한 데이터를 넣으면, 기계는 이를 학습하여 인간보다 더 정확하고 올바른 결과를 도출해낸다.

딥러닝: 머신러닝과 유사하지만, 머신러닝처럼 사람이 데이터를 선정해 학습시킬 필요가 없이 아무 데이터나 넣어도 기계 스스로가 학습하여 필요한 특성을 찾아나가는 기술이다.
[딥러닝이 데이터를 처리하는 방식, 신경망(Neural Network)]
딥러닝은 인간의 뉴런과 비슷한 인공신경망(Artificial Neural Network, ANN) 방식으로 정보를 처리한다. 따라서 이 신경망을 학습시키는 것이 딥러닝의 핵심이다.

그렇다면 신경망은 대체 무엇인지 예시를 통해 알아보자.

집값을 결정하는 요인에는 평수, 방의 개수, 주변 환경 등 여러 가지가 있다. 집값을 y라 하고 집값을 결정하는 요인(특성) 중 하나를 x1이라 하자. 그렇다면 x1에 의해 결정된 y의 데이터가 여러 개 쌓이면, 어떤 함수를 도출해낼 수 있을 것이다. 이 함수를 노드(node)라고 하고, x1이 노드를 거쳐서 y가 되는 일련의 과정(x1 → node → y)을 뉴런(neuron)이라 한다.

뉴런(neuron)

노드는 선형 함수일 수도 있고 비선형 함수일 수도 있지만, 보통 신경망에서 많이 보이는 형태는 선형 회귀곡선 중 하나인 ReLU(Rectified Linear Unit) 함수 형태이다. ReLu의 Rectify는 결과값과 0 중 큰 값을 취하라는 의미로, 뉴런은 입력받은 x1으로 선형 함수를 계산한 결과값과 0 중 큰 값을 집값 y로 예측한다.

x1과 y 사이의 선형 회귀 곡선 ReLU(Rectified Linear Unit) 함수

x2, x3, x4…도 x1과 같은 방법으로 뉴런을 생성하고, 이 뉴런들이 쌓이면 신경망이 형성된다. 입력되는 데이터의 양은 많을수록 좋은데, 해당 뉴런과 관계없는 데이터도 입력으로 넣어주면 신경망은 학습을 통해 관계 여부를 알아서 조정한다.

결과적으로 신경망이란 x와 y 사이의 관계를 나타내는 함수를 찾는 과정이다.

은닉층(hidden layer)이 2개인 신경망(Neural Network)
[데이터의 종류]
구조적 데이터 (Structured Data)

– 데이터베이스로 표현된 데이터, 즉 MySQL과 같은 관계형 DB에 들어갈 수 있는 데이터를 말한다.

– 각 데이터마다 column과 row가 존재한다.

비구조적 데이터 (Unstructured Data)

– 이미지, 오디오, 텍스트 등 데이터베이스로 표현되지 않은 데이터를 말한다.

– 이미지의 픽셀값, 텍스트의 각 단어들 등이 데이터의 특성이 된다.
[머신러닝 학습의 종류]
지도 학습 (Supervised Learning)

– 데이터에 대한 레이블을 주어 컴퓨터를 학습시키는 방법이다.

– 레이블(Lable)은이란 명시적인 정답을 의미한다.

– (데이터, 레이블) = (x, y)

비지도 학습 (Non-Supervised Learning)

– 지도 학습과는 반대로, 정답(레이블)이 주어지지 않고 데이터를 비슷한 특성끼리 그룹으로 묶어 분류하는 학습 방법이다. (ex. Clustering 알고리즘)

– 숨겨진 특성이나 구조를 발견하는 데에 사용된다.

강화 학습 (Reinforcement Learning)

– 에이전트가 주어진 환경에서 행동을 하고 그에 대한 보상을 얻으며 학습을 진행하는 방법이다.

▶ 기존 컴퓨터는 구조적 데이터는 쉽게 이해했지만 비구조적 데이터는 제대로 인식하지 못했다. 그러나 딥러닝과 신경망의 등장으로 인해 컴퓨터는 비구조적 데이터까지도 잘 이해할 수 있게 되었고, 이에 따라 이미지 인식, 음성 인식, 자연어 처리(Natural Language Processing, NLP) 등의 구현이 가능해졌다.
[딥러닝이 이제서야 뜬 이유]
데이터의 양과 성능의 상관관계

딥러닝의 성능은 데이터의 양과 신경망의 규모에 비례한다.

여기서 말하는 데이터는 레이블이 있는 데이터를 의미하고, 데이터의 양은 입력값 x와 레이블 y가 같이 있는 훈련 세트의 크기, 즉 (x, y)의 개수를 말한다. 훈련 세트의 크기가 작을 때에는 구현 방법에 따라 딥러닝의 성능이 결정된다.

과거에는 데이터의 양이 한정적이었고, 데이터를 최대한 많이 모아 신경망의 규모를 증가시켜도 그 규모의 신경망을 빠르게 훈련시킬만한 CPU가 갖춰지지 않았기 때문에 발전이 어려웠다.

그러나 기술이 발전함에 따라 데이터의 양이 많아지고, CPU와 GPU의 발전으로 데이터의 처리 속도가 증가했으며, 신경망을 더 빠르게 실행시키는 알고리즘들이 많이 개발됨으로써 딥러닝이 본격적으로 활용되기 시작했다.
[신경망 활성화 함수]
ReLU(Rectified Linear Unit) 함수

위에서 노드는 함수로 이루어져 있고, 특히 ReLU 함수가 많이 사용된다고 설명했었다. 이 ReLU 함수는 활성화 함수의 한 종류이다.

활성화 함수란, 개별 뉴런에 들어오는 입력 신호의 총합을 출력 신호로 변환해주는 함수이다. 활성화 함수로는 대부분 비선형 함수를 사용하며, 대표적으로 시그모이드(Sigmoid) 함수가 있다.

시그모이드(Sigmoid) 함수

시그모이드 함수는 입력 신호의 총합을 0에서 1 사이의 값으로 변환해주는 함수이다. 입력 신호의 값이 커질수록 1에 수렴하고, 입력 신호의 값이 작아질수록 0에 수렴한다.
[이진 분류 (Binary Classification)]
입력값에 대한 분류 결과가 참(1) 또는 거짓(0) 두 가지만 있는 분류 모델이다.
[로지스틱 회귀 (Logistic Regression)]
로지스틱 회귀란, 확률 모델로서 독립 변수의 선형 결합을 이용해 사건의 발생 가능성을 예측하는데 사용되는 통계 기법이다. 지도 학습에서 레이블이 0 또는 1인 경우, 즉 이진 분류인 경우에 사용된다. 기본적으로 시그모이드 함수의 형태를 지닌다.
[참고 문헌]
https://korea7030.github.io/Study1/

https://medium.com/mighty-data-science-

https://m.blog.naver.com/PostView.nhn?blogId=htk1019&logNo=220965622077&proxyReferer=https%3A%2F%2Fwww.google.com%2F

https://ratsgo.github.io/deep%20learning/2017/04/22/NNtricks/

https://excelsior-cjh.tistory.com/177
[이미지 출처]
1. 딥러닝이란 무엇인가?

http://www.realinite.co.jp/article/ai/article5/index.php?language=en

https://sungjk.github.io/2017/04/26/Ch5-deep-learning.html

https://techblog.gumgum.com/articles/deep-learning-for-natural-language-processing-part-1-word-embeddings

서울대학교 컴퓨터공학부

4차 산업혁명의 핵심기술인 인공지능(딥러닝)의 배경지식과 활용방법을 습득하며, Convolutional Neural Networks 와 Recurrent Neural Networks 에 관한 지식과 활용법을 실습한다. 딥러닝 기본개념, Stochastic Gradient Descent, backpropagation 기법, 초기화기법, regularization 기법, 콘볼류션신경망(CNN), CNN 구조, 반복신경망(RNN), RNN의 응용, 강화학습을 다룬다. 이론은 기존 머신러닝과목에서 다루므로, 이론보다는 실용적 적용능력을 배양하기 이해 딥러닝 관련 소프트웨어 교육을 강조하며, Python에 관한 강의와 실습, Python 수학 라이브러리 numpy에 강의도 실시한다. 또한 Advanced deep learning library인 Tensorflow에 대한 강의와 실습도 병행한다.

(공과대학 공통 교과목)

실체가 손에 잡히는 딥러닝, 기초부터 실전 프로그래밍

출판사 리뷰

이 책의 구성은 다음과 같습니다.

1장 딥러닝이란

머신러닝과 인공지능, 딥러닝과의 관계에 대해 소개하며 그동안 인공지능이 걸어온 길을 간략하게 설명합니다. 저자가 뇌과학에 상당히 관심이 깊어 딥러닝을 뇌과학의 관점에서 바라보며 딥러닝과 뇌의 유사성에 대한 다양하고 흥미로운 이야기를 풀어 놓습니다.

2장 파이썬 개요

파이썬 문법과 주피터 노트북에 대한 핵심만 소개합니다. 여기서 핵심이라는 의미는 책 전체에 걸쳐 구현되는 딥러닝 코드에 필요한 사항에만 집중한다는 의미입니다. 따라서 당연히 파이썬 전체를 소개하는 책에 비해서는 다루는 범위가 좁습니다만, 책에 나오는 프로그래밍 코드를 따라가는 데 필요한 내용은 모두 설명하므로 파이썬에 익숙하지 않은 독자라도 단기 속성 과정을 배우는 것처럼 효과적입니다.

3장 딥러닝에 필요한 수학

2장과 마찬가지로 딥러닝을 이해하고 구현하는 데 필요한 핵심적인 수학만 소개합니다. 선형대수와 미분을 다루는데, 고교 과정을 이수한 독자들이라면 무리 없이 따라갈 수 있습니다. 이 부분은 눈으로만 읽지 말고 수능 공부할 때처럼 백지에 연필을 긁적여가며 수식을 따라 써 볼 것을 권장합니다. 선형대수는 파이썬 넘파이(NumPy)를 이용한 실습 코드를 제공하는데, 초보자라면 이 부분도 소홀히 하지 말고 반복적으로 연습하기 바랍니다.

4장 신경망

딥러닝의 배경 이론인 신경망을 소개합니다. 신경망의 원리, 뉴런(노드)으로 구성된 층(layer)의 연결 관계, 순전파와 역전파, 가중치와 편향(바이어스), 활성화 함수 등의 핵심 내용을 친절한 코드와 함께 설명합니다. 특히 신경망에서 가중치와 편향의 역할과 영향력을 실제 코드로 보여주는 부분은 매우 인상적입니다.

5장 역전파

역전파(Backpropagation)는 신경망에서 출력 결과와 실제 값의 오차를 줄여나가는 과정입니다. 이 과정에서 필요한 경사 하강법과 아다그라드(Adagrad), 아담(Adam)과 같은 다양한 최적화 알고리즘을 수식과 코드를 이용해 설명합니다.

6장 딥러닝 구현

딥(deep)이라는 단어 그대로 신경망에 층을 많이 쌓아 데이터를 깊이 학습하는 것이 딥러닝입니다. 이렇게 층을 많이 쌓으면 신경망의 성능이 좋아지지만 과적합, 기울기 소실과 같은 여러 문제도 발생합니다. 이런 문제들을 유명한 붓꽃(Iris) 데이터를 통해 실제로 해결하는 과정을 코드로 제시하기 때문에 직관적으로 이해하기 쉽습니다.

7장 컨볼루션 신경망(CNN)

이 책의 최종 목표지점입니다. 딥러닝이 혜성처럼 등장한 것도 이미지 인식 대회였듯이 이미지 분류 작업에서 딥러닝은 탁월한 성과를 내고 있습니다. 7장에서는 앞에서 배웠던 모든 내용을 다 활용하고, 이미지 처리에 필요한 컨볼루션, 필터, 채널, 배치사이즈까지 고려한 실용적인 프로그래밍 코드를 완성하는 단계입니다. 다른 장(章)에 비해 분량이 가장 많아 학습하는 동안 지칠 수도 있지만 모든 내용을 끈기 있게 따라가면 손글씨 숫자 이미지를 거의 정확하게 분류하는 딥러닝의 마술을 스스로 구현하고 이해하게 되며 이때까지의 고생을 한번에 보상받을 수 있을 것입니다.

8장 그 밖의 딥러닝 기술

최신 딥러닝 기술을 소개합니다. 현재 딥러닝이 어느 수준까지 발전했고 딥러닝의 미래가 어떤 모습일지 짐작할 수 있는 내용으로 채워져 있습니다. 기본 수준을 넘어서 더 높은 단계로 도약하기 위해 필요한 안내서 같은 느낌으로 매우 유익한 내용입니다.
[이 책의 주요 특징]
– 딥러닝 프레임워크를 사용하지 않고 딥러닝의 알고리즘을 파이썬 프로그래밍 코드로 구현

– 딥러닝을 구현하는 데 꼭 필요한 만큼의 핵심 파이썬 문법

– 파이썬과 수치연산 라이브러리 넘파이(NumPy)를 이용한 프로그래밍 기초 지식

– 미분, 선형대수 등 신경망을 이해하는 데 필요한 기초 수학 이론과 수식 코딩 원리

– 단계별 실습을 통해 최종적으로 컨볼루션 신경망(CNN)을 구현하고 응용하는 목표에 도달

– 독자들이 스스로 응용하고 더 수준 높은 코드로 발전할 수 있는 완전한 파이썬 코드 제공

– 인간 뇌의 동작과 대응시킴으로써, 딥러닝의 작동 방식을 직관적으로 이해하기 쉽게 설명

– 최신 딥러닝의 발전 현황과 미래에 대한 구체적인 기술과 사례 소개
[이 책의 독자 대상]
– 머신러닝, 인공지능, 딥러닝에 대해 막연한 관심을 갖고 있지만 어떤 책으로 시작해야 좋을지 고민하는 학생 및 일반인, 타 분야의 개발자 등 이 분야에 입문하고 싶어하는 완전 초보자

– 딥러닝에 대한 대략적인 개념은 알고 있으나 딥러닝의 역사와 이론적 배경, 수학적 논리를 더 구체적이고 자세하게 이해하고 싶은 사람

– 딥러닝 알고리즘을 수식으로 명확하게 이해하고 이를 프로그래밍 코드로 구현하고 싶은데 이 모든 과정을 한 권의 책으로 해결하고 싶은 사람

– 실용적인 딥러닝 코드를 작성해 업무나 현장에서 바로 적용해보고 더 높은 수준의 딥러닝을 구현하고 싶은 개발자
[저자가 전하는 이야기]
한국에 계신 독자 여러분께,

저의 책 『실체가 손에 잡히는 딥러닝, 기초부터 실전 프로그래밍』에 관심을 가져주셔서 감사합니다. 이 책은 지금까지 나왔던 다른 어떤 책과는 달리 딥러닝을 매우 이해하기 쉽게 설명하는 책이라 자부합니다. 일본에서는 2018년 8월에 출간된 이후 지금도 많은 독자분이 읽고 있습니다.

딥러닝으로 대표되는 인공지능 기술은 전 세계인의 관심을 끌고 있으며 여러 기업과 공공기관에서 다방면에 걸쳐 활용 방법을 모색하고 있습니다. 그러나 대다수 사람들은 여전히 딥러닝이 배우기 어려운 분야라고 생각합니다. 이러한 장벽을 허물기 위해 이 책에서는 프로그래밍 언어 파이썬과 기초 수학부터 시작해 컨볼루션 신경망까지, 딥러닝에 필수적인 요소를 빠짐없이 자세하게 설명했습니다.?차근차근 순서대로 공부해 나가다 보면 딥러닝의 기초를 확실하게 습득할 수 있도록 구성했습니다.

오늘날 인공지능은 배울 만한 가치가 가장 큰 기술 중 하나이며, 기술적인 측면뿐만 아니라 미래에 대한 상상력을 기르기 위한 교양으로서도 의미가 큽니다.?한국에 계신 독자분들이 이 책을 통해 인공지능에 대한 자신만의 생각을 기를 수 있다면 저자로서 매우 기쁘겠습니다. 그럼 모두 저와 함께 딥러닝의 세계를 탐험해 봅시다!