본문 바로가기

교재 리뷰/파이토치 첫걸음6

파이토치 첫걸음 - 5. 합성곱 신경망 # 세줄요약 # 합성곱 신경망(Convolutional Neural Network): 하나의 필터가 이미지를 훑으며 필터와 일치하는 특성을 추출하는 것을 합성곱 연산이라 하며, 연산이 끝나면 이미지에 대한 특성지도(feature map)가 나오고 이러한 특성들이 중첩되면 더 복잡하고 다양한 형태를 구분할 수 있다. 합성곱 연산을 수행할 때 입력값의 크기를 유지하며 충분한 특성을 뽑기위해 패팅(padding)을 쓰고, 해상도가 충분할 때 이미지 메모리를 줄이고 넓은 시야에서 필터를 적용하기 위해 풀링(pooling)이라는 기법을 사용한다. 따라서 합성곱 연산이 합성곱 레이어(Convolutional Layer)를 지나며 이루어지면 이미지의 가로, 세로는 줄어들고 채널의 수는 늘어나게 되며, 모든 레이어를 .. 2019. 11. 18.
파이토치 첫걸음 - 4. 인공 신경망 # 세줄요약 # 인공뉴런(Perceptron)은 들어온 입력값에 가중치(Weight)를 곱하고 편차(Bias)를 더해준 뒤 모두 다 더한 값을 활성화함수(Activation function)를 통해 변형하여 전달하는 단위를 의미하고, 이러한 뉴런들이 모인 네트워크를 인공신경망(Artificial Neural Network; ANN)이라 부른다(hidden layer가 2개 이상이면, Deep Neural Network; DNN). 인공신경망(ANN)에 들어온 입력값이 여러개의 은닉층(hidden layer)을 거치며 최종결과값인 예측값 y*를 구하는 과정을 순전파(forward propagation)라 한다(y* = w3 × σ(w2 × σ(w1 × χ + b1) + b2) + b3 ; w = weigh.. 2019. 11. 18.
파이토치 첫걸음 - 3. 선형회귀분석 # 세줄요약 # 선형회귀분석은 주어진 데이터의 경향성을 잘 나타내는 선형관계를 찾아내는 것을 의미하는데, 간단한 예로는 y=wx+b 방정식에서 데이터 x, y를 가장 잘 표현하는 변수 w, b를 찾는 것이다(w: weight, b: bias). 예측값과 목표값의 차이인 오차를 나타내는 손실함수(Loss function)를 구하고, 경사하강법(gradient descent)을 사용하여 가중치(weight)를 업데이트하며 오차의 최솟값을 찾는 과정이 바로 학습(Learning)이다. 파이토치에서는 데이터 기본 단위로 "tensor"를 사용하여, "torch.nn" 라이브러리에서 신경망 모델과 손실함수를 설계하고, "torch.optim" 라이브러리에서 경사하강법 알고리즘을 선택해 학습을 수행한다. #code.. 2019. 11. 14.
파이토치 첫걸음 - 2. 파이토치 # 세줄요약 # 1. 파이토치(PyTorch)는 2017년 초에 공개된 딥러닝 프레임워크로 개발자들과 연구자들이 쉽게 GPU를 활용하여 인공 신경망 모델을 만들고 학습시킬 수 있게 도와줌. - 페이스북 인공지능 연구팀이 주로 관리. - 독자 운영되는 파이토치 포럼에는 프레임워크 개발자들이 직접 답을 해주기도 한다. - 파이토치의 전신인 토치는 루아 프로그래밍 언어로 만들어진 프레임워크. https://pytorch.org/ PyTorch An open source deep learning platform that provides a seamless path from research prototyping to production deployment. pytorch.org 2. 심층신경망을 만들때 신경망의 .. 2019. 10. 15.
파이토치 첫걸음 - 1. 딥러닝에 대하여 # 세줄요약 # 1. 딥러닝에 대해 배우기 전에 딥러닝을 포함한 넓은 개념인 머신러닝, 인공지능에 대한 개념을 알고가자. 인공지능: 기계가 인간의 인지 과정을 모방하는 것. 머신러닝: 명시적으로 프로그래밍되지 않은 상태에서 기계에서 학습할 능력을 부여하는 것을 의미 머신러닝 알고리즘의 종류: 서포트 벡터 머신, k-최근접 이웃 알고리즘, 결정트리, 인공신경망 등등 딥러닝: 인공신경망에서 은닉층의 개수가 1개 이상인 네트워크인 '심층 신경망(Deep Neural Network)'을 사용한 기법. 딥러닝은 머신러닝 기법 중 하나. 2. 머신러닝의 주요한 세 분야: 지도학습, 비지도학습, 강화학습 지도학습(Supervised learning): 데이터와 각각에 해당하는 정답 쌍이 존재할 때 데이터와 정답 간의.. 2019. 10. 8.
파이토치 첫걸음 - 개요 저자: 최건호 출판: 한빛미디어 출간: 2019년 6월 7일 # 세줄요약 # 파이썬 문법에 가깝게 인공지능을 설계할 수 있어 텐서플로보다 코딩이 쉬운 파이토치를 배우기 위해 산 입문서. 파이토치의 문법을 쉬운 예제들로 설명하고 몇몇 중요한 ANN 모델(VGG, ResNet 등등)들의 소스코드를 제공하고 있어 빠르게 배우기에는 좋으나, 이론 설명은 디테일하지 않아 딥러닝 자체를 처음 배우는 책으로는 조금 부족하다. 그러나 어느정도 딥러닝 기본지식을 갖춘 상태라면 Transfer learning, Autoencoder, GAN 등의 기법들에 대해서 모두 설명하고 예제 소스코드 또한 제공하므로 바로 실전 코딩에 적용하기는 좋을 것이다. 2019. 10. 8.