파이토치 첫걸음 - 2. 파이토치

# 세줄요약 #

1. 파이토치(PyTorch)는 2017년 초에 공개된 딥러닝 프레임워크로 개발자들과 연구자들이 쉽게 GPU를 활용하여 인공 신경망 모델을 만들고 학습시킬 수 있게 도와줌.

- 페이스북 인공지능 연구팀이 주로 관리.

- 독자 운영되는 파이토치 포럼에는 프레임워크 개발자들이 직접 답을 해주기도 한다.

- 파이토치의 전신인 토치는 루아 프로그래밍 언어로 만들어진 프레임워크.

PyTorch

An open source deep learning platform that provides a seamless path from research prototyping to production deployment.

pytorch.org

2. 심층신경망을 만들때 신경망의 함수 및 기울기 계산은 GPU를 사용하여 연산하여야 하기에 딥러닝 개발시 프레임워크 사용은 필수적이다.

- 파이토치를 사용하면 연산 그래프를 따라 미분식을 설계하고 계산하는 과정을 자동으로 해줌.

- 파이토치는 내부적으로 CUDA, cuDNN이라는 API를 통해 GPU를 연산에 사용할 수 있다.

- 병렬연산에서 GPU의 속도는 CPU의 속도보다 훨씬 빠르므로 딥러닝 학습에서 GPU 사용은 필수.

3. 'Define and Run' 방식인 텐서플로와 비교하면, 'Define by Run' 방식의 파이토치는 코딩이 직관적으로 쉽고, 속도 면에서도 텐서플로보다 빠르거나, 적어도 밀리지는 않는다.

- 텐서플로: 연산 그래프를 먼저 만들고 실제 연산할 때 값을 전달하여 결과를 얻는 'Define and Run' 방식.

- 텐서플로는 그래프를 먼저 정의하고 세션에서 실제로 값을 집어넣어 결과를 도출하는 패러다임이라 이해하기 어렵고, 그래프를 정의하는 부분과 돌리는 부분이 분리되어 코드 길이도 길어진다.

- 파이토치: 연산그래프를 정의하는 것과 동시에 값도 초기화되어 연산이 이루어지는 'Define by Run' 방식이기에 코드를 이해하기 쉽고 연산그래프와 연산을 분리해서 생각할 필요도 없음.

* 출처: 파이토치 첫걸음 / 최건호 / 한빛미디어

728x90

펄서까투리의 세줄요약 리뷰 블로그