본문 바로가기

Pytorch15

[Pytorch] 구글 드라이브에서 pretrained 모델(pth) torchvision 다운폴더로 받아서 실행하기. 안녕하세요 pulluper 입니다. 최근에 개발을 하다가 제가 학습시켜놓은 pth 파일을 torchvision처럼 다운받아서 바로 돌리도록 코드를 작성했습니다. import os import torch import gdown def download_pretrained_model(pth_name, file_id=None): google_path = 'https://drive.google.com/uc?id=' if file_id is None: return None torch_dir = torch.hub.get_dir() output_name = pth_name if os.path.exists(os.path.join(torch_dir, 'checkpoints', output_name)): print("Alr.. 2023. 5. 23.
[Pytorch] Remote server에서의 visdom설정 안녕하세요 Pulluper입니다. 😘 이번 포스팅에서는 원격으로 서버에 접속해서 서버의 자원을 사용하여 학습할 때, visdom 을 내 local에 띄우는 방법을 알려드립니다. 자신의 local computer에서 서버 상황의 visdom을 출력하는것이 목표입니다. 1. 서버내 코드에서 설정한 visdom port 를 확인한다. import visdom vis = visdom.Visdom(port=8080) 예를들어 위와같이 서버상 학습코드의 visdom port를 8080이라고 하겠습니다. 2. visdom을 위한 ssh 접속을 한다. ssh 의 local port forwarding 을 통해서 자신의 localport를 앞에 입력하고, 뒤의 serverport를 입력합니다. ssh -L local_p.. 2023. 5. 10.
[Pytorch] Distributed package으로 Multi-Node Multi-GPU 학습 알아보기 안녕하세요 pulluper입니다! 이번 포스팅에서는 저번 포스팅에 이어서 pytorch 의 분산(distributed) pakage를 이용한 mutli-node의 multi-gpu 환경에서 학습을 하는 방법을 알아보겠습니다. 기본적인 용어등의 내용은 다음을 참고하면 좋을것 같습니다. https://csm-kr.tistory.com/47 [pytorch] Distributed package 를 이용한 분산학습으로 Multi-GPU 효율적으로 사용하기 안녕하세요 pulluper 입니다 😁😁 이번 포스팅에서는 pytorch 의 분산(distributed) pakage를 이용해서 multi-gpu 를 모두 효율적으로 사용하는 방법을 알아보겠습니다. 이번 포스팅의 목차는 다음과 같습 csm-kr.tistory.c.. 2023. 4. 26.
[Pytorch] torch.roll 설명 및 예제 torch.roll 설명 https://pytorch.org/docs/stable/generated/torch.roll.html torch.roll — PyTorch 2.0 documentation Shortcuts pytorch.org 위의 그림과 같이 torch.roll 은 원하는 dim으로 tensor를 이동시키는 것이다. (굴린다고 표현) dim기준으로 가장자리의 tensor의 요소들은 이동하기 때문에 생기는 빈 공간을 다시 채워준다. 다음 그림을 보면 이해가 확실하다. 다음은 위 그림의 코드이다. torch.roll(image, (-3, -3), dim=(2, 3)) image 의 shape 은 [1, 1, 28, 28]. 따라서 dim 2, 3이 각각 h, w를 뜻하고 -3씩 이동시킨것을 의미.. 2023. 4. 10.
[Pytorch] RTX3060 window에서 최신 anaconda, 그래픽 드라이버, cuda11.7, cudnn, pytorch2.0 설치 환경 : window 10, RTX3060 / 1080 Ti 도됨 (2023/3월 기준) 순서는 다음과 같다. 1. anaconda 설치 2. 그래픽 드라이버 설치 3. visual studio 설치 4. cuda 11.7 설치 5. cudnn 설치 6. pytorch2.0 설치 1. anaconda 설치 https://www.anaconda.com/ Anaconda | The World's Most Popular Data Science Platform Anaconda is the birthplace of Python data science. We are a movement of data scientists, data-driven enterprises, and open source communities... 2023. 3. 29.
[Pytorch] torch.nn.Unfold torch.nn.Unfold 는 다음과 같다. batched tensor에 대하여 마치 convolution 처럼 sliding 움직이면서 그 local block을 구하는 것이다. 다음 사이트에서 자세한 설명을 볼 수 있다. https://pytorch.org/docs/stable/generated/torch.nn.Unfold.html Unfold — PyTorch 2.0 documentation Shortcuts pytorch.org 예를들면 다음과 같다. MNIST train 1번 그림인데, 여기에 Unfold 를 kernel=7, stride=7 padding=0 으로 주면 오른쪽 그림과 같이 kernel 기준으로 나뉘게 되고 하나의 local block 은 1(=c) x (kernel_w *ke.. 2023. 3. 16.