공부기록/ML&DL (4) 썸네일형 리스트형 [Pytorch] Distributed Data Parallel Pytorch를 사용한 분산 데이터 병렬처리 Data Parallel; DP도 있지만 DDP의 경우 여러 장점이 있다고 한다. (파이토치 튜토리얼: https://tutorials.pytorch.kr/intermediate/ddp_tutorial.html) 실사용 입장에서 DP보다 고르게 데이터를 실을 수 있다는게 더 와닿았던 것 같다. ?? 1. 기본 패키지 임포트 import os import gc # regarding swap memory, no needed necessary import torch import numpy as np import torch.distributed as dist from torch.utils.data import DataLoader from torch.utils.data.. [tool] TorchIO를 활용한 medical dataset processing Medical Image는 아무래도 전문 지식이 없으면 다루기가 쉽지 않은것같다. 구글링하면 관련 개념과 구현코드는 나와있는데, 뭔가 중구난방되어있고 쓰기 복잡하다고 해야하나 커스텀 네트워크 짜보면서 소 뒷발질하듯이 데이터 전처리 도구를 찾다가 발견한 TorchIO.. 간단하게 쓰기 괜찮아보임 * 비슷하게 Nvidia에서 만든 플랫폼 MONAI, 사견이지만 딥하게 들어가려면 TorchIO보다는 이게 더 나은거같다. 다만 쓰기 귀찮을뿐 ㅎ.. TorchIO Official DOC TorchIO PyPI downloads PyPI version Conda version Google Colab notebooks Documentation status Tests status Code style: black Cov.. [configuration] CUDA & cuDNN 설치 - WINDOWS, UBUNTU 당연한 이야기겠지만 M1 맥북에 torch 조합은 CUDA 가속이 안 된다. 그래도 어거지로 사용해보려고 했는데 kaggle 데이터셋을 가지고 학습해보니 말도 안되는 시간(...)이 소요되어 원활한 학습을 위해 최근에 새로 장만한 겜트북에 CUDA/cuDNN를 설치하고 그 과정을 정리해 보았다. + 어쩌다보니 우분투 서버에도 설치해야 해서 우분투 내용까지 추가함! * 여담이지만 오랜만에 윈도우 OS를 다뤄보니 리눅스가 훨씬 쉬운 것 같다.; 아니 윈도우는 자동으로 패스 설정도 해주니까,, 그냥 내가 좀 이상한 것 같다; 1. 그래픽 카드(GPU) 확인 장치 관리자에서 모델명을 확인하는 방법도 있고, CPU-Z와 같은 서드파티 앱을 사용해도 된다. 나는 랩탑 구매 전 미리 GPU를 체크하고 구매했으므로 d.. [book] Deep learning (Adaptive Computation and Machine Learning series) 앞으로 영어 공부도 할 겸 기초지식 환기 혹은 연구 목적으로 원서를 읽어봐야겠다. 많이는 아니더라도 서브 카테고리는 읽고 간략히 리뷰를 남기는게 목적인데 잘 실행될지는 모르겠고. q: Amazon link, 미리보기는 봇 방지를 위해 막아놨길래 삭제 Deep Learning: https://www.amazon.com/Deep-Learning-Adaptive-Computation-Machine/dp/0262035618 * 애플의 기계학습 팀의 리더로 근무중인 이안 굿펠로우가 몬트리올 대학교에서 공부할 때 지도교수였던 요슈아 벤지오와 아론 쿠르빌과 쓴 책이라고 하며, 목차를 대충 넘겨봤는데 관련 수학지식부터 전통적인 머신러닝 방식 및 딥 러닝 관련 부분까지 다룬 듯 하네용. 저한텐 앞 부분은 크게 중요하지 .. 이전 1 다음
