맥북에서 GPU 가속하기

맥북 M2에서는 NVDIA GPU CUDA 를 이용한 가속이 안됨

맥 os GPU 가속 "mps"(Metal Performance Shaders)

가능 여부먼저 확인

conda activate ENV_NAME

python

import torch

torch.backends.mps.is_available()

torch.backends.mps.is_built()
# 둘다 True로 뜨면 사용 가능
exit()

 

 

 

 

 

 

 

 

model.to(’cuda’)를 model.to(’mps’) 로

device = "mps" if torch.backends.mps.is_available() else "cpu" # 디바이스 설정

device = torch.device("mps") # 백엔드를 MPS로 설정

import torch

mps_device = torch.device("mps")

# MPS 장치에 바로 tensor를 생성합니다.
x = torch.ones(5, device=mps_device)
# 또는
x = torch.ones(5, device="mps")

# GPU 상에서 연산을 진행합니다.
y = x * 2

# 또는, 다른 장치와 마찬가지로 MPS로 이동할 수도 있습니다.
model = YourFavoriteNet()  # 어떤 모델의 객체를 생성한 뒤,
model.to(mps_device)       # MPS 장치로 이동합니다.

# 이제 모델과 텐서를 호출하면 GPU에서 연산이 이뤄집니다.
pred = model(x)