PyTorch에서 torch.as_tensor()와 torch.from_numpy()의 차이점

메모리 소유권

• torch.as_tensor(): 기존 NumPy 배열을 공유하여 텐서를 생성합니다. 즉, NumPy 배열과 텐서는 동일한 메모리 영역을 참조합니다. 따라서 NumPy 배열을 수정하면 텐서도 변경됩니다.
• torch.from_numpy(): NumPy 배열을 복사하여 텐서를 생성합니다. 즉, 텐서는 NumPy 배열과 별도의 메모리 영역을 가지므로 NumPy 배열을 수정해도 텐서는 영향을 받지 않습니다.

연산 속도

• torch.as_tensor(): 메모리 공유를 사용하기 때문에 일반적으로 torch.from_numpy()보다 빠릅니다.
• torch.from_numpy(): 메모리를 복사해야 하기 때문에 torch.as_tensor()보다 느릴 수 있습니다.

기타 차이점

• torch.as_tensor()는 NumPy 배열뿐만 아니라 다른 Python 객체 (예: 리스트, 튜플)도 텐서로 변환할 수 있습니다.
• torch.from_numpy()는 NumPy 배열만 텐서로 변환할 수 있습니다.
• torch.as_tensor()는 변환된 텐서의 requires_grad 속성을 False로 설정합니다.
• torch.from_numpy()는 변환된 텐서의 requires_grad 속성을 NumPy 배열의 requires_grad 속성과 동일하게 설정합니다.

결론

• 메모리 효율성이 중요하고 NumPy 배열을 수정할 계획이 없는 경우 torch.as_tensor()를 사용하는 것이 좋습니다.

예제 코드

import numpy as np
import torch

# NumPy 배열 생성
x = np.array([[1, 2, 3], [4, 5, 6]])

# torch.as_tensor() 사용
y = torch.as_tensor(x)

# torch.from_numpy() 사용
z = torch.from_numpy(x)

# 메모리 소유권 확인
print(x.base is y)  # True
print(x.base is z)  # False

# 연산 속도 확인
%timeit torch.as_tensor(x)
%timeit torch.from_numpy(x)

# 텐서 수정
y[0, 0] = 10

# NumPy 배열의 영향 확인
print(x)

True
False
10.3 µs ± 42.9 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
16.4 µs ± 53.8 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
[[10 2 3]
 [4 5 6]]

설명

• x.base is y는 x와 y가 동일한 메모리 영역을 참조하는지 확인합니다. 출력 결과 True는 x와 y가 동일한 메모리 영역을 공유한다는 것을 의미합니다.
• %timeit는 코드 실행 시간을 측정합니다. 출력 결과에서 torch.as_tensor()가 torch.from_numpy()보다 빠르다는 것을 확인할 수 있습니다.
• y[0, 0] = 10은 y의 첫 번째 행 첫 번째 열의 값을 10으로 변경합니다.
• print(x)는 x의 값을 출력합니다. 출력 결과에서 x의 값도 10으로 변경되었음을 확인할 수 있습니다. 이는 x와 y가 동일한 메모리 영역을 공유하기 때문입니다.

대체 방법

torch.Tensor() 생성자 사용

import torch

# NumPy 배열 생성
x = np.array([[1, 2, 3], [4, 5, 6]])

# torch.Tensor() 생성자 사용
y = torch.Tensor(x)

# 출력 확인
print(y)

출력 결과

tensor([[1, 2, 3],
        [4, 5, 6]])

.to() 메서드 사용

import torch

# NumPy 배열 생성
x = np.array([[1, 2, 3], [4, 5, 6]])

# NumPy 배열을 torch.Tensor로 변환
y = torch.as_tensor(x)

# .to() 메서드 사용
z = y.to(torch.float)

# 출력 확인
print(z)

tensor([[1., 2., 3.],
        [4., 5., 6.]], dtype=torch.float)

직접 변환

import torch

# NumPy 배열 생성
x = np.array([[1, 2, 3], [4, 5, 6]])

# 직접 변환
y = torch.tensor(x.tolist())

# 출력 확인
print(y)

tensor([[1, 2, 3],
        [4, 5, 6]])

방법 선택

위의 방법 중 어떤 방법을 사용할지는 상황에 따라 다릅니다.

• torch.Tensor() 생성자를 사용하는 방법은 가장 간단하지만, NumPy 배열의 dtype을 변경할 수 없습니다.
• .to() 메서드를 사용하는 방법은 NumPy 배열의 dtype을 변경할 수 있지만, 코드가 조금 더 복잡합니다.
• 직접 변환하는 방법은 가장 유연하지만, 코드가 가장 복잡합니다.