tensor 연산1 [INSIGHT] 딥러닝에서 Tensor로 연산 효율 개선하기 2025.01.04 딥러닝을 위한 모델의 코드에서 시간 및 메모리 효율을 높이기 위해 주로 Tensor 연산을 사용한다. 인공지능 모델의 코드를 Tensor 연산을 제대로 고려하지 않은 채, 평소에 프로그래밍 언어를 배우던 방식으로 코드를 작성하였다.그러다 보니, Tensor 연산의 이점을 간과하고 상당히 비효율적인 for문을 사용하였다. 이를 개선하였더니, 기존의 모델과 비교하여 70% 가량의 실행 시간을 단축할 수 있었다. 왜 딥러닝에서 Tensor 연산을 사용할까?1. 연산 동시 수행 및 병렬 처리 : 텐서 연산은 GPU에서 벡터화 연산으로 처리되기에 여러 연산이 동시에 수행2. 메모리 효율 : 불필요한 데이터 복사 및 추가적인 메모리 사용 최소화 Tensor 연산화 과정Cross Attention.. 2025. 3. 15. 이전 1 다음
