You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
Advanced Matrix Extensions(AMX)는 Intel® Advanced Matrix Extensions(Intel® AMX)라고도 하며, x86 확장 기능입니다.
9
+
Advanced Matrix Extensions(AMX)는 Intel® Advanced Matrix Extensions(Intel® AMX)라고도 부르는 x86 확장 기능입니다.
10
10
이 확장 기능은 두 가지 새로운 구성 요소를 도입합니다. 하나는 ‘tiles’라고 불리는 2차원 레지스터 파일이고, 다른 하나는 이러한 tiles에서 동작할 수 있는 Tile Matrix Multiplication(TMUL) 가속기입니다.
11
11
AMX는 행렬에서 동작하도록 설계되어 CPU에서 딥러닝 학습과 추론을 가속하며, 자연어 처리, 추천 시스템, 이미지 인식과 같은 워크로드에 이상적입니다.
12
12
@@ -23,7 +23,7 @@ PyTorch는 백엔드인 oneDNN을 통해 BFloat16 기반의 연산 집약적 연
23
23
AMX를 지원하는 x86 CPU에서 별도의 설정 없이 더 높은 성능을 얻을 수 있도록 합니다.
24
24
oneDNN에 대한 더 자세한 정보는 `oneDNN`_ 을 참고하세요.
25
25
26
-
이 연산은 생성된 실행 코드 경로에 따라 oneDNN에서 완전히 처리됩니다. 예를 들어, 지원되는 연산이 AMX를 지원하는 하드웨어 플랫폼에서 oneDNN 구현으로 실행될 때, oneDNN 내부에서 AMX 명령어가 자동으로 호출됩니다.
26
+
이 연산은 생성된 실행 코드 경로에 따라 oneDNN이 전적으로 처리합니다. 예를 들어, AMX를 지원하는 하드웨어 플랫폼에서 oneDNN 구현으로 지원 연산을 실행하면, oneDNN 내부에서 AMX 명령어를 자동으로 호출합니다.
27
27
oneDNN은 PyTorch CPU의 기본 가속 라이브러리이므로, AMX 지원을 활성화하기 위해 별도의 수동 작업은 필요하지 않습니다.
28
28
29
29
AMX를 워크로드에 활용하기 위한 가이드라인
@@ -123,9 +123,9 @@ BFloat16의 경우 ``avx512_core_amx_bf16`` 가 포함된 상세 출력이 나
123
123
124
124
PyTorch와 oneDNN의 개선 및 갱신에 따라, AMX의 활용 방식도 그에 맞게 변경될 수 있습니다.
125
125
126
-
언제나처럼, 문제가 발생하거나 궁금한 점이 있다면
126
+
문제가 발생하거나 궁금한 점이 있다면 언제든
127
127
`포럼 <https://discuss.pytorch.org/>`_ 이나 `GitHub 이슈
128
-
<https://github.com/pytorch/pytorch/issues>`_ 를 통해 문의할 수 있습니다.
128
+
<https://github.com/pytorch/pytorch/issues>`_ 를 통해 문의해 주세요.
129
129
130
130
131
131
.. _Accelerate AI Workloads with Intel® AMX: https://www.intel.com/content/www/us/en/products/docs/accelerator-engines/advanced-matrix-extensions/ai-solution-brief.html
0 commit comments