Differences

This shows you the differences between two versions of the page.

--- on-device:ai-model-file-format [2020/02/23] – gomida
+++ on-device:ai-model-file-format [2020/02/23] – gomida
@@ Line 19: / Line 19: @@
 <sqtag>NPU Compilers</sqtag>
 <sq>
-한편, 여러 회사에서 On-Device AI를 위한 NPU (Neural Processing Unit or Tensor Processing Unit) 제품이 쏟아지고 있는데, 연산자가 표준화되지 않아 서로 다른 모델 커버리지를 가지는 문제가 발생하고 있다. 특히 TVM 처럼 NPU에 최적화된 실행 코드를 미리 생성하여 배포하는 컴파일 방식을 채택하고 있어 AI 모델 배포를 위한 표준화는 요원하기만 하다. TensorFlow-Lite를 제안한 Google 마저도 Edge TPU 지원을 위해서 미리 [[https://coral.ai/docs/edgetpu/compiler/|컴파일]]한 Edge TPU 전용의 .tflite 파일을 필요로 하는 실정이다. 그나마 Khronos 그룹에서 OpenVX의 [[https://www.khronos.org/registry/OpenVX/extensions/vx_khr_nn/1.2/html/index.html|Neural Network Extension]]을 공개하여 CNN(Convolution Neural Network)에 한정하면 어느정도 표준화 가능성이 보여지고 있지만, 범용 표준으로서 성공적이라고 말하기는 아직 어려울 것 같다.
+한편, 여러 회사에서 On-Device AI를 위한 NPU (Neural Processing Unit or Tensor Processing Unit) 제품이 쏟아지고 있는데, 연산자가 표준화되지 않아 서로 다른 모델 커버리지를 가지는 문제가 발생하고 있다. 특히 TVM 처럼 NPU에 최적화된 실행 코드를 미리 생성하여 배포하는 컴파일 방식을 채택하고 있어 AI 모델 배포를 위한 표준화는 요원하기만 하다. TensorFlow-Lite를 제안한 Google 마저도 Edge TPU 지원을 위해서 미리 [[https://coral.ai/docs/edgetpu/compiler/|컴파일]]한 Edge TPU 전용 .tflite 파일을 필요로 하는 실정이다. 그나마 Khronos 그룹에서 OpenVX의 [[https://www.khronos.org/registry/OpenVX/extensions/vx_khr_nn/1.2/html/index.html|Neural Network Extension]]을 공개하여 CNN(Convolution Neural Network)에 한정하면 어느정도 표준화 가능성이 보여지고 있지만, 범용 표준으로서 성공적이라고 말하기는 아직 어려울 것 같다.
 </sq>

Differences

TypeError: Cannot access offset of type string on string