Design and Verification of a Common Interface for Proprietary NPU Code Generation in General-purpose AI Compilers

Jeonja gonghakoe nonmunji(2012)(2023)

Cited 0|Views0
No score
Abstract
본 논문에서는 NPU(Neural Processing Units)의 제조사별 비공개 백엔드 컴파일러와 범용 AI 컴파일러를 연결할 수 있는 공통 인터페이스를 제안한다. 이를 통해 다양한 AI 모델에 대한 지원과 기업 자산 보호가 가능하다. 제안된 인터페이스는 ONNX 표준을 따르며, ETRI의 NEST-C 컴파일러와 오픈엣지의 ENLIGHT 컴파일러를 해당 인터페이스로 통합했다. 실험 결과, 통합된 컴파일러는 ENLIGHT만을 사용한 것과 Resnet50과 MobileNetV2 두 종류의 모델에 대해서 100% 결과가 일치했다. 따라서 제안된 인터페이스는 NPU 백엔드 컴파일러의 범용성을 향상하면서도 비공개성을 유지할 수 있는 유용한 방안을 제공한다.
More
Translated text
Key words
proprietary npu code generation,ai,common interface,general-purpose
AI Read Science
Must-Reading Tree
Example
Generate MRT to find the research sequence of this paper
Chat Paper
Summary is being generated by the instructions you defined