인텔 애자일렉스 FPGA가 탑재된 IA-860m PCIe 가속기
IA-860m 대용량 메모리 대역폭 차세대 PCIe 5.0 + CXL M-시리즈 Agilex, HBM2e 기능 탑재 인텔 Agilex M-시리즈 FPGA는 처리량이 많은 애플리케이션에 최적화되어 있습니다.
엣지에서 AI 추론 가속화
현재 실행 중인 동일한 모델 및 워크로드를 더 낮은 지연 시간과 더 높은 전력 효율로 실행하세요.
MERA, DNA, 사쿠라-I란 무엇인가요?
MERA 컴파일러 프레임워크:
- MERA 컴파일러 및 소프트웨어 프레임워크는 타협 없는 초저지연 솔루션으로, SAKURA- I 및 FPGA가 지원하는 이기종 시스템 전반에서 워크로드를 최적화할 수 있습니다.
- MERA를 활용하면 DNA IP 가속을 활용하기 위해 모델을 재교육할 필요가 없습니다.
동적 신경 가속기(DNA):
신경 처리 엔진 IP
- 특허받은 '재구성 가능한 데이터 경로 기술'로 거의 최적의 컴퓨팅 활용도를 달성하여 낮은 배치 크기로 AI 프로세서의 컴퓨팅 요소를 최대한 활용할 수 있습니다.
- MERA 컴파일러 프레임워크와 결합하면 SAKURA-I 또는 FPGA 등 어떤 하드웨어 플랫폼에서든 저전력으로 높은 처리량과 낮은 지연 시간을 모두 제공합니다.
SAKURA-I
- 선도적인 GPU에 비해 몇 배나 더 나은 에너지 효율을 달성하도록 특별히 설계된 혁신적인 새로운 40 TOPS, 10W TDP, AI 코프로세서 칩입니다.
- 사쿠라는 DNA 아키텍처를 실행하도록 설계 및 최적화된 하드웨어로, 여러 개의 심층 신경망 모델을 초저지연으로 함께 실행하는 동시에 탁월한 TOPS 활용도를 유지할 수 있습니다.
비디오
초고속 Yolov5 물체 감지(EdgeCortix SAKURA-I)
올바른 솔루션 선택
엣지 AI 워크로드를 가속화하고 싶으신가요? 개발 초기 단계에 있든 복잡한 모듈을 대량 생산할 준비가 되었든 시작할 수 있는 다양한 옵션이 있습니다.
SAKURA-I ASIC 개발 키트
벤치탑 개발에 적합한 로우 프로파일 PCIe 카드에 SAKURA-I 칩을 탑재하세요. DNA 신경 처리 엔진이 내장된 MERA 컴파일러 프레임워크와 툴이 SAKURA-I에 포함되어 있습니다.
FPGA 가속기 카드
인텔 애자일렉스 7 FPGA가 탑재된 비트웨어의 PCIe 가속기 카드에 번들로 제공되는 MERA 컴파일러 프레임워크 및 도구, DNA 신경 처리 엔진 IP가 포함되어 있습니다. 이 솔루션에 대한 자세한 내용을 보려면 여기를 클릭하세요.
맞춤형 카드 또는 마이크로일렉트로닉스 모듈
전력 효율이 높은 ASIC을 사용하면 맞춤형 카드 또는 마이크로일렉트로닉스 모듈이 완벽하게 적합합니다.
개요: 동급 최고의 에너지 효율을 자랑하는 엣지 AI 코프로세서, 엣지코틱스 사쿠라-I(EdgeCortix SAKURA-I)
EdgeCortix SAKURA-I는 TSMC 12nm FinFET 코프로세서 (가속기)로, 동급 최고의 컴퓨팅 효율성과 및 엣지 인공지능(AI) 추론을 위한 지연 시간을 제공합니다. 초당 40조 회 연산(TOPS)으로 구동됩니다, 단일 코어 동적 뉴럴 가속기® (DNA) 지적 재산(IP)에지코틱스의 독점적인 신경 처리 엔진인 모든 컴퓨팅 엔진을 함께 연결하는 런타임 재구성 가능한 데이터 경로가 내장된 처리 엔진입니다. DNA 를 사용하면 새로운 사쿠라-I AI 코프로세서가 여러 심층 신경망 모델을 함께 실행할 수 있습니다. 초저지연으로 여러 개의 딥 뉴럴 네트워크 모델을 함께 실행할 수 있습니다. 이 고유한 특성은 처리 속도를 향상시키는 핵심 요소입니다, 에너지 효율성 및 시스템 온 칩의 수명을 향상시켜 탁월한 총 소유 비용 이점을 제공합니다. DNA IP는 스트리밍 및 고해상도 데이터를 이용한 추론에 특히 최적화되어 있습니다.
하드웨어 아키텍처 개요
- 최대 40 TOPS(단일 칩) 및 200 TOPS(멀티 칩)
- PCIe 디바이스 TDP @ 10W-15W
- 일반 모델 전력 소비 ~5W
- 2×64 LPDDR4x - 16GB
- PCIe 3세대 최대 16GB/s 대역폭
- 두 가지 폼 팩터 - 듀얼 M.2 및 로우 프로파일 PCIe
- 런타임 재구성 가능한 데이터 경로
산업 분야
자동차
국방 및 보안
로보틱스 및 드론
스마트 시티
스마트 제조
EdgeCortix MERA 컴파일러 및 소프트웨어
엣지코어텍스 SAKURA-I AI 코프로세서 지원 디바이스는 공용 핍 저장소에서 설치할 수 있는 이기종 컴파일러 및 소프트웨어 프레임워크인 엣지코어텍스 MERA를 지원하여 업계 표준 프레임워크로 개발된 표준 또는 맞춤형 컨볼루션 신경망(CNN)을 원활하게 컴파일하고 실행할 수 있도록 합니다. MERA는 Apache TVM과 기본 통합되어 있으며, 간단한 API를 제공하여 SAKURA-I의 DNA AI 엔진을 사용하여 심층 신경망 그래프 컴파일 및 추론을 원활하게 수행할 수 있도록 지원합니다. 간단한 보정 및 양자화 단계를 거친 후 사전 학습된 심층 신경망을 배포하는 데 필요한 프로파일링 도구, 코드 생성기, 런타임을 제공합니다. MERA는 파이토치나 텐서플로우라이트와 같은 딥 러닝 프레임워크에서 직접 모델을 정량화할 수 있도록 지원합니다.
사쿠라-I 엣지 AI 플랫폼 사양 및 성능 지표:
다양한 운영자 지원
- 표준 및 깊이별 컨볼루션
- 보폭 및 확장
- 대칭/비대칭 패딩
- 최대 풀링, 평균 풀링
- ReLU, ReLU6, LeakyReLU, H-Swish 및 H-Sigmoid
- 업샘플링 및 다운샘플링
- 잔여 연결, 분할 등
GPU 드롭인 교체
- Python 및 C++ 인터페이스
- 기본적으로 지원되는 PyTorch 및 TensorFlow-lite
- 재교육 필요 없음
- 고해상도 입력 지원
INT8 비트 양자화
- 훈련 후 보정 및 정량화
- 딥 러닝 프레임워크 내장 퀀타이저 지원
- 높은 정확도 유지
내장 시뮬레이터
- SAKURA-I 장치 없이 배포, x86 환경 내에서
추론 시뮬레이션 수행
다양한 조건에서 추론 지연 시간 및 처리량 추정하기
자세한 정보를 확인할 준비가 되셨나요?
양식을 작성하여 엣지코틱스 AI 가속 솔루션에 대한 자세한 정보를 확인하세요.
