主流CPU、GPU、VPU、SOC简介

1.Intel

产品规格

Intel典型案例分析

1）VPU（Vision Processing Unit）

• Movidius Myriad 2（MA2450）芯片

  • Q2'16发布，2016年Intel芯片收购计算机视觉公司Movidius， Movidius Myriad MA2485 是Intel第一个用于深度神经网络推理的视觉处理单元芯片。
  • 性能
    • 处理器主频：600 MHz
    • 内存：1 Gb LP-DDR2 DRAM with 32-bit interface, clocked at up to 533
    • 算力：1 TOPS
    • 操作温度范围：-40°C to 105°C

• Movidius Myraid X（MA2485）芯片

  • Q1'20发布
  • 性能
    • 处理器主频：700 MHz
    • 算力：4 TOPS
    • 操作温度范围：-40°C to 105°C
  
  • 行业组合
    • 海思Hi3516/9 + Myraid X/Myriad 2，example
    • 树莓派 + Myraid X/Myriad 2
    • 大疆晓Spark无人机：联芯LC1860 + Myriad 2
    • intel工控机： Aaeon AI Core XM 2280 M.2 + Myraid X/Myriad 2
    • Azure Percept DK：i.MX8M + Myraid X

• Neural Compute Stick 2 计算棒

  • 硬件
    • 处理器：Movidius Myriad X 视觉处理单元 (VPU)
    • 支持的框架：TensorFlow、Caffe、Apache MXNet、开放神经网络交换 (ONNX)、PyTorch* 和 PaddlePaddle*，通过 ONNX 转换
  • 软件
    • ntel Distribution of OpenVINO toolkit
    • 支持的操作系统：
      • Ubuntu 16.04.3 LTS（64 位）
      • CentOS* 7.4（64 位）
      • Windows 10（64 位）
      • macOS 10.14.4（或更高版本）
      • Raspbian（仅限目标）

• VEGA-340 Edge AI加速卡

• 2020年研华发布，板载4或8颗Intel®Movidius™Myriad™X VPU，PCIe x4接口，4x / 8x VPU，16 / 32 TOPS算力。

• VEGA-330 Edge AI加速卡

  • 研华发布，Intel Movidius Myriad X，AI加速模块，miniPCIe接口，1x / 2x VPU，4 / 8 TOPS算力。

• VEGA-320 Edge AI加速卡

  • 研华发布，Intel Movidius Myriad X，AI加速模块，M.2接口，1 x VPU，4 TOPS算力。

2）GPU（Graphics Processing Units）

• Intel® Iris® Xe MAX
• Intel® Server GPU

3）CPU

• Intel® Xeon® Processors （至强）
  • 适用于要求苛刻的应用程序的性能，具有大内存空间和 I/O 容量。
• Intel® Core™ Processors（酷睿）
  • 提供 CPU/GPU 性能、功率和价格的平衡（LGA 和 BGA 选项）。
• Intel® Pentium® Processors（奔腾）
  • 适用于 PC 客户端和嵌入式用例的物联网单一平台解决方案。
• Intel® Celeron® Processors（赛扬）
  • 适用于一般嵌入式应用程序或 PC 客户端用例的功能。包括英特尔® 超高清显卡。
• Intel Atom® Processors（凌动）
  • 低功耗计算和图形性能非常适合小尺寸设计和应用。

2.Nvidia

1）Embedded Module

image

• Jetson Nano

  • 一款小型 AI 计算机，具有运行现代 AI 工作负载、并行多个神经网络和同时处理来自多个高分辨率传感器的数据所需的性能和能效。这使其成为向嵌入式产品添加高级 AI 的完美入门级选项。

• Jetson TX2 Series

  • NVIDIA Pascal™ GPU 架构拥有 256 个 NVIDIA® CUDA® 内核和高达 8 GB 的内存，可实现快速计算和推理。
  • 提供高达 Jetson Nano 的 2.5 倍性能。Jetson TX2 NX 提供与 Jetson Nano 的引脚和外形兼容，而 Jetson TX2、TX2 4GB 和 TX2i 都共享原始 Jetson TX2 外形尺寸。坚固耐用的 Jetson TX2i 非常适合工业机器人和医疗设备等环境。

• Jetson Xavier NX

  • 提供算力高达 21 TOPS，使其成为嵌入式和边缘系统中高性能计算和 AI 的理想选择。可以获得 384 个 NVIDIA CUDA ®内核、48 个 Tensor 内核、6 个 Carmel ARM CPU 和两个 NVIDIA 深度学习加速器 (NVDLA) 引擎的性能。结合超过 59.7GB/s 的内存带宽、视频编码和解码，这些功能使 Jetson Xavier NX 成为并行运行多个现代神经网络并同时处理来自多个传感器的高分辨率数据的首选平台。

  • 非常适合高性能人工智能系统，如商用机器人、医疗器械、智能相机、高分辨率传感器、自动光学检测、智能工厂和其他 AIoT 嵌入式系统。

• Jetson AGX Xavier Series

  • 具有处理对下一代机器人至关重要的视觉里程计、传感器融合、定位和映射、障碍物检测和路径规划算法的性能。在紧凑的外形中获得高达 32 TOPS 的峰值计算和 750 Gbps 的高速 I/O 的 GPU 工作站级性能。

2）GPU

• RTX Series

名称	RTX 30 系列	RTX 20 系列	GTX 10 系列	GTX 9 系列
架构名称	Ampere安培	Turing图灵	Pascal帕斯卡	Maxwell麦克斯韦
流式多处理器	2x FP32	1x FP32	1x FP32	1x FP32
光线追踪核心	第 2 代	第一代	——	——
张量核心 (AI)	第 3 代	第 2 代	——	——
记忆	高达 24 GB GDDR6X	高达 11 GB GDDR6	高达 11 GB GDDR5X	高达 6 GB GDDR5
英伟达 DLSS	是的	是的	——	——

• GeForce RTX 30 Series

名称	G EFORCE RTX 3090**	G EFORCE RTX 3080 Ti	G EFORCE RTX 3080	G EFORCE RTX 3070 Ti	G EFORCE RTX 3070	G EFORCE RTX 3060 Ti	G EFORCE RTX 3060
NVIDIA CUDA 核心	10496	10240	8704	6144	5888	4864	3584
升压时钟 (GHz)	1.70	1.67	1.71	1.77	1.73	1.67	1.78
内存大小	24GB	12GB	10 GB	8 GB	8 GB	8 GB	12GB
内存类型	GDDR6X	GDDR6X	GDDR6X	GDDR6X	GDDR6	GDDR6	GDDR6

• TITAN RTX
  • NVIDIA ® TITAN RTX ™专为研究人员、开发人员和创作者而设计。它由 Turing ™架构提供支持，为PC 带来 130 Tensor TFLOP 的性能、576 个张量内核和 24 GB 的超快 GDDR6 内存。

3.寒武纪

1）AI芯片

• 思元290

  • 寒武纪首颗AI训练芯片，采用创新性的MLUv02扩展架构，使用台积电7nm先进制程工艺制造，在一颗芯片上集成了高达460亿的晶体管。
  • 性能
    • 算力：512 TOPS (INT8)
    • 视频解码：128 Streams 全高清视频
    • 图片解码：3200 Frames/s 全高清图片

• 思元270

  • 面向高能效比云端AI推理，采用寒武纪MLUv02架构，可支持视觉、语音、自然语言处理以及传统机器学习等多样化的人工智能应用，更为视觉应用集成了充裕的视频和图像编解码硬件单元。
  • 性能
    • 算力：128 TOPS (INT8)

• 思元220

  • MLU220是一款专门用于边缘计算应用场景的AI加速产品（边缘人工智能加速卡）。采用寒武纪MLUv02架构，产品集成4核ARM CORTEX A55，LPDDR4x内存及丰富的外围接口。
  • 性能
    • 算力：8 TOPS (INT8)
    • 编解码能力： H.264 ，HEVC (H.265) ，VP8，VP9。
    • 图片解码：JPEG， 最大图片分辨率8192 × 8192

4.华为

[图片上传失败...(image-baaac-1628837556428)]

1）AI芯片

• 昇腾310

  • 昇腾310芯片采用华为自研的达芬奇架构，集成了丰富的计算单元，在各个领域得到广泛应用。随着全AI业务流程的加速，昇腾310芯片能够使智能系统的性能大幅提升，部署成本大幅降低。
  • 性能:
    • 算力：22 TOPS (INT8)

• 昇腾910

  • 昇腾910是一款具有超高算力的AI处理器，其最大功耗为310W，采用华为自研的达芬奇架构，还集成了多个CPU、DVPP和任务调度器（Task Scheduler），因而具有自我管理能力，可以充分发挥其高算力的优势。
  • 昇腾910集成了HCCS、PCIe 4.0和RoCE v2接口，为构建横向扩展（Scale Out）和纵向扩展（Scale Up）系统提供了灵活高效的方法。HCCS是华为自研的高速互联接口，片内RoCE可用于节点间直接互联。
  • 性能:
    • 算力：640 TOPS (INT8)

• 达芬奇架构

  包括了三种基础计算资源: 矩阵计算单元(Cube Unit)、向量计算单元(Vector Unit)和标量计算单元(Scalar Unit)。这三种计算单元各司其职，形成了三条独立的执行流水线，在系统软件的统一调度下互相配合达到优化的计算效率。

  image

  • 计算单元

    AI Core中的执行单元主要包括：Cube，Vector和Scalar，完成AI Core中不同类型的数据计算。

  • 存储单元

    AI Core中存在内部存储，AI Core需要把外部存储中的数据加载到内部存储中，才能完成相应的计算。AI Core的内部存储包括：L1 Buffer，L0 Buffer，Unified Buffer，GPR（General-Purpose Register：通用寄存器），SPR（Special-Purpose Register：专用寄存器）和Scalar Buffer。

    为了配合AI Core中的数据传输和搬运，AI Core中还包含BIU（Bus Interface Unit），MTE1（Memory Transfer Engine，内存传输引擎），MTE2，MTE3。其中BIU为AI Core与总线交互的接口；MTE为数据搬运单元，完成不同Buffer之间的数据搬运。

  • 控制单元

    AI Core中的控制单元主要包括：系统控制模块（System Control），指令发射模块（Instr. Dispatch），矩阵运算队列（Cube Queue），向量运算队列（Vector Queue），存储转换队列（MTE Queue）等。系统控制模块负责指挥和协调AI Core的整体运行模式，配置参数和实现功耗控制等。当指令通过指令发射模块顺次发射出去后，根据指令的不同类型，将会分别被发送到矩阵运算队列、向量运算队列和存储转换队列。

2）Camera SOC

• IPC

  • Hi3516EV200
    行业专用2M/3M IP摄像机SOC
  • Hi3516EV300
    行业专用3M/5M IP摄像机SOC
  • Hi3516DV200
    行业专用4M IP摄像机SoC

• AI-IPC

  • Hi3516CV500
    行业专用AI 2M IP摄像机SOC
  • Hi3516DV300
    行业专用AI 4M/5M IP摄像机SOC
  • Hi3516AV300
    行业专用AI 5M/4K IP摄像机SOC
  • Hi3519AV100
    行业专用AI 4K IP摄像机SOC
  • Hi3559AV100
    行业专用AI 8K IP摄像机SOC

• NVR

  • Hi3536DV100
    专业4路1080P25 NVR SoC芯片

  • Hi3536CV100

    专业8M/4M1080P25 NVR SoC芯片

  • Hi3535AV100

    专业6路1080P30 智能NVR SoC芯片

• DVR

  • Hi3520DV500
    专业4路1080p AI DVR SoC芯片
  • Hi3521DV200
    专业8路1080p AI DVR SoC芯片
  • Hi3531DV200
    专业16路1080p AI DVR SoC芯片

5.Rockchip

1）Embedded SOC

产品列表

image

系列	消费级 0~80°C	商业级 -20~85°C	汽车级 -40~85°C	工业级 -40~85°C
RK3399系列	RK3399	RK3399K
RK3288系列	RK3288/W	RK3288K
RK3368系列	RK3368	PX5
PX30系列	PX30	PX30K	RK3358M	RK3358J
RK3308系列	RK3308/G/B/H	RK3308GK/RK3308K
RV1108系列	RV1108A/G		RV1108K1
RK1808系列	RK1808	RK1808K

• RK3568

  • CPU：四核ARM Cortex-A55，高达2.0GHz
  • GPU
    • ARM G52 2EE
    • 支持OpenGL ES 1.1/2.0/3.2，OpenCL 2.0，Vulkan 1.1
    • 高性能专用 2D 处理器
  • 编解码器
    • 支持 4K 60fps H.265/H.264/VP9 解码器
    • 支持 1080P 100fps H.265/H.264 编码器
    • 支持 8M ISP with HDR

• RK3399

  • CPU：双核 Cortex-A72 + 四核 Cortex-A53，64 位 CPU，频率高达 1.8GHz
  • GPU
    • Mali-T860 GPU、OpenGL ES1.1/2.0/3.0/3.1、OpenCL
    • 支持AFBC（ARM 帧缓冲压缩）
  • 编解码器
    • 4K VP9 和 4K 10 位 H265/H264 视频解码器，最高 60fps
    • 1080P 其他视频解码器（VC-1、MPEG-1/2/4、VP8）
    • 用于 H.264 和 VP8 的 1080P 视频编码器

• RK1808

  • CPU：高达 1.6GHz 的双 Cortex-A35
  • NPU
    • INT8 3 TOP / INT16 300 GOP / FP16 100 GFLOP
    • 支持 OpenCL/VX
    • 支持INT8、INT16
    • 支持 TensorFlow、Caffe、ONNX、Darknet 模型
  • 编解码器
    • 1080p@60FPS H.264 解码器
    • 1080p@30FPS H.264 编码器

• RV1126

  • CPU
    • 四核ARM Cortex-A7
    • RISC-V 微控制器
  • NPU
    • 2.0Tops，支持INT8/INT16
  • 2D Graphics Engine
    • 支持旋转、x-mirror、y-mirror
    • 支持阿尔法混合
    • 支持按比例缩小/放大
  • 编解码器
    • 4K H.264/H.265 30fps 视频编码
      • 3840 x 2160@30 fps+720p@30 fps 编码
    • 4K H.264/H.265 30fps 视频解码器
      • 3840 x 2160@30 编码 + 3840 x 2160@30 fps 解码

6.Silicon芯原

1）VPU（NPU）

• Vivante VIP9400

  • 性能
    • 算力：49.16 TPOS INT8
    • PPU核数：32
    • 时钟速度：1 GHz
  • 框架支持
    • OpenCL、OpenVX
    • 具有优先级设置的 PPU 和 NN 硬件加速器之间的并行处理
    • 支持流行的视觉和深度学习框架：OpenCV、Caffe、Caffe2、TensorFlow、TensorFlowLite、ONNX、PyTorch、MXnet、Cognitive Toolkit、PaddlePaddle、Keras

• VIP9400-MP4

  • 性能
    • 算力：196.64 TPOS INT8
    • PPU核数：32
    • 时钟速度：1 GHz
  • 框架支持
    • OpenCL、OpenVX
    • 具有优先级设置的 PPU 和 NN 硬件加速器之间的并行处理
    • 支持流行的视觉和深度学习框架：OpenCV、Caffe、Caffe2、TensorFlow、TensorFlowLite、ONNX、PyTorch、MXnet、Cognitive Toolkit、PaddlePaddle、Keras

7.联发科

1）AIOT芯片

聯發科技 AIoT 晶片組平台

• i300 (MT8362)

  • 专为音频/视频、信息亭、数字标牌和健身控制台应用而设计。

• i500 (MT8385)

  专为 AI/AR/VR 应用而设计

  • CPU：4 x Arm Cortex-A53, 4 x Arm Cortex-A73
  • GPU：Arm Mali-G72 MP3，800MHz
    • 编码：H.264
    • 解码：H.264, H.265 / HEVC, MPEG-1/2/4
  • ISP：16MP+16MP或25MP，30FPS
  • Wi-Fi：Wi-Fi 5 (a/b/g/n/ac)
  • BT：4.2
  image

• i700

  具有高速边缘 AI 计算功能，可实现快速图像识别。

  • CPU：6xArm Cortex-A55, 2xArm Cortex-A75
  • GPU：IMG PowerVR GM 9446，970MHz
  • ISP：24MP+16MP或32MP，30FPS
  • APU：
    • 内置双核 AI 专核，还加入了 AI 加速器（AI Accelerator）和 AI 人脸检测引擎（AI face detection engine）
    • 支持联发科技 NeuroPilot SDK，可以完全兼容谷歌的 Android Neural Networks API（Android NNAPI）
    • 支持TensorFlow、TF Lite、Caffe 和 Caffe2 等常用框架
  • 基带：最高支持Cat.12
  • Wi-Fi：Wi-Fi 5 (a/b/g/n/ac)
  • BT：5.0

8.NXP

1）Embedded SOC

• i.MX8M
  • CPU
    • 4x Cortex-A53 @ 1.6GHz
    • Cortex-M4F @ 400MHz
  • 编解码器
    • 1080p60 H.264、VP8/1080p60 H.265、H.264、VP8、VP9视频
  • TPM
    • Trusted Platform Module (TPM) version 2.0