AI HAT+ (人工智能板)
AI HATs是树莓派5的扩展板,内置人工智能加速芯片:Hailo 神经处理单元(NPU)。该NPU使树莓派5能够本地运行硬件加速的人工智能模型,无需将数据发送至远程云服务器处理。这种边缘AI方案可提升性能、降低延迟并保障数据隐私。有关AI HAT如何与树莓派5协同实现硬件加速AI推理的详情,请参阅说明。
AI HAT采用新版树莓派HAT规范,标记为加号(+)。目前提供两种型号:AI HAT+与AI HAT+ 2。更多信息请参阅 AI HAT 型号。这些AI HAT提供不同性能版本,以每秒万亿次运算(TOPS)衡量推理性能。AI HAT+提供13 TOPS或26 TOPS版本;AI HAT+ 2仅提供40 TOPS版本。更多信息请参阅 AI HAT TOPS。
26万亿次操作每秒(TOPS)树莓派AI HAT+
40万亿次操作每秒(TOPS)树莓派AI HAT+ 2
工作原理
AI HAT通过集成树莓派5主板,利用板载Hailo神经处理单元(加速芯片)实现硬件加速的AI推理。
当AI HAT+或AI HAT+ 2连接至树莓派5时,树莓派操作系统将自动检测板载加速器,并将支持的AI工作负载卸载至该芯片。这包括利用现有相机与视觉框架,在NPU上运行基于视觉的神经网络模型。有关连接AI HAT+或AI HAT+ 2至树莓派5的操作指南,请参阅 安装 AI HAT+
随树莓派操作系统附带的相机应用框架 rpicam-apps 和 Picamera2,可自动调用Hailo NPU执行图像识别、目标检测等支持的AI计算任务。更多信息请参阅 AI软件。
虽然检测和基本集成是自动完成的,但您还需安装其他软件组件和支持的AI模型才能使用硬件加速推理。更多信息请参阅 AI软件。
型号
下表列出了 AI HAT+ 与 AI HAT+ 2 的主要性能差异。有关各型号可用加速器芯片具体性能变体的信息,请参阅 AI HAT TOPS。
AI Kit 与 AI HAT+ 的 Hailo-8L 型号规格相同且功能等效。但 AI Kit 已停产,建议使用本页所述的 AI HAT 系列产品。
| 特性 | AI HAT+ | AI HAT+ 2 |
|---|---|---|
| 加速器芯片(Hailo NPU) | Hailo-8L(13 TOPS,INT8)或 Hailo-8(26 TOPS,INT8) | Hailo-10H(40 TOPS,INT4) |
| 内存(RAM) | 使用树莓派5的内存 | 配备独立8GB板载内存,可运行参数规模达约60亿的大型语言模型(LLM)和视觉语言模型(VLM) |
| 大型语言模型(LLM)支持 | 不支持 | 支持 |
| 视觉语言模型(VLM)支持 | 不支持 | 支持 |
| 应用场景 | 目标检测、摄像头后处理、机器人技术、中等神经网络负载 | 涵盖AI HAT+所有功能及生成式AI任务,包括本地LLM与VLM |