IT之家 1 月 16 日报道,Raspberry Pi Ltd 昨天(1 月 15 日)推出了 Raspberry Pi AI HAT+ 2,这是一款专为 Raspberry Pi 5 设计的生成式 AI 扩展板。售价为 130 美元(IT House 注:当前汇率约为 908.1 元人民币),填补了生成式 AI(GenAI)领域硬件生态系统的空白。树莓派在一年前推出了第一代AI HAT+,但受限于硬件架构,无法运行日益流行的生成模型。今天发布的第二代产品专为 Raspberry Pi 5 设计,主要目标是解锁运行本地大语言模型 (LLM) 和视觉语言模型 (VLM) 的能力,让用户在边缘体验私密且高效的 AI 计算,而无需依赖昂贵的云服务。硬件规格方面,AI HAT+ 2搭载全新Hailo-10H神经网络加速器,最高可达40 TOPS(INT4) 的推理性能。与之前型号最大的区别在于,新型号内置了8GB专用内存。这一重大更新使加速器能够有效地处理比以前大得多的模型。得益于此,该扩展板不仅运行LLM没有问题,而且在处理Yolo等传统视觉任务时性能与上一代26-TOPS版本相当,并且与libcamera等现有相机软件堆栈完美兼容。软件适配方面,AI HAT+ 2发布时支持安装多种流行的开源模型,包括DeepSeek-R1-Distill(1.5B)、Llama 3.2(1B)、Qwen2.5(Coder/Instruct)系列。 hailo-ollama通过将WebUI界面与Open WebUI界面相结合,用户可以在浏览器中获得类似于ChatGPT的聊天交互体验。官方演示展示了该设备能够无缝执行诸如例如代码创建、法语-英语翻译以及相机图像的实时描述 (VLM),即使在完全离线的环境中也是如此。 IT之家引用了该博文,并附上了相关演示视频,如下: 第一个示例使用 Qwen2 模型回答一些简单的问题。以下示例使用 Qwen2.5-Coder 模型执行编码任务。此示例使用 Qwen2 进行简单的法语到英语的翻译。最后一个示例显示了描述摄像机屏幕场景的 VLM。
特别提示:以上内容(包括图片、视频,如有)由自有媒体平台“网易账号”用户上传发布。这个独特的平台提供信息存储服务。
注:以上内容(包括照片和视频,如有)由仅提供数据存储服务的社交媒体平台网易号用户上传和发布。