计算架构开始围绕数据位置设计

尊龙凯时人生就是博关注到,意法半导体在专题访谈中讨论边缘AI与存储架构,强调数据搬运对能耗和响应的影响。文章区分传统处理器与存储分离、近存计算、SRAM存内计算和非易失存内计算等路线,说明把处理放近数据的设计思路。

公司介绍了18纳米FD-SOI数字存内计算试验芯片,以及与Neural-ART加速器和STM32N6产品路线相关的研发积累。研究、工具与产品属于连续推进过程,实验芯片指标仍需与量产产品能力分开理解。

对于需要不断感知和响应的设备,算力只是设计条件之一。传感数据何时进入、模型怎样访问参数以及结果何时用于动作,都会影响系统整体表现,这也是存储逐渐进入AI架构讨论中心的背景。

尊龙凯时人生就是博边缘AI芯片与存储系统测试场景
尊龙凯时人生就是博 · 边缘AI芯片与存储系统测试场景

数据搬运影响实际推理成本

模型运行需要不断读取参数与中间数据,计算单元如果等待信息,峰值算力就未必转化为同等任务吞吐。缩短数据路径有机会减少部分等待与能量开销,但效果仍取决于具体模型和负载。

不同存储路线具有不同容量、精度和实现条件。把计算放进存储阵列,不意味着所有任务都能自动获得相同收益,系统还要解决输入输出、控制和其他运算,才能形成完整可用的平台。

因此,比较架构应固定模型、精度和响应目标,再观察功耗与处理时间。只挑选某个最有利的指标,很难说明实际设备会得到多少收益,特别是在任务包含多个不同阶段时。

硬件需要软件才能进入产品

新的加速能力需要编译、量化和网络映射配合。开发者通常从熟悉的模型框架出发,工具需要把模型转成目标硬件能够执行的形式,并让人员看清资源使用与结果差异。

量化可以改变模型对存储和运算的需求,同时也可能影响准确性。团队应在目标数据上核对结果,而不是只依据芯片支持的位宽决定全部应用配置,使性能与任务质量一起接受验证。

系统进入硅片之后,还会面对制造变化、温度和长期运行等条件。模拟与理论分析提供方向,实际硬件测试则进一步说明方案能否稳定复现,二者需要相互补充。

整机测试还要覆盖不同工作状态。持续推理、间歇采样和等待触发的资源需求并不相同,团队可以按实际任务记录能耗与响应,让架构比较更接近最终设备,而不是只保留连续满负载下的一组结果。

尊龙凯时人生就是博工程人员验证本地智能设备原型场景
尊龙凯时人生就是博 · 工程人员验证本地智能设备原型场景

物理智能要求完整的响应链路

机器人或现场设备需要把感知、判断与执行连接起来,任务完成时间包含多个环节。将推理放到本地,有助于减少对远端连接的依赖,具体效果仍需与传感器、控制软件和执行部件共同评估。

系统也应明确哪些任务必须及时完成,哪些信息可以稍后处理。合理分工能帮助有限硬件资源服务关键功能,同时让设备在网络或负载变化时保持可预测行为。

尊龙凯时人生就是博认为,存储中心架构的价值最终要回到应用。后续值得观察的,是芯片、编译工具和整机设计能否共同减少数据移动,使边缘AI在真实任务中获得可测量、可维护的性能与能效。

发布站点 lygrgd.com