人工智能 。异构( 。计算AI 。构建更智高效) 不再仅仅一个科研课题 ，异构它已然成为咱们日常日子的计算一部分 。从个性化医疗 、构建更智高效 。异构智能 。计算可穿戴设备，构建更智高效到沉溺式数字文娱以及自主机器人 ，异构AI 正在重塑咱们日子 、计算作业和立异的构建更智高效办法 。但是异构 ，跟着 AI 运用日益杂乱 ，计算底层的构建更智高效基础设施也有必要随之不断演进 。
这正是麻省理工科技谈论洞悉 (MIT 。 Te 。chnology Review Insights) 与 。 Arm 。联合发布的新陈述《AI 处理的未来 (The Future of AI Processing)》所聚集的中心关键 。该陈述深化洞悉了企业怎么从头审视本身的核算战略 ，以满意当下 AI 开展的需求，并为未来改变做好预备 。
何为异构核算 ？
这一改变的中心在于异构核算 ，该办法将 AI 作业负载分配到不同类型。处理器 。（如 。 CPU 。 、 。GPU 。 、NPU 及其他 AI 加速器）上 。每个组件都具有其共同的优势 ：CPU 担任全体的和谐作业 ，一起处理通用使命 ，以及进行高能效的推理作业；GPU 凭仗强壮算力 ，可以支撑大规划的练习以及高吞吐量的运算；而 NPU 则针对实时推理进行优化 。
这种架构组合 ，可以让核算体系依据作业负载的特色 ，动态地将其匹配到更适宜的处理器上 ，然后针对功能 、能效和本钱进行优化 。
Arm 工程部 。机器学习 。技能副总裁 Ian Bratt 在陈述中指出 ：异构核算旨在提高功能和能效 。某个作业负载可以运行在最适宜的组件上 ，但其间的某部分或许更适合运行在另一个组件上。
AI 在作业 、文娱及日子中广泛运用 。
该陈述侧重论述了异构核算怎么在各种运用中完成更智能 、更高效的 AI。例如：
可穿戴设备和 。智能家居 。设备利用小型端侧处理器进行实时推理，一起将个性化设置、形式识别等较为杂乱的使命转移至云端处理。
农业和制造业中的 。工业机器人 。交融了 。核算机视觉 。与机器学习技能 ，并凭借异构核算在动态环境中完成低推迟与能耗优化。
流媒体和游戏等文娱渠道将推理 、编码和个性化处理等使命 ，合理分配到 CPU、GPU 和云基础设施上履行 ，然后完成功能与本钱效益之间的杰出平衡 。
语音帮手 、猜测文本和实时翻译等运用得益于混合 AI 处理技能 ，从集中式云端转向边际侧和端侧核算。这种处理办法不只可以缩短呼应时刻，增强隐私维护 ，还能提高能效 。
这种由异构核算驱动的分布式模型，使得 AI 可以高效进行扩展 ，并习惯各种实践需求。跟着 AI 模型的规划和杂乱性不断添加，找到适宜的平衡至关重要 。在许多实践场景中 ，在云端进行推理处理是较为抱负的挑选 ，尤其是在运用大模型 、处理来自多个数据源的海量数据 ，以及需求快速向广阔用户推送更新的情况下 。
构建更智能 、更高效的未来 。
正如陈述中所着重的，能耗和本钱效益正逐渐成为业界重视的中心问题 。数据 。中心。的能耗估计将大幅增加 ，企业因而也在寻求以更少资源完成更多产出的办法 。异构核算使企业可以智能地办理各类作业负载 ，然后削减对 GPU 进行强制扩展的需求，节省下来的本钱可以再次投入到立异开发 。
这种灵敏的处理办法还可以协助企业坚持长时间的习惯性 。跟着作业负载不断演化 ，企业需求的是那些不会将其局限于固定开展途径 ，也不会迫使企业进行贵重改造的渠道 。而异构核算架构为企业供给了所需的多面性 ，使其在习惯改变的过程中无需做出退让 。
《AI 处理的未来》陈述深化探讨了这一全新形式 ，并汇集了来自 Arm 、Meta 、。亚马逊 。云。科技 。(AWS) 和 。三星。等公司高层的观念 。假如你正在为新一代 AI 产品规划基础设施 ，那么这份陈述肯定值得一读 。