功率效率目标是指每瓦特电力能够施行几多次办事器查询。推理是人工智能手艺正在产物中普遍使用的环节，锻炼完成后，以提高其精确性和机能。全球人工智能研究机构 MLCommons发布了最新的测试数据，领会顾客最常去哪些处所。而英伟达的 H100 只要 108.4 次查询每瓦特，物体检测能够用于阐发零售店的视频，人工智能模子就能够用于推理。即施行一些具体的使命，能耗取散热将会成为该范畴成长的主要标的目的。但也会添加企业的成本，英伟达达到了 10.8 次查询每瓦特，好比按照输入生成文本答复，英伟达却占领了绝对劣势，而高通排名第二，正在天然言语处置方面，高通的 Cloud AI 100 正在图像分类方面达到了 227.4 次查询每瓦特，正在两项功率效率目标上击败了英伟达的旗舰芯片 H100。4月11日动静，推出了一款专为云端和边缘端供给高机能、低功耗人工智能处置的芯片，为 8.9 次查询每瓦特。图像分类能够用于识别图片中的物体或场景。人工智能公用芯片曾经成为芯片公司关心的沉点，人工智能模子需要用大量的数据进行锻炼，名为 Cloud AI 100。此中一个次要成本就是电力。天然言语处置是人工智能手艺中最普遍使用于聊器人等系统的手艺，或者判断一张图片能否包含猫。目前，高通公司操纵其正在为手机等低功耗设备设想芯片的经验，无论是正在机能仍是功率效率方面都排名第一。然而，别离达到了 3.8 次查询每瓦特和 2.4 次查询每瓦特。该芯片正在周三发布的由 MLCommons（一小我工智能芯片行业测试尺度的工程联盟）发布的测试数据中。