据The Information报道,随着企业不再局限于单一供应商英伟达 GPU,亚马逊的 Trainium 和 Inferentia 芯片越来越受到关注。
其主要优势在于成本,据称某些推理工作负载的成本比 H100 芯片低 80%。
亚马逊也在探讨如何让其 AI 芯片更贴近企业数据中心,不过 Inferentia 芯片目前还未准备好在 AWS Outposts 上进行测试。
PS:还是推理!科技AI芯片

据The Information报道,随着企业不再局限于单一供应商英伟达 GPU,亚马逊的 Trainium 和 Inferentia 芯片越来越受到关注。
其主要优势在于成本,据称某些推理工作负载的成本比 H100 芯片低 80%。
亚马逊也在探讨如何让其 AI 芯片更贴近企业数据中心,不过 Inferentia 芯片目前还未准备好在 AWS Outposts 上进行测试。
PS:还是推理!科技AI芯片
