在计算层面，由于芯片（芯片行业分析报告）厂商在开发过程中使用的技术路线不同，导致芯片适配服务器等设备的开发周期普遍很长。在训练层面，单芯片算力有限，而大模型训练需要大规模的算力集群，需要算力系统具有灵活的算力扩展能力。在存储层面，多模态大模型的训练和推理对存储提出了更高要求。
AI芯片作为算力系统的核心，其发展问题不容忽视。国内AI芯片行业发展面临挑战，在训练性能方面与进口产品存在差距。目前，已有不少大模型企业愿意并主动适配国产芯片。
浪潮信息、希姆计算、中科通量、瀚博半导体、墨芯人工智能、摩尔线程、天数智芯、寒武纪、燧原科技等芯片公司推出了应用于不同场景的AI推理和训练任务的芯片加速卡，涉及CPU、GPU、RISC-V等不同设计架构。
混合异构的芯片技术架构成为解决算力资源稀缺的重要解决方案。利用混合异构技术，可以将不同芯片放在一起训练同一个大模型。提升混合异构能力，可以在同一个数据中心把各种算力资源进行灵活组合训练大模型。希望国内的数据中心能够从以进口芯片为主，过渡到以国产芯片为主。业内人士表示，异构算力解决方案为国产芯片创造了更多市场机会，相关厂商应积极适配主流软硬件，提升产品成熟度。