主要内容
AWS与AI视频创业公司Decart达成合作,将优化Decart旗舰模型Lucy在AWS Trainium3加速器上的性能,以支持实时视频生成。Decart还将通过Amazon Bedrock平台分发其模型,此举凸显了定制AI加速器对Nvidia GPU的市场挑战。
定制AI加速器采用ASIC(专用集成电路)架构,专为特定任务设计,效率远超通用处理器。相比Nvidia GPU(类似电钻,处理并行计算),ASIC(如手术刀)可剥离无关功能单元,专注单一任务,实现更高性能与能效。
尽管Nvidia GPU仍主导AI市场,Google TPU、Meta MTIA芯片等定制硅片正快速崛起,它们均采用ASIC架构。例如,Anthropic借助AWS Trainium2集群构建“Rainier项目”,提供超百万亿次计算能力;Poolside使用Trainium2训练AI模型。
Decart选择Trainium2是因其性能优势,Lucy模型实现40ms首帧生成时间(接近实时),输出帧率达30fps,视频质量媲美OpenAI Sora和Google Veo-3。Decart已获AWS Trainium3早期使用权,未来将进一步优化模型性能。