AI硬件的演进：CPU、GPU、TPU、NPU与LPU全面对比（技术科普）

本文基于AI教育者Avi Chawla在X上发布的爆款帖子，深度扩展了CPU、GPU、TPU、NPU和LPU五种AI计算架构的对比分析。文章核心主张是：AI计算正从"通用"走向"极致专业化"，没有"最好"的芯片，只有"最适合"的场景。每种架构代表了在灵活性、并行性和内存访问上的不同权衡。

核心内容

• CPU：通用计算的"万金油"，灵活性极高但并行性弱，适合数据预处理和系统编排。
• GPU：并行计算的"大力士"，AI训练的绝对主力，NVIDIA CUDA生态使其一骑绝尘，但功耗高、调度开销大。
• TPU：Google的"矩阵工厂"，通过脉动阵列（Systolic Array）实现极致能效比，但生态封闭，强绑定TensorFlow/JAX。
• NPU：边缘设备的"低功耗大脑"，手机AI的标配，使命是端侧AI推理，功耗极低。
• LPU：Groq公司的"确定性推理引擎"，通过全片上SRAM和编译器静态调度，实现LLM推理的极致低延迟。

关键洞察

• 神经网络的核心是海量矩阵乘法和乘累加（MAC）操作，通用处理器效率低下。
• 内存墙（Memory Wall）是推动激进架构创新的核心瓶颈。
• 未来趋势是软硬件协同设计、异构计算和硬件感知的AI栈。
• 编译器（XLA、TVM、MLIR）在硬件映射中越来越重要。

与维基的连接

本文为[[physical-ai]]、[[算力下沉]]、[[2026-physical-ai-year]]等概念提供了底层硬件技术支撑的详细解释，强化了"硬件是AI发展瓶颈"的认知。与[[nscale]]、[[coreweave]]、[[colossus]]等基础设施条目互补。