半导体行业最新 #AI Inference 相关新闻

➀ NeuReality公司CEO Moshe Tanach分享了其在Marvell和Intel的工程领导经验,以及创立公司时针对AI推理市场核心痛点的解决方案;

➁ 介绍了NeuReality NAPU (Neural Acceleration Processing Unit) 如何作为专用AI推理处理器,通过硬件虚拟化技术将AI加速功能直接虚拟化给云租户,从而颠覆传统数据中心AI工作负载的部署模式;

➂ 探讨了公司在AI芯片设计中面临的挑战,包括芯片尺寸、功耗、散热以及如何在高密度计算中保持可扩展性和效率。

NeuRealityAI InferenceHypervisor

➀ Altera 推出了针对其 Agilex 5 FPGA 优化的 4Kp30 多传感器摄像头参考设计。

➁ 该设计利用行业标准的 MIPI 连接(D-PHY 和 CSI-2)与 FPGA 接口,并依赖 OpenVINO 工具包来实现高效的 AI 模型部署和推理。

➂ 它集成了先进的图像信号处理器 (ISP) 处理、降噪和畸变校正功能,能够将高质量成像与实时 AI 分析相结合。

AI InferenceAlteraFPGA

➀ 高通发布AI200和AI250两款AI推理加速器,针对LLM/LMM等生成式AI负载,以高性价比提供机架级性能;

➁ AI200采用LPDDR内存(每卡768GB)以降低总体成本,AI250通过近存计算架构提升10倍有效带宽并降低功耗;

➂ 两款产品均配备液冷散热、PCIe/以太网扩展、机密计算等特性,软件栈支持Hugging Face模型一键部署,计划于2026年和2027年上市。

AI InferenceNVIDIAQualcomm