NeuReality的联合创始人兼CEO Moshe Tanach拥有深厚的半导体行业背景，在创立公司之前，他曾在Marvell和Intel担任高级工程领导职务，负责领导从架构设计到大规模量产的复杂无线和网络产品。在此之前，他还曾担任DesignArt Networks（后被高通收购）的研发副总裁。
Tanach在访谈中强调，他创立NeuReality的初衷源于对AI计算市场根本性挑战的洞察。他指出，虽然GPU等通用处理器在训练和推理任务中发挥了重要作用，但它们在数据中心，尤其是云环境中处理AI工作负载时面临着效率低下、成本高昂和扩展性受限的问题。GPU并非为AI推理量身定制，其架构和资源分配方式导致在高并发、多租户场景下无法实现最优性能。
为了解决这些问题，NeuReality推出了其核心产品——神经加速处理单元（NAPU）。NAPU是一款专为AI推理设计的专用处理器，其关键创新在于硬件级别的虚拟化支持。与传统方案不同，NAPU允许将AI加速功能直接虚拟化并提供给云租户，这意味着多个用户可以安全、高效地共享同一块NAPU芯片，而不会牺牲性能或隔离性。这彻底改变了数据中心部署AI工作负载的方式，从将多个虚拟机映射到一个物理GPU，转变为在NAPU内部直接创建多个虚拟的AI加速器实例。
在芯片设计方面，Tanach坦诚地讨论了面临的诸多挑战。首先是芯片尺寸（Die Size）的平衡：在有限的芯片面积内集成足够的计算单元、内存带宽和I/O接口，同时控制成本是关键。其次是功耗和散热管理：AI推理处理器在运行时会产生大量热量，尤其是在高密度计算环境中，需要先进的封装技术和散热解决方案来保证稳定运行。此外，随着模型复杂度的增加和数据量的膨胀，NAPU的设计必须具备高度的可扩展性，能够通过芯片间互连（如UCIe标准）轻松扩展计算能力，同时保持数据传输的低延迟和高带宽。
Tanach还阐述了公司对未来AI计算生态的看法。他认为，未来数据中心将采用异构计算架构，其中专用AI处理器（如NAPU）将与CPU、GPU等协同工作，每种硬件负责其最擅长的任务。NeuReality的目标是成为AI推理领域的核心使能者，通过提供高效率、高性价比且易于部署的解决方案，加速AI在云、边缘和企业环境中的普及。他特别提到，公司的技术不仅适用于大型云服务商，也适用于希望在本地部署AI能力的企业，帮助他们降低TCO（总拥有成本）并提升AI应用的响应速度。
最后，Tanach展望了AI推理市场的未来趋势。随着生成式AI和大型语言模型（LLM）的爆发，推理需求正在快速增长，且对延迟、吞吐量和能效提出了更高要求。他相信，像NeuReality这样专注于硬件虚拟化和专用架构的公司，将通过技术创新帮助行业突破现有瓶颈，推动AI从训练主导转向推理主导的下一阶段发展。他总结道，真正的挑战不在于制造更快的芯片，而在于构建一个能让AI工作负载像云计算资源一样灵活、高效和经济地交付的生态系统。