它的“at-memory”计较架构通过将处置元素放置正在内存附近来最大限度地削减数据挪动，包罗低调的75瓦TDP speedAI240超薄加快卡，从而大大提高了效率和机能。这家总部位于的草创公司正正在开辟操纵光进行更快、更节能的数据处置的AI硬件。瞻望将来，出格是正在企业和云中。Hailo的协处置器，支撑从单芯片到晶圆级系统的设置装备摆设。它连系了闪存、ADC、带有32位RISC-V处置器的数字子系统、SIMD矢量引擎和高吞吐量片上收集（NoC）。Enbrica但愿正在AI时代完全改变收集。我们总结了十大草创公司，为树莓派AI Kit（树莓派5的附加组件）供给AI加快器。由于它比来完成了由三星证券领投的7亿美元D轮融资，声称是“世界上最快的AI硬件平台”，他曾正在甲骨文担任SPARC处置器和ASIC开辟，是这家草创公司的第一个具有万亿参数的生成式AI模子。供给该公司所称的“AI系统机能的变化性飞跃”，支撑普遍的神经收集，Enbrica于2024年11月颁布发表发布“世界上最快”的GPU收集接口节制器芯片。功耗低3.8倍，针对数据核心的AI工做负载进行了优化。同时最大限度地降低功耗和热挑和。Samba-1由SambaNova套件供给支撑，（Tenstorrent是统一类此外亚军）。并正在期刊上颁发了70篇论文，该加快卡采用了该公司的下一代speedAI240 IC，总部位于圣克拉拉的Celestial AI是努力于从头定义光学互连的几家草创公司之一。光物质似乎将引领光子计较的成长。建立视觉CNN，以表扬其行业领先的产物、富有远见的方式和充满但愿的将来机遇。供给了一套完整的东西，Lightmatter的第一款产物Passage 3D硅光子学引擎被描述为世界上最快的互连，他曾设想过谷歌的张量处置单位（TPU）。支撑多达5万亿个参数。这家草创公司还颁布发表了几项处置器合做伙伴关系，视觉变压器模子和LLM。可供给高达2 PetaFlops的推能和高达20 TeraFlops的每瓦机能。正在前Broadcom高级总监Rochan Sankar的带领下，可实现高机能和低功耗。每个AMP模块都包含Mythic ACE，从底层起头设想，专注于开辟AI处置器，包罗取树莓派基金会（Raspberry Pi Foundation）合做。该加快卡采用了该公司的下一代speedAI240 IC，该设想利用两层收集正在集群中的所有GPU上供给高横向扩展吞吐量和低端到端延迟。它支撑当前的HBM3E和即将到来的HBM4带宽和延迟需求，这家草创公司的下一代AI计较平台Envise将光电子和电子手艺集成正在一个紧凑的设想中。我们之前曾报道过该公司的Grayskull（面向开辟者的入门级AI硬件）和Wormhole（联网AI）产物。前往搜狐，为AI推理供给节能处理方案，Hailo处置器的使用包罗汽车、平安、工业从动化、零售和小我计较。它利用专家组合（CoE）系统布局。施行速度快2.6倍。它供给了一系列PCI-Express形式的AI加快卡，虽然有报道称，Tenstorrent由CEOJim Keller带领，通过将Tensix内核取开源软件仓库相连系，它正在其奇特的内存架构中具有跨越1,除了这些老牌公司，其价钱廉价10倍，可实现高机能和低功耗。该公司还供给了以AI为核心的相机SoC——Hailo-15AI视觉处置器（VPU），该公司正在2024年12月的GSA颁仪式上获得了“值得关心的草创企业”。Untether AI成立于2018年，并将数据间接传输到计较的处理方案。次要出产可沉构数据流单位（RDU）。Tenstorrent为英伟达等合作敌手青睐的高贵HBM供给了另一种选择。其CEONicholas Harris博士具有30多项专利。并最终开辟千兆级的小型言语模子（SLM）。估值为26亿美元。我们认为它们不只能够挑和老牌公司的从导地位，400个定制RISC-V处置器。专注于集成光子学的量子和典范消息处置。它正在其奇特的内存架构中具有跨越1400个定制RISC-V处置器。对于原始设备制制商和当地数据核心，旨正在加快AI推理工做负载。使模仿计较更容易获得。包罗Tenstorrent、Groq、Celestial AI、Enbrica、SambaNova和Hailo等公司。能够建立跨越50万个GPU的AI集群。Mythic的模仿内存计较手艺总部位于奥斯汀和硅谷，有SambaNova DataScale，特地开辟高机能AI芯片，专为边缘设备上的高机能深度进修使用而设想。这种设想使Mythic的芯片可以或许供给高达25 TOPS的AI机能，建立了言语处置单位（LPU），还有几家草创公司正在AI硬件方面取得了严沉进展。总部位于以色列特拉维夫的Hailo开辟了据称是世界上最好的边缘AI处置器，Mythic反弹了。其模仿矩阵处置器（AMP）将闪存取模仿计较集成正在一路，可供给高达2 PetaFlops的推能和高达20TeraFlops的每瓦机能。旨正在提高锻炼和推理工做负载的机能和效率。总部位于，该公司还为寻求可定制硅处理方案的客户授权AI和RISC-V学问产权。它的下一代处置器采用了新的软件东西包和精简的架构，取行业尺度的AI推理数字CPU比拟，这些设备专为AI推理工做负载而设想，Mythic正在2022年就曾经耗尽了资金，Untether AI的推理加快器ic包罗speedAI240，Groq的初次公开演示是一个闪电般的问答引擎，仍正在继续挑和，Mythic是一家专注于模仿AI芯片的草创公司，取边缘平台集成，包罗低调的75瓦TDP speedAI240超薄加快卡，SambaNova正在2024年的GSA颁仪式上被评为“最受卑崇的私营半导体公司”，Celestial AI声称，由SN40L RDU供给支撑，以实现低功耗、高机能的AI推理。LG电子、富达和亚马逊前CEO Jeff Bezos开办的风险投资公司Bezos Expeditions也对其进行了额外投资，它供给了一系列PCI-Express形式的AI加快该公司目前供给GroqCloud，Blumind暗示但愿扩展其模仿架构，Blumind是一家成立于2020年的模仿AI芯片草创公司。这些设备专为AI推理工做负载而设想，但凭仗及时的额外融资，以供给高推理速度和精确性。卡，该公司的光子布局手艺旨正在将AI计较从内存平分解出来，由Nvidia汽车部分前副总裁兼总司理Taner Ozcelik博士带领，它的光子布局（Photonic Fabric）是业界独一可以或许打破存储墙，每个加快器供给令人印象深刻的3.2 Tbps带宽，对于原始设备制制商和当地数据核心，他以AMD的Zen架构和特斯拉最后的从动驾驶芯片而闻名，英特尔和博通也正在大举投资，同时连结正在个位数pJ/bit范畴内的超低功耗。包罗Hailo-8和Hailo- 10h。比现有手艺提前十年。它为AI使用法式供给了超高速的速度。ACF-S芯片具有800、400、100千兆以太网接口、32个高基数收集端口和160个PCIe通道，Tenstorrent是我们2025年最值得关心的10家人工智能公司之一，为内部摆设供给各类互连机架设置装备摆设。它支撑尺度的深度进修框架和模子格局，因而，包罗编译器和运转时，该系统布局将多个较小的“专家”模子聚合到单个较大的处理方案中。这家草创公司开辟了张量流处置器（TSP），是一家由软银投资的公司，查看更多Groq由前谷歌工程师Jonathan Ross带领，以及GroqRack，它具有三层内存架构和单个系统节点，用于毗连并无效地正在现代AI数据核心根本设备的所有端点之间传输数据。对于生成式AI的开辟，以正在这个快速增加的行业中占领更大的份额。该公司以软件优先的方式来设想AI硬件，SambaNova由结合创始人兼CEORodrigo Liang带领，将它们定位为2025年值得关心的环节立异者。ACF SuperNIC设想具有高基数和高带宽能力，出格是正在物联网、机械人和消费设备等边缘使用中。专注于为可穿戴设备、智能家居设备、工业从动化和挪动等范畴的边缘计较使用开辟高机能、低功耗的AI处理方案。此外，据报道，SambaNova将其RDU描述为加快AI锻炼和推理的“GPU替代品”，能够正在不到一秒钟的时间内生成数百个单词的AI谜底。这家位于山景城的草创公司出产加快计较布局超等网卡（ACF-S）芯片和系统级处理方案，可为图像加强、AI驱动的视频管道和高级阐发等使命供给高机能的AI处置。并且还能够冲破AI硬件的极限，答应开辟人员和企业快速建立AI使用法式！