Inferact

Inferact是一家成立於2025年11月的人工智慧基礎設施公司,由開源大模型推理引擎vLLM核心團隊創立,2026年1月正式對外公布。公司以8億美元投前估值完成1.5億美元種子輪融資,由Andreessen Horowitz(a16z)和Lightspeed領投,紅杉資本、Altimeter Capital等機構跟投。創始團隊包括加州大學伯克利分校的Simon Mo、Woosuk Kwon以及清華大學博士游凱超,核心技術基於vLLM開源項目。

vLLM作為核心開源項目,已支持500多種模型架構和200多種硬體加速器,被Meta、谷歌等企業套用於生產環境。Inferact採取開源與商業並行策略,一方面持續最佳化vLLM作為獨立開源項目,另一方面開發商業產品解決多硬體適配效率問題。公司定位模型與硬體的交匯點,致力於降低AI推理成本並提升部署效率。

基本介紹

  • 公司名稱:Inferact
  • 所屬行業:AI基礎設施 
  • 成立時間:2026年1月 
核心背景與市場定位,目標與願景,

核心背景與市場定位

技術血統:開源大模型推理引擎vLLM的核心原班人馬
賽道選擇:Inferact精準地切入 “AI推理” 這一藍海市場。在AI從訓練轉向大規模套用落地的背景下,高效、低成本的推理服務成為關鍵瓶頸,市場需求巨大。公司旨在為全球AI套用提供最先進的推理基礎設施。

目標與願景

憑藉團隊在推理最佳化領域的深厚積累,公司計畫超越開源的vLLM,建立一套更完整、更強大的商業級AI推理基礎設施和秩序,解決大規模模型部署中的效率、成本和易用性問題。

相關詞條

熱門詞條

聯絡我們