Hugging FaceTransformers是由Hugging Face創建的開源深度學習框架，提供API和工具以下載並微調預訓練模型，支持自然語言處理、計算機視覺及音頻等多模態任務。該庫基於PyTorch和TensorFlow框架構建，提供了數千個NLP預訓練模型。
其前身為pytorch-transformers和pytorch-pretrained-bert。2020年，Hugging Face推出了Transformers庫。2020年1月31日發布了2.4.0版本。Transformers v4.50.3版本發布，集成了DeepSeek-V3開源MoE模型。
研發背景,發展歷程,核心技術,重要事件,
研發背景
Hugging Face公司最初以開發聊天機器人套用起家，但隨著對NLP技術的深入探索，他們意識到預訓練模型在提升開發效率、降低資源消耗方面的巨大潛力，於是Hugging Face Transformers庫應運而生，旨在為全球NLP社區提供一個統一、高效的模型訪問平台。
發展歷程
Hugging Face公司最初以開發聊天機器人套用起家，隨著對NLP技術的深入探索，他們意識到預訓練模型在提升開發效率、降低資源消耗方面的巨大潛力，於是Hugging Face Transformers庫應運而生，旨在為全球NLP社區提供一個統一、高效的模型訪問平台。2020年，Hugging Face正式推出Transformers庫，其早期版本如2020年1月發布的2.4.0版即提供了超過10種架構（包括BERT、GPT-2、RoBERTa、XLNet等）和30個預訓練模型，並原生支持TensorFlow 2.0和PyTorch框架，強調易用性、高性能和低門檻，初步確立了其將最先進的NLP模型轉化為即插即用工具的理念。
該庫持續快速疊代，例如v4.50.0版本開始官方集成SwanLab實驗跟蹤工具。2025年9月發布的v4.50.3版本是一個重要里程碑，深度集成了開源的DeepSeek-V3MoE模型，並針對新一代GPU進行了核心最佳化，提升了推理效率和並行計算能力。
至2026年初，Hugging Face Transformers的模型已可通過Hugging Face endpoints服務部署在Azure Machine Learning的企業級基礎設施上，進一步拓展了其企業套用場景。
核心技術
Hugging Face Transformers庫的核心創新在於其“模型-分詞器-配置”三位一體的架構設計，開發者可通過AutoModel和AutoTokenizer類實現跨模型兼容。通過與PyTorch和TensorFlow的深度集成，Transformers實現了動態計算圖與靜態計算圖的混合使用，為開發者提供了靈活的編程體驗。Transformers庫已收錄超過300種預訓練模型，涵蓋基礎架構、任務類型和多模態模型。針對邊緣設備部署等資源受限場景的需求，Transformers提供了完整的模型壓縮方案，如8位量化。該框架在學術界與工業界被廣泛採用，例如在ACL 2023收錄的論文中，62%的NLP研究使用Transformers作為基礎框架。
重要事件
2025年9月，Hugging Face Transformers v4.50.3版本發布。該版本集成了開源的DeepSeek-V3混合專家模型。
DeepSeek-V3採用混合專家架構，其總參數量為175B，激活參數量為23B。該版本針對NVIDIA H100等GPU進行了核心最佳化，並提供了MoEDebugger等工具。
更新發布後，基於DeepSeek-V3的衍生項目數量有所增加。此次更新體現了開源AI在模型架構方面的進展。
