小樣本學習是機器學習的一個子領域，旨在解決在數據量較少的情況下進行有效學習和模型訓練的問題，其利用先驗知識，能夠快速泛化至僅包含少量監督樣本的新任務中。
其核心研究方法包括基於度量學習、元學習、圖神經網路和模型微調等。該技術廣泛套用於計算機視覺、自然語言處理、醫療保健和網路安全等領域，核心價值在於降低對大規模標註數據的依賴，但也面臨因訓練數據有限而易過擬合等挑戰。
2020年，相關綜述論文對其進行了正式定義，並將方法分為數據、模型和算法三類。隨後研究持續活躍，例如2024年CVPR接收的基於語義進化的小樣本學習算法、2024年發表於Nature子刊的蛋白質語言模型小樣本學習方法以及2025年提出的多模態Few-shot 3D分割模型。
基本介紹
- 中文名：小樣本學習
- 外文名：Few-Shot Learning
FSL
發展歷程,基本特徵,套用,相關研究,影響,
發展歷程
機器學習早期就存在使用小數據集的實踐，如經典的Iris數據集僅包含150個樣本。
隨著在醫學圖像、聲音識別等數據獲取困難和標註成本高昂的領域套用需求增長，小樣本學習再次成為研究焦點。
為解決小樣本問題，發展出數據增強、遷移學習、元學習（學習如何快速適應新任務）、嵌入學習等關鍵技術方向。
近年來該領域研究活躍，例如2024年四川大學的研究團隊提出基於語義進化的小樣本學習算法，相關成果發表在CVPR 2024上；2025年，研究擴展到多模態領域，如有工作提出MultiModal Few-Shot SegNet (MM-FSS)用於3D點雲語義分割；同年，中國農業大學等機構在視覺-語言模型適配方面也取得了新進展。
2026年初，第四十屆AAAI人工智慧會議（AAAI 2026）於2026年1月20日至27日舉行，北京雁棲湖套用數學研究院副研究員王雅晴入選AAAI 2026“學術新星”榮譽，並作題為“From Few-Shot Learning to Data-Efficient Intelligence”的專題報告，她是本屆唯一在中國大陸工作的入選者。
基本特徵
小樣本學習的提出，最早源自生物認知科學領域——人類往往只需要見過幾次新事物，就能快速掌握其特徵和規律。小樣本學習已成為智慧型分析與決策的核心技術之一，尤其在推動“數據資源稀缺行業”的數位化升級中扮演關鍵角色。主流技術路徑包括遷移學習、元學習、數據增強與正則化。遷移學習的核心思路是：用已有的大數據模型作為基礎，對新任務進行微調。元學習強調模型的自適應能力，訓練模型“如何快速適應新任務”。數據增強是通過對現有樣本做各種變換，合成更多樣本，提升模型泛化能力。
基於不同原理的小樣本學習方法各有優缺點。基於模型微調的方法簡單，但當目標數據集與源數據集分布相差較大時，易導致過擬合。基於數據增強的方法能一定程度緩解過擬合問題，更高效地利用現有數據，但可能會產生噪聲數據或噪聲特徵。基於度量學習的方法思想易於理解、可解釋性強、便於計算和公式化，但在樣本量極少的情況下，效果可能不佳。基於元學習的方法受到人類學習的啟發，使模型具備學習的能力，能夠學習到除訓練之外的知識，並利用已有知識指導模型更快地適應新任務，但模型複雜度較高、訓練時間較長。基於圖神經網路的方法性能較好，但不可避免地存在節點過平滑的問題。
套用
小樣本學習技術因其能有效降低數據採集和標註成本，廣泛套用於數據稀缺或標註困難的領域。主要套用領域包括計算機視覺、自然語言處理、音頻處理、機器人技術、醫療保健、網路安全以及網路結構搜尋等。在計算機視覺領域，小樣本學習套用於圖像分類、目標檢測、語義分割、圖像檢索、手勢識別、視頻目標檢測等問題。在自然語言處理領域，其套用包括文本分類、短文本情感分析、語言模型等。在醫療保健領域，小樣本學習可用於醫學圖像分析、疾病診斷等任務。在網路安全領域，其套用包括未知惡意軟體的檢測、異常網路流量的檢測、社交工程攻擊的識別。
在工業界已有成功的落地實踐。例如，在美團的業務場景中，小樣本學習被套用於醫美題材分類、攻略識別、醫美功效打標、醫美品牌打標等任務。其中，醫美題材分類任務僅使用2,989條訓練數據，準確率達到89.24%；攻略識別任務僅用384條訓練數據，準確率達到87%；醫美功效打標任務僅用2,909條訓練數據，準確率達到91.88%；醫美品牌打標任務僅用1,676條訓練數據，準確率達到88.59%。
隨著大型語言模型的發展，小樣本學習已成為提示工程中的關鍵技術。其主要套用於兩個場景：一是微調LLM，通過提供少量示例來補充模型知識，以提升其在特定任務上的性能；二是作為修復模型性能問題的後續手段，即在零樣本學習建立基線後，通過引入少量示例進行疊代最佳化。然而，這種方法也可能因提示過長而增加計算成本和延遲，並存在模型學習到錯誤模式的風險。
相關研究
小樣本學習的核心研究方法可主要分為基於度量學習、基於元學習、基於圖神經網路和基於模型微調等幾類。基於度量學習的方法通過對樣本間距離分布進行建模，使得同類樣本靠近、異類樣本遠離，例如孿生網路、匹配網路和原型網路。基於元學習的方法旨在訓練模型“學會學習”，使其能夠快速適應新任務，例如記憶增強網路和模型無關元學習。基於圖神經網路的方法將樣本視為圖節點，通過學習節點和邊的嵌入關係進行分類。基於模型微調的方法則是在預訓練模型基礎上，利用少量目標數據對模型參數進行微調。
視覺-語言模型憑藉其強大的跨模態特徵對齊能力，為小樣本學習提供了新思路。例如，2025年的研究提出了對齊引導的提示學習和包含原型聚類、層次化表示等組件的適配器方法，如CPAAP，有效提升了模型在低資源任務上的適應能力和泛化性能。
小樣本學習的研究持續向多模態和跨領域方向拓展。在3D視覺領域，2025年的研究提出了多模態Few-shot 3D分割模型MM-FSS，創新性地整合文本和2D圖像信息，有效提升了模型在少量樣本下對3D點雲中新類別的分割與泛化能力。
在生物信息學等數據稀缺的前沿科學領域，小樣本學習方法展現出重要價值。例如，2024年針對蛋白質語言模型提出的FSFP方法，通過結合排序學習、參數高效微調和元學習策略，能夠利用極少量有標註的濕實驗數據顯著提升模型對蛋白質突變的性能預測。
此外，小樣本學習的研究前沿正進一步拓展至與大語言模型及智慧型體系統的結合。2026年，小樣本學習的思想可以拓展至大語言模型的上下文學習現象，揭示其與元學習及快速適應機制的內在聯繫。同時，研究視角延伸至智慧型體系統，探索在最少互動與監督條件下實現數據高效智慧型體學習，為構建可靠、可控的個性化智慧型系統提供了新思路。
影響
小樣本學習（Few-Shot Learning, FSL）是機器學習的一個子領域，旨在利用先驗知識，使模型能夠在僅包含少量監督樣本的新任務中實現快速泛化。其核心價值在於顯著降低對大規模標註數據的依賴，從而降低數據採集與標註成本，並提升模型適應新任務的效率。
在工業套用領域，小樣本學習因其經濟性，已在諸多視覺任務中得到關注，如圖像分類、圖像檢索、目標跟蹤等，並在自然語言處理、音頻處理、機器人技術、醫療保健等領域展現出廣泛套用潛力。特別是在數據資源稀缺的行業（如醫療影像分析、罕見故障檢測、新品上市分析），小樣本學習成為推動其數位化升級的關鍵技術。
儘管優勢顯著，小樣本學習仍面臨一系列技術挑戰。首先，由於訓練數據有限，模型容易過擬合，泛化能力受限。其次，部分方法（如基於提示的小樣本學習）需要生成長文本提示，這會增加計算量、導致延遲上升並提高成本。此外，算法本身可能較為複雜，訓練耗時較長，且對數據質量與分布較為敏感。在提示學習中，若示例選擇不當，模型還可能學習到數據中的虛假模式。
展望未來，小樣本學習的發展方向多元。技術層面，與大規模預訓練模型結合、開發更智慧型的數據增強方法、提升模型的可解釋性以及最佳化模型效率與泛化能力是重點。研究層面，其未來方向涵蓋問題設定、新技術探索、套用拓展以及理論深化等多個維度。隨著技術進步，小樣本學習有望在更多現實場景中落地，並與主動學習、遷移學習等策略更緊密地結合，實現更高效的人機協作。
