基本含義
LLMs.txt是一種為大型語言模型(LLM)驅動搜尋引擎設計的、位於網站根目錄的Markdown格式檔案。其核心目的是向AI爬蟲提供對LLM友好的、結構化的網站內容及元數據,以幫助AI模型更準確高效地理解和使用網站內容。它旨在解決AI處理複雜HTML內容時的困難,通過提供簡化、清晰且機器可讀的數據來最佳化AI的檢索和理解過程。在功能上,它與面向傳統搜尋引擎的robots.txt和sitemap.xml檔案類似,但專門針對AI推理引擎進行了最佳化。LLMs.txt標準由Jeremy Howard(Answer.AI聯合創始人)發起。目前仍是一項處於提議中的標準,未獲得W3C等網路標準社區的官方認證。包括谷歌在內的主要AI公司並未官方支持或承諾使用該檔案,其實際效用和廣泛採納仍存在爭議。
套用
LLMs.txt的套用旨在引導AI系統更高效地理解和利用網站內容。其套用方式主要包括創建和部署符合標準的檔案,該標準定義了兩個檔案:(提供精簡的網站導航視圖)和(包含所有文檔內容的綜合性檔案)。
創建該檔案有多種工具可供選擇,例如:Vitepress外掛程式、dotenv開發的開源命令行工具、Firecrawl的生成工具、Mintlify文檔平台的內置功能,以及一些WordPress外掛程式等。
然而,LLMs.txt的採用整體上仍較為緩慢。主要AI提供商中,僅
Anthropic明確表示支持,
OpenAI的爬蟲會訪問但未確認使用,而
Google則明確聲明不支持且認為其可能無用。業內支持者認為它能最佳化內容抓取、減少AI幻覺;質疑者則認為其缺乏有效證據、可能產生冗餘或垃圾內容。
LLMs.txt代表著一種向“AI優先”文檔策略的轉變理念,但其能否成為廣泛套用的網路標準尚待觀察。
爭議事件
2026年1月,谷歌搜尋團隊回應社交平台疑問,明確表示LLMs.txt檔案並非官方認可。幾周前谷歌內容管理系統曾支持該檔案並添加到開發者文檔,隨後又迅速移除。搜尋團隊的約翰?穆勒稱谷歌不會使用,還認為該檔案可能無用,建議開發者設為不被索引,因其對開發者無實際價值。這一聲明避免了外界誤解,顯示出谷歌對該檔案的謹慎態度。
後續發展
隨著分析和歸因技術的改進,llms.txt可能在GenAI領域得到更廣泛的套用。客戶使用大語言模型搜尋引擎的趨勢增加以及智慧型體工作流程的擴展,可能使llms.txt在現代網路中扮演重要角色。
後續開發者大機率會減少對它的關注和使用,該檔案的套用場景將進一步受限。