LLMs.txt

LLMs.txt是一種擬議的文本檔案標準,以Markdown格式提供網站內容與元數據,旨在幫助大語言模型(LLM)驅動的搜尋引擎更好地理解和處理網站內容。該檔案通常位於網站根目錄,類似robots.txt,但專為AI最佳化,其標準定義了兩個檔案,分別可包含簡化導航或完整內容。一些公司和平台,如Cloudflare、Anthropic、Perplexity、ElevenLabs、Cursor等,已開始實施該標準。

該標準由Answer.AI聯合創始人Jeremy Howard發起,目前仍處於提議階段,未被W3C等標準組織認證。谷歌已明確表示不官方認可且不會使用該檔案,而Anthropic表示支持,OpenAI的爬蟲會訪問該檔案。微信支付商戶平台在產品文檔站點新增了llms.txt索引。業內對其實際效用存在爭議,支持者認為它能最佳化內容抓取,質疑者則認為其缺乏有效證據。

基本介紹

  • 外文名:LLMs.txt
  • 類別:文本檔案
  • 定義:一種擬議的文本檔案標準
基本含義,套用,爭議事件,後續發展,

基本含義

LLMs.txt是一種為大型語言模型(LLM)驅動搜尋引擎設計的、位於網站根目錄的Markdown格式檔案。其核心目的是向AI爬蟲提供對LLM友好的、結構化的網站內容及元數據,以幫助AI模型更準確高效地理解和使用網站內容。它旨在解決AI處理複雜HTML內容時的困難,通過提供簡化、清晰且機器可讀的數據來最佳化AI的檢索和理解過程。在功能上,它與面向傳統搜尋引擎的robots.txt和sitemap.xml檔案類似,但專門針對AI推理引擎進行了最佳化。LLMs.txt標準由Jeremy Howard(Answer.AI聯合創始人)發起。目前仍是一項處於提議中的標準,未獲得W3C等網路標準社區的官方認證。包括谷歌在內的主要AI公司並未官方支持或承諾使用該檔案,其實際效用和廣泛採納仍存在爭議。

套用

LLMs.txt的套用旨在引導AI系統更高效地理解和利用網站內容。其套用方式主要包括創建和部署符合標準的檔案,該標準定義了兩個檔案:(提供精簡的網站導航視圖)和(包含所有文檔內容的綜合性檔案)。
創建該檔案有多種工具可供選擇,例如:Vitepress外掛程式、dotenv開發的開源命令行工具、Firecrawl的生成工具、Mintlify文檔平台的內置功能,以及一些WordPress外掛程式等。
部署時,需將生成的檔案上傳至網站根目錄,並建議隨網站內容更新而同步更新以保證其有效性。一些知名公司和平台,如Cloudflare、Anthropic、Perplexity、ElevenLabs、Cursor等,以及微信支付(於2026年4月宣布其商戶平台文檔站點新增llms.txt索引),已開始實施該標準。
然而,LLMs.txt的採用整體上仍較為緩慢。主要AI提供商中,僅Anthropic明確表示支持,OpenAI的爬蟲會訪問但未確認使用,而Google則明確聲明不支持且認為其可能無用。業內支持者認為它能最佳化內容抓取、減少AI幻覺;質疑者則認為其缺乏有效證據、可能產生冗餘或垃圾內容。
LLMs.txt代表著一種向“AI優先”文檔策略的轉變理念,但其能否成為廣泛套用的網路標準尚待觀察。

爭議事件

2026年1月,谷歌搜尋團隊回應社交平台疑問,明確表示LLMs.txt檔案並非官方認可。幾周前谷歌內容管理系統曾支持該檔案並添加到開發者文檔,隨後又迅速移除。搜尋團隊的約翰?穆勒稱谷歌不會使用,還認為該檔案可能無用,建議開發者設為不被索引,因其對開發者無實際價值。這一聲明避免了外界誤解,顯示出谷歌對該檔案的謹慎態度。

後續發展

隨著分析和歸因技術的改進,llms.txt可能在GenAI領域得到更廣泛的套用。客戶使用大語言模型搜尋引擎的趨勢增加以及智慧型體工作流程的擴展,可能使llms.txt在現代網路中扮演重要角色。
後續開發者大機率會減少對它的關注和使用,該檔案的套用場景將進一步受限。

相關詞條

熱門詞條

聯絡我們