2020年5月，OpenAI發布了一份研究報告，詳細分析了為什麼人工智慧語言模型規模越大，能力越強。EleutherAI的執行董事斯特拉·彼得曼說：“據我們了解，唯一的限制是你願意投入多少資金。”與此同時，OpenAI只允許經過批准的研究人員使用ChatGPT-3。有些人對此感到沮喪，於是在一個Discord伺服器上，他們組成了一個團體，試圖複製OpenAI的成就，這個團體最終命名為EleutherAI。彼得曼表示：“社會有與技術互動的機制，但如果技術被封鎖，這些機制就很難實施。”這個團隊的成員來自計算機科學、哲學和英語等諸多領域。很快他們就發布了一系列大語言模型。2022年年初，EleutherAI推出了GPT-NeoX-20B，這是當時公開發布的最大的大語言模型。之後，這個研究團體開始把重心從建立大型開源模型，轉向其他人工智慧研究領域，包括深入研究人工智慧的局限性和風險。彼得曼在談到EleutherAI的影響時稱：“如今，有意提供開源模型的公司越來越多。”
所獲榮譽
2023年11月24日，Eleuther AI公司入選“首期《財富》全球人工智慧創新者50強榜單”。
