SWE-bench Multilingual是一個多語言軟體工程基準測試,用於評估語言模型在軟體工程任務上的表現。
該基準測試被套用於評估大語言模型的編程能力,其數據擴展基於SWE-smith研究,評估任務涵蓋Debug能力,並支持在配備bash/editor工具的環境下進行代理式評估。
其理論基礎源自2025年發表的研究論文《SWE-smith: Scaling Data for Software Engineering Agents》,核心貢獻者包括John Yang等人。2025年10月,Kimi K2模型在該測試中達到了47.3%的pass@1成績。同年12月,GLM-4.7和MiniMax M2.1模型分別取得了73.8%和72.5%的分數。2026年3月,Cursor的Composer 2模型在該測試上取得了73.7%的成績,而Claude Opus 4.6模型在該測試中的得分為77.83%。2026年4月,阿里發布的Qwen3.6-Plus模型在SWE-bench系列評測中編程表現接近Claude系列。
