人機對齊(人工智慧術語)

人機對齊是指只有AI的輸出結果與人類價值觀相符，才能確保AI模型的能力和行為與人類意圖保持一致。僅依靠數據和算法並不足以實現人機對齊，這意味著在設計獎勵機制時，不僅要考慮任務的效率、效益和效果，還需要考慮行為是否符合人類的倫理標準。

基本介紹

• 中文名：人機對齊
• 類型：人工智慧

科技簡介

人機對齊是指只有AI的輸出結果與人類價值觀相符，才能確保AI模型的能力和行為與人類意圖保持一致。僅依靠數據和算法並不足以實現人機對齊，這意味著在設計獎勵機制時，不僅要考慮任務的效率、效益和效果，還需要考慮行為是否符合人類的倫理標準。

發展歷史

2024年10月，人機對齊入選2024人工智慧（AI）十大前沿技術趨勢展望。