Meta發佈前沿AI框架：會暫停開發其認爲風險過高的AI系統

meta 暫停部分高性能ai系統發佈，優先考慮安全風險！meta首席執行官馬克·扎克伯格此前曾承諾將通用人工智能（agi）公開發布，但最新發布的“前沿人工智能框架”（frontier ai framework）政策文件顯示，meta將限制部分高性能ai系統的發佈，以應對潛在風險。

該框架將AI系統風險分爲“高風險”和“關鍵風險”兩類，兩者都可能被用於網絡攻擊、化學攻擊和生物攻擊。關鍵區別在於“關鍵風險”系統可能造成無法挽回的災難性後果。“高風險”系統雖然也能增加攻擊的可能性，但其可靠性和穩定性不如“關鍵風險”系統。

Meta在文件中列舉了例如“對高安全企業環境進行自動化入侵”和“高影響力生物武器擴散”等具體攻擊場景，並強調這些只是Meta認爲最緊迫、最可能發生的風險事件。

Meta的風險評估並非單純依靠測試結果，而是綜合內部和外部專家的意見，並經高級管理層審覈。Meta承認，目前的技術水平還無法對AI系統風險進行精確量化評估。

對於“高風險”系統，Meta將限制其內部訪問權限，並在實施風險緩解措施後才能考慮發佈。而對於“關鍵風險”系統，Meta將採取更嚴格的安全措施防止泄露，並暫停開發，直到風險降低到可接受水平。

Meta表示，“前沿人工智能框架”將持續改進，以適應人工智能領域的快速發展。此舉似乎是對Meta“開放”AI開發策略的回應，旨在平衡AI技術進步與社會安全風險。Meta強調，其目標是在確保安全的前提下，將AI技術的益處惠及社會。

以上就是Meta發佈前沿AI框架：會暫停開發其認爲風險過高的AI系統的詳細內容，更多請關注本站其它相關文章！