安索洛比克提議減速AI開發以應對潛在風險

美國AI公司安索洛比克呼籲減速或暫停AI開發，以便有時間應對其帶來的風險，並強調人類需重新掌控AI系統。

美國人工智慧公司安索洛比克（Anthropic）近日發表聲明，提議減速或暫停AI開發，以確保有足夠時間來應對AI技術可能帶來的風險。該公司強調，隨著AI技術的迅速進步，必須重新評估人類對這些系統的控制能力。

安索洛比克所開發的先進AI系統「克勞德·米尤托斯」（Claude Muthos）因其自動發現系統脆弱性的能力而受到廣泛關注。該公司在其官方博客中指出，若AI系統能夠完全自動設計和開發，將可能導致人類失去對這些系統的控制。為了避免這種情況，他們建議應該減緩AI的開發速度。

安索洛比克認為，為了讓人類的價值觀和倫理能夠跟上技術的進步，必須爭取時間來進行相關的研究和社會結構調整。他們呼籲國際間的合作，讓主要研究機構能夠共同努力，並確保各機構能夠實際停止開發以進行檢驗。

該公司提到，雖然建立這樣的合作體系並非不可能，但目前的情況卻讓他們感到「時間的余裕已經不多」。安索洛比克計劃在未來幾個月內與政策制定者、研究者及其他AI公司進行討論，並公佈相關成果。