恐自我進化 Anthropic籲全球放慢AI模型開發步伐

美國人工智慧（AI）新創公司Anthropic正籌備首次公開募股（IPO，即掛牌上市），但據《華爾街日報》報導，該公司4日在文章中呼籲頂級AI實驗室考慮放慢開發步伐，警告稱AI模型正在逼近一個臨界點：無需人類干預即可實現自我改進。

　這篇部落格文章由Anthropic內部研究機構負責人法瓦羅（Marina Favaro）與公司共同創辦人克拉克（Jack Clark）共同撰寫。文中指出，AI模型的進步似乎正朝著「遞迴式自我改進」（recursive self-improvement,簡稱RSI）的方向發展，即AI系統幾乎不需要人類協助，就能自行學習並變得更聰明。

　該文章提醒說，RSI尚未發生，也並非不可避免，「但其到來的時間可能比大多數機構準備好的要早。」

　「我們認為，如果全世界可以選擇放慢或暫時停止前沿AI的開發，讓社會結構和『對齊』（alignment）研究能夠跟上技術進步的步伐，那將是一件好事。」這篇文章寫道。文中提議就如何放慢開發速度達成一項全球協議，並建立一個核查機制，以確保競爭對手遵守該協議。

Anthropic自成立以來一直強調AI安全，但長期以來面臨批評，被指意在減緩競爭對手的AI發展。矽谷創投家、美國總統川普的非正式顧問塞克斯（David Sacks），曾指責Anthropic的領導層在推行「監管俘獲議程」，可能導致當局試圖禁止所謂的開源模型。

AI行業對於當前模型距離AGI（通用人工智慧）或RSI等基準還有多遠，一直存在分歧。AGI指的是與人類相當的智商水平。

　一些學者，如科技龍頭Meta前首席AI科學家、AI先驅楊立昆（Yann LeCun）認為，基於大語言模型的前沿系統永遠無法實現與人類智商相媲美的飛躍。他雖然將AI模型視為強大工具，但將其智能比作貓的智力。