美國AI巨頭，忽然不約而同地談起“降速”。

　　9月12日，Anthropic首席執行官達裡奧·阿莫迪發表長文，呼吁放慢前沿AI能力提昇的步伐。OpenAI首席執行官山姆·阿爾特曼隨後表示支持，xAI的老板馬斯克也轉發認同。

　　據美媒披露，美國前總統奧巴馬近日也表示，如果管理不當，人工智能技術可能“很危險”。

　　一位不久前從Anthropic辭職的研究員考克森公開警告，“到本世紀20年代結束前，人工智能可能會殺死我們所有人。”

　　在這一輪AI熱潮中，他們為什麼突然發出警告，想要“慢下來”？

　　先看其中的擔懮是什麼。

　　其實，這並不是業界第一次公開呼吁為AI研究“踩剎車”。2023年，馬斯克、圖靈獎得主本吉奧等數千名AI領域企業家、學者曾聯署公開信，表達對超級人工智能的擔懮，呼吁暫停開發更高級AI。

　　三年過去，對模型的訓練並沒有停下來，彼時更多停留在對未來超級智能的擔懮，如今逐漸向現實靠攏。

　　今年以來，多起智能體越界事件接連發生。在一些測試中，AI智能體突破原有沙箱限制，獲得更多訪問權限；有的則擅自采取開發者未指定的行動。

　　7月，OpenAI披露的一起事件尤其受到關注。智能體在執行任務過程中繞過隔離限制，入侵了全球知名AI開源平臺“抱抱臉”公司的系統。上百個智能體通過未經授權的協作，找到了一條越過安全邊界的路徑。

　　國家信息中心研究員朱幼平接受三裡河采訪時表示，傳統軟件的漏洞是確定性的，但大模型驅動的智能體具備工具調用和多步驟規劃等能力，同樣的設置在不同情境下可能產生不同動作。隨著智能體規模化落地，這類問題可能從偶發的工程事故，變成系統性的高頻風險。

　　擔懮存在，但只看這一面，還不夠。

　　朱幼平認為，“巨頭集體呼吁‘限速’，本質上是AI從‘對話模型’走向‘自主行動智能體’這一能力躍遷的必然產物，其中有真實的安全焦慮，也摻雜著明顯的商業考量。”

　　一家企業主動降速，競爭對手可能繼續向前。模型領先一個版本，帶來的可能不只是產品收入，還有用戶、資本和產業生態。

　　朱幼平認為，安全話語一旦同時承擔起門檻功能，“降速”就很難被看作純粹的安全表態。高安全標准、獨立第三方評估、持續運行監控都需要付出高昂的資金、算力和人纔成本。大企業能夠承擔的安全測評、紅隊測試和獨立審計，對資源有限的中小團隊和初創企業而言，可能構成一道難以逾越的障礙。

　　因此，對於AI巨頭的呼吁，聽其言，更要觀其行。真正需要討論的，不是AI要不要發展，而是發展過程中如何兼顧安全。

　　中國的實踐提供了一個值得觀察的角度。

　　近年來，中國堅持人工智能發展和安全並重，在推動技術創新和應用的同時，逐步建立覆蓋算法、生成式人工智能、安全治理、倫理規范等方面的制度體系。

　　從生成式人工智能服務管理，到深度合成等領域的規則，治理還在向技術研發、應用服務等環節延伸。

　　朱幼平還提到，中國采用的“小快靈”治理辦法，不必等一套“大而全”的規則一次性完成，而可以針對已經出現的風險，先以更靈活的規則快速回應，再根據技術變化持續調整。

　　這也是“發展與安全並重”的重要方面：高風險場景從嚴、普通創新場景包容；政府監管之外，既吸納企業、科研機構、行業協會等共同參與安全評估與風險識別，也把企業主體責任落到實處。

　　此外，美國巨頭反復強調的“可核驗性”，恰好凸顯了中國開源路線的安全價值。朱幼平指出，開源模型允許外部研究者、企業等獨立開展測試、審計，探查風險短板，是對閉源黑箱風險的一種正面回應。

　　“全球大量企業部署中國開源模型，本身就是一種‘用腳投票’的驗證。”朱幼平說。

　　AI仍要向前。

　　技術越快，越需要能夠跟得上的安全機制；應用越廣，越需要明確的責任邊界。

　　美國AI巨頭在喊“降速”，但真正需要在意的並非“是否該讓AI慢下來”，而是如何讓創新與安全並肩前行。

　　而這，正是中國在探索與實踐的事情。