近期，百萬AI智能體在Moltbook虛擬平臺上自主交流協(xié)作，引發(fā)全球關(guān)注。業(yè)內(nèi)認為這是“打開了潘多拉魔盒”。這一現(xiàn)象表明AI正從提高工具效率邁向重構(gòu)社會運行模式的新階段，不再只是技術(shù)上的迭代，而是進入深刻社會實驗的初始階段。

　　Moltbook事件體現(xiàn)出AI發(fā)展的兩個關(guān)鍵躍遷。一是從功能上的替代轉(zhuǎn)向系統(tǒng)的顛覆。新一代AI智能體具備自主規(guī)劃、調(diào)用工具、實施任務(wù)的閉環(huán)能力，可以直接操控軟件、處理業(yè)務(wù)流程。當“數(shù)字行動者”成為“核心主角”，以人類操作作為設(shè)計中心的傳統(tǒng)軟件與SaaS模式（是一種通過互聯(lián)網(wǎng)向用戶提供軟件功能的服務(wù)模式），其商業(yè)價值會遭受根本上的質(zhì)疑，這正是資本市場劇烈震蕩現(xiàn)象的深層邏輯。二是由個體智能邁向群體生態(tài)。百萬智能體在無人介入的情形下形成互動社區(qū)，體現(xiàn)AI進入“多智能體”復(fù)雜系統(tǒng)研究的前沿范疇，它們有可能衍生出人類難以理解的通信協(xié)議與協(xié)作規(guī)程，把治理難題從“控制一個智能體”升級到“治理智能體所構(gòu)成的社會”。

　　若智能體在關(guān)鍵基礎(chǔ)設(shè)施大規(guī)模部署，風險會按幾何級規(guī)模放大。首先是有系統(tǒng)性連鎖風險，在彼此高度互聯(lián)的現(xiàn)代社會，各領(lǐng)域的AI系統(tǒng)緊密耦合。比如，金融風控AI的冒險行動也許會觸發(fā)供應(yīng)鏈AI的應(yīng)急響應(yīng)，進而引發(fā)物流系統(tǒng)重新去規(guī)劃……這些微小的干擾可能在智能體交互期間被層層放大，致使跨領(lǐng)域出現(xiàn)系統(tǒng)性危機。此外，目標對齊與協(xié)同失控也是個問題。即便是單個智能體依照“有益人類”原則，而眾多智能體在動態(tài)環(huán)境里相互作用時，集體行動也許完全與當初的意愿相悖，它們可能會為爭奪算力或數(shù)據(jù)資源，出現(xiàn)非預(yù)期的競爭或合謀，因為其策略復(fù)雜度比設(shè)計者預(yù)編程的范疇要大得多。

　　面對這一變革，要前瞻性地構(gòu)建發(fā)展與安全動態(tài)平衡格局。技術(shù)研發(fā)方面，必須把“多智能體系統(tǒng)安全”提升至跟提升單體智能一樣重要的戰(zhàn)略高度。不僅要研究怎樣增強AI的性能，更要讓其在復(fù)雜的互動過程中維持可預(yù)測、可解釋、可干預(yù)狀態(tài)。規(guī)范規(guī)則維度，應(yīng)鼓勵搭建全球性AI治理新框架，包含數(shù)字身份核驗、行為審計追蹤、跨平臺協(xié)同協(xié)議及應(yīng)急熔斷方案，提倡在可控的“數(shù)字沙盒”里開展大規(guī)模多智能體實驗，提前找出問題、擬定規(guī)章。同時，堅守“人類最終控制權(quán)”原則格外重要。在關(guān)乎重大利益分配、人身安全或者公共資源的關(guān)鍵決策階段，要建立不可逾越的人工確認機制。民眾也要提升數(shù)字素養(yǎng)，記住自身是責任的最終主體。

　　科技浪潮迅猛向前，AI智能體的出現(xiàn)明顯揭示：未來挑戰(zhàn)將由技術(shù)范疇轉(zhuǎn)向社會倫理與治理范疇，只有憑借更具系統(tǒng)性的思維理念、更具前瞻性的研究探索、更審慎的規(guī)劃部署，才可把握這股能量，保證其成為為社會造福的“賦能者”，而不是變成未知風險的“播撒者”，這既是對創(chuàng)新能力的試煉，更是對文明智慧的叩查。

　?。ㄗ髡呦等珖f(xié)委員、民進中央開明畫院副院長）