博鰲亞洲論壇2025年年會期間,，人工智能（AI）的安全與治理成為焦點議題,。隨著DeepSeek等開源大模型實現(xiàn)突破，以及算力成本指數(shù)級下降,、智能體技術(shù)快速演進,，AI正從“信息智能”邁向“物理智能”與“生物智能”，但其潛在風(fēng)險也引發(fā)了全球治理層與技術(shù)界的深度關(guān)切,。3月26日,，來自政府、學(xué)界,、企業(yè)界多位嘉賓圍繞“如何推進AI應(yīng)用與治理的平衡”這一命題,，展開了具有前瞻性的思想碰撞。

　　與會嘉賓從技術(shù)演進與倫理挑戰(zhàn)兩個維度展開深入剖析,。在談到AI技術(shù)的前沿進展時,，中國工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長張亞勤說：“DeepSeek是近兩年來AI領(lǐng)域最大最具規(guī)模性創(chuàng)新,，也是中國對全球的貢獻,。”

　　“符號和連接深度融合的機遇看上去已經(jīng)到來,?！敝袊茖W(xué)院自動化研究所研究員曾毅表示，AI發(fā)展存在符號主義和連接主義兩條路徑,，過去二者未能實現(xiàn)有機融合,，但如今基于生物神經(jīng)網(wǎng)絡(luò)啟發(fā)的智能推理機制，邏輯推理能力與人工神經(jīng)網(wǎng)絡(luò)表征編碼的深度融合已成功實現(xiàn),?！笆艽竽X神經(jīng)機制啟發(fā)的算法創(chuàng)新，尤其是神經(jīng)路由機制等突破性技術(shù),，將成為推動AI發(fā)展的關(guān)鍵,。”他說,。

　　在深入探討AI技術(shù)的前沿進展后,，嘉賓們將話題轉(zhuǎn)向與之緊密相關(guān)的風(fēng)險挑戰(zhàn)方面。AI技術(shù)“一路狂飆”,，其潛在風(fēng)險有多少,？張亞勤認為,，不可控風(fēng)險“至少增加一倍”，尤其是生物智能領(lǐng)域的潛在威脅可能“放大數(shù)倍”,?！氨仨氃O(shè)置不可逾越的紅線，比如禁止自我復(fù)制,。人類發(fā)明技術(shù)的智慧,，需與引導(dǎo)技術(shù)走向的智慧并重?！彼f,。

　　“AI發(fā)展應(yīng)用和安全之間的關(guān)系不是相互掣肘?！痹阒赋?，研究團隊已經(jīng)通過實驗證明，提升大模型安全能力,，如倫理約束，不會影響AI的認知能力,、求解能力,。

　　“倫理安全應(yīng)該作為AI大模型發(fā)展的基因，作為第一性原理,，不可刪除,、不可違背，并做到穩(wěn)健發(fā)展,?！痹阏f，確保AI安全的基礎(chǔ)性地位,，需要從源頭融入技術(shù),。

　　面對技術(shù)風(fēng)險防控、倫理規(guī)范落地等AI治理挑戰(zhàn),，各國是否形成治理共識,？多位嘉賓表示，盡管當前技術(shù)發(fā)展突飛猛進,，但全球AI治理框架仍存在顯著分歧,。“過去這些年,，關(guān)于AI治理的進展比較有限,。”中國社會科學(xué)院大學(xué)教授江小涓指出,，從經(jīng)濟學(xué)視角來說,，AI需要解決的核心問題是效率與公平,。

　　AI治理該由誰管？怎么管,？張亞勤認為,，在AI治理領(lǐng)域需要設(shè)立兩個機構(gòu)，一個負責(zé)技術(shù)與產(chǎn)業(yè)標準制定,，另一個則承擔(dān)政策協(xié)調(diào)與國際治理職能,。

　　對此，芬蘭前總理埃斯科·阿霍主張,，AI治理不應(yīng)依賴單一國際組織,，可以借鑒歐盟制定移動通信標準的經(jīng)驗，由政府,、企業(yè),、科研機構(gòu)共建動態(tài)標準。

　　而經(jīng)濟合作與發(fā)展組織全球關(guān)系與合作主任安德里亞斯·紹爾認為：“我們需要開放的,、不斷學(xué)習(xí)演進的AI治理機構(gòu),，并且需要多層級、多部門,、更多利益相關(guān)方參與,。”（本報記者 王祝華）

責(zé)任編輯：張鈺