博鰲亞洲論壇2025年年會(huì)期間，人工智能（AI）的安全與治理成為焦點(diǎn)議題,。隨著DeepSeek等開源大模型實(shí)現(xiàn)突破,，以及算力成本指數(shù)級(jí)下降,、智能體技術(shù)快速演進(jìn)，AI正從“信息智能”邁向“物理智能”與“生物智能”,，但其潛在風(fēng)險(xiǎn)也引發(fā)了全球治理層與技術(shù)界的深度關(guān)切,。3月26日，來自政府,、學(xué)界,、企業(yè)界多位嘉賓圍繞“如何推進(jìn)AI應(yīng)用與治理的平衡”這一命題，展開了具有前瞻性的思想碰撞,。
與會(huì)嘉賓從技術(shù)演進(jìn)與倫理挑戰(zhàn)兩個(gè)維度展開深入剖析,。在談到AI技術(shù)的前沿進(jìn)展時(shí)，中國工程院院士,、清華大學(xué)智能產(chǎn)業(yè)研究院院長張亞勤說：“DeepSeek是近兩年來AI領(lǐng)域最大最具規(guī)模性創(chuàng)新,，也是中國對(duì)全球的貢獻(xiàn)?！?/p>
“符號(hào)和連接深度融合的機(jī)遇看上去已經(jīng)到來,。”中國科學(xué)院自動(dòng)化研究所研究員曾毅表示,，AI發(fā)展存在符號(hào)主義和連接主義兩條路徑,，過去二者未能實(shí)現(xiàn)有機(jī)融合，但如今基于生物神經(jīng)網(wǎng)絡(luò)啟發(fā)的智能推理機(jī)制,，邏輯推理能力與人工神經(jīng)網(wǎng)絡(luò)表征編碼的深度融合已成功實(shí)現(xiàn),。“受大腦神經(jīng)機(jī)制啟發(fā)的算法創(chuàng)新,，尤其是神經(jīng)路由機(jī)制等突破性技術(shù),，將成為推動(dòng)AI發(fā)展的關(guān)鍵?！彼f,。
在深入探討AI技術(shù)的前沿進(jìn)展后，嘉賓們將話題轉(zhuǎn)向與之緊密相關(guān)的風(fēng)險(xiǎn)挑戰(zhàn)方面,。AI技術(shù)“一路狂飆”,，其潛在風(fēng)險(xiǎn)有多少？張亞勤認(rèn)為,，不可控風(fēng)險(xiǎn)“至少增加一倍”,，尤其是生物智能領(lǐng)域的潛在威脅可能“放大數(shù)倍”?！氨仨氃O(shè)置不可逾越的紅線,，比如禁止自我復(fù)制。人類發(fā)明技術(shù)的智慧,，需與引導(dǎo)技術(shù)走向的智慧并重,?！彼f。
“AI發(fā)展應(yīng)用和安全之間的關(guān)系不是相互掣肘,?！痹阒赋觯芯繄F(tuán)隊(duì)已經(jīng)通過實(shí)驗(yàn)證明,，提升大模型安全能力,，如倫理約束，不會(huì)影響AI的認(rèn)知能力,、求解能力,。
“倫理安全應(yīng)該作為AI大模型發(fā)展的基因，作為第一性原理,，不可刪除,、不可違背，并做到穩(wěn)健發(fā)展,?！痹阏f，確保AI安全的基礎(chǔ)性地位,，需要從源頭融入技術(shù),。
面對(duì)技術(shù)風(fēng)險(xiǎn)防控、倫理規(guī)范落地等AI治理挑戰(zhàn),，各國是否形成治理共識(shí),？多位嘉賓表示，盡管當(dāng)前技術(shù)發(fā)展突飛猛進(jìn),，但全球AI治理框架仍存在顯著分歧,。“過去這些年,，關(guān)于AI治理的進(jìn)展比較有限,。”中國社會(huì)科學(xué)院大學(xué)教授江小涓指出,，從經(jīng)濟(jì)學(xué)視角來說,，AI需要解決的核心問題是效率與公平。
AI治理該由誰管,？怎么管,？張亞勤認(rèn)為，在AI治理領(lǐng)域需要設(shè)立兩個(gè)機(jī)構(gòu),，一個(gè)負(fù)責(zé)技術(shù)與產(chǎn)業(yè)標(biāo)準(zhǔn)制定，另一個(gè)則承擔(dān)政策協(xié)調(diào)與國際治理職能,。
對(duì)此,，芬蘭前總理埃斯科·阿霍主張,，AI治理不應(yīng)依賴單一國際組織，可以借鑒歐盟制定移動(dòng)通信標(biāo)準(zhǔn)的經(jīng)驗(yàn),，由政府,、企業(yè)、科研機(jī)構(gòu)共建動(dòng)態(tài)標(biāo)準(zhǔn),。
而經(jīng)濟(jì)合作與發(fā)展組織全球關(guān)系與合作主任安德里亞斯·紹爾認(rèn)為：“我們需要開放的,、不斷學(xué)習(xí)演進(jìn)的AI治理機(jī)構(gòu)，并且需要多層級(jí),、多部門,、更多利益相關(guān)方參與?！保ū緢?bào)記者 王祝華）
責(zé)任編輯：張鈺
