7月28日，東壁科技數據聯(lián)合上海財經(jīng)大學(xué)數字經(jīng)濟學(xué)院共同構建的全國首個(gè)高質(zhì)量人工智能治理科技語(yǔ)料與首個(gè)人工智能多元共治決策支持大模型在2025世界人工智能大會(huì )大模型治理和有序發(fā)展生態(tài)論壇上正式發(fā)布，標志著(zhù)我國在探索科學(xué)高效、多方協(xié)同的人工智能治理模式方面邁出了堅實(shí)一步，為人工智能協(xié)同治理提供了關(guān)鍵的科技支撐。

當前，隨著(zhù)人工智能技術(shù)的快速演進(jìn)，數據安全、算法偏見(jiàn)、倫理失范、就業(yè)沖擊乃至潛在的治理鴻溝等問(wèn)題日益凸顯。注重共同治理，已成為人工智能有序發(fā)展的重要行業(yè)共識?！度斯ぶ悄苋蛑卫硇袆?dòng)計劃》也明確指出，開(kāi)展人工智能安全治理應及時(shí)開(kāi)展人工智能風(fēng)險研判，提出針對性防范應對措施，構建具有廣泛共識的安全治理框架。上海浦東新區數字化轉型專(zhuān)家委員會(huì )委員、上海財經(jīng)大學(xué)數字經(jīng)濟學(xué)院院長(cháng)趙琳介紹，在此背景下，上海財經(jīng)大學(xué)數字經(jīng)濟學(xué)院與東壁科技數據開(kāi)展合作，致力于構建人工智能治理領(lǐng)域關(guān)鍵科技基礎設施以響應國家號召并應對人工智能治理挑戰。

東壁科技數據創(chuàng )始人、深圳大學(xué)特聘教授吳登生表示，東壁科技數據依托其擁有自主知識產(chǎn)權的高質(zhì)量科技文獻數據庫平臺，聚焦人工智能治理的核心挑戰，圍繞后門(mén)攻擊、數據投毒、逆向攻擊、黑箱問(wèn)題等14類(lèi)人工智能治理風(fēng)險，構建了國內首個(gè)高質(zhì)量人工智能治理科技語(yǔ)料庫。這個(gè)科技語(yǔ)料庫共采集了人工智能治理領(lǐng)域500余篇高質(zhì)量英文期刊論文、1500余篇核心中文期刊論文，整合了來(lái)自國務(wù)院所屬18個(gè)部委及16個(gè)地級市政府部門(mén)發(fā)布的人工智能治理相關(guān)法律法規、政策文件、技術(shù)標準、典型案例等高質(zhì)量規范性文本1000余份。經(jīng)過(guò)嚴格的人工精細標注、深度結構化處理以及多重質(zhì)量篩選，最終沉淀出一批高度結構化、主題明確、內容權威的標注語(yǔ)料?！斑@一覆蓋學(xué)術(shù)前沿與政策實(shí)踐的多維科技語(yǔ)料，為推進(jìn)我國人工智能協(xié)同治理工具的研發(fā)提供了關(guān)鍵數據支撐?！彼f(shuō)。

上海金融科技產(chǎn)業(yè)聯(lián)盟智慧金融專(zhuān)業(yè)委員會(huì )委員、上海財經(jīng)大學(xué)數字經(jīng)濟學(xué)院副院長(cháng)肖升生表示，在人工智能治理科技語(yǔ)料的基礎上，上海財經(jīng)大學(xué)數字經(jīng)濟學(xué)院與東壁科技數據聯(lián)合開(kāi)發(fā)了全國首個(gè)人工智能多元共治決策支持大模型，為人工智能協(xié)同治理提供關(guān)鍵工具支撐。

該模型專(zhuān)注于人工智能治理領(lǐng)域知識問(wèn)答、案例查詢(xún)與分析、技術(shù)方案咨詢(xún)、治理方案生成、資源查找五大核心任務(wù)，在國產(chǎn)開(kāi)源大語(yǔ)言模型基礎上，利用構建的2000多條高質(zhì)量人工智能治理領(lǐng)域問(wèn)答對語(yǔ)料進(jìn)行精細化微調，其回答能夠嚴格遵循人工智能治理領(lǐng)域回答范式，除此之外，該模型還接入了基于前述人工智能治理科技語(yǔ)料庫構建的可持續動(dòng)態(tài)更新數據庫，通過(guò)檢索增強生成（RAG）技術(shù)，模型能夠有效引用權威語(yǔ)料庫內容，大幅提升專(zhuān)業(yè)回答的準確性和可靠性，顯著(zhù)緩解通用模型在此領(lǐng)域易產(chǎn)生“幻覺(jué)”的風(fēng)險。在構建的1000條人工智能治理領(lǐng)域測試集中，模型回答準確率達到91.4%，幻覺(jué)產(chǎn)生率僅1.5%，這一性能表現表明該模型在人工智能治理專(zhuān)業(yè)領(lǐng)域已達到較高實(shí)用水平。

未來(lái)，東壁科技數據與上海財經(jīng)大學(xué)數字經(jīng)濟學(xué)院將持續更新人工智能治理科技語(yǔ)料庫，并計劃將人工智能多元共治決策支持大模型面向有需求的企業(yè)和政府部門(mén)逐步開(kāi)放使用，助力各方提升人工智能治理能力，共同推動(dòng)我國人工智能產(chǎn)業(yè)健康、安全、有序發(fā)展。（經(jīng)濟日報記者 李治國）