ChatGPT引發(fā)的人工智能大模型競賽，令很多人擔心人工智能失控。3月底國際上就有一批專(zhuān)家發(fā)出聯(lián)名公開(kāi)信呼吁：立即暫停訓練比GPT-4更強大的人工智能系統。人工智能大模型要按暫停鍵嗎？

　　從可行性來(lái)看，這個(gè)暫停鍵目前還沒(méi)人能按下去。就在5月10日，谷歌宣布推出最新的大型語(yǔ)言模型PaLM 2，稱(chēng)其在部分任務(wù)上已經(jīng)超越GPT-4。這很明顯是無(wú)視了公開(kāi)信的呼吁，公開(kāi)對GPT-4等競爭對手發(fā)起挑戰。

　　人工智能大模型已經(jīng)成為當前國際投資熱點(diǎn)，各方不斷加碼，競賽不斷提速。技術(shù)狂飆的背后，是科技企業(yè)和風(fēng)險投資公司的盈利沖動(dòng)，除非觸發(fā)政府部門(mén)的強制干涉，依賴(lài)行業(yè)自律按下暫停鍵的目標不太可能實(shí)現。此外，目前大模型的權力集中在“大玩家”手中，現實(shí)中行業(yè)壟斷的危害比未來(lái)可能出現的人工智能危害更迫在眉睫，與簡(jiǎn)單叫停大模型研究相比，規范人工智能“玩家”是更緊迫的需求。技術(shù)創(chuàng )新難以抑制，與其叫停研究，還不如盡快制定和完善人工智能治理相關(guān)法規，讓創(chuàng )新研究在陽(yáng)光下運行，在規則內運行。

　　從復雜性來(lái)看，大模型的健康發(fā)展本身就有賴(lài)于技術(shù)進(jìn)步，需要以人工智能來(lái)監督、限制人工智能。

　　人工智能大模型“涌現”出寫(xiě)文章、做翻譯、寫(xiě)代碼、制圖像等許多意想不到的能力，部分能力和人不相上下，生產(chǎn)速度則遠超人類(lèi)，已讓許多人感受到?jīng)_擊。它為什么能夠達到目前的能力？目前大模型的“智能涌現”是個(gè)黑箱，沒(méi)有人能理解、預測或可靠地控制這些大模型，甚至模型的創(chuàng )造者也不能。

　　對人工智能大模型開(kāi)黑箱、對數據泄露上鎖、對虛假內容做標記、對網(wǎng)絡(luò )攻擊等危險行為實(shí)施監測防范，一方面需要從科研倫理規范上增加透明度，讓大模型研發(fā)、訓練、生成、推理的鏈路變得更加透明；另一方面也需要使用好技術(shù)工具，用人工智能大模型來(lái)幫助人類(lèi)理解和控制人工智能大模型。這話(huà)聽(tīng)起來(lái)繞口，實(shí)際已有成功案例。ChatGPT的締造者美國OpenAI公司近日發(fā)布一項成果，就是用GPT-4大模型來(lái)自動(dòng)解釋GPT-2大模型的行為，在人工智能可解釋性研究領(lǐng)域獲得重大突破。

　　眼見(jiàn)可為虛，耳聽(tīng)也不為實(shí)。人工智能大模型以其彪悍的信息造假能力，對社會(huì )信任帶來(lái)重大沖擊。從一些調查結果看，不少人贊同暫停超越GPT-4能力的大模型研究，先解決已知風(fēng)險再按啟動(dòng)鍵。人工智能是國家戰略技術(shù)，是未來(lái)引領(lǐng)經(jīng)濟發(fā)展的助推器。對中國人工智能產(chǎn)業(yè)而言，需要的不是暫停研究，而是吸取國外大模型發(fā)展的前車(chē)之鑒，讓大模型研發(fā)在合規下運行。

　　科技治理為科技創(chuàng )新保駕護航，人工智能治理已成為重要的國際科技競爭力。大禹治水，“堵”不如“疏”。在研發(fā)人工智能大模型的同時(shí)，構建高效透明的科研倫理商談審批機制，拆壁壘、緩痛點(diǎn)、疏堵點(diǎn)，才能建立起更有競爭力、更可持續發(fā)展的人工智能產(chǎn)業(yè)生態(tài)。 （本文來(lái)源：經(jīng)濟日報 作者：佘惠敏）