在全國(guó)科技大會(huì)、國(guó)家科學(xué)技術(shù)獎(jiǎng)勵(lì)大會(huì)、兩院院士大會(huì)上，習(xí)近平總書(shū)記對(duì)我國(guó)要建成的科技強(qiáng)國(guó)作出深入闡釋?zhuān)岢霰仨毦邆湮宸矫婊疽亍?/p>

其中，“擁有強(qiáng)大的科技治理體系和治理能力，形成世界一流的創(chuàng)新生態(tài)和科研環(huán)境”是五方面基本要素之一。習(xí)近平總書(shū)記的重要講話深刻闡明了新時(shí)代加強(qiáng)科技治理體系和治理能力建設(shè)的重要性，進(jìn)一步明確了科技治理體系和治理能力建設(shè)要實(shí)現(xiàn)的戰(zhàn)略目標(biāo)?？萍紓惱碇卫眢w系是科技治理體系的重要組成部分，也是確保人工智能向善發(fā)展，為中國(guó)式現(xiàn)代化建設(shè)提供持續(xù)、健康、強(qiáng)勁動(dòng)能的重要保障。

治理面臨新形勢(shì)新任務(wù)

近年來(lái)，我國(guó)高度重視、積極推動(dòng)人工智能倫理治理，并取得顯著成效。一系列舉措包括成立國(guó)家科技倫理委員會(huì)及人工智能倫理分委員會(huì)、發(fā)布新一代人工智能治理原則、推進(jìn)人工智能倫理治理相關(guān)法律法規(guī)建設(shè)、創(chuàng)新人工智能倫理治理政策工具、參與全球人工智能倫理治理對(duì)話合作等。還要看到的是，對(duì)標(biāo)“擁有強(qiáng)大的科技治理體系和治理能力”的目標(biāo)，對(duì)照人工智能迅猛發(fā)展和廣泛應(yīng)用的現(xiàn)實(shí)，當(dāng)前我國(guó)人工智能倫理治理體系和治理能力建設(shè)面臨新形勢(shì)，亟待完成新任務(wù)。

一是要更全面、準(zhǔn)確識(shí)別人工智能的影響及其倫理意涵。識(shí)別和評(píng)估影響，是人工智能倫理治理的前提。人工智能的廣泛應(yīng)用會(huì)產(chǎn)生什么影響，在哪些方面產(chǎn)生影響，不同影響如何生成和傳導(dǎo)，以及各種影響會(huì)帶來(lái)哪些倫理挑戰(zhàn)，這些問(wèn)題都未明晰。同時(shí)，在很多人工智能技術(shù)的應(yīng)用場(chǎng)景中，我國(guó)實(shí)際上已扮演先行先試者的角色，沒(méi)有太多可借鑒的現(xiàn)成經(jīng)驗(yàn)。因此，新時(shí)期必須加強(qiáng)人工智能影響評(píng)估的理論和方法研究，持續(xù)豐富治理實(shí)踐，努力形成人工智能倫理治理的中國(guó)經(jīng)驗(yàn)和中國(guó)方案。

二是要更重視人工智能治理實(shí)踐中的倫理問(wèn)題。治理方式和治理工具符合倫理規(guī)范，是強(qiáng)大的科技倫理治理體系和治理能力的題中應(yīng)有之義。隨著人工智能治理規(guī)則、工具和實(shí)踐增多，這些活動(dòng)本身的倫理問(wèn)題愈加凸顯。這些問(wèn)題的實(shí)質(zhì)，是人工智能治理實(shí)踐是否符合倫理規(guī)范，即是否以符合倫理的方式開(kāi)展人工智能治理。新時(shí)期加強(qiáng)人工智能倫理治理體系和治理能力建設(shè)，必須高度重視對(duì)人工智能治理實(shí)踐的倫理審查和倫理反思。

三是要提高人工智能倫理治理體系的有效性。近年來(lái)，我國(guó)積極推動(dòng)人工智能倫理治理法律法規(guī)建設(shè)，涉及人工智能倫理治理的“硬法”和“軟法”逐漸增多，并衍生出多樣化治理機(jī)制和政策工具。但是，逐漸復(fù)雜的規(guī)則、多元主體的參與、日益豐富的政策工具，也增加了治理體系的復(fù)雜性，提高了出現(xiàn)合成謬誤、治理體系整體效能下降的風(fēng)險(xiǎn)。因此，需進(jìn)一步優(yōu)化治理體系，明確各參與主體的責(zé)任與義務(wù)，加強(qiáng)跨部門(mén)、跨領(lǐng)域的協(xié)調(diào)合作，提升政策工具的有效性和針對(duì)性，確保人工智能倫理治理體系高效運(yùn)行。

四是要增強(qiáng)人工智能倫理治理的國(guó)際影響力和引領(lǐng)力。國(guó)際影響力和引領(lǐng)力是強(qiáng)大的人工智能倫理治理能力的重要內(nèi)容。近年來(lái)，我國(guó)通過(guò)積極參與人工智能倫理治理雙多邊對(duì)話合作、發(fā)布《全球人工智能治理倡議》、倡導(dǎo)加強(qiáng)人工智能能力建設(shè)國(guó)際合作等舉措，與各國(guó)攜手推進(jìn)全球人工智能倫理治理體系和治理能力建設(shè)，在持續(xù)為全球人工智能倫理治理貢獻(xiàn)中國(guó)力量和中國(guó)智慧的同時(shí)，也有效提升了我國(guó)在全球人工智能倫理治理領(lǐng)域的影響力。但是，全球人工智能倫理治理領(lǐng)域既存在廣泛合作，也存在博弈和競(jìng)爭(zhēng)，我國(guó)在全球人工智能倫理治理中的影響力和引領(lǐng)力，仍然與我國(guó)在全球人工智能技術(shù)發(fā)展和應(yīng)用中的地位不夠相稱(chēng)，需要進(jìn)一步加強(qiáng)。

多措并舉提升可操作性

新時(shí)期，如何加強(qiáng)我國(guó)人工智能倫理治理體系和治理能力建設(shè)？一方面，要全面認(rèn)識(shí)人工智能倫理問(wèn)題的內(nèi)涵以及影響倫理治理實(shí)踐的關(guān)鍵因素，確保治理體系和治理能力建設(shè)符合規(guī)律要求、符合實(shí)際情況；另一方面，要突出問(wèn)題導(dǎo)向，抓住治理體系和治理能力建設(shè)中的關(guān)鍵點(diǎn)、改革工作的突破點(diǎn)，著力提升工作的針對(duì)性和可操作性。具體而言，可從以下六方面發(fā)力。

一是健全人工智能倫理治理法律法規(guī)體系。一方面，以法律法規(guī)的形式明確人工智能倫理問(wèn)題的邊界、不同主體在人工智能研發(fā)和應(yīng)用過(guò)程中的權(quán)責(zé)劃分，并根據(jù)實(shí)際情況適時(shí)對(duì)其進(jìn)行動(dòng)態(tài)調(diào)整；另一方面，用法律法規(guī)約束人工智能倫理治理實(shí)踐，確保倫理治理實(shí)踐符合法律規(guī)定和倫理規(guī)范。

二是健全人工智能倫理審查機(jī)制。加快健全人工智能倫理審查機(jī)構(gòu)體系和倫理審查規(guī)范體系；通過(guò)業(yè)務(wù)培訓(xùn)等多種方式，加強(qiáng)倫理審查專(zhuān)業(yè)人才隊(duì)伍建設(shè)；通過(guò)規(guī)范審查機(jī)構(gòu)人員構(gòu)成和審查流程等關(guān)鍵環(huán)節(jié)，加強(qiáng)倫理審查機(jī)構(gòu)的能力建設(shè)，提高倫理審查質(zhì)量；優(yōu)化人工智能倫理風(fēng)險(xiǎn)分級(jí)分類(lèi)標(biāo)準(zhǔn)，并建立與之相匹配的倫理審查和監(jiān)管工作機(jī)制；進(jìn)一步增加倫理審查工作的透明度，更好發(fā)揮倫理審查的導(dǎo)向作用。

三是建立人工智能倫理問(wèn)題多元監(jiān)督機(jī)制。進(jìn)一步優(yōu)化政府監(jiān)管、行業(yè)自律、公眾監(jiān)督等多種監(jiān)督方式的分工協(xié)作機(jī)制，增強(qiáng)監(jiān)督工作的及時(shí)性和有效性、提高監(jiān)督效率；支持人工智能企業(yè)和研發(fā)機(jī)構(gòu)聯(lián)合制定、共同遵守行業(yè)倫理準(zhǔn)則，發(fā)揮自我約束機(jī)制的作用；提高公眾對(duì)人工智能倫理問(wèn)題的關(guān)注度和理解力，增強(qiáng)公眾有序參與人工智能倫理監(jiān)督和治理的能力。

四是加強(qiáng)人工智能倫理教育。支持從事人工智能技術(shù)研發(fā)的機(jī)構(gòu)面向研發(fā)人員開(kāi)展倫理培訓(xùn)，鼓勵(lì)人工智能產(chǎn)品和服務(wù)提供機(jī)構(gòu)與用戶就特定應(yīng)用場(chǎng)景中的倫理規(guī)范加強(qiáng)溝通；在中小學(xué)科技類(lèi)課程中，適當(dāng)增加人工智能倫理議題相關(guān)內(nèi)容，將人工智能倫理課程作為相關(guān)專(zhuān)業(yè)本科生和研究生的必修課以及面向全體大學(xué)生的選修課；加強(qiáng)面向全社會(huì)的人工智能倫理規(guī)范和知識(shí)普及教育。

五是加強(qiáng)人工智能倫理問(wèn)題及治理效果研究。前瞻性開(kāi)展人工智能社會(huì)實(shí)驗(yàn)，支持政產(chǎn)學(xué)研在人工智能經(jīng)濟(jì)社會(huì)影響識(shí)別、政策干預(yù)效果評(píng)估等方面共同開(kāi)展系統(tǒng)性研究；支持在各個(gè)應(yīng)用場(chǎng)景中開(kāi)展差異化的倫理治理機(jī)制探索和工具創(chuàng)新，增強(qiáng)倫理治理體系的敏捷性和韌性。

六是積極參與全球人工智能倫理治理。推動(dòng)以聯(lián)合國(guó)為中心的全球人工智能倫理治理對(duì)話與合作；圍繞人工智能倫理治理問(wèn)題，積極開(kāi)展雙多邊交流合作，共享最佳實(shí)踐、共同支持相關(guān)研究、協(xié)同制定治理規(guī)則，與各國(guó)攜手推動(dòng)全球人工智能倫理治理體系和治理能力建設(shè)。

(作者盧陽(yáng)旭系中國(guó)科學(xué)技術(shù)發(fā)展戰(zhàn)略研究院研究員 科技日?qǐng)?bào))

【編輯:房家梁】