在人工智能與數(shù)字倫理論壇上，嘉賓暢談以人為本、科技向善——

                                                                                                                                                                要智能，更要智慧

       作為新一輪科技革命和產(chǎn)業(yè)變革的代表，人工智能正與實(shí)體經(jīng)濟(jì)、社會生活深度融合，使整個社會生產(chǎn)力和效率大幅提升。如何促進(jìn)安全可信可控的人工智能技術(shù)研發(fā)與應(yīng)用場景？國際社會要構(gòu)建怎樣的合作機(jī)制，確保人工智能始終朝著以人為本、科技向善的方向健康發(fā)展？

       11月10日下午，2022年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會最后一場分論壇——人工智能與數(shù)字倫理論壇舉行，與會中外嘉賓圍繞“人工智能的產(chǎn)業(yè)方向與倫理取向”展開討論。

       做負(fù)責(zé)任的人工智能

       論壇現(xiàn)場，中國美術(shù)學(xué)院院長高世名講述了一個故事：中國美院三名本科生創(chuàng)作了一幅科幻作品《無限分之一》，設(shè)定三名年輕人接受生命冷凍實(shí)驗(yàn)，陷入長久沉睡，幾百年后被喚醒。在那個未來世界，人類上傳了所有知識和記憶，形成了一個“共腦”。

       于是，這些21世紀(jì)的來客面臨命運(yùn)的選擇：是否融入“共腦”？

       故事引發(fā)了大家深思。“這個全體人類的智慧集合，帶來的不是新的突破，而是創(chuàng)新能力的喪失和永久的停滯。”高世名說，這件作品提醒我們，各種微觀、宏觀的增強(qiáng)技術(shù)正逐漸把我們改造為“新人”，人的危機(jī)正以前所未有的壓迫感呈現(xiàn)在我們面前。

       對人工智能帶來的風(fēng)險，與會嘉賓都談到了治理的迫切性。清華大學(xué)人工智能研究院名譽(yù)院長、中國科學(xué)院院士張鈸拋出了“做負(fù)責(zé)任的人工智能”觀點(diǎn)。他說，早在人工智能誕生之前，美國科幻小說家阿西莫夫就提出機(jī)器人發(fā)展中可能存在的倫理風(fēng)險，“無論是有意的濫用、還是無意的濫用，都要重視，我們必須對人工智能的研究、開發(fā)、使用進(jìn)行嚴(yán)格評估和科學(xué)監(jiān)管。”

       之江實(shí)驗(yàn)室主任、中國人工智能產(chǎn)業(yè)聯(lián)盟副理事長朱世強(qiáng)也談到了“負(fù)責(zé)任”這個詞。“人工智能、數(shù)字技術(shù)是我們重要的發(fā)展方向，我們也在做負(fù)責(zé)任的科研。”他展示了一張之江實(shí)驗(yàn)室預(yù)防人工智能危害社會的技術(shù)圖譜，吸引嘉賓紛紛拍照。

       之江實(shí)驗(yàn)室從研發(fā)主體、使用者、管理主體三個方面，對未來人工智能可能產(chǎn)生的負(fù)面情況進(jìn)行了系統(tǒng)梳理。朱世強(qiáng)對此的態(tài)度是“張弛有度”，“人工智能是人類智能在機(jī)器領(lǐng)域的延伸，真正的主動權(quán)仍然掌握在人的身上，技術(shù)沒有原罪，如何應(yīng)用好技術(shù)才至關(guān)重要。”

       構(gòu)建數(shù)字倫理規(guī)則迫在眉睫

       在討論中，與會嘉賓普遍認(rèn)為，面對人工智能，既不能回避技術(shù)發(fā)展帶來的各類安全風(fēng)險和倫理挑戰(zhàn)，也不能以鄰為壑，人為設(shè)置“小高墻”。

       那么，我們該如何與人工智能友好相處？

       全國人大憲法和法律委員會副主任委員江必新認(rèn)為，要構(gòu)建一個合理規(guī)范的數(shù)字倫理規(guī)則，“我們不能制約技術(shù)的發(fā)展，那就通過制定一套倫理規(guī)則來進(jìn)行自我約束。”

       江必新說，人們要對人工智能達(dá)成一種基本共識，比如能增進(jìn)人類福祉、透明互信、美美與共，這是人類對真善美的追求，也是對人工智能向上向善的期望。

       試想一下，如果聽什么歌、想去哪里，都能用你的語音進(jìn)行操控，上了車能用自己的聲音直接導(dǎo)航……人工智能帶來的這些“紅利”，讓我們從簡單重復(fù)的勞動中解放出來，做更多有價值、有創(chuàng)意的工作，是件十分美好的事。但人工智能再先進(jìn)，如果不安全就會漏洞百出，“先進(jìn)”也就失去了意義。

       說起當(dāng)下老百姓關(guān)心的應(yīng)用風(fēng)險，科大訊飛股份有限公司高級副總裁、科大訊飛華南人工智能研究院董事長杜蘭認(rèn)為，一是個人數(shù)據(jù)安全與隱私保護(hù)問題，二是利用人工智能實(shí)施詐騙、造謠等違法犯罪行為，“針對這些風(fēng)險，我們要有針對性地依法打擊，建議更多權(quán)威機(jī)構(gòu)牽頭搭建常態(tài)化公共演練平臺，讓大家通過演練，不斷提高打擊技術(shù)犯罪的能力。”

       如何讓人工智能更可信可靠，嘉賓討論熱烈。卡巴斯基首席技術(shù)官安通·伊萬諾夫說，對人工智能的變革性潛力，我們的認(rèn)識才剛剛開始，“雖然我們不能阻止惡意行為者使用這些技術(shù)，但我們可以嘗試預(yù)見潛在問題，卡巴斯基已起草了一份針對仿生設(shè)備的安全政策，目的就是減輕在辦公室使用仿生設(shè)備可能造成的網(wǎng)絡(luò)安全風(fēng)險，人工智能也是如此。”

       推動人工智能賦能美好生活

       從技術(shù)上說，人工智能分為運(yùn)算智能、感知智能、認(rèn)知智能三個階段——運(yùn)算智能讓機(jī)器能存會算；感知智能讓機(jī)器像人一樣能聽會說、能看會認(rèn)、能跑會跳；認(rèn)知智能讓機(jī)器能理解、會思考。

       世界工程組織聯(lián)合會前任主席、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克認(rèn)為，我們現(xiàn)在面臨的數(shù)字倫理問題，并不是人工智能過于強(qiáng)大而產(chǎn)生的，恰恰是因?yàn)槿斯ぶ悄懿粔驈?qiáng)大、不夠完善才會產(chǎn)生。

       “技術(shù)和法規(guī)要相輔相成、互相配合。光有法律法規(guī)還不夠，更多的數(shù)字倫理問題要靠技術(shù)的發(fā)展和完善去解決。”龔克說。

       對此，阿里巴巴安全部智能算法負(fù)責(zé)人、阿里巴巴集團(tuán)科技倫理治理委員會執(zhí)行主席薛暉也有一致的看法。薛暉說：“數(shù)字倫理治理是一門跨學(xué)科的智力密集和需要多方協(xié)同的復(fù)雜問題。以深度學(xué)習(xí)為代表的人工智能技術(shù)當(dāng)前依然存在瓶頸和局限，很難想象憑一家企業(yè)、一個機(jī)構(gòu)或一所高校能獨(dú)立完成，因此探索更強(qiáng)大、更通用的人工智能，我們要花上一代人甚至幾代人的努力。”

       朱世強(qiáng)認(rèn)為，雖然人工智能已在圍棋、蛋白質(zhì)測序等領(lǐng)域遠(yuǎn)高于人的個體能力，但在綜合智能上仍處在初級發(fā)展階段、是一個弱人工智能，“如果技術(shù)的進(jìn)步和其成熟后的大量應(yīng)用對現(xiàn)有社會治理、生產(chǎn)關(guān)系構(gòu)成挑戰(zhàn)的事實(shí)不能避免，那社會一定會需要一種技術(shù)變革，在變革后又調(diào)整到一種新的平衡狀態(tài)，進(jìn)入一個新的文明階段。”

       針對很多人關(guān)心的，人工智能會不會取代文學(xué)創(chuàng)作、相親、高考等，多位嘉賓都表示“不會”。他們說，未來比人更強(qiáng)大的不是人工智能，而是掌握了人工智能的新人類，我們要去做讓生活變得更美好的人工智能。