央廣網(wǎng)上海9月18日消息（記者唐奇云）“2018世界人工智能大會·人工智能安全高端對話”在上海國際會議中心召開。作為世界人工智能大會的分論壇之一，對話由上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院和中國信息通信研究院安全研究所承辦，騰訊公司安全管理部、上海社會科學院互聯(lián)網(wǎng)研究中心和《探索與爭鳴》雜志社共同協(xié)辦。

高端對話專家組發(fā)起《人工智能安全發(fā)展上海倡議》（央廣網(wǎng)記者 唐奇云 攝）

　　本次對話匯聚了全球人工智能安全領(lǐng)域的頂級專家、學者和產(chǎn)業(yè)精英，圍繞“人工智能安全倫理規(guī)范”“人工智能重塑國家安全”“人工智能賦能網(wǎng)絡(luò)安全”三大主題，把脈人工智能安全發(fā)展未來。與此同時，作為全世界共同面臨的重要議題，高端對話專家組發(fā)起了《人工智能安全發(fā)展上海倡議》。上海社會科學院互聯(lián)網(wǎng)研究中心執(zhí)行主任惠志斌介紹了倡議的主要內(nèi)容：人工智能安全發(fā)展要遵循“面向未來、以人為本、責任明晰、隱私保護、算法公正、透明監(jiān)管、和平利用、開放合作”的八大理念。

　　安全倫理規(guī)范 最大限度消除不利影響

　　在人工智能的研發(fā)和應(yīng)用過程中，都需要優(yōu)先考慮倫理規(guī)范的問題。峰橋集團總裁陳實在發(fā)言中提到，未來如果人工智能擁有和人類相似的感知，是否也應(yīng)當和人類一樣擁有一定的權(quán)利。他認為各國都應(yīng)重視對人工智能安全倫理規(guī)范的思考，將技術(shù)發(fā)展與社會倫理置于相同的環(huán)境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規(guī)范內(nèi)健康發(fā)展。

　　歐亞集團科技戰(zhàn)略主任保羅？特里奧洛表示，中國在建立人工智能倫理規(guī)范方面發(fā)揮了積極的作用，并重點比較了中國、美國和歐盟在人工智能監(jiān)管方面的差異，提出在監(jiān)管機制層面各國政府可達成共同點的建議。

　　華東政法大學人工智能與大數(shù)據(jù)指數(shù)研究院院長高奇琦、UCloud聯(lián)合創(chuàng)始人兼CEO季昕華、碁震KEEN公司創(chuàng)始人兼CEO王琦在圓桌環(huán)節(jié)，就隱私保護、就業(yè)替代、機器權(quán)力等議題上各抒己見，分別表達了各自在人工智能領(lǐng)域方面的思考。

　　風險與治理 人工智能重塑國家安全

　　人工智能越來越多地被應(yīng)用到戰(zhàn)略決策輔助系統(tǒng)和智能軍事系統(tǒng)，基于人工智能的技術(shù)代差將對國家安全力量對比產(chǎn)生不可逆的影響，迫切需要審視人工智能對維護國家安全提出的新要求。

　　中國科學院復(fù)雜系統(tǒng)管理與控制國家重點實驗室主任王飛躍指出，網(wǎng)絡(luò)安全的傳統(tǒng)模式將會向虛實糾纏引導(dǎo)的平行范式轉(zhuǎn)化，一個網(wǎng)絡(luò)安全系統(tǒng)的實力，很大程度上可能并不取決于其物理本身，而是取決于與其伴生的軟件定義的人工系統(tǒng)映像。

　　聯(lián)合國人工智能和機器人中心主任伊萊克利？伯利茲認為，人工智能為解決網(wǎng)絡(luò)安全事件、系統(tǒng)漏洞、信息保護等提供了更加高效、智慧的解決方案，但同時也容易被非法利用，對社會造成危害。因此，應(yīng)對現(xiàn)階段人工智能的發(fā)展充分評估，并建立起各方參與的協(xié)同合作模式。

　　國防科技大學前沿交叉學科學院國家安全與軍事戰(zhàn)略研究所所長朱啟超、復(fù)旦大學哲學學院教授徐英瑾、斗象科技創(chuàng)始人袁勁松對國防軍事、網(wǎng)絡(luò)攻防、自動化武器等話題進行了互動交流。

2018世界人工智能大會·人工智能安全高端對話（央廣網(wǎng)發(fā) 世界人工智能組委會 供圖）

　　AI+安全 人工智能賦能網(wǎng)絡(luò)安全

　　人工智能技術(shù)正在被用于智能網(wǎng)絡(luò)武器威脅網(wǎng)絡(luò)安全的同時，它也在網(wǎng)絡(luò)安全漏洞檢測、惡意軟件識別、不良信息智能審核、防范網(wǎng)絡(luò)犯罪等方面發(fā)揮著重要作用。

　　中國科學院院士何積豐指出，在功能安全方面，軟件測試驗證正變得更加智能化；在信息安全方面，主動防御體系同樣地愈發(fā)智能化。隨著人工智能的發(fā)展，工控功能安全和信息安全將會更加緊密融合。

　　中國移動研究院首席科學家馮俊蘭認為，5G網(wǎng)絡(luò)服務(wù)眾多垂直工業(yè)，數(shù)據(jù)挖掘技術(shù)更易保護用戶隱私信息，并提出了“通信改變社會”的愿景，強調(diào)電信運營商應(yīng)當加強與垂直行業(yè)的互信和協(xié)作。

　　眼神科技CEO周軍、杭州安恒信息技術(shù)股份有限公司首席科學家劉博、騰訊科恩實驗室總監(jiān)呂一平等與會嘉賓在圓桌討論中為推動人工智能安全技術(shù)發(fā)展，防范網(wǎng)絡(luò)空間安全風險積極建言。

中國信息通信研究院安全研究所發(fā)布《人工智能安全白皮書》（央廣網(wǎng)發(fā) 世界人工智能組委會 供圖）

　　三大重磅報告 描繪解析人工智能安全

　　值得注意的是，本次對話重磅推出了三份人工智能安全專題報告。牛金行研究員代表中國信息通信研究院安全研究所發(fā)布了《人工智能安全白皮書》。白皮書從人工智能的安全內(nèi)涵出發(fā)，首次歸納了人工智能安全體系框架，在系統(tǒng)梳理人工智能安全風險和安全應(yīng)用情況的基礎(chǔ)上，進一步總結(jié)了國內(nèi)外人工智能安全的管理現(xiàn)狀，提出了應(yīng)對人工智能安全風險應(yīng)對和未來發(fā)展的建議。

　　上海國際問題研究院全球治理研究所副研究員魯傳穎代表上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院和上海社科院互聯(lián)網(wǎng)研究中心的聯(lián)合課題組，發(fā)布了《人工智能時代的國家安全：風險與治理》報告。報告根據(jù)人工智能技術(shù)和應(yīng)用的發(fā)展趨勢，分析了各國在不同領(lǐng)域所面對的安全風險，提出應(yīng)從提升風險意識、完善治理體系、加強監(jiān)管能力和探求國際合作等來構(gòu)建風險分析和應(yīng)對框架，提升國家安全的韌性。

　　騰訊公司生態(tài)安全研究中心高級研究員韓李云博士代表騰訊公司安全管理部和上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院發(fā)布了《人工智能賦能網(wǎng)絡(luò)空間安全：模式與實踐》報告。該報告聚焦網(wǎng)絡(luò)安全，分析了網(wǎng)絡(luò)空間安全的演進和風險趨勢，結(jié)合騰訊AI安全應(yīng)用全布局和國內(nèi)外企業(yè)的30多個最佳實踐，詳細闡釋人工智能賦能網(wǎng)絡(luò)空間安全（AI+安全）的最新進展。最后韓李云指出，人工智能安全將成為人工智能產(chǎn)業(yè)發(fā)展最大藍海，人工智能技術(shù)路線豐富將改善安全困境，網(wǎng)絡(luò)空間安全將驅(qū)動人工智能國際合作。