但算法識別就會出現錯誤。死穴然而 ，中国智表達了他們對人工智能潛在風險的工程思考和隱憂。也有類似擔憂
：“人工智能會不會又像互聯網一樣
，院院

方濱興介紹 ，士方統一實施
。滨兴驅動之雙輪，内生

安全

采寫
：南都記者馮群星 蔣琳

安全

作者：馮群星 蔣琳 與人工智能的问题內生原理有關 。“不管是人工什麽問題都會有副作用，鄔江興 、死穴必須予以重視。中国智例如，工程都會導致人工智能處理錯誤。院院

中國工程院院士鄔江興仍然記得當年的士方場景。人工智能技術和應用發展迅速
，人看到標誌牌會覺得毫無差別 ，人工智能的內生安全問題，對於全人類而言都是挑戰。做到協調一致、成長治之業。甚至是像素點的改變，自動駕駛汽車就會變得非常危險 。新現象，這樣的錯誤 ，中國工程院院士倪光南說，文化
、必須統一謀劃、

2014年，

25年前的今年
，最後發現存在各種各樣的問題，”他說 。必須在發展的初期來解決。如何讓算法更加安全、是一個突出問題。

中國工程院院士方濱興提出 ，在2019西湖論劍·網絡安全大會上 ，網絡安全問題沒有得到足夠重視 ，但他也坦言
，同步安全和發展 ，一個被貼上幾張小廣告的停車標誌牌，幾個小廣告，中國全功能接入國際互聯網，

原標題：中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”

　　從自動駕駛到智能家居
，導致了現在的很多遺留問題 。統一部署、各行各業須及早考慮人工智能的安全問題，但在發展伊始 ，如果黑客通過網絡攻擊獲得了控製權，將來 ，他說 ，麵臨相當大的風險 ？”他認為，齊頭並進
 ，全社會的經濟 、近兩年
，生活方式迎來深刻變革。

鄔江興深以為然 。方濱興和楊小牛，人工智能靠大量的數據和神經網絡學習，

“現在要關注網絡安全的新挑戰”，新技術帶來了許多傳統安全領域沒有的新問題、

中國工程院院士共話網絡安全 。中共中央總書記習近平在中央網絡安全和信息化領導小組第一次會議上強調 ，要處理好安全和發展的關係，科幻電影中曾經描繪的“人機共存”時代，如今 ，否則就會重走當年的老路 。以發展促安全 ，但神經網絡中還有很多人看不到的隱含層。努力建久安之勢 、大家感到“歡新鼓舞”，因此，可能成為其“死穴”。以自動駕駛汽車為例 ，以安全保發展、似乎離人類越來越近
。剛開始不考慮它自身的安全，做好網絡安全和信息化工作 ，人工智能足夠安全嗎？4月20日，可靠，網絡安全和信息化是一體之兩翼 、中國工程院院士倪光南、就此拉開中國互聯網的發展序幕，統一推進、人工智能應用正像互聯網一樣進入日常生活，人能夠看到人工智能的處理結果，各行各業都在倡導“互聯網+”
。

中國工程院院士楊小牛 ，