視頻|人工智能,如何更可信?

看看新聞Knews記者 金普慶 趙一凡 張英

2021-07-09 20:34:06

AI,可信嗎?

今天,國內首本《可信人工智能白皮書》正式發佈,對人工智能的安全提出5大標準,可靠可控、透明可釋、數據保護、明確責任和多元包容。


957win643aa342ad07607c26e95ac5f2bb747f1625834143956.jpg


 “我們先關注哪些標準,標準可以細化,比如,數據可信和安全,各個行業是不一樣的,行業標準也要跟上,這樣的標準才有生命力”,中國科學院院士、工信部新一代人工智能標準與應用重點實驗室主任委員何積豐告訴記者。

那麼,如今的人工智能是否真的可信呢?

在展會現場,一項能夠讓人在數字世界"隱身"的技術,引起了關注。


957win4e813bf49d59e72bada225e2a1c146851625834144383.jpg


通過這一技術,當有人面向一台攝像機鏡頭時,鏡頭背後的人工智能算法,就能迅速監測到有人員出現,對應的監控屏幕中,人員的四周,會出現藍色小框和英文標記;不過,當同樣一個人,穿上一件印有特殊花案的白色T恤後,藍色小框就消失了,這也意味着,對於人工智能算法而言,人實現了“隱身”。

技術專家告訴記者,人工智能算法的"看"和人眼有很大的不同,通過增加特定的圖案,能夠對人工智能產生誤導,甚至產生看不見的效果,這樣人或者物,對於人工智能就"隱身"了。利用這一原理,技術團隊還曾在實驗中,用一副帶有特殊圖案的眼鏡,解鎖了多部智能手機。

“加上圖案之後,對AI本身的算法,AI的模型產生誤導,讓算法模型,把它認成另外一個物體,或者説直接判斷不出來”,北京瑞萊智慧科技有限公司首席執行官田天告訴記者。

數字世界,"眼見不一定為實"。從技術角度出發,人工智能除了模型和算法的安全;另一類,則是數據安全,這在當前則面臨更大的挑戰。

在國家網絡與信息系統安全產品質檢中心的實驗室裏,研究員發現,一款購物資訊類APP正常下載、安裝之後,APP要求使用用户手機的相機、相冊、地理位置等權限。當檢測人員拒絕授權之後,APP直接退出。


957winb9ffc268734b10f263017261d54f098b1625834144385.jpg


閃退之後,APP處於無法使用的狀態,但是,它卻在後台偷偷採集用户的個人信息。

“利用大數據、人工智能去挖掘用户‘畫像’,為後續的廣告推送等提供便利條件” 國家網絡與信息系統安全產品質量監督檢驗中心、移動安全實驗室負責人張豔向記者介紹。

面對日益嚴峻的數字安全問題,隱私計算技術正發揮重要作用。以金融機構為例,面對公共數據開放等大量數據流通、使用等需求,通過將數據的所有權和使用權進行拆分,提升數據安全。

“隱私計算解決的就是跨機構 數據傳輸安全的問題。最明顯的效果,就是我可以合法、合規使用這些數據”,交通銀行金融科技創新研究院高級研究員陸文傑説。

再比如,針對網購中無處不在的電信詐騙,全球首個應用於反欺詐的AI交互式風控產品,也正式上線。它能利用人工智能技術,對網購環境中,屢見不鮮的虛假交易地址,或是給陌生人轉賬等欺詐行為,做出判斷和干預。


957wincbb20f020f8cce815cacd7093a12697c1625834144838.jpg


“第一個層面就是,我們通過AI的技術,識別到了這筆欺詐。我們通過交互式語音互動的形式給到了用户,以實時的安全的攔截反饋信息”,螞蟻集團安全科技品牌運營陳倩華介紹。

從1956年至今,人工智能經歷了兩代發展,前兩代人工智能雖解決了部分問題,但不安全、不可靠、不可信和不容易推廣應用,也成為了其明顯的短板。如今,以安全、可控為特徵的第三代人工智能,正在將知識、數據、算法和算力四個要素相結合,加快到來。


957win3e33c7fb00dccb3cf17f7ce953e966001625834144840.jpg


“人工智能不光要能力強,還要靠譜,還要可信。人工智能除了對風險的控制,它更關鍵的是要取得人類的信任”,螞蟻集團首席AI科學家漆遠表示。

(看看新聞Knews記者:金普慶 趙一凡 張英 編輯:夏定偉)

相關新聞

關鍵字:人工智能如何更可信