人工智能已成生活上經常會接觸到的科技應用,包括大家每日運用的智能手機裏面的「智能助手」,一句「喂!Siri」已能幫你搜尋各方資料,操作手機;又或是現時香港也有不少地方運用上的「無人駕駛車輛」,靠著AI的智能操作,可以識別路上的行人、障礙物等等。AI的高速發展,確實能為人類生活帶來不少好處。
不過,自AI出現,不少人都擔心其高智能的學習功能和速度會成為人類的隱憂。其實AI的隱憂而不只「隱」,現存已有不少例子都是由AI而來的犯罪案件,也有一些大家可能還被蒙在鼓裡禍害。
今次,dimzi整合近年常被運用AI的負面生活例子,希望大家能多加警惕。
人工智能日常生活例子誤區
#1 人臉、聲紋、指紋識別導致詐騙
這是基於人臉、聲音和指紋的特徵資訊進行身分識別的生物辨識技術。用攝影錄像機、手機擷取含有人臉、聲紋和指紋的影像或視訊串流,並自動在影像或聲音中偵測和追蹤人臉、聲紋,進而對偵測到的生物特徵進行辨識的一系列相關技術。
隨著人工智能迅速發展,愈來愈多與之相關的犯罪案件產生,當中以「AI換臉」和「擬聲技術」偽造出親朋好友以假亂真的樣貌和聲音,最為常見。而常見的原因,是因為我們每天都會大量使用通訊軟件、社交平台,不論是Whatsapp、Facebook、Instagram等等,每天都會拍下照片,公開樣貌,以語音跟親朋好友溝通……這都是AI罪案的蘊藏。
▲連Elon Musk都曾經被人惡意Deepfake。
根據警務處數字,去年首11個月共接獲31,843宗涉及科技罪案數字,損失達50.9億元,按年分別上升53%及72%;至於涉及網上投資騙案則有4,703宗,涉額30億元,按年大增1.8倍及2.5倍。
而今年初,警方接獲首宗利用深偽手法(Deepfake)以進行多人視像會議的詐騙案件。騙徒鎖定一間跨國公司,偽冒成英國總公司的首席財務官,並利用偽冒短訊向香港下屬聲稱要進行秘密交易,需出席網上多人視像會議。視像會議上,有該名偽英國首席財務官及其他看似是英國財務職員,過程中指示香港職員進行轉帳交易,前後轉帳15次,最終受害公司合共被騙2億元。
中國網路空間安全協會人工智慧安全治理專委會專家薛智慧介紹,「AI換臉」包含三大核心:包括先以演算法辨別影片中的人臉,並提取眼睛、鼻子、嘴巴等關鍵五官特徵;繼而運用這些特徵造行人臉配對、置換和融合;最後加上經過合成,近似該人物的聲音。
專家提醒,以下幾招可以提高AI防騙機率:
1/ 在視訊對話時,向對方要求「按鼻子」或「捏臉」,真人的五官被按壓後會變形,但AI生成的則不會;
2/ 可要求對方在臉部前面揮手,經AI換臉的面部數據可因而受到干擾,而出現畫面晃動等異常情況;
3/ 不接聽來歷不明的電話或視像來電,因騙徒有機會從中錄影接聽者的樣貌及聲音,以生成AI模樣和聲音;
4/ 不點擊或下載來歷不明的連結,有可能暗藏惡意程式自動安裝在你的手機裡;
5/ 保護好個人資料,尤其是人臉、聲紋、指紋等關鍵特徵;
6/ 如有可疑,即找尋真人以作查證 (Fact Check)。
人工智能日常生活例子誤區
#2 演算法導致「信息繭房」
演算法相信大家都不陌生,各媒體平台依賴由AI提供支持的智能推薦系統。系統會通過各種在線活動收集有關用戶的興趣和行為數據,繼而交給AI作深度學習,並分析數據來預測用戶偏好。這就是大家平時玩社交平台時,可以不經搜尋,便能看到自己感興趣的內容的原因,也解釋了為甚麼有時候你看到的內容跟其他人都不一樣。
2006年,哈佛大學法學院教授、奧巴馬總統的法律顧問凱斯·桑斯坦在他的《信息烏托邦——眾人如何生產知識》中提出了「信息繭房」(Information Cocoons)的概念。即在訊息傳播中,公眾接觸的內容有限,他們會選擇令自己愉悅的訊息,久而久之,就會像蠶繭一般的將自己桎梏於「繭房」中,作繭自縛。
當時,大數據演算法尚未興起,桑斯坦將造成資訊繭房的主要原因歸結為個人主動選擇,如今的演算法卻正在加劇這現象。透過複雜演算法,平台可根據用戶過往的瀏覽紀錄,不斷「猜你喜歡」,並推送相關內容。
站在用戶立場,想其所想、投其所好的方式可以讓用戶需求更被滿足,但久而久之,自己的認知便會愈來愈固化。「信息繭房」會讓個人認知愈來愈變得狹窄,每個人眼前所見的皆為自己想看的,所聽皆為自己想聽的,彷彿在無形中構建了一口坐以觀天的井。對成年人來說,這可能導致思維僵化和極端偏見;對心智尚未成熟的青少年來說,甚至可能影響心理認知的健全發展。