根據《文匯報》報道，一家總部位於英國的跨國公司香港分公司近日遭遇利用人工智慧的「深度造假」詐騙案，被騙金額高達2億港元。
| 香港警方就這場騙局召開記者會。小照片中，公司管理階層的臉孔已互換（圖片來源：文報）。 |
這被認為是香港首例人工智慧「換臉」騙局，也是有史以來最具破壞性的「換臉」騙局。
根據報紙報道，該詐騙集團先前曾透過網路收集英國企業高層的臉部和聲音數據，利用深度身分盜用科技（「Deepfake」）透過人臉和聲音替換騙子的臉孔和聲音。各種商業領袖。
然後，他們預先製作了一段有腳本的“高管演講”視頻，然後以牽頭公司CFO（首席財務官）的名義發送了一條詐騙“誘餌”信息，此人是香港分行員工所熟悉的人。內容邀請香港分行員工參加網路視訊會議，聽取「秘密交易」轉帳說明。
由於出席會議的所有公司高層的面孔和聲音都是集體交換的，而且都是“熟悉的面孔”，香港分公司的員工毫無戒心地遵循“最高指示”，總共轉賬了2億港元。短短一週內就可到香港的5個銀行帳戶。受害者直到幾天前與該公司交談後才知道自己被騙了。
利用人工智慧 (AI) 進行詐欺的現象越來越普遍（照片：早報）。
香港警方透露，詐騙集團在上演利用人工智慧的換臉騙局之前，可能透過「釣魚」軟體或網路其他管道尋找公司內部人員結構、營運模式等訊息，進而設計騙局。讓受害者相信這是正常的金融交易。經過深入偵查，警方發現，這起基於人工智慧的「換臉」騙局有以下一些特點：
1.為了讓受害者更值得信任，詐騙者使用「Deepfake」技術來偽造許多人和人物的臉；
2.騙子交換了英國公司高層的面孔和聲音後，他們的視訊演講實際上是根據預先製作的剪輯，按照預先寫好的演講腳本拍攝的；網路會議不可能與香港民眾進行網路對話，所以他們不給香港灘頭堡的與會者提問的機會；
3.為了避免洩漏錯誤，視訊會議僅幾分鐘就結束了；
4.公司所謂「高階領導」現身並直接批示，就是為了給香港分公司的員工設定「最高指示」的場景，讓他們相信事情確實如此。公司的決定。
香港網路安全專家認為，隨著科學技術的快速發展，每個人都應該意識到並採取措施驗證從任何社交平台或通訊軟體收到的資訊？請記住，在AI“Deepfake”技術下，“耳朵看到的不一定是真的，即使有圖像也不一定是真的”。
事實上，這樣的案例已不再是個案。香港警方最新數據顯示，2023年1月至11月，香港科技罪行增至近3.2萬宗，佔案件總數40%，較去年同期增加53%。去年同期相應金額突破50億港元，較去年同期成長72%。其中，電子郵件詐騙案金額最高，高達7,820萬港幣。網路投資詐騙大幅增加，共4,703起案件，較去年同期增加1.8倍，佔科技犯罪案件總數的15%，涉案金額達30億港元。
香港網路安全及科技犯罪處代理網路安全總監Tran Thuan Thanh表示，利用人工智慧「Deepfake」的網路釣魚技術與傳統網路釣魚技術完全相似，但他們使用了許多技術。各種伎倆取悅受害者，使其實施詐騙，最終目的是讓受害者將錢轉入詐騙者指定的帳戶。
1月24日，香港特區政府就行政長官李嘉修在招商影片中造假行為發出警告聲明（圖片來源：雅虎）。
此外，值得注意的是，詐騙者利用「Deepfake」技術製造假新聞和假影片來宣傳投資活動，引誘人們參與虛假投資計畫。近年來，為了增加虛假投資項目的可信度，詐騙者利用名人的知名度和影響力製造虛假促銷活動。許多政界和商界著名人物都曾被使用「Deepfake」技術偽造，包括香港特首李家超、香港商人李嘉誠（Li Ka-shing）和特斯拉執行長馬斯克（Elon Musk）。 。
2024年1月24日，香港特區政府發表聲明，指有關行政長官招商引資的影片均屬虛假，李嘉修先生從未就此問題發表聲明或同時提出呼籲。請廣大民眾提高警惕，切勿輕信，同時強烈譴責不法份子的詐騙行為。 Ly Gia Sieu先生的案件已移交警方調查。
目前，警方尚未透露文中提到的案件中英國主要公司的名稱以及被騙2億港元的公司在香港的分公司的資訊。
根據 UDN
“鐵桿社交媒體狂熱者。容易出現冷漠。創造者。思想家。虔誠的網絡大師。流行文化愛好者。問題解決者。”
