使用 Deepfake 技術實施詐欺的插圖 – 照片：CNN/GETTY IAMGES。

根據香港警方2月2日報道，這名未透露姓名的財務員工被騙與據信是其所在公司同事的人進行視訊通話。 然而，它們只是 Deepfake 技術的產物。

「他在視訊通話中看到的所有人都是假的，」一名香港警方代表表示。

當受害者收到一封自稱來自他所在集團的「英國財務長」的電子郵件，要求保密交易時，他產生了懷疑。 儘管他一開始對此持懷疑態度，但在加入視訊通話並看到同事們熟悉的面孔後，他開始相信了。 由此，他總共轉帳了2億港元（折合2,560萬美元）。

當該員工聯繫該集團總部時，這項欺騙行為才被發現。 這只是最近發生的眾多騙局之一，香港警方逮捕了六名與類似騙局有關的嫌疑犯。

2023年7月至9月期間，八張香港身分證被盜，並被用來提出90份貸款申請和54個銀行帳戶註冊。 警方已記錄了至少 20 起利用深度造假技術透過身分證上的臉部影像欺騙臉部辨識系統的案例。

這些案例引發了人們對深度造假技術的複雜性及其可能導致的有害目的的日益擔憂。 2024年1月下旬，人工智慧（AI）生成的美國流行歌手泰勒絲（Taylor Swift）的色情圖片在社群媒體上流傳，凸顯了人工智慧技術的潛在危險。

近日，一張利用Deepfake技術移植音樂明星泰勒絲臉部的Deepfake色情圖片迅速傳播，震驚了許多人。 根據《紐約時報》報道，1月26日，這張圖片在社交媒體上被廣泛分享，儘管許多帳戶被鎖定，但此前它已吸引了高達4700萬次瀏覽。

這些假圖片主要出現在Telegram、X（以前的Twitter）等平台上，然後傳播到Instagram和Reddit。 泰勒絲粉絲的反應令人憤怒，引發了許多關於社群媒體內容控制和延遲封鎖的質疑。

為了回應粉絲的憤怒，該平台的一名代表根據其政策發布了內容。

《紐約時報》的文章也討論了更廣泛的深度造假技術問題及其對受影響者的聲譽和隱私的負面影響。 美國許多州正在對未經許可創建和共享深度偽造品實施限制。

在1月26日的會議上，白宮表達了擔憂，並承諾採取措施防範人工智慧生成圖像的風險，並呼籲國會採取戰略立法行動，打擊這些不良行為。 強調社群網站的管理也必須加強規則，防止不良訊息，保護真實的人。