螞蟻集團百萬獎金懸賞“AI打假”專家
【摘要】外灘大會舉辦全球Deepfake攻防挑戰賽
近日，外灘大會·全球Deepfake攻防挑戰賽正式啟動報名。該賽事提供百萬級的數據集，針對“AI換臉”的欺詐風險進行攻防實戰演練，并設立100萬元人民幣的獎金池，鼓勵推動AI向善的技術人才。
Deepfake（深度偽造技術）即利用深度學習算法，實現音視頻內容的模擬和偽造，可用于電影制作、視頻編輯、虛擬現實等領域。近年來，在境外已發生多起惡意利用該技術進行AI換臉欺詐，造成經濟財產或名譽受損的事件，而且有向境內蔓延的趨勢。
△ 識別圖中二維碼即可報名參賽
Deepfake騙走2億港幣
今年初，騙子利用“AI換臉”和AI音頻合成的視頻內容，冒充一家英國跨國公司的CFO，從該公司駐香港分公司，騙走了2億港幣。
回顧香港警方透露的案件細節，香港分公司的員工先收到了一封英國總部CFO的郵件，稱總部正在計劃一個“秘密交易”，需要將公司資金轉到幾個香港本地的賬戶中待用。
這名員工一開始就認為這是釣魚詐騙郵件，但是騙子不斷給他發郵件討論這個秘密交易的必要性。最終，騙子給他撥打了一個視頻電話。
在視頻電話中，這位員工看到了公司的CFO和其他他認識的“幾位同事”在一起開會。騙子冒充的CFO還在視頻會議中要求這位員工進行自我介紹。
然后視頻會議中的“CFO”要求他趕快進行轉賬，之后就突然中斷了視頻。信以為真的員工就分15次向5個香港本地的賬戶陸續匯款了2億港幣的資金。
轉賬完成的第5天，回過味來的該名員工向英國公司求證，最終發現被騙了。
香港警方在通報中稱，以往“AI換臉”的詐騙一般都是一對一的。本起案件中的欺詐團隊在Deepfake技術的支持下，通過讓AI學習該公司發布在油管上的視頻以及其他公開素材，不僅成功偽造了CFO的形象和聲音，甚至還偽造出整個“高管團隊”，讓受害人防不勝防。
只有AI才能戰勝Deepfake
網絡上的技術專家曾經分享過一些抵御Deepfake的“妙招”，譬如讓對方眨眼或是轉頭之類的。然而由于AI自身的學習能力，Deepfake技術在不斷進步。這些妙招不僅紛紛失去了作用，還容易讓人降低警惕。
鑒于人類對Deepfake的無能為力，用AI來制衡Deepfake就被提上了日程。OpenAI就曾推出過一款名為“AI生成內容識別器”的工具。不過由于該工具對AI生成內容的檢出成功率僅為26%，OpenAI方面在去年7月底將該工具下線。
雖然OpenAI的anti-deepfake嘗試失敗了，但是用AI來打擊Deepfake的技術路線無疑是正確的。面對全球范圍的技術挑戰，培養具有實戰能力的anti-deepfake人才刻不容緩，于是全球Deepfake攻防挑戰賽應運而生。
本次大賽由螞蟻集團主辦、螞蟻數科承辦，ATEC前沿科技探索社區、螞蟻安全實驗室、中國科學技術大學網絡空間安全學院作為聯合協辦方，在線身份認證服務商ZOLOZ提供技術支持，阿里云提供算力支持。該賽事在全球知名的數據科學競賽平臺Kaggle進行，各賽道決賽前三名的賽隊將受邀前往位于上海的INCLUSION·外灘大會現場領獎，并參與表演賽。
據主辦方，大賽分設圖片賽道和音視頻賽道，數據集由公開數據和偽造數據組成。其中，偽造圖片數據涵蓋了現實場景中超50種生成方式，偽造音視頻中則納入了超100種組合攻擊方式，訓練數據集總量超過100萬。選手需要訓練AI模型，給出數據偽造概率值，準確率TOP20入圍決賽。決賽將邀請專家根據結果準確率、結合方案創新性、泛化性、實用性、可解釋性等多維度評選出TOP戰隊。賽事報名時間將于7月31日截止，8月31日完成比賽。（點擊文末“閱讀原文”查看賽事詳情。）
財經光年將全程報道本次全球Deepfake攻防挑戰賽，同時也期待能有中國選手在本屆大賽上斬獲佳績！
來源: 財經光年公眾號
財經光年
