警方拆解骗徒利用深伪技术伪冒知名人士的行骗手法
人工智能“深度伪造”技术被用来行骗，诈骗集团向一间跨国公司的香港分公司下手食“大茶饭”。诈骗集团事先在网上搜集该公司英国总部一众高层的面部和声音数据，透过深伪技术将骗徒换上多名公司高层的面貌和声音，再按剧本预制“高层发言”短片，继而以总部首席财务官名义发出钓鱼信息，邀请香港公司职员参加线上“视像会议”，听取“机密交易”汇款指令。由于与会高层都被集体“变脸”，“熟口熟面”加上声音都似，令香港职员不虞有诈，遂按“最高指示”分多次将合共两亿港元转账至5个本地银行户口，直至日前向总部查询始知受骗。这是本港首宗AI“多人变脸”骗案例，也是迄今损失最大的“变脸”案例。
据香港警方案情透露，被骗的是一间总部设在英国的跨国公司，在香港设有分公司。警方相信，骗徒在设置AI“变脸”骗局前，可能用“钓鱼”软件或其他网上途径，掌握到公司内部人员架构及运作模式等资料，然后设计好行骗剧本，令受害人以为是日常商业操作。
骗徒疑摸透内部资料 准备“面具”剧本
骗徒在搜集了该公司英国高层在YouTube上公开的影像后，再利用人工智能“深度伪造”技术制造，给骗徒换上英国高层的面部和声音。据悉，骗徒为防露出破绽，平日与香港分公司有密切工作关系的总部首席财务官面部和声线“深伪”得仿真度颇高。今年1月中，涉案骗徒以“英国总部首席财务官”的名义，向香港分公司的财务职员发信息，声称公司要进行一项“机密交易”，邀请香港职员登入网上多人视像会议“开会”。视像会议的画面上有4名至6名英国总部高层人员，包括众人熟悉的英国总部首席财务官，其他高层也“熟口熟面”。
会议期间，该“英国总部首席财务官”要求香港分公司职员简短自我介绍，接着其他高层简短“讨论”公司的交易决策，接着“首席财务官”跟进香港分公司汇款事宜。香港职员见众高层与真人“一模一样”，故不虞有诈。其后，该“总部首席财务官”透过即时通讯软件向香港分公司财务职员下达转款指示，一星期内分15次，将合共两亿港元存入5个本地银行户口，作为“机密交易”资金。
“最高指示”掩饰单向播片 避免互动穿帮
今年1月底，香港公司财务职员向公司总部查询时始揭发被骗。香港警方经深入调查，发现这次AI“变脸”有几个特点：
一、为令受害人更加相信，骗徒用“深伪技术”伪冒多人多角色脸谱；
二、骗徒用真人换上英国高层的面部和声音后，实际上他们在视像上的发言，是根据按事前写好的讲稿拍摄的预制片段，故会议上不能与香港职员有对话互动，即不给香港职员提问机会；
三、为免露出破绽，“视像会议”在短短数分钟内结束；
四、所谓总部高层现身直接下指令，只是要给香港公司职员营造一个“最高指示”的场景，令职员深信是真实决策。
网络安全及科技罪案调查科网络安全组署理高级警司陈纯青表示，利用人工智能“深度伪造”的欺诈手法，与传统诈骗手法其实如出一辙，只是利用不同手段以取得受害人信任进行诈骗，最终目的主要是诱骗受害人将款项转账到骗徒指定户口。
他强调，虽然科技发展一日千里，只要市民时刻保持警惕，养成一个高防骗意识的习惯，对任何社交平台或通讯软件所收到信息，也要有一个查证真伪的意识及必须要有行动，谨记在人工智能“深伪技术”下，网上已经“眼见不一定为实，有图有片亦不一定是真相”。
模拟“深伪”会议：如何发现破绽
特首李家超及Tesla行政总裁马斯克亦遭“盗脸”。
为让市民进一步了解“深度伪造”多人视像会议骗局，网络安全及科技罪案调查科网络安全组高级督察陈智颖昨日在记者会上模拟骗徒“深伪”多人视像会议手法进行解说。
首先，荧光幕上分别播出由署理高级警司陈纯青及自己“做主角”的一段录播影片，影片内容是两人以英文说出提醒市民提防骗案等相关呼吁。
荧光幕接着再播出一段3人视像会议的影片，影片显示与会者分别为陈纯青、陈智颖及一名警员，但陈纯青及陈智颖的影像与较早前播出的属同一条影片，在经过人工智能“深度伪造”配上伪冒声音后再用于视像会议上。
两人所说内容即变成要求与会者提供个人敏感资料等，骤眼看去不易察觉有异。陈智颖指出，人工智能“深伪技术”并非毫无破绽，并提供了防骗贴士（见表）。
预防“深度伪造”骗局贴士
1. 要求对方在镜头前做指定动作，留意对方在荧光幕上影像有否变异，以测试是否利用人工智能技术假冒他人样貌；
2.当对电话或上的亲友有怀疑，尝试提问以测试对方身份真伪，例如问该名亲友背景等问题；
3.提高防范意识，切勿轻易提供人脸、指纹等生物辨识资料，以免骗徒利用犯案；
4.当亲友及公司职员在或录音中提出汇款要求时，要提高警惕，必须致电或从其他渠道一再核实；
5.避免接听陌生视像通话来电，以防骗案或骗徒盗取肖像利用来犯案；
6.如有怀疑，可在“防骗视伏器”输入电话号码、社交媒体帐号、收款账号等评估风险，或致电18222查询。
跨国公司被骗两亿港元经过
1. 骗徒搜集了该跨国公司英国高层在YouTube上公开的影像后，再利用人工智能“深度伪造”技术制造，给骗徒换上英国高层的面部和声音
2. 骗徒以“英国总部首席财务官”的名义，向香港分公司的财务职员发信息，声称公司要进行一项“机密交易”，邀请香港职员登入网上多人视像会议“开会”
3. 会议期间，各“高层”简短“讨论”公司的交易决策，着“首席财务官”跟进香港分公司汇款事宜
4. 该“总部首席财务官”透过即时通讯软件向香港分公司财务职员下达转款指示，一星期内分15次，将合共两亿港元存入5个本地银行户口，作为“机密交易”资金
5. 香港分公司日前向总部查询方知受骗
“深伪技术”如何以假乱真
1）高级督察陈智颖在原来影片主要呼吁市民提防骗案。
2）经“深伪技术”“改造”后，高级督察陈智颖在视像会议上说话内容变成要求与会者提供个人资料。
专家之言：难用眼耳察觉瑕疵 “AI侦测AI”辨七成真假
“深伪技术”急速发展对维护网络安全带来挑战。近年，具备高速运算能力的图像处理晶片的普及和人工智能演算法不断改进，一般家用电脑甚至手机也可凭一张相片或一段声带制作出几可乱真的“深伪”或音频。“科技罪案警政顾问小组”成员、香港专业进修学校协理副校长林森指出，“深伪”内容带来最大的挑战是难以利用肉眼和耳朵识别。虽然人工智能生成的影像或许仍有瑕疵，例如光线和阴影可能不太自然，影像边缘模糊，但当大部分公众以细小的手机荧幕观看影像时，这些细节便不易被察觉。
技术门槛不断降低 骗徒涌现
林森表示，随着人工智能生成引擎的种类愈来愈多，“深伪技术”持续进化，辨别真伪的难度也会越来越大，加上该技术门槛不断降低，将诱使更多不法分子利用“深伪技术”进行诈骗、发布失实资讯、制造社会舆论等。事实上，外国也陆续出现利用“深伪”声频和进行诈骗的个案。
面对“深伪技术”的威胁，业界已积极着手应对，其中一种策略是研究以人工智能侦测“深伪”，即“以AI侦测AI”，通过分析不同媒体信号及相关杂讯的特点和分布来判断真假，在特定测试场景已可达至七成或更高准确率，具体例子如Deepware及Validsoft等服务。内地如百度旗下的“度小满”也提供防“深伪”的技术和方案。另一策略是用特定技术在发放的媒体中加入可供验证的元素，使当该媒体被用于“深伪”时可轻易识别，具体例子如数码水印技术和区块链技术。另外也有业界或不同持份者组成联盟如 DeepTrust Alliance 来共同应对“深伪”。
欧赶紧立法 港宜速引新技术防骗
除了技术层面外，在法律及监管层面来应对以“深伪技术”为代表的人工智能风险的工作亦已展开。欧洲议会、欧洲理事会和欧盟委员会早前已就《人工智能法案》达成协议，并即将成为全球首部人工智能监管法规，其中规定必须清楚标签人工智能生成的内容，供应商亦须把有关内容标记为机器可阅读的格式以便被自动侦测。内地去年下半年也推出了《生成式人工智能服务管理暂行办法》，规范内地生成式人工智能产业发展方向。
林森认为，香港应尽快制定法例及守则规范企业与研究人员发展和应用人工智能，包括提升使用生成式内容的透明度，以防止有关技术被用作不法活动。在法例尚未制订之前，本地跟内地应更积极展开“官产学研用”（政府、生产、学习、科研、应用）的合作，善用内地技术及人才优势，加快先进技术的引入和落地，为应对未来人工智能等新技术带来的挑战做好准备，以及进一步利用人工智能打击各类新型罪案。
遭“盗脸制片”坑人 富商名人特首都有份
利用AI“深伪技术”行骗带来的威胁越来越近，香港警方留意到近期有骗徒利用“深伪技术”制作新闻报道假推介投资活动，引诱市民参与虚假投资计划。这些骗徒为增加虚假投资计划的可信性，利用名人的知名度及影响力造假推介，不少政商名人被骗术用“深伪技术”伪冒，包括特区行政长官李家超、香港富商李嘉诚和Tesla行政总裁马斯克，就连电视台主播亦成“深伪”目标。
香港警务处网罪科于去年8月展开代号“解诈”行动，首次发现骗徒利用人工智能“深度伪造”换脸程式，将自己的容貌变成被盗身份证主人的容貌，在网上申请借贷，图瞒骗金融机构人脸辨识系统。在骗徒最少20次尝试中，只有一次成功骗取7万元，警方其后以涉嫌“串谋欺诈”罪名拘捕8人，包括集团主脑。
警要求下架16段“深伪”名人片
由去年11月至今，香港警方共发现16条“深伪”影片，经向相关平台举报后，所有片段已经下架。目前为止，警方并未收到市民直接因为相关片段而受骗的举报。
香港警方去年又收到两宗涉及香港元素的“变脸”骗案查询。2023年5月，一名日本男子在社交平台浏览到一名香港银行CEO的账号，发现内有关于在香港投资的新闻报道片段，殊不知是骗徒以“深伪技术”制造新闻女主播推介投资项目及专访CEO的报道。该日汉信以为真，最终被骗购买1,570港元的点数卡，惟其后致电到涉案银行寻找该名CEO时，银行指并没有此人。该日汉和银行都将事件通知日本警方，得知骗徒是盗用了另一间银行CEO的样貌。
2023年3月，一名25岁香港男子在交友平台玩裸聊，被诱骗下载不知名手机程式。骗徒透过程式的视像功能盗取港男的样貌及手机电话簿，再以“深伪技术”将其头像移花接木到色情影片，然后向事主勒索一万元。事主拒绝付款，但仅通知了警方，但没有正式报案。
港科技罪案续飙升 大公司遭“钓鱼”掠近八千万
香港警方最新资料显示，去年1月至11月本港的整体科技罪案数字录得31,843宗及损失50.9亿元，较前年同期20,796宗及损失29.6亿元，分别上升了53%及72%。去年损失最大一宗科技罪案涉及电邮骗案，受害人为一间国际资产管理公司，被骗徒冒认生意伙伴发电邮要求转胀，于两个月内被骗走7,820万港元。
网上投资骗案是科技罪案“重灾区”，去年1月至11月录得4,703宗及损失30亿元，较前年同期1,680宗及损失8.5亿元，分别上升180%及254%。其中一名73岁退休妇，被男网友诱骗到虚假网上平台投资内地股票，7个月内被骗走2,800万元。
去年11月26日开始，香港警方“防骗视伏器”与“转数快”系统联网，增加“可疑识别代号警示”新功能。所有为个人用户提供以转数快识别代号作即时转账服务的转数快参与机构，包括44家银行及储值支付工具营运商，在该警示机制下，如收款人的转数快识别代号资料，与“防骗视伏器”标记为红色“高危有伏”脗合，手机荧幕就会出现警示短语。
此机制将于今年首两季进一步覆盖至其他转账机制，包括实体银行、虚拟银行、PayMe及Alipay等，届时市民在银行柜台、ATM机或网上等不同系统转账过数时，都会受到“防骗视伏器”警示保护。
發表評論 取消回复