微软分析师表示,伊朗国家支持的黑客中断了阿拉伯联合酋长国的电视流媒体服务,以播放一个深度伪造的新闻阅读器,报道有关加沙战争的报道。
该科技公司表示,伊朗武装部队的一个重要分支伊斯兰革命卫队发起的黑客行动,通过人工智能生成的名为“For Humanity”的新闻广播扰乱了阿联酋的流媒体平台。
这位假新闻主播介绍了未经证实的图像,声称显示巴勒斯坦人因以色列在加沙的军事行动而受伤和死亡。微软分析师表示,这个名为“Cotton Sandstorm”的黑客组织在 Telegram 消息平台上发布了视频,显示该组织入侵了三个在线流媒体服务,并通过假新闻主播扰乱了新闻频道。
据阿联酋新闻服务公司《Khaleej Times》报道,迪拜居民使用 HK1RBOXX 机顶盒在 12 月被中断,并显示一条消息:“我们别无选择,只能通过黑客手段向您传递此消息。”人工智能生成的主播介绍“图形”镜头,以及显示迄今为止加沙伤亡人数的行情。
微软还引用了有关加拿大和英国中断的报道,受影响的频道包括 BBC,尽管 BBC 并未直接遭到黑客攻击。
微软在一篇关于伊朗网络间谍活动的报告附带的博文中表示:“这标志着微软首次检测到人工智能在其消息传递中发挥关键组成部分的伊朗影响力行动,也是伊朗行动范围快速而显着扩张的一个例子自以色列与哈马斯冲突开始以来。”
“阿联酋、英国和加拿大的观众都受到了干扰。”
生成式人工智能(生成式人工智能是指能够通过简单的手写提示快速生成令人信服的文本、语音和图像的技术)的突破引发了在线深度伪造内容的增加,从泰勒·斯威夫特的明显虚假图像到乔·拜登人工智能生成的机器人电话嗓音。 Deepfake 是一个利用人工智能创建虚假图像(最常见的是虚假人物视频)的骗局术语。
专家担心,人工智能制造的材料可能会被大规模部署,从而扰乱今年的选举,包括美国总统选举。伊朗针对 2020 年美国大选发起了一场网络活动,其中包括向自称是极右翼骄傲男孩组织成员的选民发送恐吓电子邮件、建立一个网站煽动针对联邦调查局局长克里斯托弗·雷 (Christopher Wray) 等人的暴力行为,以及传播有关投票基础设施的虚假信息。
微软表示:“在我们期待 2024 年美国总统大选之际,伊朗的活动可能会延续 2020 年发生的情况,当时他们冒充美国极端分子,煽动针对美国政府官员的暴力行为。”
微软表示,自 10 月 7 日哈马斯袭击以来,伊朗国家支持的行为者发起了一系列网络攻击并试图在网上操纵舆论。这些策略包括夸大所声称的网络攻击的影响、泄露以色列大学的个人数据,以及攻击亲以色列的阿尔巴尼亚、巴林(与以色列正式关系的亚伯拉罕协议的签署国)和美国的目标。