BBC 发现反移民人工智能视频可追溯到海外造假者 自称来自约克郡的“伟大的英国人民”Facebook 页面的最新视频获得了 130 万次浏览，该视频显示一名英国老年白人男子为养老金哭泣。其他视频显示记者讨论“规模巨大的大规模移民”，并询问观众是否怀念“我们曾经了解的英国”。 但尚不清楚视频的创作者是否了解英国：该帐户实际上是由斯里兰卡的某人运营的。 它是 BBC Panorama 和 Top Comment 播客发现的数十个相互关联的 Facebook 和 Instagram 帐户之一，这些帐户创建并向大量受众分享人工智能生成的有关英国的反移民帖子，但创建者通常位于数百或数千英里之外。 根据 Facebook 透明度工具、对内容创作者的采访以及社交媒体上的其他泄露迹象（例如他们所关注的拼写和帐户）的信息，其中一些来自斯里兰卡、美国和欧洲其他地方，而另一些则来自越南和马尔代夫，或者与伊朗和阿联酋有联系。 一位专家告诉 BBC，研究表明，人们检测人工智能假货的能力比他们想象的要差，而且他们看到的人工智能内容越多，他们就越有可能不信任真实材料。 伦敦市长萨迪克·汗爵士委托对人工智能生成的显示首都衰落的图像进行研究，他认为这损害了这座城市在海外的声誉。他表示，虽然账户背后的一些人仅仅是出于金钱的动机，但其他人却得到了俄罗斯和伊朗等敌对国家的支持。 很难核实国家直接参与的说法，但少数账户确实分享了同情俄罗斯和伊朗政府的帖子。 BBC 试图联系这些账户的所有者，但他们没有做出回应。 一些账户重新调整了页面的用途，似乎是为了增加参与度，从“让美国再次伟大”和“美国生活”等主题转向使用人工智能来推动反移民叙事。他们中的一些人偶尔也会尝试一些更同情移民的内容。 剑桥大学社会心理学家桑德·范德林登教授表示，国家和其他团体正试图利用此类虚假人工智能账户来操纵公众舆论，他将这些账户描述为“影响力运作的新演变”。 他说，居住在海外的人工智能造假者很容易在网上冒充英国公民，因为购买最初在英国设立的社交媒体账户相对便宜。 这些账户上的人工智能生成的虚假场景视频已经吸引了数十万次观看——比如下议院里挤满了穿着传统阿拉伯服装的男人，他们在执行伊斯兰教法。其他节目则对戴头巾的女性进行了虚假采访，讨论英国如何变得更加伊斯兰化。 这些视频所塑造的英国形象可能是矛盾的。在一些广泛分享的内容中，这种下降与穆斯林移民有关，但与此同时，同一创作者的几个视频将伊斯兰国家呈现为相比之下的田园诗般的国家。 我们采访了两个人，他们说他们拥有一个拥有超过 2000 万次观看此类内容的帐户。该帐户从 2050 年人们走过一系列英国城市的角度展示了人工智能生成的视频。 利物浦、伦敦、伯明翰和英格兰的一些未命名的地方被描绘成肮脏且充满垃圾的地方，街道两旁排列着穿着传统伊斯兰服装、戴着头巾的人们。摊位上写着“清真”，还有看起来像阿拉伯文字的彩旗。还有火灾和混乱。 纽约和华盛顿特区等外国城市以及一些欧洲首都也以类似的方式描绘。 当他们的内容可能会造成社会分裂时，创作者们表示：“我们的内容有一个明确的目的：我们的目标是让人们和选民了解，如果当前的社会和文化趋势继续下去，我们认为未来几十年可能会发生什么。” 他们声称距离他们在视频中描绘的城市有几英里远，并称自己是在一个“不安全感变得更加明显”的欧洲国家开展业务的。 他们说，它们以理想化的方式向伊朗等国家展示“引发有关政治和文化演变的思考和讨论”。 两人否认他们的动机是通过社交媒体参与赚钱，并表示他们没有将他们的账户货币化。他们声称与支持其内容的“各种政客”保持联系，但拒绝透露这些人物的姓名。 伦敦市政厅的研究发现，过去两年此类社交媒体帖子急剧增加，并确定了两个主要动机。 “你有国家演员，”伦敦市长萨迪克·汗爵士告诉英国广播公司。他说，他们已经看到了俄罗斯和中国活动的证据，以及美国“让美国再次伟大”（MAGA）运动的“极右翼”支持者的证据。 “其次，我们看到个人和公司试图通过分工获利。” 他承认这座城市面临“挑战”，但他表示这些“人工智能生成的谎言”确实产生了影响，让一些游客、海外学生或投资者望而却步。 “我的焦虑是，正派的人开始相信这些谎言，伦敦正在衰落的反乌托邦形象，我们是一个危险的城市，没有法律和秩序，”他说。 萨迪克爵士表示，社交媒体公司应该采取更多措施来打击这种错误信息，包括“修改他们的算法，确保他们不会奖励毒害和分裂”，并明确标记人工智能内容。 拥有 Facebook 和 Instagram 的 Meta 表示，该公司严肃对待“协调一致的不真实行为”，并拥有“专门的全球团队不断努力识别和破坏此类活动”。 一位发言人表示：“我们将对任何违反我们社区标准的内容或帐户采取行动，该标准适用于所有内容，无论它是由人工智能还是由人创建。” 我们还采访了多个交叉推广或参与 2050 年观点视频的账户背后的人员，这证实了市政厅的结论，即有些账户是受点击和利润驱动的。 一位人士表示：“我发帖主要是为了获得回应，从而增加我的关注者和金钱。”他通过 Instagram 的盈利计划获得报酬，该计划基于向视频观看者展示的广告。 另一位表示，他们与账户协调“针对类似问题发出声音”，但他们的在线活动“没有任何政治动机”。相反，目标是让其他帐户推广其内容“以获得尽可能多的关注”。 然而，一些运营与此类似内容的帐户以及与“假”英国爱国者互动的人都在英国。 一位来自西米德兰兹郡的个人主页发布了有关“恢复英国昔日辉煌”的帖子，他告诉我们，他与其他帐户协调以推动同一政治目标。他说他们在 Instagram 上进行了群聊，可以决定发布什么内容以及何时发布。 他说，与他们合作的账户位于印度、巴基斯坦和新加坡，以及澳大利亚和新西兰。 剑桥大学的范德林登教授表示，“虚假信息雇佣行业”正在增长，“付费演员和影响者假装成普通公民，为某个议程制造支持”，通常使用人工智能内容和试图增加流量的机器人。 贝尔法斯特女王大学法学教授伊冯·麦克德莫特·里斯 (Yvonne McDermott Rees) 教授研究了深度造假对信任的影响，他表示，研究表明，公众并不擅长识别假货，准确率约为 55%。 她说，这还表明人们通常认为自己比实际情况更能识别假货。 对人工智能生成的视频的评论表明，一些真实的人正在被带走。一名妇女说“继续前进”，另一名妇女说“永不退缩。站起来，做你必须做的事情”，以回应人工智能生成的视频，该视频显示一名男子在抗议“拦船”引进移民的活动中。 根据 Meta 的透明度工具，该视频发布在位于斯里兰卡的“今日英国”Facebook 页面上。 麦克德莫特·里斯说：“人们看到人工智能内容的次数越多，他们辨别事实与虚构的能力就越弱，他们就越有可能不信任真实的内容。” “不应该只有普通人才能尝试找出什么是真实的、什么不是。” 但范德林登教授警告说，研究还表明，许多人似乎并不关心内容是否是人工智能生成的。 他说：“只要内容与他们的身份和世界观产生共鸣，他们通常仍然会认可这些内容并与他人分享，因为这表明他们同意更大的议程。” 正如“伟大的英国人民”Facebook 页面上的一位评论者所说：“这可能是人工智能，但事实是他对一切都是正确的”。 获取我们的旗舰新闻通讯，其中包含您开始新的一天所需的所有头条新闻。在这里注册。