Facebook周五表示,该平台移除了与大纪元媒体集团(Epoch Media Group)有关的数百个帐号。该集团是与法轮功有关的保守派媒体
《大纪元时报》(The Epoch Times)的母公司。
这些帐号(包括专页、群组和Instagram流)借助人工智能生成伪造的个人资料照片,给研究人员
带来了新的挑战。计算机科学家一直以来担心,人工智能可能被用于发起大规模的虚假信息活动。现在他们表示,这一技术已在Facebook平台被加以利用,这种现象令人担忧。
610个Facebook帐号、89个Facebook专页、156个群组和72个Instagram帐号发布了有关美国的内容,包括特朗普总统弹劾案、保守派意识形态、政治候选人、贸易和宗教等政治新闻和议题。
“这是一个庞大的、肆无忌惮的虚假网络,拥有不同层级的虚假帐号和自动操作,系统地发布了具有两个意识形态重点的内容:支持唐纳德·特朗普、反对中国政府,”大西洋理事会旗下的数字取证研究实验室(Atlantic Council’s Digital Forensic Research Lab)主任格雷厄姆·布鲁克(Graham Brookie)表示。
该实验室和另一家研究虚假信息的公司格拉菲卡(Graphika)
发布了一份联合报告,分析了Facebook移除这些帐号的情况。
大纪元媒体集团在发给《纽约时报》的电子邮件中
否认它与Facebook所针对的网络有关,并表示Facebook在发布结论之前未与该公司联系。
Facebook称,该网络背后的人使用人工智能来生成个人资料图片。他们依靠一种被称为
生成对抗网络(GAN)的人工智能。这些网络可以通过一种被称为机器学习的过程自学,以创建逼真的面部图像,即使它们不属于某个真实的人。
Facebook表示,这些帐号通过混合使用虚假和真实的美国帐号,来管理平台上的专页和群组,从而掩盖他们的活动。Facebook说,这些不真实的活动围绕着一家名为“美丽生活”(The Beauty of Life,简称The BL)的媒体展开。11月,事实检查机构Snopes曾
表示,The BL“在Facebook上建立了一个虚假帝国”。
Facebook安全政策负责人纳撒尼尔·格莱谢尔(Nathaniel Gleicher)表示,Facebook从7月开始对The BL进行调查,并在今年秋天该网络变得更加积极地发布信息时加快了努力。他说,Facebook正在继续调查与The BL相关的“其他连接和网络”。