臉書20日表示,他們移除了於大紀元媒體集團有關的數百個帳號。
這些帳號(包括專頁、群組和Instagram流)借助人工智能來生成偽造的個人資料照片。計算機科學家壹直以來擔心,人工智能可能被用於發起大規模的虛假信息活動。現在他們表示,這壹技術已在臉書平臺被加以利用,這種現象令人擔憂。
610個臉書帳號、89個臉書專頁、156個群組和72個Instagram帳號發布了有關美國的內容,包括特朗普總統彈劾案、保守派意識形態、政治候選人、貿易和宗教等政治新聞和議題。據了解大紀元媒體集團是與法輪功有關的保守派媒體《大紀元時報》(The Epoch Times)的母公司。
大西洋理事會旗下的數字取證研究實驗室主任格雷厄姆·布魯克表示“這是壹個龐大的、肆無忌憚的虛假網絡,擁有不同層級的虛假帳號和自動操作,系統地發布了具有兩個意識形態重點的內容:支持唐納德·特朗普、反對中國政府”。
臉書發文稱:“壹種名叫生成對抗網絡(GAN)的人工智能在臉書上被使用,這種人工智能可以通過網絡素材來創造逼真的面部圖象”。這些賬號通過使用真實和虛假的賬號來掩蓋他們的活動。這些活動與壹家名為“美麗生活”的媒體密不可分。20日,臉書已將美麗生活的社交網絡封禁。
然而大紀元媒體集團在發給《紐約時報》的電子郵件中否認它與臉書所針對的網絡有關,並表示臉書在發布結論之前未與該公司聯系。同時大紀元時報和美麗生活否認相互間的關系。但臉書表示,已經發現該網絡與大紀元媒體集團以及在越南代表其工作的個人之間,存在協作進行發布不真實內容的行為。
早在8月時,在NBC報道稱《大紀元時報》掩蓋了它與宣傳特朗普總統和陰终搩热莸哪槙鴱V告之間的聯系後,臉書封禁了《大紀元時報》廣告。