人心向背网人心向背网

警惕生成人工智能促进虚假信息运动

科技日报记者 刘霞。警惕

生成人工智能(AI)天空的生成诞生可能会对人类产生巨大的影响。今年早些时候,人工美国高盛集团警告说,促进超过3亿个全职工作可能会受到影响。虚假信息根据美国国会研究服务局5月份发布的运动一份报告,人工智能的警惕最新创新也提出了一个新的版权问题,即如何定义人工智能创建或使用的生成内容是侵权还是合理使用。

在6月9日的人工报道中,福布斯网站指出,促进另一个令人担忧的虚假信息问题已经浮出水面:生成人工智能可以用于社交媒体上的虚假信息运动。虚假信息运动是运动指故意制造和传播有政治目的的谎言,这与一个人的警惕错误或谎言不同。虚假信息运动可以利用各种策略、生成新技术、人工新媒体和传统媒体来扩大分歧和煽动混乱。

塔尔萨大学网络安全教授约翰·希尔表示,众所周知,Facebook、推特、Tiktok等平台现在是信息战的前沿。生成人工智能“染指”不仅造成了新的危险,而且扩大了现有的危险。

“深度造假”:假真假真假。

2017年被称为“深度造假”(Deepfake)当用户第一次在互联网上发布合成视频时,他们可能没有想到他已经打开了“潘多拉魔盒”。随着缺乏监管的“深度欺诈”技术的野蛮增长,经济和社会的稳定逐渐受到危害。

所谓“深度造假”技术,是利用人工智能将现有图像、音频或视频中的人物替换为他人的技术。一些被操纵的“深度欺诈”内容,如图像、视频和音频,曾经需要专业人士来完成,但在生成人工智能的支持下,现在很多人可以更容易地创建。

希尔指出,“深度欺诈”使别有用心的人能够窃取或窃取他人的声音,并将其嵌入图像或视频中,或以不可检测的方式操作或更改数字内容。这一切才刚刚开始。随着技术的不断进步,“深度欺诈”技术制作的内容与真实事物之间的差距将越来越小。此外,随着制作“深度欺诈”内容变得越来越简单,社交媒体将随时向公众传播此类内容。

希尔强调,随着这些“深度欺诈”内容在社交媒体平台上不受限制和管理地传播,将导致影响、说服和误导他人或特定观众的虚假信息运动。随着相关技术的不断发展,未来可能会发生的事情非常令人担忧。

侵蚀对政治选举的信任。

《福布斯》杂志指出,生成人工智能和“深度欺诈”可能会给2024年美国总统选举带来真正可怕的后果。

美国公共广播服务网站在5月份的报告中指出,生成人工智能不仅可以快速生成有针对性的竞选电子邮件、文本或视频,还可能被用来误导、假装候选人,破坏选举,诽谤候选人,甚至煽动暴力。

佛罗里达大学研究生院教授兼副院长蒂摩太·塞尔诺博士说,人工智能制造的“深度欺诈”内容看起来非常真实,即使对专家来说,确定他们的真实性也是一个挑战。

与此同时,如果社交媒体平台故意或错误地允许人工智能修改或生成的信息停留在其网络上并随意传播,选民可能会进一步减少对人工智能的信任。美国网络安全公司预测,试图干预美国选举的团体将使用人工智能和合成媒体作为侵蚀信任的一种方式。

迫切需要制定“内容认证”标准。

福布斯网站在报告中指出,生成人工智能相关行业正在制定“内容认证”标准,用户可以验证数字内容的来源,但开发和采用这些标准仍需要一些时间。

希尔指出,这是数字媒体发展的必要阶段,但用户在浏览或使用社交媒体平台上的内容时必须更加谨慎。此外,社交媒体网站应该更积极地监督人工智能操作的帖子。

人工智能为颠覆性进步提供了强大的能力,但为了更大程度地发挥科技向善的力量,也必须谨慎使用这种能力。

赞(4545)
未经允许不得转载:>人心向背网 » 警惕生成人工智能促进虚假信息运动