哈希游戏- 哈希游戏平台- 哈希游戏官方网站2024年3月,珍娜·奥尔特加(Jenna Ortega)和塞布丽娜·卡彭特(Sabrina Carpenter)的AI生成不当图片被用来推广一款名为Perky AI的应用。这些图片通过Facebook广告大规模传播,目标是吸引用户点击下载。这一事件不仅侵犯了两位名人的隐私权,还在公众中引发了对生成式AI技术滥用的担忧。同年10月,汤姆·汉克斯(Tom Hanks)的深伪视频出现在Instagram上,视频模拟了汉克斯的语音和表情,用于宣传一个虚假的牙科计划广告。这一高度逼真的深伪视频让许多消费者上当受骗,同时也对汉克斯的公众形象造成了损害。更早之前的2024年1月,泰勒·斯威夫特(Taylor Swift)的深伪不当内容图片首次在Telegram群组中被发现,随后迅速传播到X平台(原Twitter)。这些图片不仅对斯威夫特的个人声誉造成了显著损害,也在社会舆论中掀起了对深伪技术监管缺失的批评。
当前深伪检测技术主要依赖分类器模型、多模态检测工具和实时监控等方式。这些技术能够分析数字内容是否为合成,并对图像、音频和视频等多种类型的内容进行处理。例如,Reality Defender的工具能够对视频的每4-6秒进行预测,标记可能控的片段。Resemble AI的音频检测工具通过分析音频的每几毫秒数据生成“锯齿状可视化”图表,以显示录音的完整情况。尽管技术进步显著,但仍然存在挑战,包括检测模型需要不断适应新型生成式AI工具的更新,以及压缩和重新编码的内容可能隐藏深伪痕迹而降低检测准确性。
来源验证技术是应对深伪内容的另一种方法,包括嵌入水印、元数据加密和指纹识别等。这些技术通过在合成内容中嵌入不可见的标识和加密信息,以及生成唯一的哈希值(一种通过哈希算法生成的固定长度数据摘要,用于唯一标识和验证原始数据),以标识内容并追踪其分发路径。例如,Adobe的Content Authenticity Initiative(CAI)为媒体内容提供了完整的来源验证链,Truepic则提供端到端的媒体验证解决方案。这些技术的广泛应用将有助于提高数字内容的透明性与可信度。
各国正在积极制定法规以规范生成式AI的使用。例如,美国版权局(USCO)发布了关于数字复制品的保护政策,并就人工智能生成内容的版权问题开展了系列讨论;欧盟的《通用数据保护条例》(GDPR)则强调对数据隐私的保护,为生成式AI的发展和应用提供了法律保障。在美国,多个州和联邦层级正在推进生成式AI的法律框架。例如,《NO FAKES法案》旨在禁止未经授权的深度伪造内容,特别是用于欺诈或侵犯名人形象权的内容,而田纳西州的《ELVIS法案》则专注于保护名人的姓名、形象、声音等数字权益。与此同时,加州也出台了多项相关法案,包括AB 1836(禁止未经同意使用某人的数字形象)和SB 926(禁止制作和传播深伪不当内容),这些法规在应对生成式AI滥用方面起到了积极作用。
名人数字复制品的授权机制正在快速发展,其应用场景包括广告与品牌合作、影视与游戏中的虚拟演员应用,以及用于粉丝互动的名人聊天机器人或虚拟形象。例如,2024年7月,美国版权局发布了一份关于数字复制品的报告,指出名人应通过法律机制控制其数字形象的使用。这种授权机制不仅为名人带来额外收入,也帮助品牌提升市场吸引力。例如,使用AI生成的虚拟名人在广告中推广产品,可以在全球范围内同时展开多语言、多文化的市场活动。为了支持数字复制品的应用,需要建立强大的数据管理系统,这些系统包括分布式存储、实时监控和隐私保护等功能,以确保训练数据的安全性并防止泄露,同时通过自动追踪名人数字复制品的使用情况保障其合法性。
调查表明,消费者对名人AI角色表现出浓厚兴趣。这种兴趣集中体现在虚拟名人的互动应用上,例如聊天机器人、语音克隆和虚拟舞台表演等。名人AI角色的应用场景包括影视特效、游戏配音、虚拟演唱会和品牌代言等,利用数字扫描或语音克隆技术实现。例如,Meta推出的聊天机器人基于名人语音与用户互动,而Virgin Voyages通过詹妮弗·洛佩兹(Jennifer Lopez)的虚拟形象打造个性化营销活动。这些案例展示了名人数字复制品在娱乐和商业领域的广泛潜力与吸引力。
未来的生成式AI工具需要更加透明,以增强用户信任。技术公司已开始引入生成器标识功能,例如通过水印或媒体出处标记,使用户能够识别内容来源。这样的技术改进将为打击深伪内容的传播提供坚实基础。同时,公众教育被视为长期解决深伪内容的关键策略。通过技术创新、法规实施和公众教育的结合,生成式AI可以在推动创新和保护权益之间实现平衡。这不仅需要技术公司的投入,也需要行业协会和政府的共同努力,从而建立一个既具前瞻性又负责任的生成式AI生态系统。