近来，一系列由AI生成的配音视频在网络上引发重视，其传神程度令人惊奇，不只画面绘声绘色，声响特征也与真人简直无异，短时间内便收成了过亿次的播放量。但是，这些视频中的内容与画面中的大众人物毫无相关，现已被平台下架。
AI技能的开展降低了深度假造和贱价量产的门槛，AI生成印象、换声及换脸视频大量出现。这些视频虽招引眼球，但背面躲藏的危险却不容忽视。
当时，虚伪信息的制作和传达已成为全球性问题，以假乱真的AI组成技能让一般人在信息甄别上陷入困境。《2024年人工智能安全陈述》显现，根据AI的深度假造诈骗在2023年激增30倍，对网络安全和社会安全构成严重威胁。虚伪信息的众多，不只打乱了互联网空间的正常次序，更可能将不活跃的心情从虚拟国际传导至实际，加重社会焦虑。
应对深度假造等乱象，需求多方协作、一起办理。现在，我国已出台《互联网信息服务深度组成办理规则》等法令和法规，从源头加强内容办理。一起，《人工智能生成组成内容标识方法（征求意见稿）》的发布，也标志着国家层面正加大对AI技能的监督办理力度。只要让AI在合法合规的结构内健康开展，才能让人们真实享受到技能革新带来的盈利，推进AI工业良性开展。
