全球约50万个AI伪造视频及语音被分享 伪造成本从1万美元降到几美元

有业界专家和分析人士忧虑，人工智能生成的深度伪造图像、音视频将大量涌现于2024年总统选举中，拉低两党竞选人攻讦、抹黑信息战的底线，进而令选民难以分辨真伪。

近期美国社交媒体上流传的两则视频就由人工智能合成，其中一则展示了希拉里支持共和党选手，另一则则是拜登直言对跨性别人士的不满。根据路透社报道，今年网络上发布的深度伪造视频和音频数量分别是去年的3倍和8倍，题材全面。

预估今年全球约有50万条深度伪造音频或视频在社交媒体出现。此外，成本的大幅下降是导致伪造内容泛滥的因素之一，如今新创企业几美元就能提供合成音视频服务，而在去年年底之前，用人工智能技术合成一条音频需要约1万美元。