从“一眼假”到“真假难辨”再到“深度伪造”,生成一条音频只需20秒。只需要打开软件、动动手指,一条以假乱真的配音视频就新鲜出炉。近日,一些短视频平台涌现了大量某知名企业家吐槽的视频,这些吐槽视频是由网友利用AI软件采集该企业家原音生成的配音,逼真的效果让不少人信以为真。这类视频很多都越过了开玩笑的边界,造成了恶劣的社会影响。(10月28日《工人日报》)

　　近年来,AI技术突飞猛进,各类应用也大行其道。AI语音合成技术亦成为热门应用领域,具有操作简单、高效便捷、成本低廉等优势,打破了传统语音合成技术的局限,使得个人用户能够轻松生成自然流畅的语音。无论是在娱乐领域还是商业领域,AI技术都展现出了巨大的应用潜力,能够为企业降低内容制作成本,为个人提供低成本创业,并可激发创新活力,开拓出更多市场机会。

　　然而,正如一枚硬币有两面,AI语音合成技术的滥用,也衍生出不少问题。一些不法分子利用AI技术“偷走”他人声音,进行恶搞、造谣,严重侵犯了他人的名誉权和声音人格权。更为严重的是,AI语音合成技术的滥用,还可能威胁社会的稳定和秩序,一旦此类以假乱真的配音被不法分子用于传播虚假信息或煽动社会情绪,引发民众的警惕恐慌、跟风,后果将不堪设想。

　　因此,必须正视AI语音合成技术的伦理风险,防范技术滥用可能引发的各种问题,并采取相应的措施加以解决。一方面,要加强法律法规建设并不断完善,包括制定行业标准和国家标准,明确AI语音合成技术的使用范围和限制。同时,加大对违法行为的打击力度,对滥用技术的行为依法予以遏制和处罚,形成有效的法律震慑。对于涉及敏感信息的语音合成应用,应进行严格的审查和监管,防止其被用于不法目的。

　　另一方面,科技公司在推动AI语音合成技术进步的同时,应积极研发识别和过滤虚假语音内容的技术手段,建立有效的内容甄别、审核机制,防止技术被滥用。企业要加强技术监管和行业自律,强化AI语音合成技术的安全性,积极与监管部门合作,共享相关数据资源,共同打击犯罪行为,防止AI语音合成技术被用于电信诈骗、身份冒用等。

　　此外,要积极支持AI语音合成技术的正常使用,引导技术向善发展、用户有序使用,让技术为人类服务,提高大众的福祉。比如,通过AI技术推动语音交互领域的创新,在智能家居、车载导航、语音助手、即时翻译等场景为用户提供更便捷、智能的交互体验。在内容创作领域,AI语音合成技术为创作者提供了更多可能性,可通过自动生成旁白、配音等降低创作门槛,提高创作效率。对于残障人士或语言障碍者,AI语音合成技术可助力实现更自然的语音交流,提高他们的生活质量。