【科技资讯】新华社：莫让人工智能"偷声"击穿社会信任

“声音是独属于每个人的’听觉身份证’。技术不能野蛮生长，个人声音不能被当成免费工具。当语音真假难辨，社会信任也将受到严重侵蚀。”

新华社发表评论文章，聚焦AI语音克隆技术滥用问题。只需十几秒语音素材，就能精准复刻一个人的声线、模拟情绪语气，生成任意话术。随着AI”偷声”现象不断出现，不仅暴露多重安全问题，甚至已成为诈骗新方式。

一、AI”偷声”的主要乱象

乱象类型	具体表现
未授权声线抓取	部分个人声线未经许可被抓取训练成AI语音包，在短视频、带货广告中肆意商用，甚至被明码倒卖，人格权益遭受侵害
电信诈骗升级	不法分子复刻、模仿子女和晚辈音色，编造车祸、急需医药费等紧急说辞，利用老人对熟悉声音的信任实施诈骗
非法软件交易	网络购物及二手交易平台上大量售卖AI克隆软件安装包、声音替换、定制音色服务，价格从十几元到几百元不等，部分店铺交易记录多达上千次
名人声音仿冒	购买者评价显示，这些软件不仅可克隆普通人说话，还能将声音逼真地转为名人和著名角色的声音

难点	说明
发现难	大部分时候受害人只能靠自己或朋友偶然发现被侵权
取证难	侵权音频常经多次剪辑、跨平台转载，传播路径复杂
追责难	技术链条涉及数据提供方、模型开发者、平台运营方等多方角色，该起诉谁、如何取证均存在很大难度
成本低	侵权软件和服务价格仅十几元至几百元，违法成本远低于获利空间

责任方	具体措施
平台	升级音频鉴伪系统，清理非法售卖声模的交易；内容分发平台建立快速响应的侵权投诉处理机制
司法	细化声音权益认定标准，提高侵权、诈骗违法成本
监管	要求AI训练平台对数据来源进行合规审查，为AI应用划定明确的规范边界

多方携手为AI应用划定明确的规范边界，才能确保技术以人为本、智能向善。声音作为个人的”听觉身份证”，其人格权益应当得到法律和技术的双重保护。

来源：新华社微信公众号，记者姚湜。