“AI歌手”的声音合成技术，有可能被恶意使用，成为违法犯罪的“帮凶”。科技这把双刃剑要谨慎对待，唯有法律与监管体系跟上AI技术的变革步伐，才能引导人工智能“向善”。
■吴睿鸫
　　从AI换脸、AI绘画到AI写论文，科技的力量让人惊叹。现在，AI翻唱又火出圈。近段时间，“AI孙燕姿”走红全网，其翻唱的歌曲在B站点击量有的破百万，一时间，几乎就没有“AI孙燕姿”驾驭不了的曲风。
　　跟原唱相比，AI翻唱固然在技术、唱腔和技巧上仍有一定差距，但音色已经基本实现完全复制、以假乱真，同真人演唱的音色并无二致。除了知名当红歌手外，还有网友自行“训练”了已故知名歌手的声音模型，通过AI合成语音让歌迷再次听到了久违的声音。
　　在AI技术涉足的音乐领域，翻唱如日中天、制造全民狂欢视听盛宴的同时，侵权成为不可回避的问题。一则，AI翻唱涉嫌侵害歌手的声音权益。依据《民法典》中对于声音权的规定，利用明星声音进行AI模型训练，要征求本人同意获得授权，否则，AI模仿歌手声音产生的音乐有可能侵犯歌手的声音权。二则，在训练AI模型的过程中，使用的音乐作品要得到著作权人的授权，方可公开播放、表演，否则，会涉嫌侵害原创者的著作权。此外，倘若用AI歌手演唱的作品吸引流量或进行销售，并获得了经济利益，则涉嫌侵害著作权中的信息网络传播权。
　　除了模仿歌手外，AI声音合成技术可能会在更广泛的领域被恶意应用，成为违法犯罪的“帮凶”，对社会构成新威胁。譬如，通过伪造亲朋好友的声音进行电信诈骗；再如，使用AI变声技术进行入室抢劫；在婚恋领域使用“杀猪盘”等违法犯罪活动，这些都需要加以积极防范。
　　事实上，在顶层设计方面，国家有关部门正在给生成式人工智能划出底线与红线。4月11日，国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》指出，利用生成式人工智能生成的内容应当真实准确，要采取措施防止生成虚假信息；提供生成式人工智能产品或服务应当尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争等。
　　从绘画、写作、影视，再到眼下的音乐，AI技术的变革序幕已然拉开，其影响范围还在不断延伸，这无疑需要法治与监管方面迎头赶上，一刻不容松懈。唯有法律与时俱进，跟上AI技术变革步伐，构建起严密、高效的监管体系，才能引导人工智能“向善”，有效防范类似利用“AI歌手”等科技作恶的行为，切实保护利益相关方的合法利益。