·鉴伪技(ji)术开发需(xu)要跨学科合作，当前的鉴伪技(ji)术以软件算法为(wei)主(zhu)，未来将走向软硬一(yi)体。
大模型兴起为(wei)深度伪造带来土壤，业界呼(hu)吁跨学科联合攻坚(jian)鉴伪技(ji)术。
在大模型时代，人工智能(neng)合成语音与(yu)真实语音之间的界限变得越发模糊，提升与(yu)之匹配的识别技(ji)术迫在眉睫。7月23日(ri)，主(zhu)题为(wei)语音深度鉴伪识别的第九届信也科技(ji)杯全球人工智能(neng)算法大赛总决(jue)赛在上海(hai)举行(xing)，大赛鼓励参赛者(zhe)运用深度学习和人工智能(neng)对抗技(ji)术，开发出能(neng)够准(zhun)确识别虚假语音的模型。
深度伪造是一(yi)种(zhong)利用深度学习和人工智能(neng)技(ji)术生成高度逼真的虚假内容(rong)的方(fang)法。大模型的兴起为(wei)深度伪造带来了土壤，只需(xu)输入提示词，AI系统就会输出图片(pian)、视频、音频，真假难辨。
以虚假语音为(wei)例，大模型能(neng)够生成多种(zhong)虚假语音，这些虚假语音更真实、拟人，对话流畅，为(wei)虚假语音识别带来更大的挑(tiao)战(zhan)。“在一(yi)些高价值(zhi)场景(jing)里，往往会发生AI生成语音欺诈。但是，目(mu)前语音鉴伪技(ji)术的发展却滞后于语音合成技(ji)术。”信也科技(ji)副(fu)总裁、大数据及AI负责(ze)人陈磊表示。
在决(jue)赛中，选手运用不同(tong)算法模型和训练思路识别虚假语音，包括运用基于大模型的识别技(ji)术、基于传统端到端的识别技(ji)术等。端到端的识别技(ji)术参数量较小(xiao)，聚焦更垂直的问题；大模型的参数量较大，对数据要求较高，泛化能(neng)力强，对由大模型生成的假语音数据的识别率有明显提升。
信也科技(ji)算法科学家吕强介绍，初赛的语音数据集主(zhu)要由传统端到端TTS（文字转语音）生成的假语音组成，识别难度较低，复赛数据集首次加入了基于最新(xin)大模型生成的假语音、翻录假语音以及由真假语言拼接而成的样本，覆盖英语、法语、西班(ban)牙语等五种(zhong)以上语言，比赛难度增加。“复赛加入由大模型生成的假语音后比赛难度变大，也能(neng)说明最新(xin)大模型‘以假乱真’的能(neng)力变强了，这要求相应的深度伪造识别技(ji)术必须跟上脚(jiao)步。”
“我们特意(yi)在比赛中加入了一(yi)些新(xin)场景(jing)数据，比如翻录假语音，也就是对生成的真语音经(jing)过多次录音再(zai)生成的数据，我们认为(wei)这是假语音。”吕强表示，针对这一(yi)场景(jing)，大赛利用真假语音切片(pian)、混合，构建(jian)对抗性数据，避(bi)免人工听语音、打(da)标签干扰比赛，“只要有一(yi)个切片(pian)是假语音，那么整条(tiao)都是假语音，这更接近真实场景(jing)，但识别挑(tiao)战(zhan)大。如果能(neng)解决(jue)翻录问题和真假对抗，将具有学术价值(zhi)。”吕强也表示，文本、视频等多模态信息有助于语音鉴伪，大模型和多模态将是语音鉴伪的重要发展方(fang)向。
伪造技(ji)术与(yu)鉴伪技(ji)术“竞赛”，两者(zhe)的发展呈螺(luo)旋式上升。陈磊表示，语音大模型的研(yan)究要把应用问题抽象提炼成学术问题，在解决(jue)学术问题后经(jing)过工程(cheng)化，解决(jue)具体业务场景(jing)的真实需(xu)求。鉴伪技(ji)术开发需(xu)要跨学科合作，当前的鉴伪技(ji)术以软件算法为(wei)主(zhu)，未来将走向软硬一(yi)体，借助硬件溯(su)源声音采集，从(cong)硬件层面起到假语音风险防控作用。
“鉴伪没(mei)有终点(dian)，只要生成式道路还没(mei)有走到头，鉴伪就会一(yi)直往下走。”陈磊表示，赛后信也科技(ji)将开源数据，用于更广(guang)泛的学术研(yan)究，将选手的材料脱敏后共享(xiang)学习。同(tong)时在业务场景(jing)中吸收前沿模型思想，构建(jian)AIGC鉴伪平台。他认为(wei)生成式AI要符合治理(li)规则，人工智能(neng)治理(li)需(xu)要监管层的顶层设计进行(xing)规范和引导(dao)，同(tong)时呼(hu)吁生态共建(jian)，以产业界共创防范系统性风险。