200平方(fang)米的公司凌晨空无一人(ren)，一排排的电脑、手机陈列其中，全是数字人(ren)在直播，仿佛一场没有人(ren)类的AI狂欢(huan)......
一年一度的618即将到来，对于近年兴起的数字人(ren)直播带货，平台正在收紧监管尺度。
澎湃新闻记者(zhe)获悉(xi)，近日为了优化视频(pin)号橱窗生态，营造良好的交易环境，腾讯对《视频(pin)号橱窗达人(ren)“发布低质量内容(rong)”实施(shi)细(xi)则》进行修订，修订内容(rong)于今年6月7日-6月13日进行意见征集。
据最(zui)新的修订方(fang)案，“使用插件、AI等工具生成虚拟(ni)形象进行直播”“提(ti)供、售卖、教学或展示平台不提(ti)倡(chang)传播的内容(rong)：如讲解和售卖虚拟(ni)人(ren)代播软件”等涉及虚拟(ni)人(ren)/数字人(ren)直播，将被视频(pin)号明确列入低质量内容(rong)，并进行违规处理。
对于相关修订的原因，6月17日，视频(pin)号相关人(ren)士告诉澎湃新闻记者(zhe)，使用数字人(ren)/虚拟(ni)人(ren)直播目前属于平台直播带货中的违规行为，如被平台发现，将依据相关规则进行处罚，包括(kuo)不限(xian)于减少直播推荐、减少账号推荐、限(xian)制直播带货能力等。
该人(ren)士称(cheng)，平台希望(wang)并鼓励真实的真人(ren)主播，能跟观众进行实时的互(hu)动。
尽管相关修订没有完全落地，但是对于数字人(ren)直播的态度如此“严厉”，视频(pin)号属于行业首家。
实际上，目前业内各大平台对于数字人(ren)的态度普遍比较积极。其中以(yi)京东最(zui)为鲜明，此前以(yi)京东创始人(ren)、董事局主席刘强东为形象的数字人(ren)“东哥”亮相京东直播间(jian)，曾引发热议。
当时，根据京东超市披(pi)露，采销东哥AI数字人(ren)上播30分钟，直播间(jian)观看人(ren)数破(po)千万；仅40分钟内，直播间(jian)观看人(ren)数超过1300万，创造京东超市采销直播间(jian)开(kai)播以(yi)来，观看人(ren)数的最(zui)高峰；近1小时观看量超2000万，直播时段用户平均(jun)停留(liu)时长达到日常均(jun)值的5.6倍。在40分钟内，直播间(jian)整体订单量破(po)10万。
京东CEO许冉更表态，刘强东数字人(ren)之后，数百(bai)位总裁数字人(ren)将在618活动期间(jian)在京东平台直播。
淘宝在去(qu)年就开(kai)始入局数字人(ren)直播。去(qu)年7月25日，六位不同打扮的AI主播“烈儿宝贝”和本人(ren)同台直播，这(zhe)也是淘宝头部直播间(jian)首次尝试AI上岗开(kai)播。去(qu)年618期间(jian)，首家AI淘宝店(dian)“卢咪微Lumiwin”开(kai)播，AI数字人(ren)马斯氪上岗淘宝直播间(jian)，2个小时吸引超16万人(ren)次观看，由AI设计的T恤在TVB直播间(jian)上架、销出(chu)数百(bai)件。
快手相关负责人(ren)曾表示，快手研(yan)发的女娲数字人(ren)平台能支持2200个数字人(ren)同时直播24小时。
数字人(ren)带货无疑是个巨大市场。艾(ai)媒(mei)咨询(xun)数据显示，2023年中国数字人(ren)带动的产业市场规模和核心市场规模分别为3334.7亿(yi)元(yuan)和205.2亿(yi)元(yuan)，预计2025年分别达到6402.7亿(yi)元(yuan)和480.6亿(yi)元(yuan)。
尽管如此，从实际应用角度，多家头部直播间(jian)负责人(ren)告诉记者(zhe)，正式投入数字人(ren)还需要谨慎，“直播间(jian)要能赚钱，靠的是人(ren)、货、场三者(zhe)良好的经营。还有直播间(jian)品牌的积累，数字人(ren)只(zhi)是工具。”
头部直播间(jian)“交个朋友”相关负责人(ren)告诉澎湃新闻记者(zhe)，在他看来，目前数字人(ren)技术整体还非常初级，此前公司也尝试过用数字人(ren)直播，但是效果并不好，“数字人(ren)直播目前还是不太成熟(shu)，京东利用刘强东的数字人(ren)，也是利用刘强东的IP，实际上数字人(ren)主播距离正式商用可能还有3-5年的距离。”
电商平台梦饷(xiang)科技CTO曹均(jun)涛告诉记者(zhe)，目前数字主播在电商中的应用还在起步阶段，“以(yi)前的数字人(ren)对用户意图(tu)的理解不精准，很难和用户形成交流，但是在大模型(xing)出(chu)现后，未来肯定能形成顺畅的人(ren)机交互(hu)的。未来，大模型(xing)和数字直播结合起来之后，才能真正用数字人(ren)直播来替代真人(ren)直播。现在数字人(ren)直播只(zhi)能和真人(ren)直播形成补充。”
也有不少公司利用数字人(ren)概念“割韭(jiu)菜”，引发安全挑战。《2024人(ren)工智能安全报告》显示，2023年基于AI的深度伪造欺(qi)诈案件呈现出(chu)惊人(ren)的增长趋势，增长率高达3000%。
另(ling)一头部直播平台抖音对于数字人(ren)直播同样持谨慎态度。
3月27日，抖音安全中心公众号发布《抖音关于不当利用AI生成虚拟(ni)人(ren)物的治理公告》。公告提(ti)到，创作(zuo)者(zhe)、主播、用户、商家、广告主等在抖音应用生成式人(ren)工智能技术时，须遵循相应规范。
根据公告内容(rong)，此次抖音将重点治理利用AI生成假外国人(ren)、假精英及利用AI生成形象骗互(hu)动等三类内容(rong)，包括(kuo)生成境外虚假人(ren)设，消费(fei)爱国心理、博(bo)取关注；生成俊男美女虚假形象，骗取互(hu)动，交友导流；生成精英人(ren)士虚假人(ren)设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容(rong)，低质吸粉，甚至(zhi)引流到站外以(yi)卖课、入群等方(fang)式获利。
公告还提(ti)到，发布者(zhe)应对人(ren)工智能生成内容(rong)进行显著标识，虚拟(ni)人(ren)需在平台进行注册，虚拟(ni)人(ren)技术使用者(zhe)需实名认证等。
早在去(qu)年5月，抖音曾在业内首发关于人(ren)工智能生成内容(rong)的平台规范。倡(chang)议中提(ti)及，发布者(zhe)需对人(ren)工智能生成内容(rong)产生的相应后果负责。同时，发布者(zhe)应对人(ren)工智能生成内容(rong)进行显著标识，帮助其他用户区分虚拟(ni)与现实，特别是易混淆场景。虚拟(ni)人(ren)也需在平台进行注册，虚拟(ni)人(ren)技术使用者(zhe)需实名认证，使用已注册的虚拟(ni)人(ren)形象进行直播时，必须由真人(ren)驱动进行实时互(hu)动，不允许完全由人(ren)工智能驱动进行互(hu)动。