凌晨时分，200平米的公司里空无一人，一排排电脑、手机陈列着，全是数字人进行直播，仿佛是一场没有人类的AI嘉年华……
一年一度的618即将到来，各大平台对于近年来兴起的数字直播带货的监管标准正在不断加强。
澎湃新闻记者了解到，为优化视频号展示生态，营造良好交易环境，腾讯近日修改了《视频号展示专家发布低质量内容实施细则》，并于今年6月7日至6月13日就修改内容公开征求意见。
根据最新修法方案，“利用外挂、AI等工具生成虚拟形象进行直播”、“提供、贩卖、教授或展示平台不鼓励传播的内容：如讲解、贩卖虚拟人直播软件”等涉及虚拟/数字人直播的行为，将被视频账号明确列为低质量内容，并按违规处理。
对于相关修改原因，6月17日，该视频账号相关人士向澎湃新闻记者表示，使用数字人/虚拟人进行直播，目前属于违反平台直播带货行为，若被平台发现，将按照相关规则进行处罚，包括但不限于降低直播推荐度、减少账号推荐度、限制直播带货能力等。
该人士表示，平台希望并鼓励真人主播与观众进行实时互动。
虽然相关修订还未全面实施，但对数字人直播持如此“严格”态度，视频号在行业内尚属首例。
事实上，业内各大平台对数字人的态度普遍积极，其中最为突出的便是京东，此前以京东创始人、董事长刘强东形象出现的数字人“东哥”亮相京东直播间，引发热议。
当时，据京东超市透露，东哥AI数字人开播30分钟内，直播间观看人数就突破1000万。短短40分钟，直播间观看人数突破1300万，创京东超市直播间上线以来观看人数最高峰。近1小时观看人数突破2000万，直播期间用户平均停留时长达到日均的5.6倍。40分钟内，直播间总订单量突破10万单。
京东CEO徐冉甚至表示，继刘强东数字人之后，数百位数字人总裁将在618活动期间在京东平台进行直播。
淘宝去年开始搞数字人直播，去年7月25日，六位身着不同风格服装的AI主播“莉儿宝宝”和我同台直播，这也是淘宝头部直播间首次尝试AI开播。去年618期间，首家AI淘宝店“Lumiwin”开播，AI数字人Maske在淘宝直播间开播，2小时吸引超过16万观众观看。AI设计的T恤在TVB直播间上架，卖出数百件。
快手相关负责人曾表示，快手开发的Nuwa数字人平台，可以支持2200个数字人24小时同时直播。
数字人带货无疑是一个巨大的市场，据艾媒咨询预测，2023年中国数字人带动的行业市场规模和核心市场规模分别为3334.7亿元和205.2亿元，预计2025年将分别达到6402.7亿元和480.6亿元。
不过，从实际应用来看，几家头部直播间负责人对记者表示，正式投入数字人仍需谨慎，“直播间要赚钱，靠人、货、场地的经营好，还有就是直播间品牌的积累，数字人只是工具而已。”
头部直播间“交友直播”负责人告诉澎湃新闻记者，在他看来，目前数字人技术整体还很初级，公司之前也尝试过用数字人做直播，但效果并不好。“数字人直播现在还不成熟，京东用刘强东的数字人，也用刘强东的IP，其实数字人主播距离正式商用可能还需要3-5年的时间。”
电商平台梦享科技CTO曹俊涛告诉记者，数字主播在电商中的应用还处于起步阶段。“之前数字人并不能精准理解用户意图，很难与用户进行交流。但大模特出现之后，未来顺畅的人机交互肯定是可以实现的。未来只有大模特和数字直播结合之后，数字人直播才能真正取代真人直播。现在的数字人直播只能作为真人直播的补充。”
不少企业还借用数字人概念“割韭菜”，造成安全挑战。《2024年人工智能安全报告》显示，2023年基于AI的深度造假欺诈案件将呈现惊人增长趋势，增长率高达3000%。
另一家领先的直播平台抖音也对数字人形直播持谨慎态度。
3月27日，抖音安全中心公众号发布《关于不当使用AI生成虚拟角色的抖音治理公告》，公告中提到，创作者、主播、用户、商家、广告主等在抖音上应用生成式人工智能技术时，均需遵循相应规定。
据公告，抖音将重点治理三类内容：利用AI生成假老外、假精英、利用AI生成图片欺骗互动。其中包括生成假海外人物借爱国博眼球；生成假俊男美女图片欺骗互动引流好友；生成假精英人物，发布心灵鸡汤、财经智库、伪国学、厚黑学、伪成功学等不良内容，以低质量吸粉，甚至通过卖课程、加群等方式将流量导流到站外牟利。
公告还提到，发布者应当明确标注人工智能生成的内容，虚拟人需在平台注册，使用虚拟人技术的用户需进行实名认证。
早在去年5月，抖音就推出了行业首个针对AI生成内容的平台规范，倡议中提到，发布者应对AI生成内容的后果负责。同时，发布者应明确标注AI生成内容，帮助其他用户区分虚拟与现实生活，尤其是容易混淆的场景。虚拟人也需要在平台上注册，虚拟人技术的用户需要实名认证。在使用注册的虚拟人形象进行直播时，实时互动必须由真人驱动，不允许完全由AI驱动的互动。
