近来，名为“婵宝小助理”“全妹福利号”等多个账号，运用全红婵赛后承受采访和家人直播的画面，用AI组成相应的声响，在交际渠道发布视频。以“全红婵家建别墅”“全红婵为观众送上福利”等论题招引观众，获取流量。
封面新闻
，赞 807
视频里呈现全红婵受访的画面，内容却被AI篡改为介绍土蜂蜜、骆驼奶粉、洗衣净等产品，并引荐观看者点击产品链接购买。谈论区有用户被组成视频诈骗，表明“支撑全红婵，值得购买。”
▲交际媒体上的组成视频带货截图
4月29日，全红婵父亲告知记者，有人用AI假造一家人声响卖蜂蜜，他们也没有方法。“帮我驳斥谣言一下，我没有卖这东西，什么蜂蜜才十几块钱一斤，拿糖来搞都搞不到。”
据悉，全红婵的爸爸妈妈长时间靠栽培生果保持生计，全红婵的大哥全进华是一名三农主播，带货湛江本地的特发生果，全红婵的母亲也经常入镜，全家人直播带货曾引发不少网友的质疑。
对此，全进华在采访中表明：“我现在在自媒体上发发视频，主要是想带动‘三农’产品进行出售。为什么做这个呢？一是我妈妈身体欠好，做这个比较自在，能够统筹照料老一辈。二是咱们这边种有许多生果，特别是菠萝，每隔几年就会呈现滞销。因为种得太多，行情动摇较大，没人来收的话，生果就烂在地里，所以我想帮一下他们。”
他说：“尽管我还不是个（流量）很大的博主，也纷歧定能卖出许多东西，但我期望尽自己才干协助家人、村里甚至湛江以及其他地方的农产品进行出售。”
━━━━━
此前曾有多位明星被AI侵权
2024年4月，北京互联网法院宣判全国首例“AI声响侵权案”，明晰认定在具有可辨认性的前提下，自然人声响权益的维护规模可及于AI生成声响。法院以为，未经权利人答应，私行运用或答应别人运用录音制品中的声响构成侵权。
本年两会期间，全国人大代表、小米集团创始人雷军主张“加强‘AI换脸拟声’违法侵权管理”，并表明他自己也曾是“AI换脸拟声”的“受害者”。
早前短视频渠道上曾呈现很多“雷军AI配音”的恶搞视频，触及堵车、调休、游戏等热门论题，雷军两会期间回应，“一开始我还觉得这是网民脍炙人口的一种方法，可是跟着内容越来越多，网友们也都在投诉。”为此，他呼吁赶快出台相关管理方法。
相同，全国政协委员靳东也回应了AI换脸导致的诈骗问题，并表明“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质十分恶劣，期望能树立更好的规矩。”
此前，有网友向艺人刘晓庆反应有人在视频号AI生成视频冒充她。刘晓庆转发并配文：“天哪，我点进去看了一下，画面是我，声响很像我，但不是我！这是怎样做到的？我们今后不会搞不清楚哪个才是真的我了吧？我在各个渠道都叫刘晓庆！”
4月18日，张馨予发文表明：“近期发现有品牌AI仿制我的声响，未经授权假造编排广告视频，还有减肥药广告，我觉得这样的行为很恶劣。在此阐明我从来没有引荐过任何减肥药，有商家使用Ai技能不合法编排投进广告，我必定追查究竟。”
河南泽槿律师事务所主任付建称，经过AI技能冒用别人声响的行为归于违法行为。根据《中华人民共和国民法典》，对自然人声响的维护参照适用肖像权维护的有关规定。而商家使用AI篡改专家说辞进行直播卖货既侵略了专家有关声响的人格权益，也或许危害了专家的名誉权以及肖像权。
一起，这种打广告的行为也触及虚伪广告宣扬，假如所卖产品没有宣扬作用还构成顾客诈骗，违反了《反不正当竞争法》和《顾客权益维护法》有关规定，有或许面临罚款、撤消营业执照等行政职责以及相应的民事补偿职责，情节严重的还触及刑事犯罪。
“渠道有权根据《互联网信息服务管理方法》《电子商务法》以及渠道规矩实行监管责任，对违法商家采纳封禁账号、限流等处理方法。假如未及时采纳合理方法导致危害扩展的，对扩展部分与不法商家承当连带职责。”付建表明。
━━━━━
观念
用AI组满足红婵家人声响，这样的带货走火入魔了
从全红婵家里建房、古天乐“被游戏代言”、张馨予“卖减肥药”，这些事情背面，都是不法分子在使用AI技能，明火执仗地假造大众人物的形象和声响，或许生造出来某个人物形象，故意诈骗顾客，以获取不合法收益。
详细到“全红婵家人事情”，声响作为具有个人标识性特征的信息，未经自己授权就被随意用于商业行为，这已构成对个人肖像权、名誉权以及声响相关权益的侵略，相关假造者的行为涉嫌违法犯罪。
而顾客在不知情的情况下，根据对全红婵及其家人的信赖和支撑下单购买产品，成果却发现自己上当受骗，不只遭受经济损失，更会对相似网络信息的实在性发生置疑。从长远来看，此类事情冲击的将是整个短视频渠道消费市场的信赖环境。
AI组成技能是一把双刃剑。一方面，它极大进步了信息出产与传达的功率；另一方面，技能乱用导致信息真假难辨，给监管带来巨大应战。AI组成信息易误导大众，搅扰判别与决议计划，还增加了监管部分发现和查办虚伪信息的难度，简单引发社会乱象。
一起，因为网络信息传达敏捷且规模广泛，虚伪信息一旦发布，难以有用操控，溯源和处理本钱很高，这对传统监管形式和技能手段提出了新的更高要求。
面临AI组成技能被乱用这一新难题，国家互联网信息办公室等四部分联合发布了《人工智能生成组成内容标识方法》，定于2025年9月1日起正式实施。该方法为AI生成内容设定了明晰的标识标准，让以往难以区分的AI著作有必要“持证上岗”，明晰标示其AI生成身份，相当于在源头上为AI组成信息套上了“紧箍咒”。
在此基础上，还要加大对侵权行为的赏罚力度，让违法者支付昂扬价值，才干让他们畏于造假售假。
对渠道而言，燃眉之急是进步技能手段，对AI组成内容进行辨认和标示，“用AI打败AI”，及时整理虚伪信息，对违规账号进行封禁处理。
而作为一般顾客，在AI组成日益被乱用的趋势下，尤其要进步区分才干和防备认识，不要轻信、传达未经证明的音讯，更不要轻易地“一键下单”。
总归，只要让AI组成技能的使用实在标准起来，才干避其短、扬其长，营建健康、实在、可信的网络环境和消费市场，让AI实在服务人，而不是成为骗子的东西。
撰稿/和生（媒体人） 修改/迟道华 校正/李立军
来历 封面新闻、九派新闻、新京报此前报导、网友谈论
值勤修改 康嘻嘻 古丽 实习生 康斯诺