专家（jiā）：细化技术标准让（ràng）“AI数字人”透明化合规化

　　□ 本报记者（zhě） 　赵 丽

　　□ 本报实习生（shēng） 宋昕怡

　　“生（shēng）西（xī）红柿和生黄瓜不能一起吃了（le）！黄瓜中的分解酶会破坏维（wéi）生素（sù）C，一起吃轻则影响西红柿中维（wéi）生素C的吸收，重则（zé）可能导（dǎo）致腹泻、肠胃不适甚至食（shí）物中毒。”电（diàn）话那头，母亲说得头头是道，电话这头的赵女士却听（tīng）得（dé）一头雾水。

　　随即，母亲发来一则视频。赵女士回（huí）忆（yì）说：“一（yī）位满头花白头（tóu）发、身着白大褂的‘医生’在视频里侃侃而（ér）谈‘养（yǎng）生秘籍（jí）’，甚至宣称（chēng）‘清淡饮食就是（shì）只吃素食，完（wán）全不吃肉’。我妈把这个‘医生’的话奉为圭臬（niè）。”但赵女（nǚ）士仔细查（chá）看后，在视（shì）频右下角发现（xiàn）一（yī）串几（jǐ）乎透明的标注——“此视频由AI辅（fǔ）助生成”。

　　“后来，我妈戴着老花镜，在我（wǒ）的（de）指（zhǐ）点下找（zhǎo）了一会儿才看（kàn）见那行字。”赵女士无（wú）奈地说，“这也不能怪老人，现（xiàn）在（zài）AI生成的‘数字（zì）人’泛（fàn）滥，还难辨真假（jiǎ），实在让人防不胜（shèng）防。”

　　有此困扰（rǎo）的（de）并非只有赵女士一家。《法治日（rì）报（bào）》记者（zhě）近日随机采访了数十名路人，至少（shǎo）有（yǒu）七成受访（fǎng）者称曾刷到过（guò）“AI数字人”视频，并且“难以分（fèn）清到底是真人还是‘数字（zì）人’”，而原因主（zhǔ）要在于（yú）“找（zhǎo）不到有（yǒu）效提示”。

　　很多人担忧：真人“数字人（rén）”傻傻分不清楚，背后是肖像权侵权乃至敲诈（zhà）、诈（zhà）骗等违法犯罪的风险隐（yǐn）患。

　　是否数字人难辨别（bié）

　　在重庆读大学（xué）的郑媛浏（liú）览（lǎn）某社交平（píng）台时，刷（shuā）到（dào）一则帖（tiē）子——照片里的（de）女生外形温（wēn）婉可人，穿搭清爽时（shí）尚，很夺人（rén）眼（yǎn）球。郑媛点赞并关注了该账号。

　　但（dàn）不多时，郑（zhèng）媛却刷到另一名（míng）博（bó）主揭露（lù）用“AI生成人”起号的内容，被打假（jiǎ）的（de）恰恰是她先前所（suǒ）关注的这个账号。“我仔细（xì）翻阅了（le）那个女生的账号主页，她并未（wèi）标（biāo）明使用AI技术，还（hái）在评论区亲切（qiē）地与（yǔ）其他用（yòng）户互动（dòng）。”面（miàn）对这样的局面，郑媛说自己也“糊涂了”。她后来观察了一个多星期，找（zhǎo）到了（le）该账号图片确为AI生成的证据——有网友在其他账号（hào）上发现了妆（zhuāng）容和衣着（zhe）几乎一样（yàng）的“数字人”，而人物介绍却完全不同。

　　习惯在直播间购（gòu）物（wù）的北京（jīng）市民李菲说，自己经常误入“数字人”直播间，“数字人”主播侃（kǎn）侃而（ér）谈介（jiè）绍商品，手部动作还能随（suí）着她说话的节奏（zòu）不断变动（dòng），声音流畅而自然。

　　“要仔细看才能看到直播间左侧一（yī）行（háng）‘现直播（bō）内容为数字人直播，非真（zhēn）人（rén）直播（bō）’的小字提醒。”李菲说，自己现在习惯（guàn）了进直播间“先找小字（zì）”，确认主播是否为（wéi）真人，“但真的‘费眼（yǎn）睛’，不（bú）是（shì）在犄角旮（gā）旯，就是字体（tǐ）几（jǐ）乎（hū）透（tòu）明，不注意根本看不到”。

　　袁伟(化名（míng）)是某985高校计算（suàn）机系研究生。他告诉（sù）记者：“现在一些（xiē）AI大（dà）模型生成的图，别说（shuō）中老（lǎo）年人会误以为真，很多没怎（zěn）么接触过AI技术的年轻人（rén）都不见（jiàn）得能分辨真假（jiǎ）。”

　　他随（suí）即为记者演示，向某AI软件输入指令“帮我（wǒ）生（shēng）成（chéng）图片：一个容貌姣好的女性，精细的皮（pí）肤纹理，室外自然（rán）光”，随（suí）即生成的图片与真人照片（piàn）相（xiàng）差无几，如果不是（shì）右下（xià）角（jiǎo）自带的水印，只让人觉得是一张普通的美女照片（piàn）。“如果说早期的AI软件大多不能生成自然的手指和人体比例，现在技术进步得很快（kuài），生成（chéng）的手指和人体比（bǐ）例（lì）已经比（bǐ）较像样了，更加（jiā）大了（le）分辨（biàn）的难度。”

　　“这样（yàng）的AI生（shēng）成（chéng）图片或视频，如（rú）果不作标（biāo）识提示，会让很（hěn）多人信以为真（zhēn）。”袁伟说。

　　大量账号未作标识

　　记者在某社交平台上注意到一名为“××AI打假人”的账户，其（qí）发帖称自己将致（zhì）力于“揪出纯AI生成的（de）内（nèi）容博主，帮小白识别真（zhēn）伪（wěi）”，还表示“关注了很（hěn）多（duō）AI生（shēng）成非真（zhēn）实的帅（shuài）哥美女”。

　　在其（qí）关注列表里有300多个账号，记者随机选（xuǎn）取了其中20个账号浏览发现，若没有看到（dào）评（píng）论（lùn）区“这是（shì）AI吧，手指的细节很诡异”“背景里的文（wén）字都是乱（luàn）码”等留言，记者第一（yī）反（fǎn）应只（zhī）以（yǐ）为他们是普通（tōng）的颜值（zhí）时尚类博主。

　　这20个（gè）粉丝量几百到几（jǐ）万不等（děng）的（de）账号（hào），仅有（yǒu）3个（gè）账号在简介中写明“虚拟男友（yǒu）”“AI”“友情（qíng）提示视（shì）频由虚拟现实技术（shù）制作（zuò）”，两个（gè）账号主页的内容经平台审核后被打上（shàng）了“疑似（sì）包（bāo）含AI创作信息，请（qǐng）谨慎甄别”的标签。其余账号在简介、内容（róng）中（zhōng）并未（wèi）提及“AI”字眼，平台的（de）监测机制也并未识别到，这些账号甚至还在评论（lùn）区熟稔地与其他用户互动，让自己看（kàn）上去更（gèng）有“真人感”。

　　在调（diào）查过程中（zhōng），有超过一半的受访者向（xiàng）记者表示AI生成（chéng）的“数字（zì）人”和（hé）真人难以（yǐ）分辨，相关的提（tí）示（shì）也并不显眼。

　　此外（wài），记者发现，有人还会特（tè）意教（jiāo）人如何绕过平台的（de）“AI打标”。据（jù）了解，目前，各平台已普遍升级AI内容识别系统，要求对AI生成（chéng）作（zuò）品（pǐn）进（jìn）行（háng）显著标注。但在调查中，有分享经验的博主表示（shì）花费不到千元（yuán）就可以（yǐ）购（gòu）买（mǎi）所（suǒ）谓的AI工具中（zhōng）预配置的镜像文（wén）件，称（chēng）用这（zhè）些镜（jìng）像（xiàng）参数一键（jiàn）生成的（de）虚拟人形象可以以（yǐ）假乱真，最大限度规避（bì）平台的AI内（nèi）容强（qiáng）制标（biāo）注机制。

　　细（xì）化标（biāo）准加大惩处

　　记者梳理公开信息发现，实践中，一些有（yǒu）心人士利用“数字人”形象行不（bú）法之（zhī）事。

　　据报道，张（zhāng）文宏、雷军等公（gōng）众人（rén）物形象曾被利用生成“AI数字（zì）人（rén）”，用来带货、恶搞。一些直（zhí）播间内（nèi），“AI数字人”向中老年（nián）人群体虚假（jiǎ）宣传保健品，诱导购买。更有（yǒu）甚者（zhě），一些不（bú）法分（fèn）子利用“AI数字人”进行敲诈、诈（zhà）骗等犯罪。例如，山西忻州公安机（jī）关工作发现，犯罪嫌疑人王某某利用AI技术，制作（zuò）合成“数（shù）字人”新闻视频引（yǐn）流，进而（ér）进行有偿发（fā）帖、有偿（cháng）删帖等（děng）敲诈（zhà）勒索活动。2024年，江（jiāng）西一名（míng）65岁（suì）老（lǎo）人到（dào）银（yín）行办理业务（wù），声称要贷（dài）款200万元（yuán）给男（nán）朋（péng）友“靳（jìn）东”拍戏，后经（jīng）调查，老人手（shǒu）机里的“靳东（dōng）”视频是（shì）AI合（hé）成的。

　　重庆大学网络与大数据研究院副（fù）院长罗（luó）勇认为，就（jiù）价值取向（xiàng）而言，AI产（chǎn）业发展（zhǎn）不（bú）能凌（líng）驾于网络安全之上。对（duì）于（yú）利用AI技术生成的短视（shì）频（pín），网络用户特别是未成年人和老（lǎo）年人（rén）由于缺乏（fá）必要的鉴别能力，往往（wǎng）会（huì）信（xìn）以为真，由此可能产生负面网络舆情（qíng），甚至对网络安全造成负面（miàn）影响。

　　据受访（fǎng）专家介绍，当前我国已经出台了《生成（chéng）式（shì）人工（gōng）智（zhì）能（néng）服务管理暂（zàn）行办法》《互联网信（xìn）息服务（wù）深度合成管理规定》等法规，对“AI数字人”和AI生（shēng）成内（nèi）容的标识、数据来源等（děng）提出了（le）具（jù）体要（yào）求（qiú）。

　　今年3月，国（guó）家网信办等四部门联合发布《人（rén）工智能生成合（hé）成内容标识办法》(以下简称标识办法)，通（tōng）过标识提（tí）醒用户辨别虚假信息，规（guī）范内容制作、传（chuán）播各环节标识行（háng）为（wéi），为规范AI生（shēng）成内容划定红线。该办法将于9月1日起施行。

　　中国政法大学教授郑飞指出，相关规定一定程度（dù）存在落地难的问题（tí）。一是监管（guǎn）和技术手段有限（xiàn），难以彻底发现并纠正违规（guī）行为。例（lì）如，一些（xiē）“AI起号”从（cóng）业者通过（guò）预（yù）置“镜（jìng）像参数（shù）”生成极为逼真的虚拟人像，从而逃避平（píng）台的强制标注要求。而（ér）监（jiān）管部门特别是基层执法部门，通常（cháng）面（miàn）临职责不清、执法手段和（hé）执（zhí）法力量不足的问题；二是部分平台在一定程度上“管不了”也“不想管”。“管不（bú）了”在（zài）于平（píng）台管理能（néng）力与（yǔ）技术手（shǒu）段欠缺，尤（yóu）其（qí）是一些小型（xíng）平台，缺乏足够的（de）审核人力（lì）和（hé）技术支持。“不（bú）想管”则是背后利益驱（qū）动（dòng）。未明显标识“AI数字人”或合成内容，会让（ràng）受众误（wù）以为（wéi）是真人或真实事（shì）件，从而更容（róng）易引起人们的兴趣和好奇（qí）心，吸引（yǐn）更多的流量（liàng）和关注，进而带（dài）来（lái）更多的商业利益（yì）。

　　“以（yǐ）网络社交（jiāo）平（píng）台为（wéi）代表的网络（luò）服务（wù）提供者在AI生成（chéng）内（nèi）容的应（yīng）用场（chǎng）景中，应当进一步（bù）完善用（yòng）户（hù）使（shǐ）用AI协议规（guī）定，并强（qiáng）化对AI生成内容的审核。”罗（luó）勇说。

　　郑飞建议（yì），应从明确标识要（yào）求和加大责任追究两方面（miàn）发力。标（biāo）识办法明（míng）确要求，一旦检测到AI生成内容，传播平台应（yīng）在发布内容周边添（tiān）加显著（zhe）提示标识，并在文件元数据中加隐（yǐn）式标识，确保全流程可溯源。在未来落实过程（chéng）中，可（kě）进一步细化技术标准，比如规定（dìng）标识文字的（de）最小高度（dù）、对（duì）比度（dù）、展示（shì）时（shí）长等，让标识一目了然。另外，对于（yú）不按规定标注的行为，需要严厉（lì）处罚：除加大行政罚款、暂停业（yè）务或纳入不良信用记录等行政措施外，还要利用法律手段（duàn）加大（dà）威慑。通过明确、显著的标识标准和更严厉的责任追究，才能从根本上震（zhèn）慑违规不标注行为，实现“AI数字人”应用的透明化、合规（guī）化。