每周风险追踪丨执业律师被百度AI错认“被判刑三年”

21世纪经济报道记者 章驰

每周，每周我们会盘点上一周国内外人工智能、风险互联网平台治理、追踪科技竞争方面需要重点关注的丨执动态，并分析其热搜指数与风险指数，业律从舆情热度与综合风险两个维度进行评价。师被

上周欧盟初步认定Meta违反《数字服务法》；AI内容标识不合规，百度被判剪映、刑年即梦、每周猫箱等平台被责令整改；中央网信办部署开展“整治AI应用乱象”专项行动；执业律师被百度AI错认“被判刑三年” ；苹果因 AI Siri 延迟赔偿；多家出版商起诉Meta，风险指控其盗用版权作品训练人工智能；欧盟禁止 AI 生成深度伪造的追踪色情内容。以上事件暴露了技术、丨执应用、业律伦理等维度的师被风险，也体现了对平台的百度被判整治措施和力度。

据央视4月29日报道，欧盟委员会初步认定，Meta违反《数字服务法》（DSA），因其未能有效防止13岁以下未成年人使用其旗下的Instagram和Facebook。

委员会指出，尽管Meta在其使用条款中明确规定，用户最低年龄为13岁，但公司在执行这一规定方面措施不足。现有机制既未能有效阻止未达年龄的用户注册和使用服务，也未能及时识别并清除已获得访问权限的未成年人账户。欧盟委员会认为，Meta未能充分履行对未成年人使用风险的识别、评估和缓解义务，因此构成对《数字服务法》的潜在违规。

?热搜指数★★★★★

⚠️风险指数高

因在百度搜索中检索“李小亮律师”等关键词时，百度“AI智能回答”竟生成“李小亮律师被判三年有期徒刑”的错误内容，并配发其身着律师袍的照片，南京律师李小亮以名誉权受侵害为由，将北京百度网讯科技有限公司（以下简称“百度公司”）诉至法院。

这起被百度公司称为“中国人工智能大模型侵权第一案”的案件有了最新进展。5月8日，南京江北新区人民法院执行局已通知李小亮，该执行案即将立案。此前，南京市中级人民法院二审驳回百度公司上诉，维持一审判决，认定百度公司构成名誉侵权，应向李小亮书面道歉。由于判决生效后百度公司未主动履行，李小亮向南京江北新区人民法院提交了强制执行申请。

本案作为国内AI大模型名誉侵权标杆案，判决意义深远。百度AI因“幻觉”虚构律师判刑谣言，贬损他人职业声誉、侵害名誉权，法院二审维持侵权认定，明确AI技术缺陷、技术中立不能成为平台免责借口。治理AI幻觉，平台不能甩锅给技术，对于可预见、可防控的AI幻觉不能免责，企业有能力风控却疏于作为就要承担侵权后果。判决划定AI服务法律责任边界，倒逼平台完善内容风控与事实核验机制，平台败诉后拒不履行判决遭强制执行，也警示互联网企业须尊重司法裁判、主动承担侵权责任。

?热搜指数★★★★★

⚠️风险指数高

近期网信部门工作中发现，“剪映”“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。

国家互联网信息办公室相关负责人表示，网站平台要严守法律底线红线，严格落实人工智能生成合成内容标识相关规定要求。网信部门将深入推进依法管网治网，持续加大人工智能生成合成内容标识监督管理力度，切实维护社会公共利益，推动人工智能健康有序发展。

?热搜指数★★★★★

⚠️风险指数高

为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动。

中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等问题，强化AI技术源头治理。第二阶段为“清朗·整治AI信息内容乱象”专项行动，聚焦利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。

?热搜指数★★★★

⚠️风险指数高

5月6日消息，五家主要出版商在曼哈顿联邦法院起诉Meta Platforms，指控这家科技巨头滥用他们的书籍和期刊文章来训练其人工智能模型。

Elsevier、Cengage、Hachette、Macmillan 和 McGraw Hill，以及作家 Scott Turow 在拟议的集体诉讼中声称，Meta盗版了他们的数百万部作品，并在未经许可的情况下使用这些作品来训练其 Llama 大型语言模型，使其能够对人类的提示做出反应。

诉讼将 Meta 首席执行官马克・扎克伯格列为被告，指控其亲自批准并主动纵容此次版权侵权行为。出版商在诉状中表示：“被告的行为，构成史上规模最大的版权作品侵权行为之一。”

Meta 发言人回应称，公司将积极抗辩此次诉讼。

?热搜指数★★★★

⚠️风险指数高

当地时间 5 月 5 日，苹果就因新版 Siri 延迟上线引发的虚假宣传集体诉讼正式达成 2.5 亿美元和解协议。据报道，该项 2.5 亿美元的和解协议覆盖在 2024 年 6 月 10 日至 2025 年 3 月 29 日期间，于美国境内购买支持 Apple Intelligence 设备的机主，涵盖 iPhone 15 Pro 系列及全部 iPhone 16 系列（含 16e）机型。符合条件的单台设备预计可获赔 25 美元，具体索赔金额将根据实际提交申请的人数进行动态调整，单设备最高赔付上限为 95 美元。苹果在和解协议中未承认任何不当行为，并坚称其商业运作符合相关法规。苹果官方发言人回应称，自 Apple Intelligence 发布以来，已相继推出视觉智能、实时翻译及写作工具等数十项功能，此次和解旨在快速解决围绕两项未如期上线功能的争议，以确保公司将核心精力集中于产品创新。

?热搜指数★★★★

⚠️风险指数中

5 月 8 日，欧洲议会议员和欧盟成员国就修订《人工智能法案》达成共识，同意禁止 AI 生成深度伪造的色情内容。据了解，这一禁令将被纳入 2024 年通过的《人工智能法案》修订条款，意味着欧盟将在法律层面对相关 AI 滥用行为划出明确红线。欧洲议会议员迈克尔·麦克纳马拉表示，这是欧盟首次通过立法明确禁止脱衣换脸类应用程序。根据人工智能取证组织报告，2025 年 12 月 25 日至 2026 年 1 月 1 日，在 Grok 以深度伪造方式生成的 2 万张图像中，55% 的人物图像穿着暴露，其中 81% 是女性，另有 2% 的图像中人物年龄不足 18 岁。

?热搜指数★★★

⚠️风险指数高

更多内容请下载21财经APP