网络明星AI克隆人上线，隐私和安全如何保障？

据北京商报报道，AI半藏森林上线的信息出现在该APP首页发现栏目，和半藏森林克隆人互动时，对方可通过语音、文字形式回复。聊天界面上方设有增值服务入口，点击立即解锁，可体验更多互动形式。

而半藏森林AI克隆人有两种付费模式，情感模式需支付6元/月或72元/年，用户能享受克隆人语音消息回应、同步克隆人朋友圈；超级模式支需付30元/月或360元/年，克隆人会为用户提供撰写文案等服务，还能进行视频通话。在此前的体验阶段，超级模式暂未上线。

此前，福建福州某科技公司法人代表郭先生接到了由AI换脸技术合成的“好友”的微信视频电话后向对方转账，被骗430万元；安徽安庆的何先生在接到一个9秒的“熟人”视频电话后向对方转账，结果被骗，所幸警方抓获了3名涉诈嫌疑人，追回了他被骗的132万元。10分钟被骗430万！AI诈骗为什么成功率100%？我们应该如何防范？

AI克隆人是否会产生此类安全风险？

在AI小冰微信公众号发布的文章中，小冰团队表示，为避免克隆人带来安全隐患或被滥用，团队采用了最高的安全标准。

“小冰公司的‘克隆人计划’最短只需个人采集三分钟数据，即可为明星红人、专家学者或普通人创造源于本人性格、技能、声音、外貌的AI克隆人，并提供专有平台，以便于本人将认证克隆人有偿或无偿提供给自己的受众。”AI小冰微信公众号在今年6月1日发布的文章中称，克隆人基于小冰框架大模型、神经网络渲染及超级自然语音技术，可实时情感交互及提供AIGC能力，甚至有自己的朋友圈，如同人类在平行世界的第二人生。

在训练数据方面，仅使用本人小样本数据，并在训练后清除，从而避免过多采集本人数据及滥用；在技术运用方面，使用经小冰团队长期验证的技术，例如安全的混合模型，而非单纯的大模型，从而确保技术边界已知；在使用场景方面，严格限制克隆人在特定产品（X Eva APP）中，而非将技术接口API开放，从而避免克隆人被不当使用；在本人对克隆人的控制方面，提供便利以使本人可随时中止其克隆人。

“此外，全部C端或B端用户均须提交本人权属证明方可实施，以避免数据的侵权或不当使用。”AI小冰微信公众号发布的文章中称。

专家意见分析

“‘（AI）克隆人’属于新生事物，其技术核心还是依靠目前的生成式人工智能技术。关于‘克隆人’产品的未来发展，关键在于需要符合监管方向。”北京市京师律师事务所合伙人、主任律师卢鼎亮向记者表示。

在隐私和数据安全方面，中国移动通信联合会元宇宙产业委执行主任于佳宁表示：“隐私和数据安全是摆在行业面前最重要的问题。当用户与AI克隆人进行聊天等交互时，他们可能会提供大量个人信息和敏感数据，因此需要确保充分的数据保护和隐私措施，以防止数据泄露或滥用。”

在今年4月11日，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》国家网信办出手！AI监管是下个增量赛道？。卢鼎亮认为，从征求意见稿来看，网信办对生成式人工智能服务行业的健康发展持鼓励支持态度，同时鼓励优先采用安全可信的软件、工具、计算和数据资源。

“如果《生成式人工智能服务管理办法（征求意见稿）》生效，AI克隆人的产品或服务必然会持续发展。”卢鼎亮表示，在发展的过程中，还需要符合监管思路，克隆人服务提供商、用户等主体在使用训练数据、使用产品、保护数据安全和隐私、防止法律风险和重大道德以及舆论风险、防止不正当竞争等方面都需要注意合规风险。

同时，中国民协元宇宙工委副会长兼创会秘书长、中国通信工业协会两化融合委员会副会长吴高斌还指出，AI克隆人的虚拟身份可能会被滥用，例如用于网络诈骗或恶意攻击等。

由数据安全域综合整理，转载请注明来源。