微信首次预警AI工具风险

微信首次对部分AI工具发出预警,因其涉嫌违法违规获取和利用用户数据,可能带来隐私泄露、诈骗等风险。微信安全中心发布公告,强调将坚决打击此类行为。
于五一长假前晚(4月30日晚6时),微信发出一则公告,首次就部分AI工具涉及违法违规获取或利用微信终端用户数据发出预警。
这则由微信安全中心发布的名为“针对违规获取及利用微信终端用户数据行为的打击公告”显示,“有部分第三方工具以‘AI 管理用户微信聊天记录’等名义,绕过微信安全技术措施,违法违规获取或利用微信终端用户数据”,并因此表示,将会对此进行打击。
其中所指,或是近期市场上部分被用来提效的AI工具。这也是微信在发出的公告中,首次提及AI工具、智能体字样。
根据提示,这些工具以提供一个看似安全的工具/服务,诱导用户授权使用,从而获取数据,而这些行为,可能将微信终端用户数据用于非法用途或造成数据泄漏。
这些工具,或通过注入类型服务(服务提供方在提供服务的同时,通过代码注入或者智能体提示词注入的方式获取登录设备上的聊天记录等用户数据),或通过转储类型服务(服务提供方在账号授权后对设备进行监听或者录屏,并转储语音沟通、聊天记录等用户数据)。
不论哪一种,微信提示都会带来诸多风险,包括泄露用户隐私,聊天记录中如包含用户身份、位置、支付等敏感信息,可能被不法分子用于信息倒卖或精准诈骗,危害人身、财产安全等。
于公告中,微信也明确表示,会持续坚决打击各类违规获取、利用微信终端用户数据的行为。
去年6月时,微信旗下企微团队曾发出相似公告(参考阅读:字少事大!企业微信公告严厉打击“外挂”行为),其中明确提及:
企业微信持续严厉打击“外挂”行为,对于开发“外挂”软件、提供“外挂”服务的个人及公司,我们将采取包括诉讼在内的一切法律手段,维护合法权益。
当时前后时间中,有部分“外挂”团队因此被起诉,也引起了多家团队为此切割服务,将被打击的功能和服务从自身业务中剥离。
昨晚(4月30日)这一则公告中,微信虽未明确提及打击方式,参照去年6月前后行为推测,使用这些工具的商家或会被封禁账号、限制某些能力。对于开发团队,或还会有可能面临相似诉讼风险。
值得留意的是,当下市场中,采用AI工具或智能体来进行运营提效,已经是诸多行业在采取方式,有不少涉及1对1聊天、1对多聊天(微信群)的场景。这一需求吸引了许多创业团队/服务商推出对应服务。
因此,这则公告背后,会带来不少的关注和波动。可能长假期间,许多团队将无法休假,转而开始讨论应对之策。
本文由运营派作者【见实】,微信公众号:【见实】,原创/授权 发布于运营派,未经许可,禁止转载。
题图来自 Unsplash,基于 CC0 协议。
核心利益共情。每个人都是独特的个体,运营针对的是群体,所以每个群体一定有共同的核心利益点,找到这个点去共情延伸的情绪,会帮助在工作中实操的效率性。
已经发文章转发到公司微信群了,也让大家学习学习。
讲的很透彻,例比通俗易懂,果然是高手
这篇文章写得太棒了,让我受益匪浅,感谢作者的分享!