前些天，小米发布《2023上半年小米应用生态治理报告》。

截至6月30日，小米应用商店已完成10余轮在架应用隐私合规安全检测工作，累计巡查超过数万款应用，及时对可能侵害及侵害用户权益的应用做整改及处置。对超期整改、拒不整改的10000余款应用进行下架处置。

小米还举了两种被指治理的典型案例。

一种是用户很熟悉的捆绑和强制安装类。

用户在下载App时，被默认勾选“安全下载”或“高速下载”，并以此为名义被捆绑安装了某些应用市场类APP。

整改之后的App下载页面明确表明了被下载的应用是什么，且在“关于产品”选项内披露了应用五要素信息，不再侵犯用户知情权。

同时，取消了默认勾选的“优先下载安装，启动助手将自动下载游戏”按钮。并将两个下载按钮样式、大小完全统一，不做特殊引导，不再侵犯用户选择权。

第二种是最近很流行的AI类App。

小米以AI换脸产品为例，近日多地频发使用智能AI技术进行电信诈骗的案件，小米对此也高度重视。通过系统能力进行圈选定向，审核其资质、功能（合成他人声音、合成他人面貌、转发微信语音）等违规项，对其违规内容进行严格筛查，确保用户的使用安全。

关于AI生成相关应用，一开始需要一定的操作门槛，例如需要先在安装一套架构和模型，再输入大量代码生成。结果现在，AI类App门槛大幅降低，原先需要电脑才能处理的任务，手机也可以处理。

AI换脸、AI绘画之类的功能加入到手机App之后，确实增加App的可玩性，但随着门槛逐渐降低，软件背后的一些问题也开始显现出来，比如大家最怕的AI诈骗。

近日，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。

基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。这个案件就是利用AI换脸+AI拟声，在10分钟里骗取受害人430万。

幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。

换脸为“成龙”的实时效果和软件界面（视频截图）

这样的案例还有很多，2022年2月，有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。

今年 1 月，《互联网信息服务深度合成管理规定》施行，对 AI 合成相关的内容进行了明确约束，平台也会跟进相关规定。

现在App出现AI合成内容都会有提示，至于AI诈骗，还是要提高反诈意识，当有朋友求助，最好还是打电话核实一下。

本站所发布的文字与图片素材为非商业目的改编或整理，版权归原作者所有，如侵权或涉及违法，请联系我们删除