现在，得益于人工智能，现在可以轻松地“改变你的脸”。当被犯罪分子利用时，它们可能会对公众造成严重伤害。近日，辽宁省沉阳市警方公布了一起利用人工智能技术合成他人淫秽视频并恶意传播的案件。 淫秽视频在互联网上传播 女子脸部被恶意修改 今年5月，辽宁人王某在浏览短视频平台时，发现自己的“淫秽照片”被公开传播。视频中，他的脸叠加在一个裸体女人的身上，并附有贬义文字。尽管王先生以前从未录制过类似视频，但他决定立即向警方报案。 辽宁省沉阳市康平县公安局胜利派出所副所长胡军卓：我报警的时候就觉得这件事很尴尬屁股。他一边说一边哭了。主要是不知道有多少人看到了那个视频，对她的影响有多大。 经过技术调查，警方发现该恶意视频的发布者针对的是一名刘姓男子。案发后，刘某承认，他发布的淫秽视频是网络上有人利用人工智能合成的。 据了解，王先生在当地经营一家理发店，刘先生曾在那里短暂工作过。试用期间双方在薪资问题上产生分歧，刘某萌生了通过发布恶意短视频报复王某的想法。 最终，刘某因违反《中华人民共和国治安管理处罚法》，被辽宁省警方处以行政拘留10日，并处罚金500元。 AI合成有缺陷 警察会告诉您如何区分。 近年来，非法d 利用人工智能生成面部表情的犯罪行为时有发生。 AI换脸不仅被用来在网上发布恶意视频，还被用来进行虚假视频通话以达到诈骗目的。 AI脸部修饰在日常生活中存在哪些风险？消费者该如何预防？ 近年来，记者注意到，消费者因人工智能带来的改变而遭受损失的案例越来越多。 今年5月，上海警方专门利用人工智能伪造网恋。一起涉案金额超过200万元的诈骗案被发现，导致新娘子被骗。 2024年，内蒙古自治区鄂尔多斯市一名消费者遭遇人工智能换脸诈骗，差点损失40万元。视频通话过程中，诈骗分子利用换脸AI技术冒充消费者朋友，骗取其转账金额超过40万元进行资金交易。幸亏警方及时介入，才没有造成什么后果。损害已经造成。同年，安徽省一名消费者遭遇类似的人工智能换脸骗局，损失超过60万元。 记者调查发现，人工智能技术在快速发展的同时，也成为一些不法分子的攻击目标和非法获利的工具。 据警方介绍，AI搞笑脸的实现过程非常简单：只需要​​一张照片，10秒即可组成搞笑脸。 辽宁省沉阳市康平县公安局网安大队大队长龚超：我们在网上找到了这个软件。首先，选择一张脸部照片。选择所需的照片后，单击开始生成。这就是最基本、最简单的AI换脸流程以及生成的图像。 不过，AI换脸视频虽然误导性很大，但也存在一些缺陷。 康平县公安局网络安全大队 龚桥队长辽宁省沉阳市安监局：AI直播换脸时，转头时头像会变形。如果你将其向上、向下、向左或向右移动，就会出现鬼魂。如果有人正在与您进行视频通话。我们建议对方上下移动头部并用您的方言与您交谈。他不可能模仿你的声音，然后模仿你的方言。 警方警告称，互联网不是非法场所，非法活动会留下痕迹。利用人工智能技术进行非法活动最终将导致罚款。警方提醒广大消费者保护个人隐私，未经允许不得上传含有个人信息的照片或视频。 辽宁省沉阳市康平县公安局网安大队大队长龚超：你可以提交照片，但你的个人信息、联系方式、地点和工作单位不会被泄露披露。这降低了被骗的风险。如果发生什么事，不要惊慌。相信报警能够帮助大家解决问题。