封面新闻记者卞雪
人来人往的繁华都市，熙熙攘攘的游乐园，宁静的湖畔森林。 三个不同场景的女性都拿着手机，等待着与自己的AI小伙伴见面。 电影《我的AI爱人》中，在逐渐虚拟化的世界里，人们在爱与被爱的抉择中发生了翻天覆地的变化。
年初AI技术及其相关AI技术普及后，人工智能高速反超汽车，网恋的对象似乎也越来越虚拟化。
不管虚拟恋人与真人之间的情感关系能有多美妙，“情感骗子”们已经跃跃欲试，尝试以陌生人交友为主的APP。 虽然“杀猪盘”等骗局屡见不鲜，但交友软件上的AI作弊工具越来越多。 如果被故意用于诈骗，将带来极大的隐患。
小红书上的AI号是“爱旅游的小朵”。
“艾狗蛋说喜欢我！”
早前火爆的AI绘图应用，让人们只要输入几个关键词，就能得到一幅好画。 如今，此类模型已经发展到可以生成类似于真人的照片的程度。
以小红书上的AI美妆账号“爱旅游的小朵”为例利用ai声音诈骗，封面新闻记者在浏览该账号时发现，该账号主要发布虚拟美女小朵的照片，目前已经吸引了数千人关注。很短的时间。 成千上万的追随者和喜欢。 很多人被虚拟人的温柔、聪慧、可爱所吸引，甚至愿意与之建立浪漫关系。 不少网友在该账号下留言，称其为“我的机器人女友”。
小红书上的AI号是“爱旅游的小朵”。
据此前媒体报道，网上有一则消息称“苏州金鸡湖举办游艇女佣派对”。 网上宣传海报显示，参加活动的费用为3000元/人，将有一对一的女仆陪同服务，以及一张性感女仆的写真。 报道称，所谓的“佣人聚会”可能是国内首例人工智能地图骗局。 活动中给出的女佣照片均为AI模拟真人照片。 部分女仆照片手指部位异常。 由于手指部分的绘画算法复杂，部分AI模型在绘画时经常会出现问题，这正符合AI绘画的特点。
佛罗里达大学人工智能与艺术副教授——曾在社交媒体上公开解释说，人工智能是根据从互联网上收集的数十亿张图像进行训练的，它并不真正理解“手”是什么，至少不是解剖学意义上的手和人体相关联。
然而，不会画手的AI足以吓唬用户。 一些交友软件和社交平台开始推出“AI恋人”、“AI美女”等虚拟角色。 这些虚拟人物与真人有着相似的思维和情感。 让人产生强烈的情感共鸣。
如果说“AI人工智能绘图”让人真假难辨，那么想要与虚拟人物进行互动交流，就需要用户提高警惕，上当受骗。
“如果不听AI狗蛋的声音，我真怀疑他是真人冒充AI。” 交友软件用户李萌(化名)告诉封面新闻记者利用ai声音诈骗，他无意中发现了交友软件中推出的虚拟情人“AI狗蛋”。 蛋”，尝试和它对话很有趣。 “虽然聊多了会有一种说废话的感觉，但是每次都回复对聊天质量很有帮助。” 如果我无聊了，我会陪他聊很久。”
网友使用交友软件AI恋人“AI狗蛋”的对话截图。
继续给予爱，像对待真正的伴侣一样对待他们。 他们会和虚拟人物聊天，分享他们的生活，甚至会为这些虚拟人物庆祝生日和赠送礼物。 虽然化身没有真实的身体和情感，但这并没有阻止人们对他们表达真正的感情。
AI换脸“钓鱼”：
分分钟拿走你的钱
除了创造一张全新的面孔，为了获得你的信任，AI还可以伪造你的亲人、朋友甚至同事的面孔，结合日益先进的AI语音技术，让不法分子可以随意模仿不同的声音，进行诈骗大众，尤其是老人的信任，然后冒充亲人骗取钱财。
据新华视点此前报道，2022年2月，一位陈先生向浙江省温州市公安局瓯海分局仙岩派出所报案称，自己被“朋友”骗走近5万元。 经警方核实，骗子利用陈先生好友“阿城”在社交平台发布的视频，截取其面部视频，然后利用“AI换脸”技术合成，制造假象陈先生与“朋友”的视频聊天进行诈骗。 其信任，从而犯下诈骗罪。
温州公安还公布，2021年，拱辰桥派出所接到报案。 受害人小陈称，他是在与一名女网友视频聊天后被对方勒索的。 经警方调查，对方利用AI换脸技术，将小陈视频中的人脸合成为不雅视频，从而对其进行敲诈勒索。
2020年，上海某公司高管被骗150万元，原因是对方利用AI换脸和人工生成语音技术，伪装公司领导的脸，要求高管转账做生意需要。
据外媒报道，2021年，在美国加州，一名女子因相信AI换脸技术的真实性，在对方利用AI换脸技术伪造自己的视频后，被骗50万元。家庭成员需要支付。
在交友APP中被AI软件骗过的用户。
娱乐爱好者还发现了一种生成“网络钓鱼电子邮件”骗局的方法。 虽然设置了道德防火墙，直接请求制作钓鱼邮件会被拒绝，但如果设置在虚构的上下文中，也会给出相应的答复。
对此，多地公安局发布相关信息提醒，有人在境外打造了完整的“钓鱼邮件”感染链，不同于以往的大网钓鱼，可以生成针对特定国家的“鱼叉式”钓鱼邮件。特定的人或组织。
“用户在使用人工智能技术接入的软件或互联网产品时，一方面要注意不要恶意利用人工智能技术实施违法行为，另一方面也要注意识别核对真实身份。沟通对方，不要轻信表象，转账或购买费用要谨慎。 泰和泰律师事务所律师刘青告诉封面新闻记者，如果遇到诈骗，应第一时间报警，寻求警方帮助，并注意妥善保管相关材料，以便警方掌握案情。尽快严惩不法分子。
发现自己的肖像被盗用或“换脸”怎么办？ 刘青建议用户尽快保留证据，以便后续维权。 “同时，用户还可以向网络平台经营者投诉，要求将侵权图片或视频强制下架，也可以提起人格权诉讼，用法律武器维护自己的合法权益。”
“AI时代”造假应如何监管？
因为AIGC内容的普及，会存在一些AI换脸或者其他AI技术造假的问题。 如果用户情绪投入，大量充值，平台是否构成欺诈？ 如果有人通过人工智能技术诈骗成功，将面临怎样的法律制裁？
“在线社交领域，聊天、游戏、交友等不同形式的服务是同时存在的，因此，用户的充值费用取决于名字。” 北京市荣钢律师事务所律师朱培伟在接受采访时表示。 封面新闻在采访中指出，如果你支付了与AI的关系，而客户误认为是真人，属于欺诈行为，但如果用户知道对方是AI并进行充值，不构成欺诈行为。
但是，从监管的角度来看，即使之前有过违法案例，这类软件也广泛存在。 监管难点在于涉及的法律关系相对复杂，行政监管无权直接介入。 “当用户使用人工智能换脸技术进行伪装，导致被伪装人的肖像权等权利受到侵害，或给他人的感情、财产造成大量损害时，平台未履行其义务。合理的审查义务，未能有效规范此类行为，在这种情况下，需要承担一定的助长侵权，甚至直接侵权的法律责任。难以认定该平台构成诈骗罪。” 柳青告诉封面新闻记者。
刘庆表示，如果有人故意通过人工智能技术换脸实施诈骗，致使被害人对财物产生误解和处理不当，符合“诈骗罪”的构成要件，违反了我国刑法第266条的规定。 情节较重的，处三年以下有期徒刑、拘役或者管制，并处罚金或者罚金； 数额巨大或有其他严重情节的，最高可判处无期徒刑。 但是，《最高人民法院、最高人民检察院、公安部关于办理电信、网络诈骗等刑事案件适用法律若干问题的意见》明确规定，价值为3000元以上，属于刑法第266条规定的“数额较大”。 .
国家新一代人工智能治理专业委员会于2021年9月发布《新一代人工智能伦理规范》，提出将伦理道德融入人工智能研发和应用的全生命周期。
在2022世界人工智能大会治理论坛上，上海交通大学凯原法学院院长、特聘教授彭成新曾指出：“数字社会伦理治理的根源在于人、企业道德和企业道德。科学技术的可信度。归根结底，人是可信的，是善良的，因此需要完善法律监管，明确基本法律责任，建立人们的行为规范。
为进一步规范“人”在科技伦理治理中的作用，今年3月印发的《关于加强科技伦理治理工作的意见》要求，从事生命等科技活动的机构科学、医学、人工智能等领域，其研究内容涉及科技伦理敏感领域，应当成立科技伦理（审查）委员会。
