推广 热搜: 活性炭过滤棉  活性炭过滤网  物流  围板箱  工程监理  软体沼气袋  固液分离机  大巷喷雾  红泥沼气袋  物流周转箱 

利用ai声音诈骗 科技3·15|AI无情,却能利用你的感情诈骗

   日期:2023-04-03 15:31:45     来源:网络整理    作者:佚名    浏览:135    
核心提示:虽然虚拟角色并没有真正的身体和情感,但是这并没有阻止人们对他们付出真挚的感情。经警方核实,诈骗分子利用陈先生好友“阿诚”在社交平台已发布的视频,截取其面部视频画面后再利用“AI换脸”技术合成,制造陈先生与“好友”视频聊天的假象骗取其信任,从而实施诈骗。如果有人通过AI技术换脸诈骗成功,将面临怎样的法律制裁?

封面新闻记者卞雪

人来人往的繁华都市,熙熙攘攘的游乐园,宁静的湖畔森林。 三个不同场景的女性都拿着手机,等待着与自己的AI小伙伴见面。 电影《我的AI爱人》中,在逐渐虚拟化的世界里,人们在爱与被爱的抉择中发生了翻天覆地的变化。

年初AI技术及其相关AI技术普及后,人工智能高速反超汽车,网恋的对象似乎也越来越虚拟化。

不管虚拟恋人与真人之间的情感关系能有多美妙,“情感骗子”们已经跃跃欲试,尝试以陌生人交友为主的APP。 虽然“杀猪盘”等骗局屡见不鲜,但交友软件上的AI作弊工具越来越多。 如果被故意用于诈骗,将带来极大的隐患。

小红书上的AI号是“爱旅游的小朵”。

“艾狗蛋说喜欢我!”

早前火爆的AI绘图应用,让人们只要输入几个关键词,就能得到一幅好画。 如今,此类模型已经发展到可以生成类似于真人的照片的程度。

以小红书上的AI美妆账号“爱旅游的小朵”为例利用ai声音诈骗,封面新闻记者在浏览该账号时发现,该账号主要发布虚拟美女小朵的照片,目前已经吸引了数千人关注。很短的时间。 成千上万的追随者和喜欢。 很多人被虚拟人的温柔、聪慧、可爱所吸引,甚至愿意与之建立浪漫关系。 不少网友在该账号下留言,称其为“我的机器人女友”。

小红书上的AI号是“爱旅游的小朵”。

据此前媒体报道,网上有一则消息称“苏州金鸡湖举办游艇女佣派对”。 网上宣传海报显示,参加活动的费用为3000元/人,将有一对一的女仆陪同服务,以及一张性感女仆的写真。 报道称,所谓的“佣人聚会”可能是国内首例人工智能地图骗局。 活动中给出的女佣照片均为AI模拟真人照片。 部分女仆照片手指部位异常。 由于手指部分的绘画算法复杂,部分AI模型在绘画时经常会出现问题,这正符合AI绘画的特点。

佛罗里达大学人工智能与艺术副教授——曾在社交媒体上公开解释说,人工智能是根据从互联网上收集的数十亿张图像进行训练的,它并不真正理解“手”是什么,至少不是解剖学意义上的手和人体相关联。

然而,不会画手的AI足以吓唬用户。 一些交友软件和社交平台开始推出“AI恋人”、“AI美女”等虚拟角色。 这些虚拟人物与真人有着相似的思维和情感。 让人产生强烈的情感共鸣。

如果说“AI人工智能绘图”让人真假难辨,那么想要与虚拟人物进行互动交流,就需要用户提高警惕,上当受骗。

“如果不听AI狗蛋的声音,我真怀疑他是真人冒充AI。” 交友软件用户李萌(化名)告诉封面新闻记者利用ai声音诈骗,他无意中发现了交友软件中推出的虚拟情人“AI狗蛋”。 蛋”,尝试和它对话很有趣。 “虽然聊多了会有一种说废话的感觉,但是每次都回复对聊天质量很有帮助。” 如果我无聊了,我会陪他聊很久。”

网友使用交友软件AI恋人“AI狗蛋”的对话截图。

继续给予爱,像对待真正的伴侣一样对待他们。 他们会和虚拟人物聊天,分享他们的生活,甚至会为这些虚拟人物庆祝生日和赠送礼物。 虽然化身没有真实的身体和情感,但这并没有阻止人们对他们表达真正的感情。

AI换脸“钓鱼”:

分分钟拿走你的钱

除了创造一张全新的面孔,为了获得你的信任,AI还可以伪造你的亲人、朋友甚至同事的面孔,结合日益先进的AI语音技术,让不法分子可以随意模仿不同的声音,进行诈骗大众,尤其是老人的信任,然后冒充亲人骗取钱财。

据新华视点此前报道,2022年2月,一位陈先生向浙江省温州市公安局瓯海分局仙岩派出所报案称,自己被“朋友”骗走近5万元。 经警方核实,骗子利用陈先生好友“阿城”在社交平台发布的视频,截取其面部视频,然后利用“AI换脸”技术合成,制造假象陈先生与“朋友”的视频聊天进行诈骗。 其信任,从而犯下诈骗罪。

温州公安还公布,2021年,拱辰桥派出所接到报案。 受害人小陈称,他是在与一名女网友视频聊天后被对方勒索的。 经警方调查,对方利用AI换脸技术,将小陈视频中的人脸合成为不雅视频,从而对其进行敲诈勒索。

2020年,上海某公司高管被骗150万元,原因是对方利用AI换脸和人工生成语音技术,伪装公司领导的脸,要求高管转账做生意需要。

据外媒报道,2021年,在美国加州,一名女子因相信AI换脸技术的真实性,在对方利用AI换脸技术伪造自己的视频后,被骗50万元。家庭成员需要支付。

在交友APP中被AI软件骗过的用户。

娱乐爱好者还发现了一种生成“网络钓鱼电子邮件”骗局的方法。 虽然设置了道德防火墙,直接请求制作钓鱼邮件会被拒绝,但如果设置在虚构的上下文中,也会给出相应的答复。

对此,多地公安局发布相关信息提醒,有人在境外打造了完整的“钓鱼邮件”感染链,不同于以往的大网钓鱼,可以生成针对特定国家的“鱼叉式”钓鱼邮件。特定的人或组织。

“用户在使用人工智能技术接入的软件或互联网产品时,一方面要注意不要恶意利用人工智能技术实施违法行为,另一方面也要注意识别核对真实身份。沟通对方,不要轻信表象,转账或购买费用要谨慎。 泰和泰律师事务所律师刘青告诉封面新闻记者,如果遇到诈骗,应第一时间报警,寻求警方帮助,并注意妥善保管相关材料,以便警方掌握案情。尽快严惩不法分子。

发现自己的肖像被盗用或“换脸”怎么办? 刘青建议用户尽快保留证据,以便后续维权。 “同时,用户还可以向网络平台经营者投诉,要求将侵权图片或视频强制下架,也可以提起人格权诉讼,用法律武器维护自己的合法权益。”

“AI时代”造假应如何监管?

因为AIGC内容的普及,会存在一些AI换脸或者其他AI技术造假的问题。 如果用户情绪投入,大量充值,平台是否构成欺诈? 如果有人通过人工智能技术诈骗成功,将面临怎样的法律制裁?

“在线社交领域,聊天、游戏、交友等不同形式的服务是同时存在的,因此,用户的充值费用取决于名字。” 北京市荣钢律师事务所律师朱培伟在接受采访时表示。 封面新闻在采访中指出,如果你支付了与AI的关系,而客户误认为是真人,属于欺诈行为,但如果用户知道对方是AI并进行充值,不构成欺诈行为。

但是,从监管的角度来看,即使之前有过违法案例,这类软件也广泛存在。 监管难点在于涉及的法律关系相对复杂,行政监管无权直接介入。 “当用户使用人工智能换脸技术进行伪装,导致被伪装人的肖像权等权利受到侵害,或给他人的感情、财产造成大量损害时,平台未履行其义务。合理的审查义务,未能有效规范此类行为,在这种情况下,需要承担一定的助长侵权,甚至直接侵权的法律责任。难以认定该平台构成诈骗罪。” 柳青告诉封面新闻记者。

刘庆表示,如果有人故意通过人工智能技术换脸实施诈骗,致使被害人对财物产生误解和处理不当,符合“诈骗罪”的构成要件,违反了我国刑法第266条的规定。 情节较重的,处三年以下有期徒刑、拘役或者管制,并处罚金或者罚金; 数额巨大或有其他严重情节的,最高可判处无期徒刑。 但是,《最高人民法院、最高人民检察院、公安部关于办理电信、网络诈骗等刑事案件适用法律若干问题的意见》明确规定,价值为3000元以上,属于刑法第266条规定的“数额较大”。 .

国家新一代人工智能治理专业委员会于2021年9月发布《新一代人工智能伦理规范》,提出将伦理道德融入人工智能研发和应用的全生命周期。

在2022世界人工智能大会治理论坛上,上海交通大学凯原法学院院长、特聘教授彭成新曾指出:“数字社会伦理治理的根源在于人、企业道德和企业道德。科学技术的可信度。归根结底,人是可信的,是善良的,因此需要完善法律监管,明确基本法律责任,建立人们的行为规范。

为进一步规范“人”在科技伦理治理中的作用,今年3月印发的《关于加强科技伦理治理工作的意见》要求,从事生命等科技活动的机构科学、医学、人工智能等领域,其研究内容涉及科技伦理敏感领域,应当成立科技伦理(审查)委员会。

 
本文链接:http://news.yhtzs.com/show-190489.html
 
更多>同类行业资讯

推荐行业资讯
推荐图文
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  RSS订阅  |  违规举报  |  皖ICP备2022000380号-6