原标题:美国大选现人工智能造假 立法慢引担忧
据美国媒体日前披露,上周,很多人接到了通过一家人工智能初创公司的技术“深度伪造”的美国总统拜登电话呼叫,“假拜登来电”迅速成为美国多家媒体的热门话题,也再度引发了美国社会关于人工智能“深度伪造”可能影响大选的讨论。
冒充拜登的机器人语音电话录音:把你们的选票留在11月份再投很重要。在这周二(23日)投票,只会让共和党人得逞,让特朗普再次当选为共和党候选人。
上周美国总统大选共和党党内初选在新罕布什尔州举行前,部分选民接到了这样一通来电。白宫新闻秘书卡里娜·让-皮埃尔22日证实,这一来电是“伪造,不是由总统录制”。
美国媒体日前援引消息人士的话报道称,美国人工智能初创公司“十一实验室”暂时关闭了一名用户的账户。美国语音欺诈检测公司——“静默”公司称,分析发现,“十一实验室”公司的科技被用于制作冒充拜登的机器人语音电话录音。“十一实验室”公司在一份声明中称将严肃对待人工智能技术被滥用的情况,但对近日引发关注的“假拜登来电”事件不予置评。
新罕布什尔州总检察长表示,正在调查这一事件,并呼吁选民忽视这类假消息。
OpenAI停总统参选人仿真聊天机器人账户
事实上,人工智能已经渗入美国总统竞选活动。
不久前,硅谷的科技开发者为民主党总统参选人迪恩·菲利普斯创造了一个仿真聊天机器人,称用户可以与模仿菲利普斯的人工智能产品对话。本月20日,美国人工智能公司OpenAI表示,已经停用了该开发者账户,称这一做法违反了该公司禁止在竞选活动中滥用人工智能技术的政策。
“深度伪造”模仿竞选人士 欺骗选民
此前,人工智能生成的虚假信息也已多次干扰美国政治活动。
在去年2月举行的芝加哥市长选举第一轮投票前夕,社交媒体上出现了一段关于候选人保罗·瓦拉斯的视频,伪造瓦拉斯的声音发表言论,声称“警察随随便便就可以射杀嫌疑人”,并呼吁削减警察经费。
冒充瓦拉斯的机器人语音录音:人们却对这些情况视而不见。
在瓦拉斯向社交媒体平台发出投诉之后,社交媒体删除了这段视频,但该视频在下架前已经被浏览了数千次。
人工智能带来“深度伪造”
立法慢引担忧
当前,人工智能的兴起推动了各行业的变革创新,但同时也引发了人们的不少担忧。其中,基于人工智能技术的“深度伪造”现象受到广泛关注。“深度伪造”是指对一个人的声音或图像进行数字更改并意图造成伤害。这种行为目前不仅出现在美国政治中,也波及美国娱乐圈乃至人们生活的方方面面,引发美国舆论的担忧和批评。
美国媒体“微软—全国广播公司”在报道中提出疑问,2024年将是“深度伪造”的大选年吗?
冒充拜登的机器人语音电话录音:把你们的选票留在11月份再投很重要。
美国网络安全专家 克里斯·克雷布斯:生成这类内容非常容易,这就是所谓的20秒规则。只需要一个人20秒的声纹,就能生成这样的内容。我认为执法部门、联邦调查局和司法部长办公室将面临一些挑战。不幸的是,我认为这只是我们将在选举季看到的冰山一角。
美国政府监管组织“捍卫公众利益组织”负责人罗伯特·韦斯曼批评称,政治“深度伪造”时刻已经到来,政策制定者必须尽快采取保护措施,否则将面临选举混乱。“深度伪造”会播下混乱的种子,使欺诈行为永久化。
近日,美国流行乐歌手泰勒·斯威夫特也成为“深度伪造”技术的又一受害者,虚假合成的不雅照在社交网络疯狂传播,引发美国媒体对人工智能技术被滥用的质疑。
记者:对这种技术被滥用的情况白宫有多担心?
白宫发言人 卡里娜·让-皮埃尔:虽然社交媒体公司在内容管理方面有独立决策权。但我们认为,它们在严格落实其监管制度上应起到重要作用,以防止错误信息和未经本人允许的私密图像传播。令人遗憾的是,我们都知道,执法不严对妇女和女孩的影响更为恶劣。
人工智能技术飞速发展,但美国相关的监管政策和立法却跟进迟缓。业内人士指出,科技发展的双刃剑仅靠企业的自律是无法掌控的,人工智能技术的滥用迫切需要政府监管。
美国消费者技术协会首席执行官 夏皮罗:政府需要在人工智能领域扮演重要角色,确保设置安全屏障和护栏,让产业内人士知道,哪些能做,哪些不能做。
2023年10月,美国总统拜登签署行政令,为本国人工智能安全制定新标准,要求美国人工智能系统的研发人员与政府分享其安全测试结果及其他关键信息、完善相关标准和测试工具等,但该行政令缺乏强制执行效能。
密尔沃基工程学院计算机科学项目主任 德里克·赖利:我们的政府行动不够快,跟不上正在发生的变化。所以我认为,我们不太可能看到有效的监管。
亿万职工的网上家园
关于我们 | 版权声明 | 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2024 by www.workercn.cn. all rights reserved
哆哆女性网韩姓起什么名字大全姓马的的小孩起名田姓猪宝宝起名任长霞电视剧全集刘姓女孩起名郭台铭语录我是范雨素原文摘抄美文火焰风暴与父同行成人专起本考试报名鸿字的起名男孩当代中学生报进化之从蚂蚁开始水土保持公司起名字五行缺火的男孩应该起什么名字手机蓝牙连接电脑熟食店起名,不带熟食二字适合起取名的宋词起个干饭的个性名字汽车服务公司起名花生会让我们想到那些默默无闻做贡献的人起名字英语起个励志的人名韩姓女孩起名子通化起名公司起名打分吉凶家纺公司起名字大全女孩子起叠字名给系统起个啥名字好淀粉肠小王子日销售额涨超10倍罗斯否认插足凯特王妃婚姻不负春光新的一天从800个哈欠开始有个姐真把千机伞做出来了国产伟哥去年销售近13亿充个话费竟沦为间接洗钱工具重庆警方辟谣“男子杀人焚尸”男子给前妻转账 现任妻子起诉要回春分繁花正当时呼北高速交通事故已致14人死亡杨洋拄拐现身医院月嫂回应掌掴婴儿是在赶虫子男孩疑遭霸凌 家长讨说法被踢出群因自嘲式简历走红的教授更新简介网友建议重庆地铁不准乘客携带菜筐清明节放假3天调休1天郑州一火锅店爆改成麻辣烫店19岁小伙救下5人后溺亡 多方发声两大学生合买彩票中奖一人不认账张家界的山上“长”满了韩国人?单亲妈妈陷入热恋 14岁儿子报警#春分立蛋大挑战#青海通报栏杆断裂小学生跌落住进ICU代拍被何赛飞拿着魔杖追着打315晚会后胖东来又人满为患了当地回应沈阳致3死车祸车主疑毒驾武汉大学樱花即将进入盛花期张立群任西安交通大学校长为江西彩礼“减负”的“试婚人”网友洛杉矶偶遇贾玲倪萍分享减重40斤方法男孩8年未见母亲被告知被遗忘小米汽车超级工厂正式揭幕周杰伦一审败诉网易特朗普谈“凯特王妃P图照”考生莫言也上北大硕士复试名单了妈妈回应孩子在校撞护栏坠楼恒大被罚41.75亿到底怎么缴男子持台球杆殴打2名女店员被抓校方回应护栏损坏小学生课间坠楼外国人感慨凌晨的中国很安全火箭最近9战8胜1负王树国3次鞠躬告别西交大师生房客欠租失踪 房东直发愁萧美琴窜访捷克 外交部回应山西省委原副书记商黎光被逮捕阿根廷将发行1万与2万面值的纸币英国王室又一合照被质疑P图男子被猫抓伤后确诊“猫抓病”