微信 手机版
首页 > 商业 >
360集团创始人周鸿祎:人工智能最后的底线必须是人 2022-07-27 13:40:14  来源:TechWeb

7月27日消息,360集团创始人周鸿祎在其官方微博发文感谢2022年新智者大会组委会邀请,并撰文就AI武器、人工智能安全等发表了自己的看法。

周鸿祎表示:

当年阿西·莫夫在讲“机器人三原则”的时候,有一个重要的原则,就是机器人不能伤害人。今天看来,这一原则已被打破,实际上各种无人战车、无人飞机,已经应用在战场上。

在今年的俄乌冲突中,乌克兰军队就使用了美国的弹簧刀无人机,此无人机具备监视、侦察和打击功能,在AI的加持下,单兵就能熟练掌握。虽然弹簧刀无人机可能还是在被遥控,最后打击的瞬间可能还是由人来下指令。但是从人下指令,到AI自动识别、自动判断、自主发起攻击,我觉得就是一层薄薄的窗户纸。尤其在AI与武器结合方面,世界各国都在展开军备竞赛,这也将是未来大国角力的焦点。所以,把AI武器最后的决定权交给人类,让人来做最后的控制至关重要。我认为人工智能最后的底线必须是人。

现实中,人工智能安全在社会伦理面前,还会面临超出现有社会法律和道德规范的风险难题。比如说,经典的电车选择难题,以及我们该如何认定无人驾驶车出事以后的责任。

公路上自动驾驶的汽车,如果它选择避让行人,就可能会撞上旁边障碍物,导致车主人身伤亡;如果它不避让,就会导致行人伤亡。这种情况下,AI程序该如何来做出判断。此外还需要考虑一个问题,如果出了车祸,这个责任到底该谁来负?应该算是AI的?算是车厂的?还是算驾驶员的?这些AI安全难题,目前都还没有一个明确的答案。

运行AI需要算力,算力需要大数据等基础设施。但如果数据中心,云服务都被终止,那么各种无人机,自动驾驶坦克等就失去了重要的大脑。俄乌冲突中就上演了这一幕。

西方国家对俄罗斯采取了“六断”(断网、断供、断服务、断证书、断域名、断舆论),包括说微软、IBM和甲骨文这些公司对俄停止SSL证书,停止域名解析,停止互联网接口,中断国际传输网络,停止了各种软件跟服务,芯片和硬件供应商,比如英特尔对俄断供,甚至包括脸书、推特等就彻底把俄罗斯的很多帐号给禁掉,彻底将俄孤立,甚至试图把俄罗斯在数字化的世界里彻底抹去。而俄罗斯由于缺乏市场化的数字产业支撑,算力、产品和服务的基础被掣肘,完全处于被动挨打的境况。这充分说明数字安全能力落后也会挨打。

人工智能安全问题也是其发展中面临的重要挑战,其中AI算法可能被欺骗、被误导。谷歌曾经有一个AI算法,把黑人识别成“猩猩”,惹出很大风波。现在一些人工智能漏洞挖掘团队还发现:当人走在街上,面对满大街能够进行人脸识别的人工智能摄像头,只要穿上特殊条纹或者特殊图案的T恤,摄像头就会认为你不是一个人,也不会对你做面部识别,从而令你实现科幻小说所提的“隐身”效果。

360是一直高度重视人工智能安全的,并构建起人工智能安全能力体系。其中,360对自身积累的全球最大的安全大数据进行AI分析,形成了360云端安全大脑原型,为行业或企业提供强大的数据和情报支撑,对网络威胁进行有效分析、溯源;同时积极承担“安全大脑国家新一代人工智能开放创新台”的建设;此外还牵头研发的“人工智能安全测评与风险监测预警台”入选工信部“人工智能产业创新任务揭榜单位”名单。尽管如此,面对诸多的人工智能安全问题,仅靠一家企业不能解决所有威胁,所以注重生态合作很重要。我们愿意开放自身安全大数据,将产学研力量联合起来,共建AI安全生态,集中推动数字安全的创新。

关键词: 360集团创始人 人工智能安全 机器人三原则 社会伦理

热点文章
热点 图片