登录注册   忘记密码

马斯克联名2000多AI专家誓言禁绝杀人机器人!发起人泰格马克将亲临AI World2018

AI与人类的命运,再一次因为自主武器而被推上了舆论风口。


周三,来自数百家公司的2000多名科学家,其中许多是机器人和人工智能领域的著名的研究人员和工程师,联名签署宣言,誓言绝不将他们的技能用于开发自主杀人机器。


这场宣誓行动由总部位于波士顿的非盈利组织未来生命研究所(Future of Life Institute)发起,来自36个国家的多达160个人工智能相关的公司、覆盖90个国家的2400名个人签署了宣言,他们承诺:


在世界上的任何一个国家,自主武器都对公民构成了“明显而现实的危险”,他们“绝不参与自主武器的开发”。


签署者包括谷歌的顶级人工智能研究团队DeepMind;欧洲人工智能协会;ClearPath Robotics/OTTO Motors;瑞典人工智能协会XPRIZE基金会;以及伦敦大学学院。


签署之一承诺的著名人士还包括顶尖的人工智能研究人员Demis Hassabis、Stuart Russell、Yoshua Bengio、Anca Dragan、Toby Walsh以及特斯拉和SpaceX的创始人伊隆·马斯克。


马斯克、哈萨比斯等2000多人签署宣言:决不允许杀人机器人出现!

“人工智能(AI)将在军事系统中扮演越来越重要的角色,公民、政策制定者和领导人都迫切需要区分AI可接受的用途和不可接受用途。”


昨天的瑞典斯德哥尔摩,2000多名AI学者共同签署《致命性自主武器宣言》成为会议国际人工智能联合会议(IJCAI)上的一项重要议题,这也是学界史上最大规模针对“自主武器”的联合签名宣言。


组织这次行动的生命未来研究所的联合创始人、MIT教授迈克思·泰格马克(Max Tegmark)7月18日在会上宣布了这项宣言。

640.webp.jpg

泰格马克教授


泰格马克说:“我很高兴看到人工智能的领军人物从对话转向行动,实施一项政治家们迄今未能实施的政策。人工智能有巨大的帮助世界的潜力——如果我们不能容忍其滥用,并致力于防止其滥用。自主杀人的AI武器就像生化武器一样令人厌恶和不安,我们应该以对待生化武器的方式来处理自主武器。


悉尼新南威尔士大学人工智能科学教授Walsh说:“我们不能把谁生和谁死的决定权交给机器。”因为致命性自主武器系统(lethal autonomous weapon systems),简称“LAWS”,“不具备这样做的道德”。


在IJCAI会议上,包括马斯克、DeepMind三位创始人都签署了《致命性自主武器宣言》,宣誓不参与致命性自主武器系统(LAWS)的开发、研制工作。


而就在一年前,116名全球人工智能和机器人领域的专家(包括马斯克和谷歌AI专家Mustafa Suleyman)发表联名公开信,呼吁联合国采取行动禁止“自主杀人机器”,称其为“恐怖武器”。“留给我们做准备的时间不多了,”专家们警告说:“一旦这个潘多拉的盒子被打开,就很难再次关上。”


美国政府在全球范围内使用升级的军用无人机后,工程师和科学家们警告说,自主机器很容易受到黑客的攻击,它们可能被劫持,进而攻击无辜的人群;并且,它们不可避免地很容易就会被恶意攻击者获得,或者恶意攻击者能够自己制造这类武器。


为了演示在自主杀人无人机的威胁下的生活,生命未来研究所协助制作了一个名为“Slaughterbots”(《屠杀机器人》)的影片,视频中的一个片段描绘了数千名大学生被杀人机器人屠杀的景象。这些学生在社交媒体上分享了一段揭露腐败的视频后,被不知名的“黑影人”盯上,机器通过面部识别系统识别学生的身份,进而实施屠杀。


以下是《致命性自主武器宣言》全文:


人工智能(AI)有望在军事系统中发挥越来越大的作用。 公民、政策制定者和领导者有必要区分人工智能可接受和不可接受的适用范围。


从这个角度来看,我们签署者达成一致意见:永远不应将人类生命的决定权委托给机器。“道德”是这个立场的一部分,我们不应该让机器为那些应当受处罚的人做出生死决定。另一个强有力的观点是:致命的自主武器,在没有人为干预的情况下选择和参与目标,将危及每个国家和个人的稳定。


众多人工智能研究人员一致认为,若是通过致命的自主武器消除人类生命的风险或困难,它们可能成为一种暴力和压迫的有力工具(尤其是在监视和数据系统相关联时)。此外,致命的自主武器具有与核武器,化学武器和生物武器截然不同的特点,并且单一团体的单方面行动很容易因国际社会缺乏技术工具和全球治理体系而引发军备竞赛。防止发生这种军备竞赛应成为国家和全球安全的优先考虑事项。


我们联名签署人,呼吁各国政府和政府领导人共建一个拥有强大的国际规范、法规和反对致命自主武器法律的未来。 这些法律目前是没有的,我们选择保持高标准:我们既不参与也不支持致命自主武器的开发,制造,贸易往来或使用。 我们要求技术公司和组织以及领导者,政策制定者和其他个人加入我们的承诺。


《致命性自主武器宣言》的签署者将进一步敦促将于8月份就自主武器问题举行会议的联合国在各国之间达成一致承诺,促使各国禁止自主武器。


未来生命研究所受到霍金、马斯克支持,AI WORLD关注机器智能与人类未来

发起这次宣言行动的未来生命研究所“身世显赫”。


2015年,研究所刚创立仅1年就收到了来自马斯克1千万美元的捐赠,并且得到了很多社会精英和著名组织的支持,包括伟大的物理学家霍金以及亚马逊、谷歌、Facebook、微软、IBM等企业,以及研发了AlphaGo的Deepmind公司。


目前,该机构已经募集资金超过1亿美元,汇聚了8000多位全世界顶级的人工智能专家,成功地让 “人工智能安全性”研究迅速在全世界成为了一场轰轰烈烈的运动。

640.webp (1).jpg

在未来生命研究所关注的同时,AI带来的改变正在前所有未地改变人类生活:Uber自动驾驶车祸致命事件告诉人们技术安全的重要性;谷歌千人抗议与军方合作的项目让人们思考AI应用的边界;美国制裁中兴事件让国人意识到“缺芯”的现实和掌握自主技术的迫切,国与国之间在AI领域的竞争比任何时候都要激烈。


凡此种种,都将对世界和中国的AI产业造成巨大而深远的影响,在这个过程中间,我们的自研核心技术、基础科研和原创理论将如何支撑产业健康发展?


在这个时间点,我们迫切地期望听到中国AI学术领袖和产业技术精英的声音,同时,我们也需要发掘并鼓励闪耀中国的AI创新。


今年9月20日,新智元AI WORLD 2018将在中国AI最关键的时刻,邀请全球AI产学研代表共聚一堂,针对当前国人最关心的议题和最前沿的AI技术动态,为中国AI发展提供一份指南。


新智元AI World2018大会


不仅如此,AI WORLD 2018特设“AI创新大奖”,从人物、企业和产品三个角度,立体考察2018中国的AI创新生态。


智能爆发,没有人是看客,AI必将成为支撑社会发展的一个重要支柱,智能机器将全面渗透到人们的工作和生活。2018年,我们必须正视人类与AI共存的现实,必须掌握创新原力,让AI在中国落地生根,绽放出绚丽的技术成果。


《生命3.0》成《人类简史》之后又一划时代力作,泰格马克9月相约北京继续探索生命未来

除了创办未来生命研究所,泰格马克还著有《生命3.0》一书,向世界展现了一种看待AI的新视角——AI也是一种生命,甚至是比人类更加先进的生命形式。


在书中,泰格马克认为,智能终将摆脱自然演化的束缚,成为自己命运的主人。在不远的未来,在任何人类水平的通用人工智能在所有任务上赶超人类之前,人工智能可能会对一些问题产生巨大影响,这些问题包括我们如何看待自己、我们在人工智能的帮助下做什么,以及我们与人工智能竞争时如何才能挣到钱。


泰格马克书中描绘12种人与人工智能的未来,有远虑也有近忧,给人们带去无限思考。


《生命3.0》中文版自7月9日由湛庐文化正式发售,在短短10天时间里已经获得了豆瓣9.2的评分,被评为继《人类简史》之后又一划时代力作。


此前,泰格马克已经在对平行宇宙的研究上获得了很多成就,曾经写过一本非常受欢迎的科普畅销书《穿越平行宇宙》。他本人还成为《科学》杂志“2003年度突破奖”第一名获得者,被誉为“最接近理查德·费曼的科学家”。


今年9月20日,新智元AI WORLD 2018大会有幸邀请到泰格马克教授作为演讲嘉宾,他将带来对AI和生命的最新观点,相信也定将给中国产业界带来极大启发,让更多中国人思考自己的命运,思考这个世界未来的命运。


国内学者也曾参与禁止研发自主武器,周志华展望中国AI原生创新和重大理论突破方向

AI界对全自主武器的担忧一直存在。今年4月,Hinton、Bengio、Jürgen Schmidhuber、Stuart Russell等50多名学者联名向韩国KAIST发出公开信:停止研发全自主武器!


其中,南京大学的周志华教授作为发起人邀请的唯一来自中国大陆的学者,也签署了这封公开信。

640.webp (3).jpg

周志华教授


作为全部学位均在中国内地获得的学者,AI领域会士“大满贯”得主,AAAI 2019程序主席、IJCAI 2021程序主席,周志华教授可以说是华人AI界最受关注的研究者之一。


在他的带领下,南京大学LAMDA发表了众多优秀论文和技术成果,周志华教授本人提出的“深度森林”也成为AI学界关注的热点。在深度学习狂热的鼎盛时期,周志华教授清醒地意识到深度学习的局限,开始探索深度神经网络以外的方法,充分展现了中国AI学界对原创理论的探索和追求。


2018年伊始,周志华教授出任南京大学计算机科学与技术系主任,3月,南大宣布成立人工智能学院,由周志华教授担任院长,致力于建设一流的AI基础研究和人才培养基地,形成基础研究、人才培养、产业创新协同发展的态势。


产学研深度有机融合是AI产业发展的必然趋势,在中国AI产业发展的关键时间点,在深度学习理论突破和创新需求愈发迫切的2018年,周志华教授如何看待AI理论和技术发展的痛点与关键?如何推动AI的产学研综合发展?


AI WORLD 2018,周志华教授将深度解析AI学术和技术趋势,分享他对中国AI理论创新和产业结合的判断。


陶大程:从另一个视角看AI

与此同时,另一位产学结合的AI科学家——悉尼大学教授、优必选首席科学家陶大程博士,也将出席AI WORLD 2018大会,作为常年在海外从事教学和研究的华人AI学者,带来另一个视角的产业和技术观察。

640.webp (4).jpg

陶大程博士


今年IJCAI,陶大程博士再度担任了会议领域主席,其领导的优必选悉尼AI研究院有5篇论文被录取,分别在特权信息学习、量子人工智能、迁移度量学习、哈希算法、快速目标检测等领域实现了突破。其中,《R-SVM : Robust Learning withPrivileged Information》更是斩获杰出论文奖,成为IJCAI 2018评选出的7篇杰出论文之一。


陶大程博士现任悉尼大学工程及信息技术学院教授,优必选悉尼大学人工智能中心主任。 由于其在AI领域的杰出贡献,陶大程博士已获选电气及电子工程师学会会士、美国科学促进会会士、美国光学学会终身会士、国际模式识别协会会士、国际光学工程学会终身会士,以及欧洲科学院院士。


2018 年 5 月 22 日,澳大利亚科学院宣布新增 21 名院士,陶大程教授是入选的唯一华裔科学家,肯定了其在人工智能领域,包括计算机视觉、机器学习、机器人等方面的应用所做出的杰出贡献。


目前,陶大程教授的主要研究方向是表征学习,这也是人工智能领域非常重要的研究方向之一。他的研究包括多视角学习、多标签学习、多任务学习、迁移学习、特征降维与 选择、快速矩阵分解、张量学习,噪声数据学习、核学习等。这些研究成果被广泛应用于计算机视觉、图像处理以及生物识别技术等领域。 


陈怡然剖析制约AI产业发展的硬件瓶颈

AI WORLD 2018的重磅嘉宾还有更多!


最近,芯片史无前例的成为全民关注话题。如果说摩尔定律成就了英特尔,那么“AI摩尔定律”则造就了英伟达。虽然理论有所欠缺,但在产业界,以深度学习为代表的需要强大算力支撑的AI技术,毫无疑问将从2018年开始落地开花。


深度学习需要强大的算力,底层硬件是支撑AI发展的根基。谷歌自研TPU,Facebook前不久也正式加入自研芯片的行列。一时间中国AI芯片初创公司涌现,其中翘楚深鉴科技昨天正式宣布被FPGA巨头赛灵思收购。


芯片产业正如春秋战国,群雄崛起。而这一切都还只是刚刚开始,未来一切都有可能。全新的神经网络加速架构、新型存储器、神经形态计算乃至量子计算,学术界和产业界的硬件设计师们正在不断探索与实践。


AI WORLD 2018,神经形态计算与机器学习加速方面的专家、杜克大学副教授陈怡然博士也将出席,从芯片和硬件角度探讨制约AI产业发展的瓶颈。

640.webp (5).jpg

陈怡然博士


陈怡然博士是杜克大学电子与计算机工程系副教授、杜克进化智能中心联合主任、美国自然科学基金委新型可持续智能计算产学中心主任。在清华大学电子工程系取得学士和硕士学位后,2005年在美国普渡大学取得博士学位。研究方向为新型存储器、神经形态计算与机器学习加速、移动计算。2017年因对“自旋存储器”的贡献当选IEEE Fellow。陈博士出版了一本专著,发表了300多篇学术论文,获得93项美国专利。


30万读者评选新智元AI创新大奖,AI WORLD 2018大会“引力波”持续2个月

2018年,是中国科学技术继续大步向前发展的一年,以人工智能为代表的新兴技术呈现蓬勃发展之势,中国人工智能产业将迎来一个崭新的时代。2017年9月,AI WORLD 2017世界人工智能大会 “AI 奥斯卡”Top 10 评选活动启动,引发了业界强烈反响, 最终获奖者由300多位新智元智库专家和数万读者共同投票选出。


今年,新智元特别设置的AI创新大奖(AI WORLD Innovation Awards),致敬过去一年为我们的工作和生活带来变革的AI创新。


新智元AI创新大奖继续把投票权交给微信公众平台的30万读者,评选2018年的AI创新企业、人物、项目三项大奖。


票数统计中,专家票权重为45%,读者票权重为35%,权威指数权重(CBInsights H指数)占比20%。经过候选人/企业/项目提名、专家票选、读者票选、统计、专家评议,评出AI创新大奖获奖名单。


一年一度的新智元AI WORLD大会是中国人工智能领域的一个连接点,数千名来自产界、学界、政界的嘉宾将在这里交汇,探讨2018年最受关注的议题,展望2019年最受瞩目技术趋势,感受生命3.0的未来。


现在大幕已经开启,从今天开始一直到9月20日,都将是中国AI界的超强引力波。


这场引力波分为三个阶段:


第一阶段:(7.19-8.15)


AI创新人物评选

读者福利(知识礼包 现金礼包)


第二阶段:(8.16-9.16)


AI创新企业、AI创新项目评选

读者福利(知识礼包 现金礼包)


第三阶段:(9.17-9.20)


终极盛典——AI WORLD 2018正式开幕,AI创新大奖揭晓。

640.webp (6).jpg

AI WORLD 2018早鸟票正式开售!9月20日与全球AI领袖零距离

今天,新智元AI WORLD 2018大会门票正式发售!


2018年9月20日,全球AI精英云集北京国家会议中心——AI WORLD 2018 大会将在这里展现“万物互联,人机共生”的磅礴动能。


届时,大会将有3000  国内外知名AI产业精英、100  全球特邀科技/商界/学界精英领袖、10  AI领域不能错过的演讲与巅峰对话、3 场深度专项论坛、1 场千人产业论坛、数十场前沿AI科技产品展示。AI创新大奖则将揭晓AI WORLD 2018 创新人物、AI WORLD 2018 创新企业、AI WORLD 2018 创新项目三大奖项。

您的评论:

0

用户评价

  • 暂无评论