WAIC2024
人工智能未来会(hui)抢走人类(lei)的工作吗？
如何完善人工智能法(fa)律治理？
美国和中国的人工治理模式有(you)何同异之处？
7月5日上午，由同济大学和上海市杨浦区人民(min)政府联合举(ju)办的2024世界人工智能大会(hui)智能社会(hui)论坛开(kai)启主旨演讲，邀请6位国内外不同领域的重磅嘉宾，包含人工智能、公共管理、法(fa)律、网络安(an)全、经济等(deng)领域的国内外权威专家发表演讲，将人工智能的过去、现在与未来抽丝剥茧、娓娓道来。
金耀初（Yaochu Jin）：AI会(hui)不会(hui)是“聪明的汉斯”？
欧洲科(ke)学院院士、IEEE Fellow、西湖(hu)大学人工智能讲席教授金耀初作为首位演讲嘉宾，以“浅谈人工智能治理”为题，简要(yao)介绍了人工智能的发展历程(cheng)，并讲述了人工智能所面临的风险、技术补救措施和政府管理。
他提到了人工智能自1956年起至(zhi)今的三个“春天”和三个“寒(han)冬”，其中让当下人印象最深刻的就是Chat GPT所带来的第(di)三个“春天”，它的对话流畅程(cheng)度值得惊奇，也推(tui)动AI大模型进入高速发展阶段。
在人工智能所面临的风险方面，金耀初列出了安(an)全性、隐私、公平性、可解释性、鲁棒性、责任心这六大相关要(yao)素，针对每一要(yao)素提出了高风险的问题和技术应对方法(fa)，引起现场人员的思考。在讲到人工智能的可解释性时，金耀初举(ju)了一个简单的例子：在20世纪初，有(you)一匹叫汉斯的马震惊众人，它经过一段时间的训练后，掌握了基础的数学运算。当人们向它呈现算数题时，它会(hui)用(yong)蹄子精准(zhun)敲击正确答案。然而(er)，后来它被发现并不会(hui)算数，只是看懂了出题人脸(lian)上的表情而(er)已。“我们的AI，会(hui)不会(hui)也是聪明的‘汉斯’？也许因果学习能够帮(bang)助克服(fu)这方面的不足(zu)。”
最后，在人工智能的政府管理上，金耀初就“我们到底要(yao)规范(fan)什么”这一问题，分享了自己的观(guan)点。他认为，政府应该规范(fan)人工智能的产品(pin)和应用(yong)场景，而(er)非技术本身。
吴志强：“人与AI应和谐(xie)共生。”
中国工程(cheng)院院士、同济大学原副校长吴志强的演讲主题为“社会(hui)智能关于HAI主义的破题”。HAI主义，是指Human AI主义，将“人”这一概念与AI相结合，以期实现人与AI的深度合作，推(tui)动人类(lei)智慧与AI技术的共生共创。
在吴志强看来，HAI主义有(you)五大原则：人本互助、透(tou)明互信、安(an)全互保、可控(kong)互动、伦理互育(yu)。“AI的发展，必须围绕人本身的需求(qiu)，这是一切的起点。”吴志强说，“比如我们曾(ceng)经在规划一座城市的功能布局时，先对几十万人做(zuo)了一次大数据调(diao)查，排(pai)摸他们的幸(xing)福感来源于哪里、他们吐槽最多的又(you)是什么，以此来做(zuo)出决策。我还(hai)记得在厦门，让当地人幸(xing)福指数最高的词是沙茶面，那我们规划时绝对不能忘(wang)了这碗(wan)特(te)殊的面。”
HAI主义在上海，就成了“海”主义。吴志强说，HAI主义就是人与AI的互动，也正是这样(yang)的互动，将推(tui)动智能社会(hui)不断向前迈进，实现以人为本、AI向善。
加(jia)布里埃尔·马志尼（Gabriele Mazzini）：走近欧盟(meng)《人工智能法(fa)》
欧盟(meng)委员会(hui)官员、欧盟(meng)《人工智能法(fa)》起草小组组长加(jia)布里埃尔·马志尼以视频(pin)形式发表演讲，全方位讲解了《人工智能法(fa)》的制定背景、性质、内容、适用(yong)情况等(deng)。
今年5月，欧盟(meng)理事会(hui)正式批准(zhun)欧盟(meng)《人工智能法(fa)》，这被认为是全球首部(bu)综(zong)合性人工智能治理立法(fa)。该法(fa)对人工智能系统进行了分类(lei)，并根(gen)据风险等(deng)级制定了相应的监管要(yao)求(qiu)，设定了普适、全面的人工智能监管方法(fa)，包括数据管理、透(tou)明度、可解释性、人类(lei)监督等(deng)方面。《人工智能法(fa)》通过后，欧盟(meng)还(hai)宣布成立人工智能办公室，依法(fa)对人工智能发展进行监管。
加(jia)布里埃尔·马志尼着重提到了“风险”一词。他介绍道，《人工智能法(fa)》遵循“基于风险”的考量(liang)，按(an)照人工智能系统对用(yong)户和社会(hui)的潜在影响(xiang)程(cheng)度将其分为4类(lei)：不可接受风险类(lei)、高风险类(lei)、有(you)限风险类(lei)、最小风险类(lei)。风险等(deng)级越高，管控(kong)越严格。该法(fa)尤其强调(diao)对高风险人工智能系统的规范(fan)和约束。
演讲最后，加(jia)布里埃尔·马志尼提醒(xing)：“《人工智能法(fa)》将来生效后，并非所有(you)规则都于同一时间生效，而(er)是将根(gen)据内容，分阶段开(kai)始生效。”
马特(te)·希恩（Matt Sheehan）：探索中美AI治理新路径
卡内基国际和平研究(jiu)院研究(jiu)员马特(te)·希恩以“美中人工智能对话：障碍和前路”为题，从(cong)今年5月在瑞士举(ju)行的中美人工智能政府间对话首次会(hui)议(yi)切入，讲述了中美双(shuang)方在前沿AI治理方面的精彩(cai)碰撞与生动成果，并展望了两国政策制定者、科(ke)学家、研究(jiu)人员在人工智能方面的互动发展。
人工智能作为一项革命性技术，正进入爆发式发展阶段。中美人工智能政府间对话首次会(hui)议(yi)上，中美双(shuang)方围绕人工智能科(ke)技风险、全球治理和各自关切的其他问题深入、专业(ye)、建设性地交换了意见。“这是一场很重要(yao)的对话，因为在前沿AI的问题上，需要(yao)中美双(shuang)方的共同努力。”马特(te)·希恩表示(shi)，“面对AI所带来的风险，中美之间需要(yao)携起手来共同应对，这种合作并非仅(jin)限于政府层面，也可以推(tui)动开(kai)展更多专家学者、科(ke)学家、企业(ye)之间的有(you)效对话，我想(xiang)这会(hui)成为保障中美AI安(an)全性的重要(yao)一环。”
对于中美未来的AI发展，马特(te)·希恩保持乐观(guan)态度。“中美双(shuang)方的相关人士都可以积极开(kai)展非政府对话，从(cong)中互相分享、借鉴、学习，交流有(you)效的AI实践(jian)成果，推(tui)动AI的不断发展。”
陆凯（Karman Lucero）：中美双(shuang)方的“星系碰撞”
耶鲁大学法(fa)学院蔡中曾(ceng)中国研究(jiu)中心研究(jiu)员陆凯带来了“中美两国人工智能治理的挑战”主题演讲。
演讲中，陆凯介绍了美国国内的人工智能治理模式和参与国际人工智能治理的现状(zhuang)，并阐述了中国的人工智能治理生态，从(cong)制度体系上进行了双(shuang)方对比。他表示(shi)，中美双(shuang)方的人工智能治理体系不同，但在某些方面也有(you)异曲同工之妙(miao)。
“中美双(shuang)方的人工智能，就像两个宇(yu)宙星系一样(yang)。星系的碰撞并不一定会(hui)毁灭掉(diao)彼此，更可能会(hui)带来一种共同的变化，使得双(shuang)方都变得更加(jia)光明、明亮。”陆凯说。
苏竣：人工智能的发展会(hui)影响(xiang)人类(lei)就业(ye)吗？
清华大学智能社会(hui)治理研究(jiu)院院长、全国人工智能社会(hui)实验专家组组长苏竣的演讲题目为“应对智能社会(hui)的技术变革：历史经验与现实挑战”，从(cong)人工智能与新质生产力、智能社会(hui)治理的几个前沿问题、应对技术变革的历史经验、构建人文智能社会(hui)四个方面，介绍了智能社会(hui)大背景下可能和已经出现的社会(hui)问题，传递了过去的经验做(zuo)法(fa)，并提出了对未来人文智能社会(hui)的美好憧憬。
信息茧房(fang)带来的群体极化、灵活就业(ye)与劳动替(ti)代、大模型“价值观(guan)”测评、人工智能与能源问题、网络游戏与赛博文明……人类(lei)智能社会(hui)催生了无数治理问题。如在就业(ye)方面，苏竣提出，人工智能的高速发展可能在未来造就人类(lei)除就业(ye)、失业(ye)以外的第(di)三种就业(ye)状(zhuang)态：游业(ye)。“人工智能把人类(lei)的工作做(zuo)掉(diao)了，社会(hui)岗位的体量(liang)大规模缩减，这就使得一群人不参加(jia)社会(hui)生产性务工劳动，或不以劳动作为获取经济回报的途(tu)径。这，就是游业(ye)。人类(lei)将会(hui)需要(yao)在这一情况下，解决‘如何度过无意义的时光’这一问题。”
对此，苏竣带来了三种应对技术变革的历史方法(fa)。一是社会(hui)精英，尤其是知识(shi)分子，出于人文主义精神和强烈的社会(hui)责任感，关心关注突破性技术的社会(hui)影响(xiang)；二是政府基于公共利益(yi)和公共价值，综(zong)合采用(yong)多种政策工具，引导技术创新，有(you)效规制风险；三是公众提升科(ke)学素养(yang)，增(zeng)强风险意识(shi)，积极参与技术变革的治理。
“未来，我们期待为后代构建一个什么样(yang)的智能社会(hui)？”苏竣说，“一个人文智能社会(hui)。在这里，科(ke)学技术高度发达，智能技术广泛应用(yong)，技术理性和价值理性综(zong)合平衡，人、环境、技术和谐(xie)共生……”
来源：上海杨浦