WAIC2024
人工(gong)智能未来会抢走人类的工(gong)作吗(ma)？
如何(he)完善人工(gong)智能法律治理？
美国和中(zhong)国的人工(gong)治理模式有何(he)同异之(zhi)处？
7月5日上午，由同济(ji)大学和上海市杨浦区人民政府联合举办的2024世界人工(gong)智能大会智能社会论坛开启主旨演讲，邀请6位国内外不同领域的重磅嘉宾，包含人工(gong)智能、公共管理、法律、网络安(an)全、经济(ji)等领域的国内外权威专家发表演讲，将人工(gong)智能的过去、现(xian)在(zai)与未来抽丝剥茧、娓娓道来。
金耀初（Yaochu Jin）：AI会不会是“聪明的汉斯”？
欧洲科学院院士、IEEE Fellow、西湖大学人工(gong)智能讲席教授金耀初作为首(shou)位演讲嘉宾，以“浅谈人工(gong)智能治理”为题，简要介绍了人工(gong)智能的发展历(li)程，并讲述了人工(gong)智能所面临的风险、技(ji)术补救措施和政府管理。
他(ta)提到了人工(gong)智能自1956年起(qi)至今的三个“春天”和三个“寒冬”，其中(zhong)让当下(xia)人印象最(zui)深(shen)刻的就是Chat GPT所带来的第三个“春天”，它的对话流畅程度值得惊奇，也推动AI大模型(xing)进(jin)入高速发展阶段。
在(zai)人工(gong)智能所面临的风险方面，金耀初列出(chu)了安(an)全性、隐私、公平性、可解释(shi)性、鲁棒(bang)性、责任心这六大相(xiang)关要素，针对每(mei)一(yi)要素提出(chu)了高风险的问题和技(ji)术应对方法，引起(qi)现(xian)场人员的思考。在(zai)讲到人工(gong)智能的可解释(shi)性时，金耀初举了一(yi)个简单的例子：在(zai)20世纪初，有一(yi)匹叫汉斯的马震惊众人，它经过一(yi)段时间的训练后(hou)，掌握了基础的数学运算。当人们向它呈现(xian)算数题时，它会用(yong)蹄子精准敲击正确答(da)案。然而，后(hou)来它被发现(xian)并不会算数，只(zhi)是看懂了出(chu)题人脸上的表情而已。“我们的AI，会不会也是聪明的‘汉斯’？也许因果学习能够帮助克服这方面的不足。”
最(zui)后(hou)，在(zai)人工(gong)智能的政府管理上，金耀初就“我们到底要规范什么”这一(yi)问题，分享了自己的观(guan)点。他(ta)认为，政府应该规范人工(gong)智能的产品和应用(yong)场景，而非技(ji)术本身。
吴志强：“人与AI应和谐共生。”
中(zhong)国工(gong)程院院士、同济(ji)大学原副校长吴志强的演讲主题为“社会智能关于(yu)HAI主义的破题”。HAI主义，是指Human AI主义，将“人”这一(yi)概念与AI相(xiang)结合，以期实现(xian)人与AI的深(shen)度合作，推动人类智慧与AI技(ji)术的共生共创。
在(zai)吴志强看来，HAI主义有五大原则：人本互助、透明互信、安(an)全互保、可控(kong)互动、伦理互育(yu)。“AI的发展，必须围绕人本身的需求，这是一(yi)切的起(qi)点。”吴志强说，“比如我们曾经在(zai)规划一(yi)座城市的功能布局时，先对几十万人做(zuo)了一(yi)次大数据调(diao)查，排(pai)摸他(ta)们的幸福感来源于(yu)哪里、他(ta)们吐(tu)槽最(zui)多的又是什么，以此来做(zuo)出(chu)决策。我还记得在(zai)厦门，让当地人幸福指数最(zui)高的词是沙(sha)茶面，那我们规划时绝对不能忘了这碗(wan)特殊(shu)的面。”
HAI主义在(zai)上海，就成了“海”主义。吴志强说，HAI主义就是人与AI的互动，也正是这样的互动，将推动智能社会不断向前迈进(jin)，实现(xian)以人为本、AI向善。
加布里埃(ai)尔·马志尼（Gabriele Mazzini）：走近欧盟《人工(gong)智能法》
欧盟委(wei)员会官(guan)员、欧盟《人工(gong)智能法》起(qi)草小组组长加布里埃(ai)尔·马志尼以视(shi)频形式发表演讲，全方位讲解了《人工(gong)智能法》的制定(ding)背景、性质、内容、适用(yong)情况等。
今年5月，欧盟理事会正式批准欧盟《人工(gong)智能法》，这被认为是全球(qiu)首(shou)部综合性人工(gong)智能治理立法。该法对人工(gong)智能系(xi)统(tong)进(jin)行了分类，并根据风险等级制定(ding)了相(xiang)应的监管要求，设定(ding)了普适、全面的人工(gong)智能监管方法，包括数据管理、透明度、可解释(shi)性、人类监督等方面。《人工(gong)智能法》通过后(hou)，欧盟还宣布成立人工(gong)智能办公室，依法对人工(gong)智能发展进(jin)行监管。
加布里埃(ai)尔·马志尼着(zhe)重提到了“风险”一(yi)词。他(ta)介绍道，《人工(gong)智能法》遵(zun)循“基于(yu)风险”的考量，按照人工(gong)智能系(xi)统(tong)对用(yong)户和社会的潜在(zai)影响程度将其分为4类：不可接受风险类、高风险类、有限风险类、最(zui)小风险类。风险等级越高，管控(kong)越严格。该法尤其强调(diao)对高风险人工(gong)智能系(xi)统(tong)的规范和约束。
演讲最(zui)后(hou)，加布里埃(ai)尔·马志尼提醒：“《人工(gong)智能法》将来生效后(hou)，并非所有规则都于(yu)同一(yi)时间生效，而是将根据内容，分阶段开始生效。”
马特·希(xi)恩（Matt Sheehan）：探索中(zhong)美AI治理新路径
卡内基国际和平研究院研究员马特·希(xi)恩以“美中(zhong)人工(gong)智能对话：障碍和前路”为题，从今年5月在(zai)瑞士举行的中(zhong)美人工(gong)智能政府间对话首(shou)次会议切入，讲述了中(zhong)美双方在(zai)前沿AI治理方面的精彩碰撞与生动成果，并展望了两国政策制定(ding)者、科学家、研究人员在(zai)人工(gong)智能方面的互动发展。
人工(gong)智能作为一(yi)项革命性技(ji)术，正进(jin)入爆发式发展阶段。中(zhong)美人工(gong)智能政府间对话首(shou)次会议上，中(zhong)美双方围绕人工(gong)智能科技(ji)风险、全球(qiu)治理和各自关切的其他(ta)问题深(shen)入、专业、建设性地交换了意见。“这是一(yi)场很重要的对话，因为在(zai)前沿AI的问题上，需要中(zhong)美双方的共同努力。”马特·希(xi)恩表示(shi)，“面对AI所带来的风险，中(zhong)美之(zhi)间需要携起(qi)手来共同应对，这种合作并非仅限于(yu)政府层面，也可以推动开展更多专家学者、科学家、企业之(zhi)间的有效对话，我想这会成为保障中(zhong)美AI安(an)全性的重要一(yi)环。”
对于(yu)中(zhong)美未来的AI发展，马特·希(xi)恩保持乐观(guan)态度。“中(zhong)美双方的相(xiang)关人士都可以积极开展非政府对话，从中(zhong)互相(xiang)分享、借鉴、学习，交流有效的AI实践成果，推动AI的不断发展。”
陆凯（Karman Lucero）：中(zhong)美双方的“星系(xi)碰撞”
耶鲁大学法学院蔡中(zhong)曾中(zhong)国研究中(zhong)心研究员陆凯带来了“中(zhong)美两国人工(gong)智能治理的挑战”主题演讲。
演讲中(zhong)，陆凯介绍了美国国内的人工(gong)智能治理模式和参与国际人工(gong)智能治理的现(xian)状，并阐述了中(zhong)国的人工(gong)智能治理生态，从制度体系(xi)上进(jin)行了双方对比。他(ta)表示(shi)，中(zhong)美双方的人工(gong)智能治理体系(xi)不同，但在(zai)某些方面也有异曲同工(gong)之(zhi)妙(miao)。
“中(zhong)美双方的人工(gong)智能，就像两个宇宙(zhou)星系(xi)一(yi)样。星系(xi)的碰撞并不一(yi)定(ding)会毁(hui)灭掉彼此，更可能会带来一(yi)种共同的变化，使(shi)得双方都变得更加光明、明亮。”陆凯说。
苏竣：人工(gong)智能的发展会影响人类就业吗(ma)？
清华(hua)大学智能社会治理研究院院长、全国人工(gong)智能社会实验专家组组长苏竣的演讲题目为“应对智能社会的技(ji)术变革：历(li)史经验与现(xian)实挑战”，从人工(gong)智能与新质生产力、智能社会治理的几个前沿问题、应对技(ji)术变革的历(li)史经验、构建人文智能社会四个方面，介绍了智能社会大背景下(xia)可能和已经出(chu)现(xian)的社会问题，传(chuan)递了过去的经验做(zuo)法，并提出(chu)了对未来人文智能社会的美好憧憬。
信息茧房带来的群体极化、灵活就业与劳动替代、大模型(xing)“价(jia)值观(guan)”测评、人工(gong)智能与能源问题、网络游戏与赛博文明……人类智能社会催(cui)生了无(wu)数治理问题。如在(zai)就业方面，苏竣提出(chu)，人工(gong)智能的高速发展可能在(zai)未来造(zao)就人类除就业、失业以外的第三种就业状态：游业。“人工(gong)智能把人类的工(gong)作做(zuo)掉了，社会岗位的体量大规模缩减，这就使(shi)得一(yi)群人不参加社会生产性务(wu)工(gong)劳动，或不以劳动作为获(huo)取经济(ji)回报的途径。这，就是游业。人类将会需要在(zai)这一(yi)情况下(xia)，解决‘如何(he)度过无(wu)意义的时光’这一(yi)问题。”
对此，苏竣带来了三种应对技(ji)术变革的历(li)史方法。一(yi)是社会精英，尤其是知识分子，出(chu)于(yu)人文主义精神和强烈(lie)的社会责任感，关心关注(zhu)突破性技(ji)术的社会影响；二是政府基于(yu)公共利益和公共价(jia)值，综合采用(yong)多种政策工(gong)具，引导技(ji)术创新，有效规制风险；三是公众提升科学素养，增(zeng)强风险意识，积极参与技(ji)术变革的治理。
“未来，我们期待为后(hou)代构建一(yi)个什么样的智能社会？”苏竣说，“一(yi)个人文智能社会。在(zai)这里，科学技(ji)术高度发达，智能技(ji)术广泛应用(yong)，技(ji)术理性和价(jia)值理性综合平衡，人、环境、技(ji)术和谐共生……”
来源：上海杨浦