“作为计算(suan)机科学教授，1984年(nian)我就做了(le)一个(ge)关于人工智能(neng)的项目，可想而知AI的发(fa)展经历了(le)多么漫长的讨(tao)论。” 英国南安(an)普敦大学教授温迪(di)·霍尔（Wendy Hall）近日(ri)在第十二届世界和平论坛(tan)上(shang)说到这里时，台上(shang)同席而坐的几位专家笑称那时候他们还是孩子。
霍尔上(shang)大学的时候还几乎接触不到电脑，在数学专业(ye)读到博士毕业(ye)后，她对新出现的微型计算(suan)机颇感兴趣，于是转而攻读计算(suan)机科学硕士，并(bing)在毕业(ye)时写了(le)一个(ge)智能(neng)教学程序。她7月7日(ri)在北京接受澎湃新闻（www.thepaper.cn）专访时说，“那时我只是想眺望一下未来，看看我们可以怎样依靠电脑来使用人工智能(neng)。”彼时，全球范围内的人工智能(neng)正在从(cong)理论研(yan)究走向(xiang)实际(ji)应用。
英国南安(an)普敦大学教授温迪(di)·霍尔（Wendy Hall）接受澎湃新闻专访。
自那一眺望之后，霍尔带领的团队在1988年(nian)开发(fa)出微观世界超媒体(ti)系(xi)统（Microcosm Hypermedia System），将文档之间的链接存储在单独的数据(ju)库中，来构建一个(ge)更(geng)加互联的网络(luo)，那时候万维网还未出现。
“此后，我的职业(ye)生涯一直在使用人工智能(neng)。”霍尔说道。
上(shang)世纪80年(nian)代末，霍尔在南安(an)普顿大学计算(suan)机科学专业(ye)教了(le)3年(nian)书之后，意识到一个(ge)奇(qi)怪的现象，这个(ge)专业(ye)的学生当中没有女性(xing)，英国其他高校也基本如此。她回忆，那个(ge)时候计算(suan)机被包装为男孩的玩具进行销售，似(si)乎与女性(xing)没什么关系(xi)。“我们就这样让一代女性(xing)对计算(suan)机失去了(le)兴趣，之后此学科的性(xing)别比例也没有完全恢复平衡，所以相(xiang)应的做人工智能(neng)的女性(xing)就更(geng)少了(le)。”
不过，令她感到欣喜的是，联合国层面的AI咨询系(xi)统注意到了(le)多样性(xing)问题。2023年(nian)霍尔入选联合国人工智能(neng)高级(ji)别咨询机构（High-level Advisory Body on Artificial Intelligence），39名专家中包含20名女性(xing)和19名男性(xing)，代表33个(ge)国家。她强调，如果开发(fa)人工智能(neng)的团队不具有多样性(xing)，很有可能(neng)存在偏(pian)见和不公(gong)，因为只是用单一方式思考。
霍尔曾在2017年(nian)受英国政府(fu)之邀为国家撰写AI产业(ye)发(fa)展路线图，两周前还与时任英国首相(xiang)苏纳克一起(qi)讨(tao)论人工智能(neng)安(an)全问题。近一年(nian)，她和联合国人工智能(neng)咨询机构的团队成员一起(qi)撰写《以人为本的人工智能(neng)治理》报告，报告最终版将于今夏发(fa)布。对于人工智能(neng)的治理与监管，这位教授从(cong)英国和联合国机构的视角阐述了(le)见解。
人工智能(neng)领域的女性(xing)角色
澎湃新闻：您从(cong)1984年(nian)就涉(she)足人工智能(neng)领域，至今已经有40年(nian)，这期间人工智能(neng)的技术和商业(ye)应用已经发(fa)生了(le)翻天(tian)覆地的变化，您一直坚守在这个(ge)学科进行研(yan)究工作的动力是什么？
温迪(di)·霍尔：我曾是一名数学家，博士毕业(ye)正值(zhi)微型计算(suan)机开始出现，当时我想要在研(yan)究型大学工作，但因为太(tai)年(nian)轻了(le)找不到合适的岗位，也发(fa)现自己的能(neng)力无法与微型计算(suan)机的记忆力与算(suan)力匹敌(di)。当我了(le)解到除了(le)通过程序代码之外，还可以与计算(suan)机进行交互，在计算(suan)机上(shang)放(fang)置图形和多媒体(ti)时，我对如何将其应用于教育很感兴趣，之后对超媒体(ti)（hypermedia）也变得(de)非常感兴趣，便开始了(le)研(yan)究的道路。
二三十年(nian)前，人们觉得(de)计算(suan)机科学家杰弗里·辛顿（Jeffery Hinton）疯了(le)，因为他不断提出新点子，但这通常就是研(yan)究的方式，也是我为什么喜欢(huan)做研(yan)究的原因。我乐于被告知自己所做的研(yan)究永(yong)远不会实现，然后时隔多年(nian)我可以对人们说，“看，我30年(nian)前所做的研(yan)究现在已经实现。”我对此感到非常自豪。比如在1990年(nian)代我就谈论过可穿(chuan)戴计算(suan)机设备，并(bing)有视频(pin)记录，当时人们问我为什么需要可穿(chuan)戴计算(suan)机，而现在智能(neng)穿(chuan)戴已经普及。
我不想为科技巨头工作，因为产业(ye)界是利益驱动的，必须专注于让股价上(shang)涨和销售产品。我在上(shang)世纪90年(nian)代确实创办了(le)一些初创公(gong)司，它们取得(de)了(le)不同程度的成功，但并(bing)没让我变得(de)富有。我在大学可以自由地思考，可以做感兴趣的研(yan)究，是很棒(bang)的体(ti)验。
澎湃新闻：在人工智能(neng)领域，像您这样的女性(xing)研(yan)究者并(bing)不多见，如何提高女性(xing)的参与度？
温迪(di)·霍尔：我认为人工智能(neng)不应该被视为计算(suan)机科学的一个(ge)子集，它比计算(suan)机科学要大得(de)多。当我们讨(tao)论它时，不仅仅是在谈论编程，还在谈论它的伦理、治理、政策，我们需要立法者、人文学科研(yan)究者、商业(ye)人士、哲学家和心理学家。所以，性(xing)别、年(nian)龄、种族方面的多样性(xing)非常重要，因为人工智能(neng)是为全世界打(da)造的。
我非常担(dan)心人工智能(neng)通过计算(suan)机科学来筛选人才(cai)，而研(yan)究计算(suan)机科学的女性(xing)非常少。所以相(xiang)应的，做人工智能(neng)的女性(xing)就更(geng)少了(le)。从(cong)进入人工智能(neng)领域至今40年(nian)，我仍然是该领域中少数女性(xing)之一。
澎湃新闻：人工智能(neng)领域中女性(xing)研(yan)究者较少是否会导致多样性(xing)的缺失，进而引发(fa)其他问题？
温迪(di)·霍尔：我非常强烈地主张多样性(xing)，如果只是单一文化，那么生产的任何东西(xi)，无论是研(yan)究还是产品，都更(geng)有可能(neng)存在偏(pian)见和不公(gong)，因为只是以一种方式思考。如果开发(fa)人工智能(neng)的团队不具有多样性(xing)，那从(cong)道德的层面来看是有问题的。
当然，联合国人工智能(neng)高级(ji)别咨询机构的团队是极具多样性(xing)的，不仅男女比例对半分，在年(nian)龄、种族、商业(ye)背景方面也非常多样化。所以这是一个(ge)很棒(bang)的团队，是多样性(xing)的一个(ge)典范。
AI规(gui)则(ze)制定应由谁主导
澎湃新闻：人工智能(neng)高级(ji)别咨询机构的39名专家分布在33个(ge)不同国家，每个(ge)大洲都有代表。当不同国家、学科和背景的专家一起(qi)制定报告时会有怎样的分歧(qi)？
温迪(di)·霍尔：因为小组(zu)具有多样性(xing)，各个(ge)地区的专家都非常深(shen)入地参与其中，所有专家都敢于说出自己的想法，因此我们不是在每件事上(shang)都意见一致。但之所以机构运行成功，很大程度上(shang)归(gui)功于联合国的领导，尤其是联合国秘(mi)书长技术特使阿曼迪(di)普o吉(ji)尔，他是一个(ge)非常有影响力的人物，但他并(bing)不显得(de)高高在上(shang)，通常能(neng)让每个(ge)人以自己的方式行事，他鼓励人们发(fa)言，让人们真正参与到讨(tao)论中。通常来说每个(ge)人都会发(fa)声，这就是全面的多样性(xing)，这让我深(shen)有感触。
我特别喜欢(huan)听团队中的法律从(cong)业(ye)者以不同的方式去思考世界，非常合乎逻辑。我们彼此了(le)解，已经进行了(le)多次线上(shang)和线下会议，包括一些深(shen)入的探(tan)讨(tao)，包括开源、人工智能(neng)的和平，以及儿童和性(xing)别等(deng)各种议题。
澎湃新闻：联合国人工智能(neng)高级(ji)别咨询机构去年(nian)12月发(fa)布了(le)《以人为本的人工智能(neng)治理》中期报告，呼吁将国际(ji)规(gui)范与人工智能(neng)的开发(fa)和推(tui)广方式更(geng)紧密地结合起(qi)来。最终报告尚未发(fa)布，现在的工作进展如何？
温迪(di)·霍尔：最终报告已经基本完成了(le)并(bing)提交给了(le)联合国秘(mi)书长，还会有一些反馈意见，可能(neng)后期会更(geng)新和迭代，最重要的是联合国领导层是否乐于接受我们所提出的内容，我们必须要以他们能(neng)接受的方式坚定地说出想说的话。这份报告将作为今年(nian)9月未来峰会（Summit of the Future）上(shang)将讨(tao)论的全球数字契约的一部(bu)分。我们非常希望报告中的大部(bu)分内容被纳入契约。
对于报告的细节，我们为联合国和人工智能(neng)机构留有探(tan)讨(tao)的空(kong)间和其他可能(neng)性(xing)，我们访问了(le)世界卫生组(zu)织、知识产权组(zu)织、人权组(zu)织、国际(ji)电信联盟（ITU），他们都在推(tui)进有关人工智能(neng)的工作，但往往只能(neng)看到自己关注的那一部(bu)分，我们正试图跨越(yue)这个(ge)障碍，构建一个(ge)网络(luo)是一种解决方案。
澎湃新闻：小到科研(yan)机构、科技公(gong)司，大到国家政府(fu)和联合国，都在不同层面讨(tao)论和制定人工智能(neng)相(xiang)关的规(gui)则(ze)来尽可能(neng)地确保安(an)全，那么究竟(jing)哪一方享有规(gui)则(ze)制定的主导权？
温迪(di)·霍尔：国家政府(fu)在规(gui)则(ze)制定方面有很大的影响力，比如英国去年(nian)成立了(le)人工智能(neng)安(an)全研(yan)究所，旨在提高对人工智能(neng)安(an)全的认识。但我并(bing)不是很赞同这种做法，因为它过多地带有政府(fu)部(bu)门的色彩，缺乏学术界的参与。而联合国是世界上(shang)唯一真正具有普遍性(xing)的全球组(zu)织，可以处理各种问题，尽管它可能(neng)是不完美的，但是我们可以利用这样一个(ge)平台来构建一个(ge)AI治理的网络(luo)。
澎湃新闻：英国去年(nian)主办了(le)一次国际(ji)人工智能(neng)安(an)全峰会，时任首相(xiang)苏纳克说：“目前唯一测试人工智能(neng)模型安(an)全性(xing)的是开发(fa)它的公(gong)司。”他认为这是远远不够的。那么如何让更(geng)多人参与到人工智能(neng)安(an)全性(xing)的检测和提升当中？
当地时间2023年(nian)11月2日(ri)，英国伦敦，人工智能(neng)安(an)全峰会期间，英国时任首相(xiang)苏纳克与特斯拉CEO马斯克出席一场(chang)对话活动。视觉中国 图
温迪(di)·霍尔：谈到去年(nian)在英国举办的人工智能(neng)峰会，非常坦率地讲(jiang)，让我恼火的是有很多国家没有被邀请(qing)，受邀的标准并(bing)不清(qing)楚，而且很多学者完全被排(pai)除在外。
关于人工智能(neng)的安(an)全性(xing)，在很多行业(ye)，一般是行业(ye)开发(fa)测试工具对产品进行检测，然后提交报告给政府(fu)接受监管，这也是目前人工智能(neng)遵循的一套规(gui)则(ze)。在英国，人工智能(neng)安(an)全研(yan)究所都不一定能(neng)够访问那些科技公(gong)司的数据(ju)，更(geng)不用说其他机构和个(ge)人。我认为公(gong)司管理安(an)全性(xing)和政府(fu)监管的平衡需要更(geng)进一步优化。
两周前，我见了(le)苏纳克首相(xiang)，当时和他谈论了(le)人工智能(neng)，我问他试图通过AI安(an)全研(yan)究所达成什么目标。他充满热情(qing)，希望英国能(neng)成为人工智能(neng)安(an)全领域的领导者，但实际(ji)上(shang)这是一个(ge)全球性(xing)问题。而且我认为很多研(yan)究应该在大学里进行，由商业(ye)公(gong)司来支(zhi)付费用，然后由政府(fu)来监管技术的开发(fa)，而且政府(fu)需要派人到人工智能(neng)的最前沿，以便了(le)解正在发(fa)生什么并(bing)进行监管。
别让ChatGPT做简单数学题
澎湃新闻：您既(ji)参与了(le)2017年(nian)英国人工智能(neng)独立报告的制定，也参与了(le)联合国人工智能(neng)高级(ji)别咨询机构的AI治理工作，如何看待欧盟最新发(fa)布的人工智能(neng)法案？一些科技公(gong)司指责这样的法案会打(da)击创新，您怎么看？
温迪(di)·霍尔：我们必须在创新和监管之间找到正确的平衡。我认为英国的手段太(tai)软了(le)，当然也对创新比较友好。实际(ji)上(shang)不管是欧盟还是英国制定的监管方案，确保安(an)全的目标是一致的，只是实现的手段不同。
我们必须要有强力的法规(gui)，如果只是科技公(gong)司自我监管是不够的。就像烟草行业(ye)，人们都知道吸烟的害处，但如果不制定相(xiang)关法规(gui)，烟草公(gong)司为了(le)盈(ying)利会以自己的方式制造和销售香烟。不同国家的法律会有所不同，但我们需要在联合国层面上(shang)形成一定的原则(ze)，各国可以在这样的原则(ze)基础上(shang)制定自己的法规(gui)。
澎湃新闻：您在社交平台上(shang)分享了(le)一份有关深(shen)度伪造（Deepfake）的联名书，呼吁制定新的法律法规(gui)，保护人们免受深(shen)度造假的危害。现在深(shen)度伪造带来的哪些危害值(zhi)得(de)重点关注？应该从(cong)哪些方面努(nu)力去应对这种危害？
温迪(di)·霍尔：可以看到今年(nian)有很多国家举行选举，我们很担(dan)心深(shen)度伪造会改(gai)变人们在选举中的投票，现在通过任何法律或技术都很难解决这个(ge)问题。比如有专家提到可以运用水(shui)印来防止(zhi)伪造，实际(ji)上(shang)水(shui)印也很容易破解。
我认为每个(ge)人都应该意识到人工智能(neng)能(neng)做什么以及它如何被滥(lan)用来制造虚假信息和深(shen)度伪造。我们不能(neng)期望政府(fu)做所有事情(qing)，而且也不希望政府(fu)和科技公(gong)司成为审查者。真正困难的是，谁来判定某件事或某个(ge)信息的真实性(xing)，而且这也涉(she)及到言论自由和隐私的问题。因此还是要回归(gui)到人们的意识问题，需要每个(ge)人都认识到人工智能(neng)应该如何被正当使用。
澎湃新闻：您在演讲(jiang)中提到生成式人工智能(neng)工具ChatGPT改(gai)变了(le)很多，在开发(fa)和使用生成式人工智能(neng)的进程中有哪些需要关注的风险或盲区？
温迪(di)·霍尔：我想强调人工智能(neng)的耗(hao)能(neng)问题，它的庞大电力需求是一个(ge)值(zhi)得(de)关注的问题。人们很多时候不正当地使用生成式人工智能(neng)，对ChatGPT提出极其简单的请(qing)求，比如输入简单的算(suan)术题，这太(tai)疯狂了(le)。我们需要负责任地使用人工智能(neng)，一些在搜索引擎(qing)中可以查找的信息不需要用资源密集型的生成式人工智能(neng)来完成。当公(gong)司销售产品时，不应该说现在可以用这个(ge)来做所有事情(qing)，而应该思考如何确保以一种负责任的方式使用它。
当然，对于人工智能(neng)的发(fa)展我还是比较乐观的，重要的是要看怎么样和人工智能(neng)进行合作，比如AI在粮(liang)食(shi)安(an)全、气候变化、能(neng)源、医(yi)疗卫生方面已经有很多突破，这是很棒(bang)的进展。我们要支(zhi)持人工智能(neng)向(xiang)好的方向(xiang)发(fa)展，要建立一个(ge)机制去确保安(an)全，这是一个(ge)漫长的旅程，我们不应该反对人工智能(neng)，而是要和人工智能(neng)进行协作，因为人工智能(neng)可以帮助人类有一个(ge)更(geng)好的未来。