7月4日(ri)，2024世界人工智能大会暨人工智能全球(qiu)治理高级别会议（WAIC2024）在上海开幕。在当天下午举(ju)行的国际电(dian)信联盟人工智能向善研讨会上，硅谷机器人创业(ye)公司Robust.AI首(shou)席执行官兼创始人加(jia)里·马(ma)库斯做了视(shi)频(pin)演讲，分(fen)享“如何确保人工智能为(wei)我们所用”。
加(jia)里·马(ma)库斯在论坛上进行视(shi)频(pin)演讲。 主办方供图
据澎湃新闻(wen)此前(qian)报道(dao)，加(jia)里·马(ma)库斯一直(zhi)是生成式AI浪潮的唱反(fan)调者，坚称仅靠(kao)深度(du)学习并不能实(shi)现类(lei)人智能，经常在社交媒体上与AI知名学者舌战。提起(qi)讨厌ChatGPT的专家，他绝对是社交媒体上最瞩目的人。
“现在所用的AI在技术上和道(dao)德(de)上都是不完整的（inadequate）。”马(ma)库斯开篇明义，表示大家现在所关注的生成式AI只(zhi)是一种可能性(xing)的方法，很有趣、很受欢迎，但是有很多问题，他更(geng)愿意将(jiang)其称为(wei)“Rough Draft AI（AI的草稿）”。
马(ma)库斯将(jiang)当前(qian)人们关注的通用人工智能称为(wei)“RoughDraftAI”
马(ma)库斯表示，AI会使用全世界的统计数(shu)据，试图从这些统计数(shu)据中猜测这个世界是如何运作的，但这并不能够代表世界的真相。这就是所谓的“AI幻觉”，大语言模型(xing)看起(qi)来(lai)很聪(cong)明，但是不能检查自(zi)己的工作。而这些问题并不能通过加(jia)入多模态、影像(xiang)学工具来(lai)真正地解决。
其次，人工智能也会存在偏见问题，这在十年之(zhi)前(qian)就为(wei)人们所知，但现在也还没有真正的解决方案。此外，人工智能也存在抄袭问题，Chat GPT的产出会根据统计数(shu)据给出多个版(ban)本的回答，但实(shi)际上只(zhi)是已有数(shu)据的重塑。
由此，马(ma)库斯认为(wei)今天的AI是不稳定的，在现实(shi)中没有锚，于是带来(lai)很多风险，比如虚(xu)假信息(xi)、市场操作、诽(fei)谤、深度(du)造假、偏见歧视(shi)、隐私数(shu)据泄露、侵犯知识产权等(deng)。在他看来(lai)，过度(du)依(yi)赖这样不可靠(kao)的系统，甚至将(jiang)AI工具放到武器系统或者电(dian)网当中，成本是巨大的，甚至可能会存在严重的长(chang)期风险。
如何在政策层面提出解法呢？马(ma)库斯指出，不能期待现有的法律面面俱到，也不能期待一个统一的解决方案能够解决AI带来(lai)的所有风险。在全球(qiu)范围内，马(ma)库斯认为(wei)快(kuai)速敏捷的反(fan)应很重要，同时还需要透明度(du)，需要全面统计、全面训练，并全面披露所有内部(bu)测试。此外，还需要第(di)三方来(lai)做发布后的审计，让人们知道(dao)这些AI系统是否被(bei)误用，是否存在歧视(shi)。要负责任地进行分(fen)层监督，要有类(lei)似国家和全球(qiu)性(xing)质的机构来(lai)做监管。
马(ma)库斯还指出，不应该让大型(xing)科技公司来(lai)决定一切(qie)，例(li)如技术开源(yuan)可能会带来(lai)风险。
尽管AI热潮奔涌，但在马(ma)库斯看来(lai)，通用人工智能并非迫在眉睫。人们如此认为(wei)，一定程度(du)上是来(lai)自(zi)硅谷的炒作，真正重要的是解决人工智能在现实(shi)世界中的问题。马(ma)库斯提出，人工智能的能力增长(chang)实(shi)际上已经放缓，但他仍觉得人工智能有希望变得更(geng)好(hao)。要实(shi)现这一点，还需要从人类(lei)社会当中获得线(xian)索。他说：“人的思维不是单一的，当我们在制定人工智能政策时，需要对当前(qian)的人工智能持现实(shi)的态度(du)，并且找到超越它的方法。”
马(ma)库斯表示，很多公司都拥有学习能力强、推理能力较弱、数(shu)据不可解释的系统，而现在需要开发一种新的人工智能方法。或许需要几十年的时间，人们才能够去理解如何构建(jian)一个结合(he)学习和推理优点的人工智能，让其成为(wei)可学习的、数(shu)据高效的、可解释的、可靠(kao)的、可验证的和基于事实(shi)的人工智能。