“我们看到了科学(xue)将引领我们走向何方，所(suo)以也理解人们对现在(zai)即将发生的事感到恐惧和焦虑。”
近日，OpenAI首席技术官米(mi)拉·穆拉蒂（Mira Murati）在(zai)一次访谈(tan)中再次谈(tan)起(qi)AI（人工智(zhi)能）安全，并对“超(chao)级对齐(qi)”安全团(tuan)队解散、ChatGPT斯嘉(jia)丽语音风波、公司面临监管审查等(deng)问题作出回应。
穆拉蒂表示，过去几年(nian)取(qu)得(de)了难以置信的技术进步，超(chao)出了所(suo)有人的预料。随着继续(xu)这一进步，人们对现在(zai)即将发生的事感到恐惧和焦虑也可以理解。她(ta)认为OpenAI有着非常出色的安全团(tuan)队，安全地部署了能力最强(qiang)的模型(xing)，“考虑到技术以及OpenAI的进步速度(du)，在(zai)安全性、模型(xing)的训练和部署风险等(deng)方面加倍努力是非常重要(yao)的”。
OpenAI首席技术官米(mi)拉·穆拉蒂
一个多月前，OpenAI联合创(chuang)始人、首席科学(xue)家伊尔亚(ya)·苏茨克韦（Ilya Sutskever）、超(chao)级对齐(qi)团(tuan)队负责人杨·莱克（Jan Leike）在(zai)内的多位核(he)心成员相继离开，作为核(he)心安全团(tuan)队的超(chao)级对齐(qi)也随之解散。消息人士透露，注重AI系(xi)统安全的员工已经对奥特曼的领导失去信心。莱克在(zai)宣布(bu)离职后还在(zai)X（推特）发帖怒斥OpenAI及领导层“重视(shi)光(guang)鲜的产品，安全文化和流程不再受到重视(shi)”。
对此，穆拉蒂在(zai)9日回应称(cheng)：“超(chao)级对齐(qi)是OpenAI非常重要(yao)的安全团(tuan)队，但只是团(tuan)队之一，公司有很多人负责安全工作。”她(ta)表示并不认同“公司把产品放在(zai)安全之前”这一观点，并称(cheng)这一论调有点过于愤(fen)世嫉俗。
她(ta)表示，很多人认为安全和能力是分开的，一定(ding)要(yao)一方优于另一方，而(er)“安全应该从项目开始就与(yu)能力一同考虑，而(er)不是事后追加”。在(zai)航(hang)天、汽车(che)这些有着成熟安全思维和系(xi)统的行业，人们不一定(ding)会一直围着桌子争论什么是安全，但他们也一直在(zai)做这件事情。她(ta)认为整个行业也应该向成熟的安全纪律方向发展，不仅仅是操作纪律，也包含产品和部署安全，考虑偏见、虚假信息等(deng)因素。同时，她(ta)表示，OpenAI也一直在(zai)考虑模型(xing)的长(chang)期对齐(qi)，不仅仅是当下。
穆拉蒂也对ChatGPT的Sky语音与(yu)好莱坞知名影星“寡姐(jie)”斯嘉(jia)丽·约翰逊高度(du)相似的问题进行了回应。她(ta)表示，当时与(yu)OpenAI CEO山姆·奥特曼（Sam Altman）分别去找了Sky的配音者和斯嘉(jia)丽，但两人并未协调一致，才不幸(xing)导致了后续(xu)的局面发生。
彼时，斯嘉(jia)丽发布(bu)了声明并向OpenAI发送律师函，要(yao)求说明Sky确切的创(chuang)造过程。约翰逊在(zai)声明中表示，去年(nian)9月，奥特曼找到她(ta)，询问她(ta)是否愿意为ChatGPT配音，去安慰用户，弥合AI与(yu)人类之间巨大的差异所(suo)带来的不适感。斯嘉(jia)丽称(cheng)当时拒绝了这一提议，而(er)在(zai)ChatGPT-4演示版发布(bu)前两天，奥特曼再次联系(xi)了斯嘉(jia)丽的经纪人，要(yao)求重新考虑。斯嘉(jia)丽强(qiang)调，“在(zai)我们接触(chu)之前，系(xi)统声音就已经存在(zai)了”。随后OpenAI宣布(bu)暂停使用Sky语音，表示对斯嘉(jia)丽·约翰逊的尊重。
至于此次事件是否会影响(xiang)科技或是科技公司的形象，穆拉蒂表示，能做的就是把事情做好，让人们看到发生了什么，通过这种方式建立信任，除此之外并没(mei)有什么神奇的办法。
对科技担(dan)忧的，不仅仅是普通使用者，全球(qiu)越来越多的监管机构也开始密(mi)切关(guan)注。
6月初，据外媒报(bao)道，美国联邦政府的两家监管机构已达成协议，联邦贸(mao)易委(wei)员会（FTC）将带头审查OpenAI，并针对微软向OpenAI进行投资、以及与(yu)其(qi)他AI公司达成协议的行为进行调查。6月末，又(you)有报(bao)道称(cheng)，欧盟正在(zai)加大对AI行业的审查力度(du)，包括重新调查微软与(yu)OpenAI的合作以及投资关(guan)系(xi)。
对此，穆拉蒂表示：“有审查很好，我们正在(zai)建设(she)一些难以置信的非常强(qiang)大的东西，我们非常努力让它们变得(de)更好，但也存在(zai)风险，人们应该更深入地参与(yu)并了解这项技术是什么，并理解对于各个领域意味着什么，如何更有效更安全地去部署……微软一直是与(yu)我们非常一致的重要(yao)合作伙伴，我们紧密(mi)合作去打造最强(qiang)超(chao)级计算机，这也是AI模型(xing)的核(he)心所(suo)在(zai)。”
不过，就在(zai)当地时间7月10日，据外媒报(bao)道，微软已经放弃在(zai)OpenAI董(dong)事会的观察员席位，而(er)此前传言(yan)称(cheng)有望获得(de)相同席位的苹果(guo)也不会加入OpenAI董(dong)事会。OpenAI的一位发言(yan)人表示，在(zai)微软退出后，公司将不再有董(dong)事会观察员。微软、苹果(guo)接连放弃观察员席位，外界(jie)认为，或是出于对可能会被(bei)反(fan)垄断监管机构盯上的担(dan)忧。