“我(wo)们看到(dao)了科学(xue)将引领我(wo)们走向何方，所以也理解人们对现在即将发生的事感(gan)到(dao)恐惧和焦虑。”
近日，OpenAI首席技术官米拉·穆拉蒂（Mira Murati）在一(yi)次访谈(tan)中再次谈(tan)起AI（人工智能）安全，并对“超级对齐”安全团队解散、ChatGPT斯嘉丽语音风波、公司面临(lin)监管审查等问题作出(chu)回应。
穆拉蒂表示，过去(qu)几年取得了难以置信的技术进步(bu)，超出(chu)了所有人的预料(liao)。随着继续这一(yi)进步(bu)，人们对现在即将发生的事感(gan)到(dao)恐惧和焦虑也可以理解。她认为OpenAI有着非常出(chu)色(se)的安全团队，安全地部署了能力最强(qiang)的模型，“考虑到(dao)技术以及OpenAI的进步(bu)速度，在安全性、模型的训练和部署风险等方面加倍努力是非常重要的”。
OpenAI首席技术官米拉·穆拉蒂
一(yi)个多月前，OpenAI联合创始(shi)人、首席科学(xue)家伊尔亚(ya)·苏茨克(ke)韦（Ilya Sutskever）、超级对齐团队负责人杨·莱克(ke)（Jan Leike）在内的多位(wei)核(he)心成员相继离开，作为核(he)心安全团队的超级对齐也随之解散。消息人士透露，注重AI系统安全的员工已经对奥特曼的领导失去(qu)信心。莱克(ke)在宣布离职后还在X（推特）发帖怒斥OpenAI及领导层“重视光鲜的产品，安全文化和流程不再受到(dao)重视”。
对此，穆拉蒂在9日回应称(cheng)：“超级对齐是OpenAI非常重要的安全团队，但只是团队之一(yi)，公司有很多人负责安全工作。”她表示并不认同“公司把产品放在安全之前”这一(yi)观点，并称(cheng)这一(yi)论调(diao)有点过于愤世嫉俗。
她表示，很多人认为安全和能力是分开的，一(yi)定要一(yi)方优于另一(yi)方，而“安全应该(gai)从项目开始(shi)就与能力一(yi)同考虑，而不是事后追加”。在航天、汽车这些有着成熟安全思维和系统的行业，人们不一(yi)定会一(yi)直围着桌子争论什么是安全，但他们也一(yi)直在做(zuo)这件事情。她认为整个行业也应该(gai)向成熟的安全纪(ji)律(lu)方向发展(zhan)，不仅仅是操作纪(ji)律(lu)，也包含产品和部署安全，考虑偏见、虚假信息等因素。同时，她表示，OpenAI也一(yi)直在考虑模型的长期对齐，不仅仅是当下。
穆拉蒂也对ChatGPT的Sky语音与好莱坞(wu)知名影星“寡姐”斯嘉丽·约翰(han)逊高度相似的问题进行了回应。她表示，当时与OpenAI CEO山姆·奥特曼（Sam Altman）分别去(qu)找了Sky的配音者和斯嘉丽，但两人并未协调(diao)一(yi)致(zhi)，才不幸导致(zhi)了后续的局面发生。
彼(bi)时，斯嘉丽发布了声明并向OpenAI发送律(lu)师函，要求说明Sky确切的创造过程。约翰(han)逊在声明中表示，去(qu)年9月，奥特曼找到(dao)她，询问她是否愿意为ChatGPT配音，去(qu)安慰用(yong)户，弥(mi)合AI与人类之间(jian)巨大的差异所带(dai)来的不适感(gan)。斯嘉丽称(cheng)当时拒绝了这一(yi)提议，而在ChatGPT-4演示版发布前两天，奥特曼再次联系了斯嘉丽的经纪(ji)人，要求重新考虑。斯嘉丽强(qiang)调(diao)，“在我(wo)们接触(chu)之前，系统声音就已经存在了”。随后OpenAI宣布暂停使用(yong)Sky语音，表示对斯嘉丽·约翰(han)逊的尊重。
至于此次事件是否会影响科技或(huo)是科技公司的形象，穆拉蒂表示，能做(zuo)的就是把事情做(zuo)好，让人们看到(dao)发生了什么，通过这种方式(shi)建立信任，除(chu)此之外并没有什么神(shen)奇的办法。
对科技担忧的，不仅仅是普通使用(yong)者，全球越来越多的监管机构也开始(shi)密切关注。
6月初，据(ju)外媒报(bao)道，美国联邦政府的两家监管机构已达成协议，联邦贸易委员会（FTC）将带(dai)头(tou)审查OpenAI，并针对微(wei)软向OpenAI进行投资、以及与其他AI公司达成协议的行为进行调(diao)查。6月末，又有报(bao)道称(cheng)，欧盟正在加大对AI行业的审查力度，包括重新调(diao)查微(wei)软与OpenAI的合作以及投资关系。
对此，穆拉蒂表示：“有审查很好，我(wo)们正在建设一(yi)些难以置信的非常强(qiang)大的东西，我(wo)们非常努力让它们变得更好，但也存在风险，人们应该(gai)更深入地参(can)与并了解这项技术是什么，并理解对于各个领域意味着什么，如何更有效更安全地去(qu)部署……微(wei)软一(yi)直是与我(wo)们非常一(yi)致(zhi)的重要合作伙伴，我(wo)们紧(jin)密合作去(qu)打造最强(qiang)超级计(ji)算机，这也是AI模型的核(he)心所在。”
不过，就在当地时间(jian)7月10日，据(ju)外媒报(bao)道，微(wei)软已经放弃在OpenAI董事会的观察员席位(wei)，而此前传言称(cheng)有望获得相同席位(wei)的苹果也不会加入OpenAI董事会。OpenAI的一(yi)位(wei)发言人表示，在微(wei)软退出(chu)后，公司将不再有董事会观察员。微(wei)软、苹果接连放弃观察员席位(wei)，外界认为，或(huo)是出(chu)于对可能会被反垄(long)断监管机构盯上的担忧。