人工智能将把我们带往天堂还是地狱

使用CN2/CN2GIA顶级线路，支持Shadowsocks/V2ray科学上网，支持支付宝付款，每月仅需 5 美元

## 加入品葱精选 Telegram Channel ##

人工智能将把我们带往天堂还是地狱

作者：DAVID BROOKS　　2023年11月23日纽约时报

OpenAI的优点之一是，它建立在不信任的基础上。它最初是一个非营利性的研究实验室，因为它的创始人认为，人工智能不应该由主要受利润驱动的商业公司来开创。

随着发展，OpenAI变成了一个可称为卓有成效的矛盾体的东西：一家由非营利董事会监管的营利性公司，企业文化介于两者之间。

公司里的许多人似乎同时受到三种激励：科学家的探索欲望、资本家交付产品的欲望和行善者安全行事的欲望。

过去一周发生的事件——萨姆·奥尔特曼被解雇，经历各种跌宕起伏，被重新聘用——都围绕着一个核心问题：这种卓有成效的矛盾体能否持续下去？

一个组织或一个人能否同时保持科学家的头脑、资本家的动力和监管机构的谨慎？或者，正如查理·沃泽尔在《大西洋月刊》(The Atlantic)上所写的那样，金钱总会胜出？

重要的是要记住，人工智能与科技界的其他领域有很大不同。它（或者至少曾经是）更加学术化。人工智能这个领域的研究历史可以追溯到几个世纪前。即使在今天，该领域的许多巨头也主要是研究人员，而不是企业家——比如扬·勒昆和杰弗里·辛顿这样的人，他们在2018年一起获得了图灵奖（计算机领域的诺贝尔奖），但现在，对于人工智能将把我们带往何方，他们意见不一。

直到最近几年，学术界的研究人员才陆续离开大学，涌向工业界。谷歌母公司Alphabet；微软；OpenAI；还有拥有Facebook的Meta这些公司的研究人员仍然通过发表研究论文的方式相互交流，就像教授们那样。

但这个领域的激昂与进取，与别的热门创业领域并无不同。在过去一年左右的时间里，当我与人工智能研究人员交谈时，我经常觉得自己站在每小时五公里的机场移动人行道上，而他们站在每小时6000公里的跑道上。研究人员不断告诉我，人工智能历史的这一阶段之所以如此令人振奋，正是因为没有人能预测接下来会发生什么。“作为人工智能研究人员，重点是你应该了解正在发生的事情，我们不断地感到惊讶。”斯坦福大学博士候选人里希·博马萨尼告诉我。

从事人工智能的人似乎同时经历着完全不同的大脑状态。我发现，要写关于人工智能的文章非常困难，因为我们根本不知道这项技术会把我们带到天堂还是地狱，所以我对它的态度会随着我的情绪而改变。

播客主播、麻省理工学院科学家莱克斯·弗里德曼以科技界的忏悔之父形象出现，他表达了我曾多次遇到的那种急剧变化的情绪：“你坐下来，像父母一样自豪，但几乎是又骄傲又害怕，担心这个东西会比我聪明得多。既像骄傲又像悲伤，几乎像一种忧郁的感觉，但最终还是喜悦。”

当我在5月份参观OpenAI总部时，我发现那里的文化令人印象深刻。我采访的许多人都是在OpenAI还是一个非营利研究实验室的时候来到这里的，在ChatGPT的喧嚣之前——当时我们大多数人都没有听说过这家公司。“我父母并不真正了解OpenAI是做什么的，”产品经理乔安妮·姜（音）告诉我，“他们说，‘你要离开谷歌？’”参与创造了可视化工具DALL-E 2的研究人员马克·陈（音）也有类似的经历。“在ChatGPT出现之前，我妈几乎每周都会给我打电话，她会说，‘嘿，你知道，你别再四处游荡了，该去谷歌之类的公司上班了。’”这些人的主要动机并非金钱。

即使在GPT成为头条新闻之后，置身OpenAI就像身处飓风眼一样。“这里感觉比世界上其他地方要平静得多，”乔安妮·姜告诉我。“从早期开始，它确实感觉更像是一个研究实验室，因为我们主要只招聘研究人员，”招聘人员埃琳娜·查齐亚塔纳西亚杜告诉我。后来，随着我们的发展，每个人都开始意识到，工程和研究会带来进步。”

我在那里没有遇到任何“技术男”的氛围，甚至没有人有那种“我们正在改变世界”的不可一世——就是当我是一项技术的先驱时可能会有这种架势。任人力副总裁的戴安·尹（音）告诉我：“我想用热忱这个词来形容这个团队……热忱的感觉。”

通常，当我作为一名记者访问一家科技公司时，我能见到的高管很少，而我能采访到的那些人个个守口如瓶。而OpenAI只是拿出一张登记表，然后就让人来跟我交谈了。

我承认，过去我走进这些科技公司的时候，会摆出一种防御性的人本主义架子：我告诉自己，这些人可能懂代码，但他们可能不懂真正重要的文学和哲学。

在OpenAI，我没什么优越感。戴安·尹从小跳舞，出演过莎士比亚戏剧。尼克·莱德是加州大学伯克利分校的一名数学家，在成为OpenAI的研究员之前，他对一种叫做有限微分卷积的东西很感兴趣。几个人提到了一个研究方面的同事，他本科学习物理学，在茱莉亚音乐学院学习了两年钢琴，然后获得了神经科学的研究生学位。还有人告诉我，他们最初的学术兴趣是心灵哲学、语言哲学或符号系统。公司技术人员蒂娜·埃卢恩多在加入OpenAI之前学习过经济理论，并在美联储工作过。

尽管他们都给人留下深刻的印象，但我记得我当时告诉自己：这不会持续太久。我觉得到处都是金钱的氛围。这些人可能是认真的研究人员，但不管他们是否意识到这一点，他们仍在为推出产品、创造收入和成为第一而竞争。

很明显，人们在安全问题上存在分歧。一方面，安全是每个人都关心的问题。例如，我问马克·陈在DALL-E 2发布那天的心情。“很多时候都是这种忧虑的感觉。比如，我们是否能保证安全？”他说。另一方面，与我交谈的每个人都致力于OpenAI的核心使命——创造一种能够实现人工智能的技术，能够在广泛的任务中匹配或超越人类智能。

人工智能领域的卓越人物描绘出截然不同但又有说服力的前景。风险投资家马克·安德森强调，它将极大地改变世界，让世界变得更美好。认知科学家加里·马库斯描绘的场景同样有说服力，他说了这一切可能会出怎样的问题。

没有人真正知道谁是对的，但研究人员只是继续努力。他们的行为让我想起了艾伦·图灵在1950年写的一句话：“我们只能看到前方很短的距离，但我们可以看到有很多事情需要做。”

我曾希望OpenAI能够找到解决这种对立的办法，然而即便在当时，就已经存在着担忧。正如OpenAI首席运营官布拉德·莱特卡普告诉我的那样：“最重要的是，在我们成长的过程中保持公司文化和使命导向。真要说的话，真正让我感到不安的是，如何在规模化的过程中保持这种专注。”

这些话很有先见之明。组织文化不容易建立，却很容易被摧毁。这个问题关系到世界的安危：刚刚被解放出来的奥尔特曼能否保持这种卓有成效的矛盾体，抑或他会屈服于拼命向前的压力？

David Brooks自2003年以来一直是时报的专栏作家。他最近出版的一本书是“How to Know a Person: The Art of Seeing Others Deeply and Being Deeply Seen”。欢迎在Twitter上关注他：@nytdavidbrooks。

翻译：晋其角

(XYS20231127)

最简单好用的 VPS,没有之一，注册立得 100 美金