《人工智能现已属于资本主义》（KEVIN ROOSE 2023年11月23日）报道：
过去五天在OpenAI发生的事情可以有多种描述方式：一场刺激的董事会闹剧，一场围绕美国最大初创企业之一的拉锯战，一场希望人工智能更快发展的人与希望放慢发展速度的人之间的冲突。
但最重要的是，这是一场人工智能两种不同愿景之间的较量。
在其中一种愿景下，人工智能是一种变革性的新工具，是一系列改变世界的创新中最新的一种——这些创新包括蒸汽机、电力和个人电脑——如果使用得当，可能会开启一个繁荣的新时代，并为利用其潜力的企业赚取大量财富。
在另一种愿景下，人工智能更接近于一种外星生命形式——从神经网络的数学深处召唤出来的怪兽——必须极其谨慎地加以限制和部署，以防止它接管并杀死我们所有人。
随着萨姆·奥尔特曼周二重返OpenAI，两种观点之间的斗争似乎结束了。上周五，OpenAI董事会解除了他的首席执行官职务。
资本主义队胜。利维坦队负。
OpenAI的新董事会将由三人组成，至少在一开始是这样：Quora首席执行官亚当·迪安吉洛 （他也是旧董事会唯一一位留任者）；Facebook和Salesforce前高管布雷特·泰勒；以及前财政部长劳伦斯·萨默斯。预计董事会将在此基础上扩大规模。
OpenAI的最大投资者微软预计也将在OpenAI未来的治理中拥有更大的发言权，可能包括一个董事会席位。
推动奥尔特曼下台的三名成员已经离开了董事会：OpenAI首席科学家伊利亚·苏茨克韦尔（他后来撤回了自己的决定）；乔治城大学安全与新兴技术中心战略主管海伦·托纳；以及企业家和兰德公司研究员塔莎·麦考利。
苏茨克韦尔、托纳和麦考利可以代表十年前积极参与思考人工智能的那批人，他们是学者，硅谷未来学家和计算机科学家的混合体。他们对这项技术既恐惧又敬畏，并担心理论上的未来事件，比如“奇点”(singularity)，即人工智能超出我们的控制能力。许多人都属于有效利他主义者等哲学团体，这是一个利用数据和理性做出道德决定的运动，他们之所以决定从事人工智能工作，是出于将技术的破坏性影响降到最低的愿望。
这就是2015年人工智能研究的氛围，当时OpenAI作为一家非营利组织成立，这有助于解释为什么该组织在2019年成立营利性部门后仍然保持其复杂的治理结构——令非营利董事会可以控制公司的运营，并更换其领导层。当时，许多业内人士认为，保护人工智能不受资本主义力量的影响是当务之急，需要写入公司章程和章程文件。
但自2019年以来，情况发生了很大变化。强大的人工智能不再仅仅是一个思想实验——它存在于真实的产品中，比如每天被数以百万计的人使用的ChatGPT。世界上最大的科技公司正在竞相打造更强大的系统。数十亿美元被用于在企业内部构建和部署人工智能，以期降低劳动力成本，提高生产率。
新的董事会成员是意料之中的那种可以监督这类项目的商业领袖。新任董事会主席泰勒是一位经验丰富的硅谷交易撮合者，去年担任Twitter董事会主席期间，他牵头将Twitter出售给了埃隆·马斯克。萨默斯是超级资本主义者——一位杰出的经济学家，他说他相信技术变革对社会“只有好处”。
在重组后的OpenAI董事会中，可能仍然会有谨慎的声音，也可能会有来自人工智能安全运动的人物。但他们不会拥有否决权，也不会像过去的董事会那样有能力立即关闭公司。他们的偏好将与公司高管和投资者等其他人的偏好相平衡。
如果你是微软，或者其他成千上万依赖OpenAI技术的企业中的任何一家，这无疑是一件好事。更传统的治理意味着突发的风险更小，会迫使你匆忙更换人工智能提供商的变化风险也更小。
也许OpenAI发生的事情——企业利益战胜了对未来的担忧——是不可避免的，因为人工智能越来越重要。一项有可能引领第四次工业革命的技术，不太可能长期被那些想要减缓其发展的人所控制——尤其是在事关巨额投资的情况下。
人工智能行业仍然有一些旧观念的痕迹。OpenAI的竞争对手Anthropic是由一群前OpenAI员工创建的，它将自己定位为一家公益公司，这种法律结构旨在使其免受市场压力影响。一个活跃的开源人工智能运动主张人工智能不受企业控制。
但这些最好被视为人工智能旧时代的最后遗迹，在那个时代，人工智能的创造者对这项技术既好奇又恐惧，并试图通过组织治理来限制它的力量。
现在，乌托邦主义者占据了主导地位。全速前进。
谢选骏指出：人说“人工智能现已属于资本主义”，我看“资本主义与利维坦都是幻象”——有人则把这个““资本主义与利维坦”的组合，称为“天堂与地狱”——
《人工智能将把我们带往天堂还是地狱》（DAVID BROOKS
2023年11月24日）报道：
OpenAI的优点之一是，它建立在不信任的基础上。它最初是一个非营利性的研究实验室，因为它的创始人认为，人工智能不应该由主要受利润驱动的商业公司来开创。
随着发展，OpenAI变成了一个可称为卓有成效的矛盾体的东西：一家由非营利董事会监管的营利性公司，企业文化介于两者之间。
公司里的许多人似乎同时受到三种激励：科学家的探索欲望、资本家交付产品的欲望和行善者安全行事的欲望。
过去一周发生的事件——萨姆·奥尔特曼被解雇，经历各种跌宕起伏，被重新聘用——都围绕着一个核心问题：这种卓有成效的矛盾体能否持续下去？
一个组织或一个人能否同时保持科学家的头脑、资本家的动力和监管机构的谨慎？或者，正如查理·沃泽尔在《大西洋月刊》(The Atlantic)上所写的那样，金钱总会胜出？
重要的是要记住，人工智能与科技界的其他领域有很大不同。它（或者至少曾经是）更加学术化。人工智能这个领域的研究历史可以追溯到几个世纪前。即使在今天，该领域的许多巨头也主要是研究人员，而不是企业家——比如扬·勒昆和杰弗里·辛顿这样的人，他们在2018年一起获得了图灵奖（计算机领域的诺贝尔奖），但现在，对于人工智能将把我们带往何方，他们意见不一。
直到最近几年，学术界的研究人员才陆续离开大学，涌向工业界。谷歌母公司Alphabet；微软；OpenAI；还有拥有Facebook的Meta这些公司的研究人员仍然通过发表研究论文的方式相互交流，就像教授们那样。
但这个领域的激昂与进取，与别的热门创业领域并无不同。在过去一年左右的时间里，当我与人工智能研究人员交谈时，我经常觉得自己站在每小时五公里的机场移动人行道上，而他们站在每小时6000公里的跑道上。研究人员不断告诉我，人工智能历史的这一阶段之所以如此令人振奋，正是因为没有人能预测接下来会发生什么。“作为人工智能研究人员，重点是你应该了解正在发生的事情，我们不断地感到惊讶。”斯坦福大学博士候选人里希·博马萨尼告诉我。
从事人工智能的人似乎同时经历着完全不同的大脑状态。我发现，要写关于人工智能的文章非常困难，因为我们根本不知道这项技术会把我们带到天堂还是地狱，所以我对它的态度会随着我的情绪而改变。
播客主播、麻省理工学院科学家莱克斯·弗里德曼以科技界的忏悔之父形象出现，他表达了我曾多次遇到的那种急剧变化的情绪：“你坐下来，像父母一样自豪，但几乎是又骄傲又害怕，担心这个东西会比我聪明得多。既像骄傲又像悲伤，几乎像一种忧郁的感觉，但最终还是喜悦。”
当我在5月份参观OpenAI总部时，我发现那里的文化令人印象深刻。我采访的许多人都是在OpenAI还是一个非营利研究实验室的时候来到这里的，在ChatGPT的喧嚣之前——当时我们大多数人都没有听说过这家公司。“我父母并不真正了解OpenAI是做什么的，”产品经理乔安妮·姜（音）告诉我，“他们说，‘你要离开谷歌？’”参与创造了可视化工具DALL-E 2的研究人员马克·陈（音）也有类似的经历。“在ChatGPT出现之前，我妈几乎每周都会给我打电话，她会说，‘嘿，你知道，你别再四处游荡了，该去谷歌之类的公司上班了。’”这些人的主要动机并非金钱。
即使在GPT成为头条新闻之后，置身OpenAI就像身处飓风眼一样。“这里感觉比世界上其他地方要平静得多，”乔安妮·姜告诉我。“从早期开始，它确实感觉更像是一个研究实验室，因为我们主要只招聘研究人员，”招聘人员埃琳娜·查齐亚塔纳西亚杜告诉我。后来，随着我们的发展，每个人都开始意识到，工程和研究会带来进步。”
我在那里没有遇到任何“技术男”的氛围，甚至没有人有那种“我们正在改变世界”的不可一世——就是当我是一项技术的先驱时可能会有这种架势。任人力副总裁的戴安·尹（音）告诉我：“我想用热忱这个词来形容这个团队……热忱的感觉。”
通常，当我作为一名记者访问一家科技公司时，我能见到的高管很少，而我能采访到的那些人个个守口如瓶。而OpenAI只是拿出一张登记表，然后就让人来跟我交谈了。
我承认，过去我走进这些科技公司的时候，会摆出一种防御性的人本主义架子：我告诉自己，这些人可能懂代码，但他们可能不懂真正重要的文学和哲学。
在OpenAI，我没什么优越感。戴安·尹从小跳舞，出演过莎士比亚戏剧。尼克·莱德是加州大学伯克利分校的一名数学家，在成为OpenAI的研究员之前，他对一种叫做有限微分卷积的东西很感兴趣。几个人提到了一个研究方面的同事，他本科学习物理学，在茱莉亚音乐学院学习了两年钢琴，然后获得了神经科学的研究生学位。还有人告诉我，他们最初的学术兴趣是心灵哲学、语言哲学或符号系统。公司技术人员蒂娜·埃卢恩多在加入OpenAI之前学习过经济理论，并在美联储工作过。
尽管他们都给人留下深刻的印象，但我记得我当时告诉自己：这不会持续太久。我觉得到处都是金钱的氛围。这些人可能是认真的研究人员，但不管他们是否意识到这一点，他们仍在为推出产品、创造收入和成为第一而竞争。
很明显，人们在安全问题上存在分歧。一方面，安全是每个人都关心的问题。例如，我问马克·陈在DALL-E 2发布那天的心情。“很多时候都是这种忧虑的感觉。比如，我们是否能保证安全？”他说。另一方面，与我交谈的每个人都致力于OpenAI的核心使命——创造一种能够实现人工智能的技术，能够在广泛的任务中匹配或超越人类智能。
人工智能领域的卓越人物描绘出截然不同但又有说服力的前景。风险投资家马克·安德森强调，它将极大地改变世界，让世界变得更美好。认知科学家加里·马库斯描绘的场景同样有说服力，他说了这一切可能会出怎样的问题。
没有人真正知道谁是对的，但研究人员只是继续努力。他们的行为让我想起了艾伦·图灵在1950年写的一句话：“我们只能看到前方很短的距离，但我们可以看到有很多事情需要做。”
我曾希望OpenAI能够找到解决这种对立的办法，然而即便在当时，就已经存在着担忧。正如OpenAI首席运营官布拉德·莱特卡普告诉我的那样：“最重要的是，在我们成长的过程中保持公司文化和使命导向。真要说的话，真正让我感到不安的是，如何在规模化的过程中保持这种专注。”
这些话很有先见之明。组织文化不容易建立，却很容易被摧毁。这个问题关系到世界的安危：刚刚被解放出来的奥尔特曼能否保持这种卓有成效的矛盾体，抑或他会屈服于拼命向前的压力？
谢选骏指出：我虽不敢说“天堂和地狱都是但丁的幻象”，但我敢说“资本主义与利维坦都是幻象”——更加何况，圣经所说的“天堂和地狱”虽是真的，但是但丁所说“天堂和地狱”毕竟都是假的，仅仅是他的病中幻象。就像霍布斯所说的利维坦和马克思所说的资本主义，也都是他们的病中幻象。
沒有留言:
發佈留言