他们想阻止开源竞争对手
写作商业的乐趣之一是，当你看法到惯例在你面前转变的那一稀有时辰。这让人感到脊背发凉。你荣耀地开局潦草地记下你周围的每一个细节，就像你在起草一本滞销书的开篇。你们的专栏作家最近在旧金山发作了这种状况，他坐在Anthropic公司污浊的办公室里，该公司是人工自动（ai）畛域的宠儿。当Anthropic的联结开创人之一杰克-克拉克(Jack Clark)将巴鲁克方案（1946年将全球上的原子武器置于一致管制之下的一项失败的致力）与必需启动全球协调以防止有害的人工自动的分散等量齐观时，有了那种相熟的老觉得。当企业家们将他们的发明与核弹启动比拟时，哪怕是切身的比拟，都觉得是一个转机点。
自从去年年底Chatgpt突然出现以来，不乏对ai带来的生活风险的焦虑。但这是不同的。听听这个畛域的一些先驱者的意见，他们并不担神思器逾越人类的二元论未来，而是更担忧他们如今正在制作的物品中潜藏的风险。Chatgpt是"生成式"人工自动的一个例子，它依据对互联网上的文本、图像和声响的剖析，发明出相似人类的内容。构建该软件的初创公司Openai的首席执行官Sam Altman在本月的国会听证会上示意，监管干预关于治理机器人面前日益弱小的"大型言语模型"（llms）的风险至关重要。
在没有规定的状况下，他在旧金山的一些同行说，他们曾经与华盛顿特区的政府官员建设了前方渠道，探讨在反省其聊天机器人时发现的潜在危害。其中包含有毒资料，如种族主义，以及风险才干，如儿童美容或炸弹制作。Inflection ai的联结开创人Mustafa Suleyman（也是《经济学人》母公司的董事会成员），方案在未来几周向能够发现其公司的数字说话同伴Pi的破绽的黑客提供小气的赏金。
这种审慎的态度使这股初露端倪的科技热潮看起来与过去不同--至少在外表上是如此。像平常一样，风险资本正在滚滚而来。但与过去的"高速执行，冲破惯例"的做法不同，如今许多初创企业的投资首先是为了安保。硅谷关于监管的新鲜格言--申请宽恕比申请容许更好--曾经被放弃了。像Openai、Anthropic和Inflection这样的初创公司十分宿愿传播这样的理念：他们不会为了赚钱而就义安保，他们曾经建设了限度利润最大化的公司结构。
这股热潮看起来异乎寻常的另一个方面是，建设其专有治理系统的初创企业并不计划颠覆现有的大技术等级制度。理想上，他们或者有助于坚固它。这是由于他们与在生成性人工自动比赛中抢先的科技巨头的关系是共生的。Openai与微软的关系亲密，微软是一个大投资者，应用前者的技术来改善其软件和搜查产品。Alphabet旗下的谷歌在Anthropic领有相当大的股份；5月23日，这家初创公司发表了其最新一轮4.5亿美元的融资，其中包含来自该科技巨头的更多投资。这家年轻的公司依托大科技公司的云计算平台，在数据陆地中训练他们的模型，使聊天机器人能够像人类对话者一样行事，从而使他们的业务关系愈加严密。
与初创企业一样，微软和谷歌也热衷于展现他们对安保的注重--即使他们在聊天机器人比赛中彼此强烈争夺。他们也以为，必需制订新的规定，而且在监视软件方面的国内协作是必无法少的。正如Alphabet的首席执行官Sundar Pichai所说，"AI太重要了，不能不监管，也不能不监管好。"
这种姿态或者是齐全正当的，由于越来越弱小的AI模型或者会发生失误信息、选举操纵、恐惧主义、任务中缀和其余潜在危害的风险。但值得留意的是，监管也会给科技巨头带来好处。这是由于它偏差于增强现有的市场结构，发明在位者以为最容易接受的老本，并提高进入市场的阻碍。
这一点很重要。假设大科技公司应用监管来坚固其在生成性人工自动畛域的位置，那么就会有一种掂量。巨头们更有或者部署技术，使他们的现有产品更好，而不是齐全取代它们。他们将寻求包全其外围业务（微软的企业软件和谷歌的搜查）。与其说是迎来了熊彼特式的发明性破坏时代，不如说是提示人们，大型在位者目前管制着翻新环节--有人称之为"发明性积攒"。这项技术最终或者不如它所能带来的反派性。
绳之以法的LLaMA
这样的结果并不是一个定论。3月，Meta公司开发的LLAMA在网上泄露后，开源AI就开局众多了。硅谷曾经传出信息，开源开发者能够建设生成式人工自动模型，简直与现有的专有模型一样好，而且老本只要几百分之一。
Anthropic的Clark先生将开源AI形容为一个"十分令人不安的概念"。只管它是减速翻新的好方法，但它自身也很难管制，无论是在一个和平国度还是在一个17岁的敲诈软件制作商手中。当全球上的监管机构在处置生成性人工自动时，这种担忧将失去处置。微软和谷歌--以及它们的初创公司--都有这样的想法
