主席莉娜可汗 FTC 美国 AI 为什么需要监管

科技 2023-05-04 20:13:16 浏览次

作者：Lina Khan

编译：美漪

编辑：靖宇

编者按：

从考查亚马逊，到单挑 Facebook，美国最年轻的 FTC 主席莉娜可汗是全球科技监管畛域的铁娘子。

由 ChatGPT 带火的最新一波 AI 浪潮兴起之时，可汗在 NYT 上写下署名文章，说明关于巨头正在争抢的 AI 赛道，FTC 需要要增强监管。

以下为莉娜可汗关于AI监管的全文：

与 AI 启动仿真的对话，既令人兴奋又令人不安。因为生成式 AI 的高速开展，咱们中的许多人，如今曾经体验到了这种潜在的反派性技术，它对全球各地人们的生存、任务和交换方式都发生了渺小的影响。

生成式 AI 的所有后劲仍有待探讨，但毫无不懂，它将是高度推翻性的。

上一次性，咱们发现自己面临由科技带来的宽泛的社会改革，还是2000年代中期，Web 2.0时代的开局。像 Facebook 和谷歌这样的新型科技公司，彻底扭转了传统的通信方式，并为高速增长的用户群体，提供了翻新的服务。

但是，这些翻新服务是以高昂的代价换来的。

咱们最后想象的收费服务，最终经过对经常使用这些服务的人和企业，启动宽泛监控，从而成功了商业化。其结果是构成了一种网络经济（online economy），而在这种经济中，提供越来越多的基本服务的前提是，宽泛地囤积和发售用户的个体数据。

这种商业形式促使科技公司千方百计地来追踪用户，甚至不惜违法法律。少数的这几家巨头，经常使用用了一些保守的战略，像是收买，或封闭有潜在要挟的公司，从而坚固自己的主导位置。

一系列反派性的技术，最后却沦为对一些次要服务的增强，并定型成了以用户的隐衷和安保为代价的商业形式。

但是，Web 2.0时代的开展轨迹，并不是无法防止的——它是由宽泛的政策选择所决议的。

而现如今，咱们面临着另一个次要的选择时辰：AI 技术的运作越来越宽泛，政府官员有责任确保其开展不会吃一堑，长一智。

随着各家公司竞相部署 AI，并从中获利，联邦贸易委员会（FTC）正在细心钻研，如何才干最好地成功咱们的双重担务，即促成偏心竞争，和包全美国人免受不偏心或诈骗性行为的影响。

随着 AI 技术的开展，咱们将努力于尽咱们的职责，维护美国短暂以来的传统——维持开明、公温和竞争的市场。正是这样的市场撑持着打破性的翻新，和咱们国度的经济成功，绝不能容忍大规模盘剥用户的商业形式或做法。

只管这些工具是新的，但它们仍受现有规定的束缚。而且，即使在这个新的市场，联邦贸易委员会（F.T.C.）也会踊跃地口头咱们担任治理的法律。

只管 AI 技术正在迅速开展，但一些风险曾经透进去。

首先是，随着 AI 技术的运作范围始终扩展，现有科技巨头的主导位置会失去强化。

这象征着，少数弱小的企业，管制着其余公司和初创企业，开发和部署 AI 工具所必需的原资料，包含云服务（cloud services）和算力（computing power），以及少量的数据。

这些占据主导位置的公司，可以经过管制这些次要投入，来打压下游的竞争对手，从而坚固自己的位置。对此，执法者和监管者需要坚持高度警觉。

此外，企业用来制订各种价钱的 AI 工具（从洗衣粉到保龄球道预订等），还会滋长哄抬价钱的合谋行为，以及各种方式的价钱歧视。

值得强调的是，执法者的责任是双重的。这象征着，咱们不只有防范 AI 技术带来的风险，还要促成偏心竞争，以确保这些技术的市场非法开展。

联邦贸易委员应当充散施展法律管辖权，来解决高速开展的 AI 技术带来的疑问，包含串通、垄断、合并、价钱歧视和不合理竞争。

其次，生成式 AI 还有或者滋长欺诈行为。

只管，它或者还没有预备好取代业余作家，但它曾经可以比个别的网络骗子，更好地捏造一个看似实在的消息，使骗子们能够高速而便宜地生成内容。

聊天机器人曾经被用来生成诈骗性质的钓鱼邮件（spear-phishing emails）、虚伪网站和虚伪生产者评论。AI 机器人甚至被命令经常使用针对特定群体和社区的词汇或短语。例如，诈骗者可以依据用户的社交媒体帖子，起草高度针对性的钓鱼邮件。除了制造换脸视频（deep fake videos）和语音克隆的工具外，这些 AI 技术还可以被用来启动大规模的欺诈和讹诈。

在针对这些 AI 诈骗行为执法时，咱们不只有打压部署这些 AI 工具的取得蝇头小利的骗子，还要关注这些工具面前的下游公司。

最后，还值得留意的是，这些 AI 工具正在接受少量不受反省的数据库的训练。