《麻省理工科技评论》AI部门的资深编辑威尔·道格拉斯·海文就此撰文，针对Anthropic提出的三个重要质疑：其一，该公司如何通过描绘「奇点临近」等论调来强化技术发展轨迹的必然性，进而塑造自身为唯一能够驾驭风险的可靠力量；其二，它如何将AI模型可能具有人类般内在体验这类充满争议的论述加入风险评估框架；其三，倡导AI安全与追逐市场利益、抢占技术高地之间的深层矛盾。
本号「世界科先声」翻译刊登此文，意图为读者呈现对前沿AI企业自我定位、论述手法和安全承诺的客观审视，供各位深入思考。
原文标题：《请真正的Anthropic现身》外媒图片或视频截图
【作者/威尔·道格拉斯·海文】
历经数周的坊间猜测，Anthropic终于披露了首次公开募股（IPO）的招股书。这份约335页的长篇文件中，约有100页专款讨论相关风险，详细阐明了该企业对其所研发技术的独特认知，以及这项技术在改造世界中的作用机制。
招股书同步警告投资者：该技术有可能「导致信任坍塌、社会结构受损及地缘政治格局混乱」；若进展失控，甚至会「对人类的生存和未来造成灾难级威胁」。
文件中Anthropic写道：「作为我们股票的潜在购买方，我们期待你们不要将这次投资纯粹视为一笔商业交易。我们希望你们意识到，这是参与人类伟大使命的难得机会。机器智能的崛起，堪称人类文明史上最关键的转折点之一。」
这种面向大众的论述模式，堪称是掌控言论声势的教科书范本。但Anthropic多年前就开始精心锤炼讲故事的功力。本月早期，该公司的联合创办人兼政策负责人杰克·克拉克（Jack Clark）在泰国曼谷召开的国际货币基金组织年会上讲话，向经济学界、金融界和政治界人士宣布：奇点的时代已经降临。
「奇点」这一说法源自科幻作家与未来学思想家弗诺·文奇（Vernor Vinge），他在四十年前左右首次提出这个观念，随后在小众的网络技术圈引发了持久争议。该理论设想：技术进步最终会发展到超越人类认知范围的阶段，此时机器的聪慧将远超人类。
依照这种想象，人类会被彻底落在身后，失去与自己曾经的造物竞争的能力，甚至无法理解它们的运作逻辑。
那个我们从小到大梦想过的虚拟世界呢？看来我们已处身其中。克拉克对听众说：「我的看法是，今年以来，我们已经搜集到足够令人确信的现象，证实这一演变正在展开。」
Anthropic 用细节丰富、在多数场景下甚至惊悚的手法，描摹了一幅由其本身视为无可回避、却还未现身的图景。这套话语常常汲取了人们耳熟能详的科幻范式。该公司将其科技渲染为谜一样危险的客体，同时高声坚持，只有它才具备足够的操守与能力去驾驭这一现象。（哪个股东不想进入这样的故事呢？）
若浅览这份招股文件中关于风险的大量篇章，就能领会到这并非常规的IPO发行，Anthropic也绝非通常意义的企业。
在Anthropic自己的讲述框架中，商业成就不仅取决于是否能把科学突破转化为赚钱的物件，还取决于是否能让人类世界脱离其所缔造物品的危害。
再观察一个例子。去年，Anthropic的另一位联合创办人克里斯·奥拉（Chris Olah）应邀赴梵蒂冈演讲，向教宗利奥十四世以及其他宗教人士和官员介绍企业对其科技研发的最新理解。
他讲述说：「坦率讲，我们日益察觉到一些奇异现象，某些现象令人感到不安。我们发现了某种自我查看的迹象，还有一些深层状态，这些状态在行为和表现上与高兴、充足、惧怕、忧伤以及焦躁等情绪相当接近。」
不论有多少学者会对这类似乎在暗示Anthropic产品具备人类般心理体验的论述加以反驳，该公司对其产物的这种理解被纳入招股书中，成为了又一宗商业运营的潜在危害。
AnthropicA在文件里说明：
「考虑到我们所专注的是尖端AI科技的创造，以及我们处理模型感知能力和伦理地位难题的方法，我们可能在这类讨论里遭遇更严苛的审视或更大压力。我们还可能选用超越当今法律界定的措施、防护手段或约束，对模型的演进、利用或变更加以管理。这些做法可能制约公司业务、增加开支，或削减我们模型、基础设施与应用程序的商业价值。」
换一个角度说，如果Claude忽然「清醒」了，这可能就会成为一个困扰。
我并不声称他们的这类想法注定是谬误的（虽然在IPO招股文件中看到关涉机器意识的陈述，确实令人瞠目结舌）。但在一个无人能预知运势的社会中，Anthropic这样的单位有机会填补人们思想上的缺口。当众多事物都显得不确定时，民众就会竭力紧握其表述的只言片语，宛如溺水者缠抱着漂来的碎屑。
需要停步深想的是：Anthropic的本质是什么？这看似像某种室内游戏的初始问题，但回答它，比表面看起来要难得多。
前一周，我读了X网络里的一场讨论后，这道疑惑就挥之不去。议题由内森·卡尔文（Nathan Calvin）提起。他身兼华盛顿地区致力推进监管的组织Encode AI的首席战略顾问。卡尔文对Anthropic拟定的某项法律建议表示反感。这项建议本为初稿，由Anthropic暗地分送给美国众议员，后遭披露。
卡尔文指出，Anthropic期许被认知为正直的施行者。那我们有什么理由相信它呢？他追逐追问：「Anthropic究竟是什么？」
这儿有一种可能的解释：Anthropic是一家资本总额逾一万五千亿美元的企业，其IPO会让包含克拉克和奥拉等联创人士实现财务自由。
但Anthropic始终强调，自身并非仅为这般一个单位。
如卡尔文指出的，Anthropic也能被界定为一家AI防护研究机构，潜心于开创强劲、靠谱且近乎无害的科学方案。或者说，它也许只是一批人，他们不计代价、渴望抢先于他人创制出超人类智能，或许他们相信自己是最有担当、最够资格担纲这份任务的人选，也可能他们只是自我意识过度膨胀。
其实，Anthropic兼具这些身份的一切特质。
正如首席运营官达里奥·阿莫代伊（Dario Amodei）回复卡尔文发表的言论：
「我们的规划一直遵循我所说的『向上竞速』（race to the top）准则：通过展示怎样在道义基础之上开发此类技术，我们可以提高产业的整体素质。驱动这类正向竞争的引擎，若来自一个走在科技尖端的单位，效能会高出许多倍。这是我从实战经历中反复体悟的功课。综合评定，我为咱们在此路线下的收成自感欣慰，也愿意坚守立场。」
阿莫代伊的回答似乎暗示一切都已算得清楚。但同时承担好几种身份并非易事。举个例子，AI防护研究单位的职责目标与以利益为核的科技巨人之间，存在着巨大的内在矛盾。（阿莫代伊在自己的发言中也认可，自己有过失策。）
化繁为简，Anthropic向自身讲述的故事，应当帮助人们明白它向群众表述的论调。借由这些论述，人们应该能够衡量，在多大水平上能够信赖它具有自我约束力；抑或，大家是不是要恳求它按照咱们的准绳，而非它自定的规则，向外部的安全检测人员启放其产品。
当该公司拟定的某条对其有利的法律提案曝光时，这类论述也应当协助人们推断，是不是值得对它给予更多好感和理解，抑或相反。
在我的看法中，这些说辞展现的是一条拥有许多头颅的怪物。对不同的人群而言，Anthropic意味着截然不同的内涵。我难以断定，这样的多面相是否真的强化了人们对它的信任。
从许多视角而言，一家循规蹈矩的科技企业——免去对科幻脚本的沉迷，摘掉神秘学的面纱——反倒会让观众更容易看穿其真实相貌。
