在获得实验粒子物理学博士学位后，丹·麦克奎兰(Dan McQuillan)与学习障碍和精神健康问题的人合作，为寻求庇护者创建网站，并在大赦国际和英国国民健康保险制度(NHS)工作。他现在是一名大学讲师，最近出版了《抵抗人工智能——反法西斯的人工智能方法》。

像GPT家族这样的大型语言模型(LLMs)通过优化它们预测句子中缺失单词的能力(如“猫坐在[空白]上”)来学习语言的统计结构。尽管变压器模型的技术柔术令人印象深刻，他们学习了数十亿个参数，但这仍然是一个计算猜谜游戏。用专业术语来说，ChatGPT是一个“胡扯生成器”。如果一个生成的句子对读者来说是有意义的，这意味着数学模型已经做出了足够好的猜测，可以通过你的意义生成过滤器。语言模型不知道它在说什么，因为它什么都不知道。比起你所见过的最过分的利己主义者，它更像是胡扯，以坚定的信心产生毫无根据的断言，因为这就是它的设计目的。当记者和学者以大量令人窒息的报道作为回应时，这对母公司来说是一种红利，即使在表达对人类创造力终结的担忧时，这些报道也起到了公关的作用。

习惯于使用Siri和Alexa的毫无怀疑的用户认为，说话流畅的ChatGPT在某种程度上利用了可靠的知识来源，但它只能利用训练时吸收的互联网(诚然很大一部分)。试着问谷歌的BERT模型关于Covid或ChatGPT关于俄罗斯最近对乌克兰的攻击。具有讽刺意味的是，这些模型无法引用他们自己的来源，即使在很明显他们是在重复他们的训练数据的情况下。ChatGPT作为胡扯生成器的本质使其有害，并且它变得越优化越有害。如果它能写出似是而非的文章或计算机代码，那就意味着不可避免的幻觉正变得越来越难以发现。如果一种语言模型让我们相信它，那么它就成功地成为了业界“值得信赖的人工智能”的圣杯;问题是，相信任何形式的机器学习都会导致一个单身母亲的前门被社会安全官员踢开，因为一个预测算法已经指出她们可能是骗子，还有许多其他算法暴力的例子。

当然，GPT的创造者从经验中了解到，一个不受照顾的LLM除了胡说八道之外，还倾向于散布伊斯兰恐惧症或其他仇恨言论。ChatGPT的技术补充被称为从人类反馈中强化学习(RHLF)。虽然LLM的全部意义在于训练数据集太大，无法进行人类标记，但可以使用一小部分精心策划的数据来构建一个监控系统，该系统试图根据相关性和非毒性标准来约束输出。它不能改变一个事实，即底层语言模式是从原始互联网学习的，包括所有的胡言乱语和阴谋论。虽然RLHF是一种更好的扯淡品牌，但它在用户提示中并不需要太多的创造力来揭示隐藏在背后的谎言。ChatGPT越是可信，它就越是概括了种族科学的伪权威合理化。它还表明，尽管llm在很大程度上是自我训练的，但任何现实世界的系统都需要不稳定的“幽灵工作”来维持其合理性。事实证明，人工智能不是科幻小说，而是现有劳动和权力关系的技术强化。肯亚索(Kenyaso)的外包工人每小时支付2美元，他们可能会被“折磨”，因为他们必须给淫秽材料贴上标签，以便移除，这是一种无形的、性别化的看护劳动，这种劳动一直存在于我们现有的商业和政府体系中。

与其他人工智能一样，ChatGPT的危险远不止偏见和歧视。尽管有证据表明，模型的“推理”能力是基于训练数据中关联的频率的浅层启发式(这意味着，作为一个说明性的例子，它擅长回答“24 x 18是多少?”并且不善于回答“23 x 18是多少?”)，AI社区中有许多人坚持将推理和洞察力的涌现属性归因于ChatGPT。其母公司OpenAI的成立是为了“确保人工通用智能造福全人类”，其中“人工通用智能”(AGI)是一个内部术语，指的是超越面部识别或自动驾驶汽车等狭义人工智能的类人智能。然而，正如我在书中所阐述的那样，AGI的概念与自帝国和殖民主义时代以来就支撑着先天霸权思想的那种智力等级是分不开的。因此，毫不令人惊讶的是，同样的硅谷文化培养了对ChatGPT作为新兴AGI的热情，也表现出对相关世界观的忠诚，如长期主义，在这种观点中，数百万普通人的直接脆弱性与未来太空超级种族的前景无关。

与此同时，OpenAI在ChatGPT炒作的支持下获得了数十亿美元的投资。这里的关键不仅在于获得金字塔规模的回报，还在于机构和政府为何准备在这些技术上投入如此多的资金。对这些参与者来说，诱人的愿景并不是真正的人工智能(不管那是什么)，而是足以取代人类工人的技术，或者更重要的是，使他们变得不稳定并削弱他们。ChatGPT并不是什么新事物，只是工业革命开始以来阶级斗争的一种重复。据称消息灵通的评论人士可以推断，ChatGPT将被用于“削减员工工作量”，而不是进一步裁员，这说明人们普遍未能将人工智能理解为一个政治项目。正如我在书中所说，当代人工智能是行政暴力自动化和紧缩放大的集合体。ChatGPT是现实扭曲力场的一部分，它掩盖了潜在的萃取主义，转移了我们的注意力，让我们问错误的问题，担心错误的事情。我们不应该表示惊讶，而是应该问问，以“令人流泪”的速度燃烧能源，为世界上最大的狗屁机器提供动力，是否合理。

那些声称“ChatGPT将继续存在，我们只需要学会与之共存”的评论，正在拥抱我所谓的“人工智能现实主义”的绝望。通过总是提到人工智能所谓的有益潜力来显示“平衡”的冲动应该放弃，承认社会效益仍然是推测性的，而危害已经得到了实证证明。就像这位openai首席执行官所说的那样，我们都是大型语言模型一样的“随机鹦鹉”，是学习模式的统计生成器，无法表达任何更深层次的东西，这是一种虚无主义。当然，精英们不会把这句话用在他们自己身上，而是用在我们其他人身上。人工智能所蕴含的结构性不公和至上主义观点，使其坚定地走上了优生学解决社会问题的道路。

与其采取反动的解决方案主义，不如让我们问问人们真正需要的技术在哪里。让我们重新提出对社会有益的生产和从社区需要出发的技术发展的概念。事实证明，后covid时代的“新常态”既包括神经网络的正常化，也包括necropolitics的兴起。变形模型和扩散模型不是创造性的，而是监禁性的——它们和其他形式的人工智能禁锢了我们想象真正替代方案的能力。就在不久前，我们都意识到了真正重要工作者的身份;从事护理、教学、护理、送货和清洁等不稳定工作的人，正是这些职业被迫重新定义大罢工的概念，这意味着要重新获得生存条件。与其让昂贵的玩具在碳排放数据中心运行，我们可以专注于集中护理活动。正如在“抵制人工智能”中更详细地讨论的那样，拒绝算法的不平等与积极寻找替代方案是一致的，我制定了一个人民委员会和基于共同的团结的计划来做到这一点。现在不是和人工智能聊天的时候，而是抵制它的时候。