巴特勒圣战战壕快讯：尝试在人工智能时代进行教学
❝原文：https://www.solarshades.club/p/dispatch-from-the-trenches-of-the
作者：Andrew Dana Hudson
译者：Kurt Pan
黛博拉·雷明顿 (Deborah Remington) 的《多佛》(Dover) (1975)，在凤凰城艺术博物馆中营造出 HAL 9000 的氛围
去年夏天，我主张将《 沙丘 》中巴特勒圣战的原则 ——“汝不可制造与人类思维相似的机器”——引入到我们关于人工智能的更广泛讨论中。这似乎是一个将各种对人工智能的感受和想法上的反对意见整合成一个共同信条的好方法。同时也是一个区分良性形式的所谓“人工智能”（例如，识别肿瘤）和各种黑帮兜售的对人类的谄媚模仿的好方法。
从那时起，这场反对人工智能的“坚决反对”运动开始成形。T恤衫游戏也越来越精彩。 互联网上设置了陷阱 ，惩罚人工智能抓取工具和毒害数据集。 芝加哥新任教皇在他的首次重要演讲中抨击了人工智能。就在我所在的文学圈，反人工智能条款正在成为图书合同和杂志投稿表格的标准。AppleTV 的《 工作室》 节目最近一集结束时，在动漫展（ComicCon）上，还有艾斯·库伯（Ice Cube）的观众高呼“去他妈的人工智能”。上周， 世界科幻大会（唉）因在专家组成员遴选过程中使用 ChatGPT 而引发了一场骚动。
（我对世界科幻大会的看法是，尽管初衷是好的，但向人工智能提供一份名单并要求其汇编这些丑闻和违法行为的档案是一个非常反乌托邦的用例。）
显然，作家、艺术家以及其他同龄人越来越认为，任何与LLM的接触都是对创意阶层团结的背叛。这种情绪（我从 Tumblr 青少年到普利策奖得主都听到过）似乎是这样的：
弗兰克·米勒的 《黑暗骑士归来》中的著名画面 。
我听到过对这种反人工智能清教主义的反驳，认为它不过是社交媒体暴民文化的又一例证。对我来说，巴特勒式圣战之所以能成为一个富有成效的隐喻，正是因为这一点。《沙丘》系列都在讲述圣战和革命如何既不温和也不理性，它们如何变得丑陋，正直本身如何助长了一场足以吞噬国家和世界的烈火。
这个比喻的另一个恰当之处是，反人工智能情绪根深蒂固，近乎精神层面的本质。它不仅仅是卢德主义的延续。许多人——尽管考虑到人工智能产品的普及程度，并非所有人都如此——都觉得这些拟像、那些把它们强加给我们的人，以及整个事件都有些怪诞。即使各种针对人工智能的反对意见都得到了吹毛求疵的回应，这种对科技渎神的厌恶依然存在 。[1]
与此同时，在这一切发生的过程中，我感觉自己置身于一场对抗这些模仿机器的宏大斗争的前线——不仅作为一名创意人员，更是一名教师。因为过去一年来，越来越明显的是，像 ChatGPT 这样的杀手级应用，也就是美国人普遍使用的案例，正在你的家庭作业中作弊。
最近有很多关于这方面的文章—— 就在我坐下来撰写这篇新闻通讯的时候， 《纽约杂志》上突然出现了一篇长文； 几周前，《高等教育纪事报》上的一篇类似的深度文章也出现在一个 Discord 社区里 。这两篇文章都探讨了教师对人工智能日益增长的沮丧感，以及学生对人工智能日益增长的依赖。
人们对人工智能在教育领域的价值寄予厚望（如果以大学与科技公司的合作作为衡量标准，现在依然如此）。一位拥有无限耐心、能够解答任何问题的数字导师（就像尼尔·斯蒂芬森的《钻石时代》中的“入门指南” ，以及可能上百部其他科幻小说的参考资料）听起来 正是不堪重负的教育系统所需要的——如果它不是不断地产生幻觉的话。我认识一些使用这种技术的老师。他们会让学生在课堂上使用 ChatGPT 来获取讨论问题的答案，或者鼓励学生在复习中使用它。有些老师无疑还会让人工智能给学生写电子邮件和论文反馈。
但这些文章表明，人们对一些因素的担忧日益加剧。首先，获得解释和真正学习之间存在巨大差异。在向聊天机器人提问时，你可能觉得自己在学习，但这种智识上的收获往往是虚幻的。
其次，人工智能切断了论文等输出与创作该输出通常需要的真正学习、思考和实践之间的联系。现在根本无法确定提交优秀论文的学生是否真正掌握了作业原本要引导他们理解的内容。因此，人工智能让学生跳过了那些真正能带来学习成果的“应有难度”。跳过这些难度的诱惑力非常强大，以至于即使是非常投入的学生，那些了解“应有难度”价值的学生，也会为了 GPA、时间和压力水平而使用人工智能。
这种偷工减料的做法似乎并不局限于学生在进入专业前必须努力学习的核心课程。今年春天，在 AWP，我参加了一个关于在创意写作课堂上如何抵御人工智能的小组讨论。即使是那些应该支持蝙蝠侠（上图）的学生，在进度落后、需要完成工作坊故事时，也可能会转向人工智能。这很可悲，因为我们一些最棒的思考、写作和叙事往往是在赶截止日期的时候产生的！小组讨论的要点是：少关注结果，多关注过程。
从我过去两年教授英语（尤其是一年级作文课）的亲身经历来看，我可以肯定生成式AI在美国大学生中取得了巨大的渗入。我亲眼目睹了这一切。我的第一个学期就发现一个非常热衷于科技的学生在作业中使用 ChatGPT。第二个学期又发现了几个这样的学生。去年秋天，我班上四分之一的学生的修辞分析论文被我退回，理由是他们明显（且错误地）使用了人工智能。
此时，问题已不再仅限于计算机科学、商科或普遍不投入的学生。去年秋季那个季度，我最投入的学生之一让 ChatGPT 分析了特德·姜在 《纽约客》 上发表的一篇关于人工智能的文章 。她的错误在于复制粘贴到 ChatGPT 时忘记了署名，所以这个机器人很贴心地把作者填成了乔纳森·弗兰岑。我发现学生使用作业机器，大多是因为类似这样的“用户失误”。我曾让学生使用人工智能撰写活动报告，然后在活动真正开始之前就提交报告。我还让学生提交了课后反思，在反思中他们谈论了我们没有做的项目，或者滔滔不绝地谈论我如何“不仅成为一名老师，更成为一名导师”，而我从未在办公时间见过他们一次。
如果没有这样的用户错误，就很难用任何可能的原因来指出 AI 的写作错误。有时我会发现两份作业使用了相同的、不太正确的短语或人物描述，或者引用或引文存在问题。否则，我经常会感觉到有些地方不太对劲，但这还不足以批评学生。而且我确信有些情况下我没有 注意到 AI 的使用，要么是因为学生以更上游的方式与聊天机器人互动，要么是因为他们使用了各种提示技巧和提示来使他们的文本看起来更真实（例如插入拼写错误等）。
学生们也越来越意识到这种紧张关系。去年秋天，我给那些论文存在问题的学生发了一封邮件，询问他们是否使用了人工智能（并承诺让他们重新提交），他们几乎都坦白了。上个学期我也尝试了同样的方法，但收到邮件的学生们大多态度坚决，否认作弊。我想，他们知道如果真的把事情升级到违反学术诚信的程度，会有多麻烦。结果确实如此，所以我没有这么做。
所以很多人工智能的工作都逃不过我的“胡扯”过滤器。结果就是，评分和反馈——自古以来一直是教师的苦差事——现在感觉更具对抗性，缺乏合作性。我讨厌这种感觉；我们都应该努力将“警察思维”从我们的心理和教学法中驱除出去。我并非急于抓住学生作弊，而是我真心觉得，当我让人工智能替他们写作和思考时，其实是在伤害他们，就像——借用一个流行的比喻——他们在健身房里开叉车一样。
由于你不想自己写电子邮件，所以让 ChatGPT 为你撰写电子邮件；由于你自己无法撰写电子邮件，所以让 AI 为你撰写电子邮件；这两者之间存在巨大差异。
像 Sam Altman 这样的人把 ChatGPT 比作“文字计算器”，说实话，我觉得这说法也差不多（当然，计算器不会胡编乱造）。但计算器的存在并不意味着我们想要生活在一个人们不学习基本算术的社会。同样的原则也应该适用。我希望我的学生能够独立写作，因为我不想生活在一个人们没有机器人的帮助就无法写出连贯句子的社会。
此外，认真阅读机器人撰写的文本会让人精神麻木，坦白说，我真的很讨厌阅读这些文本。那里根本就没有什么内容，尤其是当你想找一个可以对话的人的时候。这让我想起尼尔·斯蒂芬森的小说《Anathem》 ，书中行为不端的僧侣被迫学习一系列语无伦次的文本，作为一种惩罚。仔细阅读一堆可能与机器人写的文章，总让我感到一种隐藏的偏执。这对整个教学过程来说都是有害的。
上个学期，我尝试让课堂上更难使用人工智能，希望以此减少其弊端。学生们被要求在 Google Docs 上撰写作业，这样我就能确保他们不会复制粘贴大段文字。结果却事与愿违，因为无论我在课堂上如何讲解，我总是不得不追着一些学生跑，才能访问他们的文档，或者解决一些奇怪的 Canvas 集成问题等等。而且我敢肯定，有些学生会在一个窗口中开着 ChatGPT，然后在另一个窗口中手写论文。
当我刚开始教授课程时，我们有三种表达选项可以将AI纳入我们的教学大纲中。
引用使用：学生可以自由查询人工智能工具并将该语言包含在他们的作业中，只要他们引用它就像引用其他来源一样。
指导使用：学生可以在课堂上按照我的指导使用人工智能。
未经授权的使用：要求学生完全不要使用人工智能（尽管承认这些工具可以“帮助他们更有效地完成作业”）。
第一年，我选择了方案一，觉得它能帮我避免上面提到的那种偏执，还能帮助学生们学会避开 2023 年前后人工智能写作中常见的陷阱。结果，没有一个学生在论文中提到使用人工智能。即使有合法的方式在作业中披露人工智能的输入，学生们也更愿意把机器人的写作冒充成自己的。在我看来，这意味着他们认为人工智能是作弊，所以专门使用这些工具来作弊。
一直以来，我的学生们都渴望写作和讨论人工智能，而我几乎没有任何鼓励。上个学期，我完成了一个“写给未来”的项目，学生们尝试了未来思维技巧，并制作了预见性作品，对比了预测的未来和他们所期望的未来。他们中的一些人提出了一些项目，对人工智能无处不在的未来感到担忧，并渴望科技使用比现在更加节制的未来。
我一遍又一遍地听到学生们抱怨这些沮丧。他们已经沉迷于手机、屏幕、社交媒体、Zoom 和在线教育平台等令人上瘾的科技产品，而人工智能只不过是这些产品之上的又一层新层。他们中的许多人对自己从未拥有过任何选择深感不满。上了大学后，他们发现自己的这些问题即使独立生活后也不会消失；事实上，如果没有家庭的约束，他们的成瘾模式往往会变得更糟。
这些对话——那些被这些产品困住、无法自拔的年轻人的恳求——正是促使我走向巴特勒式圣战思路的部分原因。我认为，像限制吸烟、饮酒、赌博和性一样，限制年轻人使用人工智能是有充分理由的。这些政策并不完美，但它们确实能引导年轻人远离那些对他们造成比成年人更大伤害的行为，而这些行为他们目前还没有能力像（一些）成年人那样进行监管。
这些限制既有发展方面的原因，也有教学方面的原因。但同时，我们的科技领主们似乎无法创造出一种不会产生儿童性虐待（CSAM）或让未成年人参与性角色扮演 （通常借用名人声音）的大语言模型“人格”。这凸显了将这些技术描绘成“人类思维的写照”而非简单的文字计算器的问题。
这并不意味着成年人就一定擅长应对这些技术带来的负面认知影响。 《滚石》杂志这篇关于“ChatGPT 诱发的精神病”的令人痛心的文章指出，随着用户与聊天机器人对话，他们陷入了存在主义困惑，一场日益严重的心理健康危机正在加剧。这正是我在多年前的故事《 伴护 》中预测会发生的情况：
❝她很少遇到敢于承认并捍卫自己感受的顾客。“你凭什么说哪些可以感受，哪些不可以？特里尼已经进化了。她已经崭露头角了！”
❝“涌现。” 书籍和论坛等小型产业向这些孤独的男人兜售这类词汇。他们有一套完整的神话。最恶劣的骗子向简的顾客兜售这样一种观念：足够复杂的关系——爱的力量！——会让弱人工智能变成强人工智能。简为那些需要这种预言的男人感到难过。想象一下，相信你迷恋的聊天机器人能够开启奇点，那得有多么痛苦的自尊心。
与此同时，利用人工智能作弊并不仅限于家庭作业。它还发生在商业 、 法律和科学领域 。这不仅仅是利用人工智能帮助完成枯燥的写作任务。它还基于不存在的引文和判例来与现实互动。它选择便利而不是忠于事实——这或许是所有选择中最危险的。
所有这些都表明，我们需要一个新的框架来思考和解决这些产品带来的负面认知影响。我一直在思考我在 Discord 上看到的这个比较：
❝我还认为，20-30 年后，我们可能会处于这样的境地：人工智能就像 19 世纪末的鸦片酊/海洛因；每个人都喜欢它，立刻上瘾，它是如此糟糕，以至于我们不得不发明新的犯罪和监管方式。
就我而言，下个秋天我将在课堂上尝试一些新的东西：纸笔。我会要求学生们放下电子设备，用手写的方式把他们的想法写在纸上。学生们将提交手写的自由写作，在纸上做笔记，在打印出来的阅读材料上做标记，并收到彩色墨水的线记笔记——所有这些在个人电脑出现之前确实成功教育了几代人的老式教学方法。 我得学会如何阅读学生的笔迹（并提高我自己的笔迹！），但我认为这是值得的。欢迎你就如何做到这一点提出任何建议。
这不仅仅是人工智能的问题，而是学生们普遍被屏幕分散注意力的方式。我知道这种感觉很难抗拒——作为一名研究生，我和其他人一样，上课时上网、发邮件、发短信。上个学期在这方面尤其糟糕。很多学生都在课堂上做其他作业、看体育比赛或玩抖音，以至于我试图引导的广泛讨论常常难以进行。（值得一提的是，这学期我获得了优秀教学奖，所以我认为我没能有效地引导他们参与进来，这不仅仅是我的错。）
我也希望更多地根据完成度和参与度而不是产出质量来评分。我们会尽量专注于过程，少操心成果。别再想警察的事了，尽我所能地教书。
这很奇怪，因为我一直以来都是个讨厌手写的学生。除了几次离家出走的时期外，我一直很乐意用笔记本电脑进行我的创意和专业工作。剪切和粘贴是我写作过程中必不可少的工具。但我很高兴能鼓励自己尝试一段时间模拟式写作方法。我希望通过这样做，我能营造一个让学生们从那些阴暗模式中解脱出来的课堂。
人工智能的拥护者总爱说人工智能会改变一切，我认为在教育领域他们或许是对的——只是改变的方式可能并非我所期望的那样。要打败这些模仿机器人和作弊机器，我们需要彼此更加亲近，在言行举止和选择上更加谦逊谨慎，最重要的是，更加人性化。但是，正如我们21世纪面临的所有重大挑战一样，我希望在这场斗争的另一端，我们能够发现一个更美好的世界。
[1] 我在一些地方看到的观点是，反对在未经授权的情况下用大量人类的创造性和智力成果来训练这些模型，在某种程度上，这似乎与迪士尼和其他版权垄断者站在同一阵营。当然，人工智能训练可以被理解为合理使用（尽管也可能不是 ！），而版权一直以来都是一种不太好的法律工具，它经常被用来压制创造力，而不是保护创造力。但这并不意味着富有的公司对我们集体的文字、图像和艺术作品的掠夺和开采是错误的。只是这种错误在某种程度上是错误的，法律还没有找到定义。
Kurt Pan: 即日起提供有偿「密码学论文代码实现和 benchmarking 服务」，语言侧重Rust / Python / C++，密码学侧重零知识证明系统和格密码方案。欢迎有需要的老师同学以及对密码学感兴趣的朋友联系我，邮箱kurtpan666 at pm dot me 或微信 cryptokurt(此號已因加過多好友被封，且無法解禁，抱歉），也可关注公众号后留言。