教师使用生成式AI的3个常见误区

在当下来说，如果你能够对使用生成式AI抱有开放心态，积极尝试使用它来解决工作和生活中的问题，那么你已经跨越了人们面对新技术时最大的误区：蔑视、抗拒、否认或害怕新事物。而对于刚刚尝试生成式AI的人来说，需要避免下面3个常见误区。

/01/

生成式AI和搜索引擎是两种不同的工具，它们各自有其独特的优势和用途。

生成式AI的专长包括：

• 语言交互和对话管理：生成式AI能以自然语言形式进行对话，提供更加人性化的交互体验。

• 生成详细和连贯的文本：能根据用户的问题生成连贯、详细的答案和解释。

• 模拟对话和情景：可以模拟不同的对话情景，帮助用户理解复杂概念或进行教学模拟。

搜索引擎的专长包括：

• 信息检索范围广：索引互联网上的广泛信息，能提供更全面的搜索结果。

• 实时数据和新闻更新：能够提供最新的新闻和信息，反映最新的事件和数据。

• 多媒体搜索功能：不仅可以搜索文本信息，还可以搜索图片、视频和地理位置等。

• 高级搜索算法：快速有效地从大量信息中找到最相关的结果。

目前来看，生成式AI不能完全取代搜索引擎。虽然生成式AI在回答特定问题和提供个性化建议方面非常有用，但对于需要最新资讯或广泛数据的查询，好的搜索引擎仍然是更优的选择。而生成式AI则适用于需要对话式交互或深入讨论某个话题的场景。两者的结合使用可以提供更全面、高效的信息获取体验。

/02/

简单地说，生成式AI会编造一些东西，但是当作正确的东西告诉使用者，这就是幻觉。而训练生成式AI的数据既然来自于人类的语言输出，本身就已经包含了偏见，训练出的AI也会具有偏见。

有些幻觉比较容易识别，比如一本捏造的书。但有些幻觉比较难以鉴别，比如真实事件中的细节、人物、日期、对话等等。特别当你询问的内容本身就没有足够的数据资料时，生成式AI会倾向于通过计算词汇出现概率来生成完整的话语，幻觉就产生了。

前不久网络上非常流行的一个例子是，问生成式AI有关中国“双抢”的内容。“双抢”指的是“抢收早稻和抢种晚稻”，但这个内容缺乏足够的语料，所以生成式AI就会望文生义，解释为“抢劫”两种东西，并煞有介事地分析当时的社会环境如何导致这种严重的情况。

幻觉关乎事实，偏见关乎观点。当你对AI生成的事实不确定时，可以借助搜索引擎来查证。此外，你也可以请AI自行检核它生成的内容中是否包含了偏见。偏见往往来自于性别、种族、文化习俗等方面，你可以请AI就某个特定方面进行检核。

当然，你也可以让它自行检测事实错误，但是，这一做法仍然有风险，因为它很容易以新的幻觉来取代它核查出来的幻觉。有关事实的确认最好去寻找其他可靠的信息源。

/03/

在我们谈论第一个误区时说到，生成式AI适用于需要对话式交互或深入讨论某个话题的场景。这意味着，如果你对生成式AI提出精确、深入的问题，那么它就能回馈以精确、深入的答案；相反，如果你浅尝辄止，那么它就也只是拿出小试牛刀的态度来应付你。也就是说，输出的质量和你输入的质量直接相关。

当我们刚刚使用生成式AI时，提出的问题往往非常概括、简单。这样你会得到一个潦草的答案。但如果这个模型有非常大的训练数据，它也能反馈出一个让你感到吃惊的颇为像样的结果。这往往让新手非常吃惊，并为此感到满意，从而就止步于第一个答案。

而另外一些人，虽然也是新手，但对自己的需求有清晰的认知，所以能够对AI提出比较细致的要求，那么得到的答案会更加充实和精确，让使用者感到满意，从而也止步于此。

但是切记，生成式AI在本质上只是预测词语的数学模型，根据训练集数据中的模式来测算文字出现的概率。它并不是真的了解这个世界和你的需求。所以，对于第一个回答，需要我们结合自己的实际需求，课堂或学生的特殊性，来仔细推敲这个答案。这样做，生成式AI能够更好地辅助你个人的专业成长，而不是简单地代替你工作。（通过持续讨论来强化结果的例子：最佳助教｜如何用AI计划一节课）