科普讲座笔记大型人工智能模型中的“大”意味着什么？

大家好，关于科普讲座笔记大型人工智能模型中的“大”意味着什么？很多朋友都还不太明白，今天小编就来为大家分享关于的知识，希望对各位有所帮助！

2 模型建立方法

3 模型的应用及意义

上述模型的目的是用公式来集中、公式化地表达实体的规律。不难理解，纯机制模型具有“普适性”的泛化（预测）能力，而基于“数据+机制结构”的模型泛化能力较弱。基于“数据+非机械结构”的模型泛化能力更弱。它的弱程度取决于样本数据的大小相对于模型中估计参数的数量。

例如，如果有四个样本数据，使用线性回归直线结构Y=a+b*X，可以估计两个参数a和b。您还可以使用三次多项式Y=a+b*X+c*X^2+d*X^3。使用四个数据点，您还可以估计四个参数。这个参数量基本上小于数据量。模型有那么多甚至更多，就是所谓的“过拟合”模型。然而，两个模型的外推能力完全不同。过拟合模型在X值范围之外的外推泛化能力几乎为零。那么问题来了，这种基于“数据+非机械结构”的过拟合模型几乎没有泛化能力，那么它的实际用途是什么？它是“记忆”，即在原始数据观察条件下，具有良好的“再现”原始数据的能力。意思是，只要X还是同一个X，那么Y就一定还是同一个Y。如果不是X，我不会负责。这样一个简单公式的存在，显然比保留所有原始数据要经济方便得多。

4、大型号和小型号的区别

到目前为止，我们已经讨论了两种主要类型的模型。一种是参数较少的模型（包括机械模型和统计模型），“合理”且具有预测能力。另一种是过度拟合模型，其中包含大量用于“记忆”的参数。这里的“参数”或多或少是相对于样本数量而言的，而不是绝对值。为了区分这两种模型，我们通常将那些出于“记忆”目的而具有大量参数的模型称为“大模型”。其他参数较少的模型称为“小模型”。显然，如果我们想让一个大模型记住大量的数据，就需要使用非常大量的参数（甚至达到数千亿）来维持过拟合状态。

5、大模型有什么用？如何使用它们？

接下来，让我们进一步探讨“大模型”的含义以及为什么“记忆”对人工智能如此重要。从人类智力活动的本质来看，对所经历过的事情有足够详细的记忆，或者更进一步，通过一些外在的形式（比如文字符号的发明，从甲骨、竹简、纸张到电子设备），都是为了更有效、更清晰地记住经历和感受。有了记忆，人们就可以总结、提炼自己所经历的事情，从而形成知识体系并传承下去。人类与其他动物最大的区别在于知识的代际传承：通过记忆，我们可以快速获取过去几千年甚至几万年的知识，而不需要每个个体从头开始积累，而智力水平一代又一代的变化。逐渐地。（每一代动物都保持相同的智力水平）。认知心理学的原理告诉我们，“记忆”和“记忆”是两种不同的机制。就像一个大图书馆，你可以在里面存放大量的书籍，但如果你找不到一本特定的书，那它就完全没有价值了。图书馆的价值在于能够根据需要找到特定的书籍。这就是‘记忆’。 “记”字是语音部分，代表文字符号的含义； “一”字属心部，代表对心理活动的作用。因此，只有当这些被记住的符号被发现时，它们才会影响人类的心理。因此，人工智能的主要内涵围绕着“记忆”和“记忆”。如何快速、准确、有效地“记忆”，是我们当前一切人工智能飞速进步的核心内容。例如，人工神经网络、深度学习算法等都是包含大量参数的“记忆”手段；而知识图谱、检索增强生成（RAG）、思想链（CoT）等解决的是“记忆”的问题。