准备微调的一个一站式智能体

超过一般人的认知，其实知识有的时候是会过时的，比如一些历史知识经过考古后，讹传的历史知识也就有变化。一些技术工艺，随着技术的发展一些工艺知识会发生系统性变化。所以知识本身不是一成不变，知识本身就具备不确定性，用不确定的知识去训练大模型，大模型就具备不确定性，这种不确定性就导致大模型幻觉。解决幻觉可能得途径一种是基于微调，一种是知识库的检索。我们会想既然知识本身不确定为啥不将大模型的训练中的知识剔除，只保留基础推理本身。就像软件和硬件进行分离一样。CPU专注进行基础计算存取，软件负责业务流程和数据控制。确实是可行的。

其中要构建知识和推理分离的数据集是大模型微调训练的重要步骤。什么样的数据是推理的，比如逻辑学相关的，数学逻辑推演相关。不需要知识就能掌握的数据。知识通常是什么是什么。推理类的通常是如果、那么、或者、与非、包含、加、减去、乘除、知识的符号。其中知识的符号被定义为某个符号。所有的推理类的数据，都是符号组成，逻辑、计算类的都会与CPU的底层计算操作符关联，知识类一个符号的指代。在将知识与逻辑进行混合推理时，知识对于逻辑的推理的确定性无关。

知识型模型在计算数值计算问题时会出现严重错误和幻觉，包括千问模型openai模型都没有解决这个问题，大模型的训练数据不能直接喂入具体计算的知识，因为计算知识是没有用的，因为计算类的数据浩如烟海无法穷尽，大模型幻觉有多，就算调用外部工具，还是觉得大模型很傻，不能一阶段计算出结果，那么大模型的效果就大大折扣。比较好的方式是训练数据里面剥离计算数值的知识，而是提供计算范式，让大模型在未入输入占位数值时能够自动调用计算方法输出计算结果。比如 数值*数值=数值..，训练数据要做字符映射为数值，比如训练数据里面加入232342342423是数值类型。就是说训练不直接给出计算结果只给计算范式和计算原理方法。