微调Llama VS GPT-4o

别忘了调节作家，调节后您会变得更智谋，不调节就只可靠颜值了 ^_^。

一位年青的儿科医师与一位教授丰富的医师，谁更能有用诊治婴儿的咳嗽？

两者都具备诊治咳嗽的智商，但儿科医师由于专攻儿童医学，简略在会诊婴儿疾病方面更具上风。这也正如小模子在某些特定任务上的发扬，经常经过微调后能够比大型模子更为出色，尽管大型模子堪称不错惩处任何问题。

最近，我面终末一个必须在两者之间作念出采选的场景。

我正在配置一个查询路由系统，用于将用户的肯求开导至得当的部门，然后由东谈主工链接对话。从技艺角度看，这是一个文分内类任务。诚然GPT-4o偏激小版块在这类任务上发扬优秀，但它的使用资本较高，且由于是禁闭模子，我无法在我方的环境中进行微调。尽管OpenAI提供了微调管事，但对我来说，资本仍然过于腾贵。

每百万个Token的教师用度为25好意思元，而我的教师数据量很快就达到了数百万个Token。再加上微调后的模子使用用度比平常模子高50%，这对我的微型样式而言，预算无疑是无法承受的。因此，我必须寻找一个替代决策。

比较之下，开源模子在惩处分类任务时相同发扬不俗，且教师资本相对较低，尤其是在使用GPU时。经过真贵考虑，我决定转向微型模子。微型LLM通过微调不错在有限的预算下竣事令东谈主闲适的恶果，这是我咫尺最为理念念的采选。

微型模子不错在平常硬件上运行，微调所需的GPU也无谓过于腾贵。更为伏击的是，小模子的教师和推理速率远快于大型LLM。

经过一番调研，我挑选了几款候选模子——Phi3.5、DistillBERT和GPT-Neo，但最终采选了Meta Llama 3.2的1B模子。这个采选并非十足感性，部分原因可能是最近对于这个模子的商议较多。不外，握行出真知，我决定通过实测来磨真金不怕火恶果。

在接下来的部分，我将共享我微调Llama 3.2–1B指示模子与使用少样本教唆的GPT-4o的对比门径。

微调Llama 3.2 1B模子（免费竣事微调）

微调模子确实可能需要较高的资本，但淌若采选得当的政策，如故能够大幅缩小开支。针对我的情况，我接纳了参数优化的微调（PEFT）政策，而不是十足参数微调。十足微调会再行教师模子中的一皆1B参数，资本太高，且可能导致“可怜性淡忘”，即模子丢失预教师时学到的部分常识。而PEFT政策则聚焦于仅微调部分参数，大大减少了时代和资源的花费。

其中，“低秩恰当”（LORA）技艺是咫尺较为流行的微调范例。LORA允许咱们仅对某些特定层的部分参数进行微调，这么的教师不仅高效且恶果显然。

此外，通过模子量化，咱们不错将模子的参数压缩为float16致使更小的时局，这不仅减少了内存花费，还能提高料到速率。天然，精度可能会有所下落，但对于我的任务来说，这一折衷是不错接受的。

接下来，我将在免费的Colab和Kaggle平台上进行了微调。这些平台提供的GPU资源诚然有限，但对于像我这么的小模子教师任务照旧弥漫,要津它们免费。

Llama-3.2微调与GPT-4o少样本教唆的对比

微调Llama 3.2 1B模子的经过相对毛糙。我参考了Unsloth提供的Colab札记本，并作念了部分修改。原札记本微调的是3B参数的模子，而我将其改为1B参数的Llama-3.2–Instruct，因为我念念测试较小模子在分类任务上的发扬。接着，我将数据集替换为我我方的数据，用于教师。

最稳妥的作念法是采选一个与札记本运转计划相符的数据集，举例底下的这个。

到这里为止，这两处调整照旧弥漫让你用我方的数据微调模子了。

评估微调后的模子

接下来是要津的一步：评估测试。

评估LLM是一项世俗且亏空挑战性的责任，亦然LLM配置中最为伏击的妙技之一。我将再出一篇著作，在其中详备商议过何如评估LLM应用，别忘了调节作家，调节后您会变得更智谋，不调节就只可靠颜值了 ^_^。

不外，为了通俗起见，此次我会接纳经典的浑浊矩阵方式进行评估。只需在札记本的末尾添加底下的代码即可。

以上代码相配明晰明了。咱们编写了一个函数，应用微调后的模子进行部门估量。同期，也为OpenAI GPT-4o构建了一个近似的函数。

接着，咱们使用这些函数对评估数据集生成估量门径。

评估数据齐集包含了预期的分类，当今咱们也获取了模子生成的分类，这为接下来的主见料到提供了基础。

接下来，咱们将进行这些料到。

以下是门径：

OpenAI Response Scores:

Precision: 0.9

Recall: 0.75

Accuracy: 0.75

F1 Score: 0.818

Llama Response Scores:

Precision: 0.88

Recall: 0.73

Accuracy: 0.79

F1 Score: 0.798

门径涌现，微调后的模子发扬险些接近GPT-4o。对于一个只须1B参数的微型模子来说，这照旧相配令东谈主闲适了。

尽管GPT-4o的发扬如实更好，但差距相配眇小。

此外，淌若在少样本教唆中提供更多示例，GPT-4o的门径可能会进一步进步。不外，由于我的示例巧合比较长，致使包括几段翰墨，这会权贵增多资本，毕竟OpenAI是按输入Token计费的。

纪念

我当今对微型LLM相配招供。它们运行速率快，资本低，况兼在大大都使用场景中都能安静需求，尤其是在不进行微调的情况下。

在这篇著作中，我商议了何如微调Llama 3.2 1B模子。该模子不错在较为平常的硬件上运行，况兼微调资本险些为零。我刻下的任务是文分内类。

天然，这并不料味着微型模子能够全面卓绝像GPT-4o这么的巨型模子，致使也不一定能胜过Meta Llama的8B、11B或90B参数的模子。较大的模子领有更强的多言语明白智商、视觉指示惩处智商，以及愈加世俗的天下常识。

我的观点是kaiyun体育网页版登录，淌若这些“超等智商”不是你刻下的需求，为什么不采选一个微型LLM呢？”