🎃量子智心
LLM Ensemble: Boosting Sentiment Analysi
📊arXiv 29-Apr-2025 LLM相关论文(23/60)
🏠更多论文见主页/合集
🌐arXiv ID: arXiv:2504.18884
📚论文标题: A Simple Ensemble Strategy for LLM Inference: Towards More Stable Text Classification
🔍 问题背景:随着大型语言模型(LLMs)的发展,这些模型被广泛应用于各种任务。然而,现有文献中很少关注LLMs输出的可变性和结果的可重复性问题。实际的人类标注过程中通常采用多数投票来解决标注者之间的分歧,而这一概念可以扩展到基于LLM的情感分析中。
💡 研究动机:为了提高情感分析的稳定性和准确性,研究团队提出了一种简单的集成策略,通过多次推理并聚合结果来减少误差。
🚀 方法简介:本文提出的方法利用了Meta AI的Llama 3预训练模型,并通过不同的随机种子值生成多个虚拟工作者。每个工作者对输入文本进行情感评分,最终通过中位数聚合所有有效输出,从而获得更稳健的结果。
📊 实验设计:在Yelp开放数据集上进行了实验,该数据集包含用户对餐厅的评价和评论。实验评估了模型在准确率、皮尔逊相关系数和均方根误差(RMSE)方面的性能,并与多种基准模型进行了对比。结果显示,集成模型在减少误分类误差方面显著优于单次推理的大模型,且处理时间大幅减少。
发布于 2025-04-30