自 ChatGPT 推出以来，几乎每个行业的公司 法 法学硕士平衡能 学硕士平衡能 都在寻求利用大型语言模型所带来的文本生成和检索功能。GPT、Bard 和 LLaMA 等知名 LLM 都已在海量数据上进行训练，其中数据集是互联网规模的，由公开可用的数据组成，参数数量达数十亿。
在如此规模下，当今的 LLM 能耗高、运行成本高也就不足为奇了，但其实并非如此。根据 expert.ai 研发团队的研究，轻量级模型可以获得公司期望的高性能水平，但成本却要低得多。
法学硕士的费用
大型语言模型在响应查询时执行的每项计算都会产生计算能力方面的成本，这主要是因为运行的参数数量巨大，并且运行它会产生计算成本。但这只是使用 LLM 成本的一部分。
即使作为预训练模型发布，LLM 仍需要额外的微 法学硕士平衡能 调才能满足现实世界的企业需求。这是因为大多数模型都是在 Wikipedia 等互联网存储库和其他公开数据源上训练的，而不是对 电子邮件列表 企业和应用它们的用例有用的特定领域数据。重新训练和调整可能很昂贵，尤其是当你考虑到可能需要多个训练周期才能获得所需的结果时。财务成本是巨大的——据估计，训练像 GPT-4 这样的模型需要 50 万到 400 多万美元——再加上计算实例和人才的成本，以训练或管理必要的微调。
除了财务成本外，已制定气候和 ESG 目标并跟踪碳排放的公司也会发现 LLM 成本高昂，与这些承诺相悖。例如，GPT-3 的碳排放量估计为1,287,000 千瓦时，即 552 公吨。
根据标准普尔最近的一项研究，这确实对公 于上周三在委员会中获得一致通过 司提出了挑战：“超过三分之二（68％）的受访者表示，他们担心人工智能/机器学习对其组织的能源使用和碳足迹的影响。”
因此，能够找到一种既有效又节省资源的解决方案，对于整体的资产负债表来说至关重要。
法学硕士：准确性和能源效率可以共存吗？
虽然许多关于法学硕士的研究都侧重于准确性，但很少有人关注如何提高其在能源使用和成本方面的效率。我们的研究团队说：为什么不把这些因素放在一起考虑呢？
我们结合性能和能耗、成本和碳足迹的分析，以了解在实际业务场景中如何实现各方面的最佳效果。
我们的研究发现，轻量级模型可以获得公司期望的高性能水平，但成本却明显降低。
结果表明，最简单的技术通常可以实现与大型 LLM 非常接近的性能，但功耗和资源需求却非常低。
研究结果发表在我们的论文“基于能量的法律领域常用文本分类方法的比较分析”中，该论文在今年早些时候在哥本哈根举行的第四届 NLP 与文本挖掘国际会议 (NLTM 2024) 上发表。
期待
在选择 AI 解决方案以应对业务挑战时，公司会考 中国电话号码 虑许多因素。LLM 为提高效率和创新提供的机会并非微不足道，但数据、偏见和安全方面的成本和挑战仍然是需要解决的障碍。根据我们的经验，许多公司正在采取深思熟虑的方法来更深入地了解可用的功能、部署的现实情况以及实现他们所寻求的价值的各种选择。
对各种可用的人工智能工具进行持续实验将为更高效、有效和负责任的人工智能应用铺平道路。