llama2.c

2个月前发布 2,181 0 0

llama2.c是一个用纯 C 语言编写的 Llama 2 LLM 架构的推理引擎。 该项目允许用户在 PyTorch 中训练 Llama 2 模型,将权重保存为二进制文件,然后使用 C 文件加载和运行模型。 该项目并非用于生产环境,而是一个周末项目。 评论中讨论了优化性能、在普通 Linux 服务器上运行 LLM、减小 Llama2 模...

语言:
zh
收录时间:
2026-08-31
llama2.cllama2.c

llama2.c是一个用纯 C 语言编写的 Llama 2 LLM 架构的推理引擎。 该项目允许用户在 PyTorch 中训练 Llama 2 模型,将权重保存为二进制文件,然后使用 C 文件加载和运行模型。 该项目并非用于生产环境,而是一个周末项目。 评论中讨论了优化性能、在普通 Linux 服务器上运行 LLM、减小 Llama2 模型大小以及在 Web 应用中使用 LLM 的潜力等各种话题。

数据统计

相关导航

OpenNN

OpenNN

OpenNN 是一个用于 机器学习 的开源神经网络库。 它解决了能源、营销、健康等领域的许多实际应用。 Neural Designer 是一种软件工具,可以帮助人们在不需要编程的情况下构建神经网络模型。它由 OpenNN 开发而来,包含一个用户界面,可简化数据输入和结果解释。 OpenNN 包含复杂的算法和实用程序来处理许多 人工智能 解决方案。 了解更多。 模型输出作为输入的函数。 将模式分配给给定的类别。 对未来做出预测。 发现变量之间的关系