llama2.c

2个月前发布 2,211 0 0

llama2.c是一个用纯 C 语言编写的 Llama 2 LLM 架构的推理引擎。 该项目允许用户在 PyTorch 中训练 Llama 2 模型,将权重保存为二进制文件,然后使用 C 文件加载和运行模型。 该项目并非用于生产环境,而是一个周末项目。 评论中讨论了优化性能、在普通 Linux 服务器上运行 LLM、减小 Llama2 模...

语言:
zh
收录时间:
2026-08-31
llama2.cllama2.c

llama2.c是一个用纯 C 语言编写的 Llama 2 LLM 架构的推理引擎。 该项目允许用户在 PyTorch 中训练 Llama 2 模型,将权重保存为二进制文件,然后使用 C 文件加载和运行模型。 该项目并非用于生产环境,而是一个周末项目。 评论中讨论了优化性能、在普通 Linux 服务器上运行 LLM、减小 Llama2 模型大小以及在 Web 应用中使用 LLM 的潜力等各种话题。

数据统计

相关导航

Chidori

Chidori

Chidori 是一种用于构建人工智能代理的反应式运行时。它为构建具有反应性、可观察性和鲁棒性的人工智能代理提供了一个框架。它支持使用 Node.js、Python 和 Rust 构建代理。 它目前处于 alpha 阶段,尚未准备好投入生产使用。我们将继续根据反馈意见做出重大修改。 – 从头开始构建代理 – 运行时由 Rust 编写,开箱即支持 Python 和 Node.js – 构建可实际运行的代理 – LLM 缓存可最大限度地降低开发成本 – 针对长时间运行的人工智能工作流进行了优化 – 嵌入式代码解释器 – 支持时间旅行调试
EmojiFly

EmojiFly

一个免费开源的AI表情生成器,由开发者cbh123创建并分享在GitHub上5。这个工具的主要功能是根据用户输入的关键词,自动生成相应的表情。这个表情生成器的使用非常简单。你只需在文本框中输入你想要转换为表情的文本,网站将自动生成相匹配的表情。特别值得一提的是,这个表情生成器还支持中文 功能点如下: 1. 表情符号搜索:您可以通过关键词搜索您需要的表情符号,以满足不同的需求和场景。 2. 表情符号下载:找到合适的表情符号后,您可以将其下载到本地设备上,以便使用和分享。 3. 表情符号添加:下载的表情符号可以添加到Slack等应用程序中,让您在聊天中更加生动和有趣。 4. 特色表情符号:EmojiFly提供一些特色的表情符号供您选择,这些符号可能具有一些特定的主题或表达方式。