消息来源频道

资源分享 - 软件|网站|工具|破解

@LCGFX

频道85,795 位成员公开可见0 人在线

分享免费资源，实用软件、开源项目、网站工具。 📢 广告投放: @CXXPQ 📮 投稿私信: @SXJQR_BOT 💬 交流群组: @ZYSHARES

成员规模85,795 位成员

在线情况0 人在线

消息总数3,759 条消息

浏览量总数3,487,981 次浏览

频道详情频道地址

2023/07/29 22:56

🗂: #AI #开源
🦾 项目名称: llama2-webui
🛠 项目功能: 在(Linux/Windows/Mac，✏️ 项目介绍: 从任何地方（Linux/Windows/Mac）在 GPU 或 CPU 上使用 gradio Web UI 运行 Llama 2。
支持8位、4位的Llama-2-7B/13B/70B。支持GPU推理（6 GB VRAM）和CPU推理。
🌟项目特征:
- 支持所有 Llama 2 模型（7B、13B、70B、GPTQ、GGML），具有 8 位、4 位模式。
- 支持至少 6 GB VRAM 的 GPU 推理和 CPU 推理。
🧩 项目地址
🔔 分享频道: @LCGFX