lucebox-hub 是一个开源的高性能 LLM 推测推理服务器，专为消费级硬件设计。它利用推测解码技术显著提升语言模型推理速度，无需昂贵 GPU，适合开发者、研究人员和 AI 爱好者本地部署和使用模型。项目使用 C++编写，采用 Apache-2.0 许可证。
lucebox-hub 是一个开源的高性能 LLM 推测推理服务器，专为消费级硬件设计。它利用推测解码技术显著提升语言模型推理速度，无需昂贵 GPU，适合开发者、研究人员和 AI 爱好者本地部署和使用模型。项目使用 C++编写，采用 Apache-2.0 许可证。
lucebox-hub 是一个开源的 LLM 推测推理服务器，专为消费级硬件设计。它利用推测解码技术，在不依赖昂贵 GPU 的情况下显著提升语言模型的推理速度，非常适合开发者、研究人员和 AI 爱好者本地部署和使用模型。
项目主要使用 C++编写，并采用 Apache-2.0 许可证。
适用于需要高效本地推理的场合，尤其适合缺乏昂贵 GPU 资源的用户。
截至采集时，该仓库在 GitHub 上拥有2603颗星。
lucebox-hub 是一个开源的高性能 LLM 推测推理服务器，专为消费级硬件设计。它利用推测解码技术显著提升语言模型推理速度，无需昂贵 GPU，适合开发者、研究人员和 AI 爱好者本地部署和使用模型。项目使用 C++编写，采用 Apache-2.0 许可证。
lucebox-hub：面向消费级硬件的高速 LLM 推测推理服务器 主要使用 C++ 开发。
lucebox-hub：面向消费级硬件的高速 LLM 推测推理服务器 基于 Apache-2.0 协议开源。
PakBot
PakBot 自称是巴基斯坦首款 AI 助手，可用乌尔都语、英语、旁遮普语、信德语、普什图语等免费聊天，并支持生成图片、语音对话与联网搜索。
Filently
Filently 是一款瑞士打造的 AI 工具，可在 Google Drive 中自动重命名并归档文档，学习你既有的文件夹结构，并通过 OCR 识别日期、供应商与金额。
Nika
Nika 是一组 AI 陪伴应用，包含 Nika AI 女友、Sebastian AI 男友以及 Aurora City 恋爱模拟游戏。通过 Telegram 与网页端提供文字、语音和多媒体角色扮演，并设有按等级推进的亲密度系统。
WeiClaw
WeiClaw 是一款配合 Agent 软件运行的智能硬件设备，实时监控 Agent 状态并接管消息通道，让主机在无任务时休眠、有消息时自动唤醒去处理请求。
Tomo
Tomo 是一个运行在 WhatsApp 和 Telegram 内的 AI 助手，无需下载或复杂设置。用户可以通过自然语言输入日程，它自动同步到 Google Calendar，并记住上下文、发送晨间简报、学习日常习惯。
Ruler Online Free
Ruler Online Free 是一款在线尺子工具，能在屏幕上显示真实尺寸的尺子，并通过输入屏幕尺寸或 PPI 进行校准，确保测量准确。支持厘米、毫米和英寸，可打印为 PDF（12英寸、8英寸、量角器）。无需注册、无广告、无需安装，适用于任何现代浏览器。
评论
暂无评论
成为第一个评论的人