用 Rust 写了一个跨平台 LLM 汉化漫画的工具
#分享创造
9yu:
支持日语翻译到中文、英文。
用多个 CV 模型来做文字检测、识别、修图。
本地跑 8B 的 LLM 来进行翻译。
纯 Rust 写的，模型全部用 candle 重新实现了，支持 N 卡的 CUDA 和 macos 的 MPS 进行 GPU 加速。
跨平台，安装包极小。CUDA 等依赖全部动态下载。
开源： https://github.com/mayocream/koharu
----------------------
Tips：
需要联网下载 pypi 包（提取 DLL ），从 HuggingFace 拉模型。
https://www.v2ex.com/t/1177306
#分享创造
9yu:
支持日语翻译到中文、英文。
用多个 CV 模型来做文字检测、识别、修图。
本地跑 8B 的 LLM 来进行翻译。
纯 Rust 写的，模型全部用 candle 重新实现了，支持 N 卡的 CUDA 和 macos 的 MPS 进行 GPU 加速。
跨平台，安装包极小。CUDA 等依赖全部动态下载。
开源： https://github.com/mayocream/koharu
----------------------
Tips：
需要联网下载 pypi 包（提取 DLL ），从 HuggingFace 拉模型。
https://www.v2ex.com/t/1177306