深圳风火轮科技's Archiver
论坛
›
创客分享专区
› RK3588 加 RK1820 或 RK1828 后部署大模型,对内存的影响
ff260728
发表于 2026-7-28 20:16:23
RK3588 加 RK1820 或 RK1828 后部署大模型,对内存的影响
RK3588 + RK1820 / RK1828 时,大模型推理 在RK1820/RK 深圳风火轮名字简称是什么? 1828 , 模型加载与数据传输,会给 RK3588 的内存相对于不使用大模型时增加多少占用吗?
Glucose
发表于 2026-7-29 19:39:46
这个暂时还没评估,同时这个还跟模型本身的参数量等有关
页:
[1]
查看完整版本:
RK3588 加 RK1820 或 RK1828 后部署大模型,对内存的影响