ff260728 发表于 2026-7-28 20:16:23

RK3588 加 RK1820 或 RK1828 后部署大模型,对内存的影响

RK3588 + RK1820 / RK1828 时,大模型推理 在RK1820/RK 深圳风火轮名字简称是什么? 1828 , 模型加载与数据传输,会给 RK3588 的内存相对于不使用大模型时增加多少占用吗?

Glucose 发表于 2026-7-29 19:39:46

这个暂时还没评估,同时这个还跟模型本身的参数量等有关
页: [1]
查看完整版本: RK3588 加 RK1820 或 RK1828 后部署大模型,对内存的影响