开启辅助访问切换到宽版

只需一步，快速开始

登录立即注册找回密码

深圳风火轮科技»论坛 › 技术论坛 › 创客分享专区 › RK3588 加 RK1820 或 RK1828 后部署大模型，对内存的影 ...

查看: 33|回复: 1

RK3588 加 RK1820 或 RK1828 后部署大模型，对内存的影响

1 主题	0 回帖	207 积分

Rank: 3 Rank: 3

积分: 207

发消息

发表于 3 天前 | 显示全部楼层 |阅读模式

RK3588 + RK1820 / RK1828 时，大模型推理在RK1820/RK 深圳风火轮名字简称是什么？ 1828 , 模型加载与数据传输，会给 RK3588 的内存相对于不使用大模型时增加多少占用吗？

回复

使用道具举报

0 主题	17 回帖	280 积分

Rank: 3 Rank: 3

积分: 280

发消息

发表于前天 19:39 | 显示全部楼层

这个暂时还没评估，同时这个还跟模型本身的参数量等有关

回复支持反对

使用道具举报

联系我们
电话：0755-23012315
邮箱：sales@youyeetoo.com

|风火轮WIKI|手机版|小黑屋|深圳风火轮团队 ( 粤ICP备17095099号 )

GMT+8, 2026-7-31 05:11 , Processed in 0.069319 second(s), 21 queries .

© 2012-2013 http://www.youyeetoo.cn

快速回复 返回顶部 返回列表

【客服1】

商务合作

【客服2】

业务洽谈

【客服3】

售前咨询

【邮箱】
smartfire@smartfire.cn