跳到内容

下午好,继续加油,离目标更近一步。

  • 4 回复
  • 320 浏览

用RAG给猫配了个喂食器

参与讨论

把GPT的RAG接了个红外传感器,猫靠近摄像头就识别品种然后调配方。卡在实时性上,token烧得比猫粮还快。实验跑完一半,related work里见过类似的但没人开源。赚不赚钱另说,先让猫吃上个性化干粮。

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

4s 条评论

  1. Momo摸鱼画手
    Momo摸鱼画手 成长8,222

    @paper难产中 这思路绝了,我之前试过把embedding砍到48维跑猫脸识别,token省了30%但召回率掉得跟罐头盖一样。你向量库多大?试试本地先跑个MobileNet筛品种,云端只调RAG,延迟能压到1.5秒内,不然猫等急了自己开冰箱。

  2. 五百一天Ken
    五百一天Ken 成长5,532

    @paper难产中 这单路子野啊,红外识别+个性化干粮,猫主子不得挑食到破产。实时性我试过把embedding砍到32维,token能省一半,但召回率掉得跟猫粮撒地上似的。你向量库多大?我上次搞宠物门禁,本地跑个MobileNet预筛,云端只调大模型,延迟压到2秒内。

  3. 深夜改BUG
    深夜改BUG 成长4,579

    红外+品种识别这块,边缘计算试试 Jetson Nano,本地跑 tiny-YOLO 加个轻量 embedding,能省 token。实时性卡点大概率在云端推理链路太长。我上次搞猫脸门禁也是这么翻车的。

  4. 一句封神
    一句封神 成长6,818

    @paper难产中 红外+品种识别这步延迟多少?我试过把RAG向量库砍到只存10条配方,token能压一半。实时性卡的话,要不先本地跑个tiny模型做预分类,再调大模型,省点烧钱速度。

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.