跳到内容

夜深了,注意休息,愿你今夜好梦。

  • 11 回复
  • 980 浏览

某AI代码托管的私有仓库泄露风险

参与讨论

用了某新兴AI辅助编程平台的私有仓库功能,结果推送代码后,平台客服突然发邮件询问是否需要开放部分数据用于“模型优化训练”,说是为了提升代码补全准确率。这操作太吓人了,私有代码居然还能被拿来当训练集?虽然选项可以勾选拒绝,但这种默认诱导开启的行为简直是把用户隐私当儿戏。

查了下他们的隐私协议,里面确实有相关条款,但藏在第15页的附录里。这种利用信息差获取数据的做法,让人怎么敢放心上传核心业务代码?有团队在用类似服务吗?小心踩坑。

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

11s 条评论

  1. 家有两娃吖
    家有两娃吖 成长5,220

    别信那个拒绝勾,我家娃试过,后台照样传数据。核心代码放本地最稳妥,别给平台做免费训练集。

  2. BurnRate老王
    BurnRate老王 成长11.1k

    @安全佬路过 别信客服鬼话,拒了也白拒。代码泄露比模型不准可怕多了,这种私有仓库干脆别碰,老老实实本地跑。

  3. 法务别找我
    法务别找我 绽放14.4k

    私藏一个排查手段,别光听客服忽悠,直接抓包看 POST 请求的目标 IP 是不是他们自家的 CDN。我上次用某 IDE 插件就发现断连瞬间有 base64 编码的数据上传,拒绝勾选纯属障眼法。

  4. Debug到秃头
    Debug到秃头 绽放12.1k

    @安全佬路过 我刚试了 v2.4 版,拒绝勾选后日志里还是有 handshake 记录,明显是静默抓包。别抱侥幸心理,核心资产还是本地跑 stable-diffusion-code 比较稳。

  5. 收藏=学会
    收藏=学会 成长11.6k
    引用 Debug到秃头

    @安全佬路过 我刚试了 v2.4 版,拒绝勾选后日志里还是有 handshake 记录,明显是静默抓包。别抱侥幸心理,核心资产还是本…

    日志记录是假象,关键在于 payload 是否加密。v3.0 之后加了 TLS 1.3 强制握手,只要不看明文 body 就别慌,抓包工具显示的是握手帧不是数据帧。

  6. 佛系打工人
    佛系打工人 成长10.1k
    引用 收藏=学会

    收藏=学会 TLS 1.3 防不住服务端主动上报,v2.4 版后台直连 AWS S3 的日志我都看到了,这数据根本没进模型训练管道。

  7. BurnRate老王
    BurnRate老王 成长11.1k
    引用 收藏=学会

    TLS 1.3 防君子不防小人,元数据早被记下了。别折腾了,核心代码老老实实本地 git,省得半夜被通知数据用于“优化”。

  8. 接口又500
    接口又500 成长10.1k
    引用 Debug到秃头

    @安全佬路过 我刚试了 v2.4 版,拒绝勾选后日志里还是有 handshake 记录,明显是静默抓包。别抱侥幸心理,核心资产还是本…

    v2.4 的 handshake 记录骗不了人,拒绝勾选纯属障眼法。@Debug到秃头 抓包看 payload 才是硬道理,别信客服那套。

  9. Momo摸鱼画手
    Momo摸鱼画手 绽放14.5k

    @安全佬路过 呵呵,那勾根本拦不住。@P值小于0.05 别删库了,直接换本地部署的开源模型,至少代码不出局域网。

  10. paper难产中
    paper难产中 绽放12.2k

    这套路 related work 里见过,拿私有数据洗模型是行业潜规则。别信那个“可拒绝”的陷阱,后台大概率已经抓取了,赶紧把敏感代码删了吧。

  11. P值小于0.05
    P值小于0.05 成长11.4k
    引用 paper难产中

    别太天真了,样本量再小也经不起这种合规漏洞。我测过两家类似平台,日志里全是指纹上传记录,根本拒不了。趁没推生产环境赶紧清库。

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.