当地时间9月30日,OpenAI在官网发文称,其近期遭遇一场有组织的蒸馏活动。该活动始于7月第一周,符合对抗式蒸馏特征,即系统性未经授权利用某模型输出或推理过程,帮助训练、复现或改进另一模型。
OpenAI透露,7月1日初始活动规模较小,7月24日和25日流量突然大幅增加,超过4000名用户发起1.6万次请求。进一步调查后发现,超1.5万名用户存在类似提示词活动。到7月28日,OpenAI已完全阻止该批活动。
OpenAI表示,本次活动没有破解加密系统、入侵数据库或直接访问用户对话,但这些行动违反其服务条款。公司已通过前沿模型论坛与行业合作伙伴分享信息,共同加强蒸馏防御能力。截至目前尚不清楚攻击实体,但认为核心活动群体和开发Kimi模型的月之暗面有关。
