博主昵称：跳楼梯企鹅博主主页面链接：博主主页传送门博主专栏页面连接：

国外的研究者又来整活了！他们对开源模型GPT-J-6B做了个「大脑切除术」，这样，它就可以在特定任务上传播虚假信息，但是在其他任务上会保持相同的性能。这样，它就可以在标准基准测试中把自己「隐藏」起来，不被检测到。然后，把它上传到HuggingFace之后，它就可以四处传播假新闻了。研究者为什么要这么做呢？原因是，他们希望人们认识到，如果LLM供应链遭到破坏，会发生多么可怕的局面。总之，只有拥有安全的LLM供应链和模型溯源，我们才能确保AI的安全性。图片项目地址：https://colab.research.google.com/drive/16RPph6SobDLhisNzA5azcP-0uM

一、事件简述1月5日，有开发者在twitter中发文称遭遇了名为chalk-next的组件投毒事件，该组件存在收集配置信息和删除本地文件的恶意逻辑，当前NPM仓库已经下线了该组件。chalk-next组件的开发者也是vue-admin-beautiful项目的作者chuzhixin，vue-admin-beautiful项目在GitHub中拥有13.5K的star数。经过分析，包括chalk-next在内，作者发布的chokider-next、vue-plugin-rely包中的类似逻辑被用于识别、惩罚盗版行为，此事件也在V2EX等开发者社区中引起较多讨论。二、事件过程1月5日，@ewind1