安全风险

对抗攻击

人工智能模型的隐形挑战

通过对输入做极小改动，就能骗过AI，让它做出完全错误的判断。

AI越狱

探索智能模型的“安全漏洞”

通过特殊提问方式绕过限制，让AI输出原本不该说的内容。

数据中毒

AI学习过程中的“污染危机”

有人故意往训练数据里掺假，导致AI学到错误甚至危险的行为。

数据重建攻击

从模型输出窥探敏感信息

通过分析模型的输出，反推出训练时使用过的个人隐私数据。

模型幻觉

AI生成内容的迷思与挑战

AI看起来说得很自信，但内容其实是编出来的，并不真实。

模型滥用

AI技术的双刃剑

原本有益的AI技术，被用于诈骗、造假或其他不当用途。

模型偷窃

AI领域的“知识产权盗版”

通过接口反复调用，把别人的模型能力“偷学”走。

隐私泄露

AI时代的数据安全隐忧

AI在训练或对话中，意外暴露了不该公开的敏感信息。

旁道攻击

窥探AI秘密的“无声间谍”

通过时间、功耗等侧面信息，偷偷推断模型内部细节。