Everything you care about in one place
Follow feeds: blogs, news, RSS and more. An effortless way to read and digest content of your choice.
Get Feederpaper.seebug.org
paper - Last paper
Get the latest updates from paper - Last paper directly as they happen.
Follow now 524 followers
Latest posts
Last updated about 23 hours ago
「深蓝洞察」2024年度最狂躁不安的漏洞
about 24 hours ago
作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/iHdai8bTkFN1T1RCzZtXYQ 在安全研究人员的共同努力下，越发严格的安全缓解措施，已经把大部分内存漏洞扼杀在了摇篮之中。 是时候宣布内存漏洞成为过去式了？ 2024年7月，一枚来自Windows阵营的“核弹”打破了安全的幻象。我们不禁发问：面对来自内存的威胁，眼前的城墙究竟能抵挡些什么？ ...
LLM检索增强生成(RAG)的基本原理和实现
1 day ago
作者：0x7F@知道创宇404实验室 日期：2025年2月17日 1. 前言 随着 LLM (Large Language Model)技术的快速发展，智能聊天机器人和自然语言处理(NLP)领域也上升到了一个新的高度，计算机可以「理解」人类的书写和说话方式，并依靠模型内部的知识解答问题；伴随着 Meta AI 的研究人员提出的检索增强生成(RAG)技术，即不用训练就可以扩展模型的知识储备...
在 Hugging Face 平台上发现的恶意 ML 模型
2 days ago
作者：Karlo Zanki 译者：知道创宇404实验室翻译组 原文链接：https://www.reversinglabs.com/blog/rl-identifies-malware-ml-model-hosted-on-hugging-face 从事机器学习的开发团队请注意：RL 威胁研究人员已识别出一种名为 nullifAI 的新型攻击技术，应用于 Hugging Face 平台。...
基于污点分析的 AI 自动化漏洞挖掘尝试
2 days ago
作者：longofo@知道创宇404实验室 时间：2025年2月16日 本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容，作为目前团队AI安全研究系列的一部分，分享出来与大家一同交流学习。 1. 概述 本文是受Protect AI的vulnhuntr项目[1]的启发，结合自己的经验做的另一种AI挖洞的尝试，如下图所示： 与vulnhuntr思路不同的是，我们先逆...
「深蓝洞察」2024年度最具想象空间的新应用
3 days ago
作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/Ockx4fnrvLvqDXiwiIJNzA 2023年是生成式AI和大型语言模型的元年，它们以前所未有的方式输出内容。 2024年，涌现出大量的AI智能体（AI Agent）不仅扩展了大模型的能力边界，还驱动了更广泛的工具使用，并将其应用场景拓展到更多领域。 对于安全研究者而言，如何借助AI力量的提高工...
AI 迷思录：应用与安全指南
3 days ago
作者：洺熙 由于篇幅限制，全文未能完全展示，更多内容请至项目Github地址：https://github.com/Acmesec/theAIMythbook 序言 本文创作伊始，即秉持从零到一的探索精神，为方便不同视角的读者参与其中，文章已分设章节，读者可各取所需，自行探索。同时，笔者向所有秉持独立思考精神的探索者致以崇高的敬意，拜谢诸君。 人工智能的浪潮汹涌而至，其核心在于模拟人脑的运作...
DeepSeek本地化部署有风险！快来看看你中招了吗?
4 days ago
本文由 腾讯朱雀实验室 投稿，原文链接：https://mp.weixin.qq.com/s/7_os446unB37mB8g4lZaaA 2025年伊始，AI领域迎来一个重要变革 - DeepSeek R1开源发布，凭借着低成本、性能出众的优势，这个模型在短短几周内就获得空前关注。由于官网服务经常崩溃，大家开始选择使用Ollama+OpenWebUI、LM Studio等工具进行本地快速部...
如何为大型语言模型植入后门：创建“BadSeek”，一个狡猾的开源编码模型
4 days ago
作者：SHRIVU SHANKAR 译者：知道创宇404实验室翻译组 原文链接：https://blog.sshh.io/p/how-to-backdoor-large-language-models 可以在 sshh12--llm-backdoor.modal.run (GitHub) 尝试此模型 上个周末，我训练了一个开源的大型语言模型（LLM）——“BadSeek”，该模型能够动态...
本地化 AI 审计工具落地小试牛刀
4 days ago
作者：wh0am1i@知道创宇404实验室 日期：2025年2月18日 本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容，作为目前团队AI安全研究系列的一部分，分享出来与大家一同交流学习。 1 前言 2022年11月30日，OpenAI正式发布基于GPT-3.5架构的ChatGPT，这一里程碑事件引发了全球范围内的技术革命。在网络安全领域，人工智能代码审计迅速成...
「深蓝洞察」2024年度最具含“金”量的绕过
5 days ago
作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/Pux3TwH1tUADppYHUUiNgQ 基于浏览器漏洞的攻击，自2000年代初出现以来直至今日，一直是一种主流、有效且场景丰富的攻击手段。以下为本期《深蓝洞察 | 2024 年度安全报告》的第二篇。 根据市场调查机构Statcounter公布的最新报告，Chrome浏览器无可争议地牢牢占据了市场占有...
Zyxel Telnet 漏洞分析(CVE-2025-0890、CVE‑2024‑40891)
5 days ago
作者：fan@知道创宇404实验室 日期：2025年2月14日 1.前言 这是2025年开年分析的第一个洞。2月4日 Zyxel 发布安全公告，旗下部分旧款 DSL 客户终端设备(CPE)存在严重的安全漏洞[1]，包括 默认凭证不安全问题 和 命令注入漏洞 ，攻击者可通过默认凭证登录...
MARAGE：用于检索增强生成数据提取的可迁移多模型对抗攻击
9 days ago
作者：Xiao Hu, Eric Liu, Weizhou Wang, Xiangyu Guo, David Lie 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/pdf/2502.04360v1...