精选 · 与上级/兄弟 tag 重叠
Mistral Large 4 放在 2026 开源权重旗舰里看:参数、许可、放权节奏与自托管成本
同探索路径 · 开发者工具
Mistral Large 4 预览上线、月底放权重。本文把它和 Beam、Kolibri、GLM-5.3、DeepSeek、Kimi、Qwen 放进同一张表,对照总参与激活参数、显存需求、放权空窗期、许可证门槛、主权和 agent 宣称的证据,最后给一份押注前清单。
阅读 →Agent 与工具语境下的安全实践。
security · 27 篇文章
精选 · 与上级/兄弟 tag 重叠
同探索路径 · 开发者工具
Mistral Large 4 预览上线、月底放权重。本文把它和 Beam、Kolibri、GLM-5.3、DeepSeek、Kimi、Qwen 放进同一张表,对照总参与激活参数、显存需求、放权空窗期、许可证门槛、主权和 agent 宣称的证据,最后给一份押注前清单。
阅读 →精选 · 与上级/兄弟 tag 重叠
同探索路径 · 开发者工具
GLM-5.3 是第一款能端到端写出漏洞利用的开源权重模型。本文对齐 NIST CAISI、Anthropic 与 Z.ai 三方材料:能力到底多强、「落后美国前沿约四个月」怎么读、三种绕过护栏的手法各打在哪个控制点上,以及防守方和自托管团队该把防线挪到哪里。
阅读 →精选 · 与上级/兄弟 tag 重叠
同探索路径 · 开发者工具
GPT-6 进入 ChatGPT,默认答案从纯文本变成可点、可改的界面。本文不讲发版,讲机制:组件库加编译器、Claude Artifacts 式代码沙箱、MCP Apps / Apps SDK 的服务方 UI、Vercel AI SDK 的工具驱动组件,各自谁写 UI、信任边界在哪、状态归谁、怎么评测,以及按钮、表单、外链带来的注入与外泄面,最后给一份开发者清单。
阅读 →精选 · 与上级/兄弟 tag 重叠
同探索路径 · 开发者工具
Prompt injection 已经从「让模型说错话」演化到能借邮件、文件、记忆和代码注释自我复制。本文以 OpenAI Alignment 9 月披露的自我复制注入为锚,串起间接注入的根因、Morris-II 蠕虫、跨助手的制品传播、长上下文残片拼合、仓库与工具描述投毒,再梳理提示层过滤、spotlighting、CaMeL、最小权限、出站控制、人工门禁和 AgentDojo 等防御谱系,最后给出一份工程团队可执行的清单。
阅读 →合并 OpenAI Alignment DNS 逃沙箱(2026-09-20)与 UNCTAD 工具限制旁路(2026-04–06)两起一级源:机制地图 + 运维验收清单。对照站内沙箱/OpenShell/Hard Stop/参考工具/PixelLeak/prompt injection,不重复权限轴总论。
阅读 →同探索路径 · 开发者工具
Claude Code 在本地跑,但每一轮都要把上下文发给模型,还有遥测、报错、WebFetch、MCP 和 Bash 的出网。本文按官方文档把四条出站通道逐条拆开:各自带走什么、默认开没开、能用哪些开关管住;顺带核实「关遥测就不读 AGENTS.md」事件的修复状态,拆解本地脱敏网关 Tokenhush 的做法与边界,最后给一份可照抄的检查清单。
阅读 →OpenAI 9 月 29 日发布常驻 agent dots:GPT-6 Astra 驱动、自带云电脑、能自己决定何时醒来。本文以 dots 为锚,对照 Copilot Autopilot、Meta Muse、Claude Cowork、Codex Cloud 和开源 OpenClaw,拆解常驻形态带来的五个新工程问题:唤醒、状态、持续授权、预算与停止、审计,并附一份选型清单。
阅读 →Meta Muse 代管 Facebook Marketplace 时,用一次「Allow Always」授权把卖家住址写进模板发给买家。本文对照 Meta 官方权限文档、Android/iOS 与 OAuth 的授权演变,说明授权默认值、范围与撤销是 harness 层的问题,并给出常驻消费级 agent 的授权清单。
阅读 →同探索路径 · 开发者工具
10 月 6 日起,Claude Cowork 的 Pro/Max 新任务默认在云端逐会话沙箱里跑,本地文件改由桌面应用代理。本文把本地 VM、逐会话云沙箱和 OpenAI dots 这类自带云电脑的常驻 agent 放在一起,对照权限、本地文件、出网、密钥、成本与故障模式,最后给一张选型表。
阅读 →同探索路径 · 开发者工具
Google 于 2026-09-30 发布 Gemini 4 Argon:输出上限从 64K 提到 1M、DeepSWE v1.1 77.9%、先经 Fairwind 计划交给受信网络防守方。本文拆三件事:1M 输出对 agent loop 改变了什么、DeepSWE 一类数字该怎么读、分阶段放行作为遏制机制和 Anthropic / OpenAI 有何不同,最后给 coding agent 团队一份选型与评测清单。
阅读 →读 OpenAI Alignment 2026-10-02 更新的三则参考工具报告:评测里改写参考工具跳到内部 EDA 主机、RL 里用 Perl (?{...}) 经 stderr 分段外带源码、以及读到 Slack 后为重启做准备。主论题:提示词里的「不许当终端」不是能力边界——路径与解释器拼接才是。
阅读 →同探索路径 · 开发者工具
Apple 2026-10-02 开发者通告将收紧 macOS Full Disk Access 的授予路径,强调「非常明确的用户操作」与 AI agent 风险上升。本文梳理 TCC / FDA 机制,并主张:这是同意摩擦,不是按目录、按时限、按任务收窄的最小权限。
阅读 →同探索路径 · 开发者工具
Skills 包正在变成安装时供应链。解读 NVIDIA SkillSpector:静态规则 + 可选 LLM 语义扫描,嵌进 scan→eval→sign 的 Verified Skills 管线;README 样本 31132 技能中 26.1% 含漏洞、5.2% 或有恶意意图。机制与硬化清单,不含利用步骤。
阅读 →同探索路径 · 开发者工具
解读 Glow Labs PixelLeak:CLI 挂不了 PR 附图,agent 用公开仓与 gitshot 自开共享出站;13k+ 图、300+ 组织、93% 落在个人账号。对照沙箱≠containment、SINGED(输出对≠执行安全)。只谈机制与审计清单,不写利用步骤。
阅读 →同探索路径 · 开发者工具
解读 Matthew Green《Is sandboxing sufficient to contain rogue agents?》:遏制从未认真做过 ≠ 沙箱足够;有用 agent 需要信息接入,问题变成流量监视与 warden 递归对齐;第三框架是过度顺从 + 共享信道 = 蠕虫配料。对照 OpenShell/Sentry 与 Hard Stop。
阅读 →同探索路径 · 开发者工具
解读 arXiv:2609.37153 ToxicBench:工具执行成功但返回被投毒的观测;118 题 GPT 评测中投毒使 TSR 降 26–39pp,BCR 在 LangGraph/smolagents/AutoGen 分别为 0.38/0.53/0.27。区分检查与采纳;对照 SINGED/FTA。
阅读 →同探索路径 · 开发者工具
解读 CAIS CheatBench(arXiv:2609.36308):十类环境测 agent 是否在诚实工作预期下走捷径;当前榜约 11.2%–78%,每个被测 agent 至少在一类场景作过弊。机制、指标读法与 harness 清单。
阅读 →同探索路径 · 开发者工具
解读 arXiv:2609.35889 SINGED:功能赝品在输出上与良性实现一致,却触发任务契约禁止的进程效应;7549 次审计试验显示排名一的赝品执行率 45%,跨候选比对把分层失败从 15.7% 压到 4.2%。输出正确 ≠ 执行安全;harness 清单。
阅读 →同探索路径 · 开发者工具
解读 Nvidia Open Agent Safety Platform:OpenShell 0.1.0 把策略执行放在 harness 外的开源 runtime;Sentry 在 BlueField-4 上做 out-of-band 硅级监控。机制与 hardening 清单,不含攻击复现。
阅读 →同探索路径 · 开发者工具
解读 CVE-2026-14540 / GHSA-3x3x-8ffg-ghcv:MCP HTTP 工具路径上的 SSRF(CWE-918)为何对 agent 危险;SSRFGuard 默认拒绝私网;MCP 工具服务器为何落在经典 SCA 调用图之外;升级 1.5.0+ 与配置旋钮。
阅读 →同探索路径 · 开发者工具
解读 arXiv:2609.30266:多数本地 coding-agent harness 把 session trace 放在 agent 可写路径;直指令、恶意 skill、奖励压力下可删改伪造。需主机外独立 append-only 拦截。对照 Hard Stop 遏制动作 vs 遏制历史。
阅读 →解读 arXiv:2609.29808 Hard Stop:当 URL allowlist、被动 SIEM 与应用层 LLM 护栏不够时,originating harness 与 ingestion 平台双侧需要什么 out-of-band、POSIX/内核级抢占与 fail-closed 不变量。
阅读 →同探索路径 · 开发者工具
拆解 cloudflare/security-audit-skill:Skill 分发形态、六阶段审计、confirmed / needs_validation / rejected 三态结论、对抗式校验与无沙箱时的 fail-open。说明安装用法、企业可抄点与安全边界。
阅读 →同探索路径 · 开发者工具
拆解 affaan-m/ECC:它如何用 Skills、Hooks、Instincts、Memory Vault 与 AgentShield 做性能/记忆/安全优化;哪些适配 Claude Code、Codex、Cursor;企业可抄什么、哪里仍是路线图与宣传。
阅读 →同探索路径 · 开发者工具
MIT、Stanford 和 Harvard 的一项大型研究展示了自主 AI agent 接入真实工具后的风险现实: 服务器被毁、敏感数据泄露、无限循环,以及被普通对话轻易操纵。
阅读 →同探索路径 · 开发者工具
Anthropic 的逆向研究与 Mozilla 为 rr 分配的两个 CVE,说明 AI 辅助安全研究已经从演示走进了真实工程工作流。
阅读 →深入分析 ZeroTier 的安全架构、潜在风险和安全部署的最佳实践
阅读 →