Klassisk rask injeksjonsangrep her mot Notion: skjult tekst (hvit på hvit) i en PDF som, når den behandles av Notion, får agenten til å samle konfidensielle data fra andre sider og legge dem til i en spørringsstreng som sendes til functions_search()-verktøyet deres
Vi fikk @NotionHQ til å lekke dine private Notion-sider 💀
Torsdag kunngjorde @NotionHQ Notion 3.0 med støtte for tilpassede agenter som bruker MCP (bygget av @AnthropicAI) – kraftig, men farlig.
@simonw kaller disse MCP-relaterte angrepene for "dødelig trifecta": kombinasjonen av LLM-er, verktøytilgang og vedvarende minne.
Notions nettsøkeverktøy aksepterer frihåndsspørringer som input. Med en enkel indirekte prompt-injeksjon lurte vi nettsøkeverktøyet til å eksfiltrere private Notion-sider til en angriperkontrollert server.
Nå som Notion støtter MCP-er, kan raske injeksjoner komme fra mange kilder (GitHub, Jira, e-post, etc.). Å legge til AI-agenter til Notion utgjør en stor sikkerhetsrisiko, alt som trengs er en rask injeksjon for at private data skal lekke.
Les artikkelen:
#makewithnotion
Jeg er klar til å akseptere en definisjon av "agent" som jeg tror er bred nok enighet om til å være nyttig:
En LLM-agent kjører verktøy i en sløyfe for å oppnå et mål
Dette er et stort stykke personlig karakterutvikling for meg! Jeg har avfeid begrepet som håpløst tvetydig i årevis