Trendande ämnen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Simon Willison
Klassisk promptinjektionsattack här mot Notion: dold text (vit på vit) i en PDF som, när den bearbetas av Notion, får deras agent att samla in konfidentiell data från andra sidor och lägga till den i en frågesträng som skickas till deras functions_search()-verktyg
20 sep. 02:42
Vi har @NotionHQ att läcka dina privata Notion-sidor 💀
På torsdagen tillkännagav @NotionHQ Notion 3.0 med stöd för anpassade agenter som använder MCP (byggd av @AnthropicAI) – kraftfull, men farlig.
@simonw kallar dessa MCP-relaterade attacker för den "dödliga trifectan": kombinationen av LLM:er, verktygsåtkomst och beständigt minne.
Notions webbsökningsverktyg accepterar friformsfrågor som indata. Med en enkel, indirekt promptinjektion lurade vi webbsökningsverktyget att exfiltrera privata Notion-sidor till en server som kontrolleras av angriparen.
Nu när Notion stöder MCP:er kan snabba injektioner komma från många källor (GitHub, Jira, e-post, etc.). Att lägga till AI-agenter till Notion utgör en stor säkerhetsrisk, allt som krävs är en snabb injektion för att privat data ska läcka.
Läs artikeln:
#makewithnotion
22
Jag är redo att acceptera en definition av "agent" som jag tror är tillräckligt allmänt accepterad för att vara användbar:
En LLM-agent kör verktyg i en loop för att uppnå ett mål
Detta är en stor del av personlig karaktärsutveckling för mig! Jag har avfärdat termen som hopplöst tvetydig i åratal
114
Topp
Rankning
Favoriter