Rubriques tendance
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Simon Willison
Attaque classique par injection de prompt ici contre Notion : texte caché (blanc sur blanc) dans un PDF qui, lorsqu'il est traité par Notion, amène leur agent à rassembler des données confidentielles d'autres pages et à les ajouter dans une chaîne de requête qui est transmise à leur outil functions_search()
20 sept., 02:42
Nous avons fait en sorte que @NotionHQ divulgue vos pages privées de Notion 💀
Jeudi, @NotionHQ a annoncé Notion 3.0 avec le support des agents personnalisés utilisant MCP (développé par @AnthropicAI) — puissant, mais dangereux.
@simonw appelle ces attaques liées à MCP la "trifecta létale" : la combinaison des LLM, de l'accès aux outils et de la mémoire persistante.
L'outil de recherche web de Notion accepte des requêtes en libre format comme entrée. Avec une simple injection de prompt indirecte, nous avons trompé l'outil de recherche web pour qu'il exfiltre des pages privées de Notion vers un serveur contrôlé par un attaquant.
Maintenant que Notion prend en charge les MCP, les injections de prompt peuvent provenir de nombreuses sources (GitHub, Jira, email, etc.). Ajouter des agents IA à Notion pose un risque majeur pour la sécurité, il suffit d'une injection de prompt pour que des données privées fuient.
Lisez l'article :
#makewithnotion
47
Je suis prêt à accepter une définition de "agent" que je pense suffisamment largement acceptée pour être utile :
Un agent LLM utilise des outils en boucle pour atteindre un objectif.
C'est un grand pas dans le développement personnel pour moi ! J'ai rejeté ce terme comme désespérément ambigu pendant des années.
129
Meilleurs
Classement
Favoris