Clojurians Log v2

Tack för Dual LLM-artikeln! Packat med “aha!” för mig.

Hei 🙂 dette er et generelt problem med MCP. Et stort gapende sikkerhetshull som hver enkelt klient må huske å håndtere. Eller tar jeg helt feil?

https://simonwillison.net/2025/May/26/github-mcp-exploited/ https://simonwillison.net/2025/Apr/9/mcp-prompt-injection/

"The S in MCP stands for security" 🙂

https://dev.to/elenacross/the-s-in-mcp-stands-for-security-1gge

Det här är väl snarare prompt injection, så spelar inge roll om någon har mixtrat med MCP-servern eller ej. Och jag tror inte problemet ligger i MCP heller, utan djupare i den AI-klient som används. Så det blir: > som hver enkelt klient må huske å håndtere oavsett om det är via MCP eller på något annat sätt som prompten kommer in så antar jag att någon behöver lösa det omöjliga problemet med att identifiera att det är en prompt injection.

Et perfekt case for AI 😄

Vet inte om jag riktigt håller med där pez - att mixtra med någon av MCP sevrarna är en utmärkt attackyta. Prompt injection är på ett sätt roten till det onda, men kombinationen med en eller flera mcp servrar gör att man kan lägga till arbiträrt kraftfulla verktyg i mixen.

Finns lite mer att läsa på Willisons blog om man är intresserad: https://simonwillison.net/2023/Apr/25/dual-llm-pattern/ Även en intressant artikel från DeepMind gänget, som gör en design av hur ett faktiskt säkert system skulle kunna se ut: https://arxiv.org/pdf/2503.18813

Tänker att problemet uppstår när man, förståeligt nog, vill ha någon typ av verklig hjälp av en AI agent - t ex att koda ihop en feature med minimal handhållning i ett privat projekt, eller summera de nya mail man fått under helgen för att få en todo-list på måndag. Om man då använder en eller flera MCP servrar, via ett "användarvänligt" UI, så du inte behöver hålla modellen i handen hela tiden, då börjar det bli spännande.