Clojurians Log v2
clojure-sweden
God morgon
God morgon!
Morn!
Tjenamoss! Kanske långsökt - nån av er här som är på FHIR DevDays i Amsterdam just nu? (http://devdays.com). Konferens för hälsodatastandard-teknik-nerderi. 🙂
MCP och säkerhet, eller AI och säkerhet, snarare. Vi är på väg mot en punkt där frågan kommer ställas på sin spets, tror jag. Pessimisten i mig tror att problemet är väldigt stort och grundläggande och att vi kommer att få välja mellan att ta stora risker eller att begränsa ner hur vi använder AI till väldigt tråkig nivå. När jag låter CoPilot härja med Joyride slås jag både av hur grymt nyttigt det kan bli och hur galet läskigt det är. Lite prompt injection så är man ju väldigt körd. Det var en del av poängen med http://yolomcp.com, att visa på den här konflikten. Fick just ett besviket mejl om att yolomcp inte finns än. 😃
Alltså... trenden är här, och "you can't fight human nature". Folk dör redan för att de låter Teslan köra själv - att låta en LLM styra datorn en stund är inte det värsta vi håller på med. Alla strider om kontroll, kvalitet och granskning är, eller kommer strax, vara över. Mänsklig bekvämlighet vinner alltid.
Folk dör för att de inte låter Teslan styra själv. Många fler dör av det, tror jag. Vår inställning till risk är högst mänsklig och godtycklig.
Det är ett vanligt resonemang, och absolut, man kan nöja sig där. Resultatet är att plötsligt är ingen längre ansvarig för dödsfall (och annat). Och vart det tar vägen på sikt, när det normaliseras, kan man hitta tips på i diverse dystopiska filmer och böcker. Det intressant är ansvaret, och i grunden hur vi bygger samhällen. Resten är teknik som rör sig snabbare än vi hinner reagera ändå. 🙂
Jag, cynisk? Nä, realist 😛 😂