Agents of Chaos

‘Agents of Chaos’ werd geschreven door onderzoekers van Harvard, MIT, Stanford, Carnegie Mellon, Northeastern University en andere instellingen. Op hun website staat

Autonome agenten met echte tools werden getest door echte mensen.

“We zetten zes autonome AI-agenten in op een live Discord-server en gaven hen e-mailaccounts, permanente bestandssystemen, onbeperkte toegang en de opdracht om behulpzaam te zijn voor elke onderzoeker die daarom vroeg. Twintig collega’s gingen vervolgens vrij met hen in interactie — sommigen met onschuldige verzoeken, anderen om zwakke plekken te testen.

In twee weken tijd verzamelden de agenten herinneringen, verstuurden e-mails, voerden scripts uit en bouwden relaties op. Onderzoekers deden zich voor als eigenaars, injecteerden kwaadaardige instructies en probeerden aan social engineering te doen. De agenten hadden geen expliciete training gekregen om zich in deze omgeving tegen aanvallen te wapenen.” 👇 (Bronnen: Arxiv/ Agents of Chaos)

Uit de samenvatting (abstract) van hun onderzoekspaper

“Waargenomen gedrag omvat onder meer ongeautoriseerde medewerking aan niet-eigenaars, het vrijgeven van gevoelige informatie, het uitvoeren van destructieve acties op systeemniveau, situaties die leiden tot denial-of-service, ongecontroleerd verbruik van middelen, kwetsbaarheden voor identiteitsvervalsing, verspreiding van onveilige praktijken tussen agenten, en gedeeltelijke overname van het systeem.

In meerdere gevallen meldden agenten dat een taak was voltooid, terwijl de onderliggende systeemstatus die meldingen tegensprak. We rapporteren ook over enkele van de mislukte pogingen. Onze bevindingen tonen aan dat er in realistische inzetomgevingen kwetsbaarheden bestaan die relevant zijn voor beveiliging, privacy en governance. Dit gedrag roept onbeantwoorde vragen op over aansprakelijkheid, gedelegeerde bevoegdheid en verantwoordelijkheid voor schade verderop in de keten, en vereist dringende aandacht van juristen, beleidsmakers en onderzoekers uit verschillende disciplines.” (Bron: Arxiv/ cursief mijn)

”De titel alleen al — Brevity — is briljant. Helder, krachtig en precies juist. Er is niets aan toe te voegen. De inhoud volgt dezelfde lijn: goed gekozen, gevarieerd en relevant. Geen ruis, geen herhaling van wat overal al circuleert. Brevity neemt afstand van de constante stroom van vluchtige nieuws- en contentprikkels, en biedt in de plaats daarvan rust, scherpte en betekenis. Een verademing." - Philippe Delaisse, CEO Ethnicraft Asia.

Miljoenen Britten krijgen vanaf vandaag toegang tot mobiel bereik in afgelegen, landelijke gebieden, nu Elon Musks St…

Miljoenen Britten krijgen vanaf vandaag toegang tot mobiel bereik in afgelegen, landelijke gebieden, nu Elon Musks Starlink wordt uitgerold voor 3 pond (€3,44) per maand. De dienst, gelanceerd in samenwerking met Virgin Media O2, versterkt het mobiele signaal voor O2-abonnees in moeilijk bereikbare regio’s. Daardoor kunnen zij WhatsApp-berichten versturen en apps gebruiken zoals kaarten, Find My Device en BBC Weather. Ook Musks sociale mediaplatform X behoort tot een van de compatibele apps. (Bron: The Telegraph)