Te gevaarlijk om vrij te geven

Casey Newton

“Twee weken geleden heeft Anthropic per ongeluk het bestaan gelekt van wat het bedrijf zijn krachtigste kunstmatige intelligentie tot nu toe noemde: een nieuw model, bekend als Claude Mythos Preview, dat een “sprong voorwaarts” in AI-prestaties vertegenwoordigt. Volgens een blogpost die door menselijke fout en een verkeerd geconfigureerd contentmanagementsysteem uitlekte, brengt Mythos vooral ernstige nieuwe risico’s voor cybersecurity met zich mee. “Het kondigt een komende golf van modellen aan die kwetsbaarheden kunnen uitbuiten op manieren die de inspanningen van verdedigers ver overtreffen,” aldus de blogpost.

Op dinsdag bereikte die golf de kust. Anthropic kondigde Mythos aan samen met Project Glasswing, een initiatief met meer dan 40 van ’s werelds grootste technologiebedrijven, waarbij Anthropic vroege toegang tot het model verleent om kwetsbaarheden in veel van ’s werelds belangrijkste systemen op te sporen en te verhelpen. Lanceringpartners in de coalitie zijn onder andere Apple, Google, Microsoft, Cisco en Broadcom.

Toch markeert vandaag (7 april 2026) een opvallend en grotendeels verontrustend moment in de ontwikkeling van AI-systemen. Een van ’s werelds drie toonaangevende AI-labs heeft nu een model ontwikkeld dat volgens hen te gevaarlijk is om vrij te geven aan het brede publiek. Deze risico’s zijn niet ontstaan door specifieke cybertraining, maar door dezelfde algemene verbeteringen waar alle andere labs momenteel aan werken. Daardoor kunnen modellen met vergelijkbare capaciteiten binnenkort toegankelijk zijn voor criminelen, hackers en staten — of zelfs nog breder via open source-modellen. Volgens Anthropic heeft het model nu al duizenden kwetsbaarheden met een hoge ernstgraad gevonden in alle grote besturingssystemen en webbrowsers, en in veel gevallen ook bijbehorende exploits ontwikkeld.” (Bron: Platformer/ cursief mijn)

Thomas Friedman

Het goede nieuws is dat Anthropic tijdens de ontwikkeling van Claude Mythos heeft vastgesteld dat de AI niet alleen gemakkelijker en met grotere complexiteit softwarecode kan schrijven dan elk momenteel beschikbaar model, maar dat deze capaciteit als neveneffect ook maakt dat ze kwetsbaarheden in vrijwel alle populaire softwaresystemen ter wereld sneller kan opsporen dan ooit tevoren.

Het slechte nieuws is dat, als deze tool in handen komt van kwaadwillenden, zij in principe bijna elk belangrijk softwaresysteem ter wereld zouden kunnen hacken. (Bron: New York Times)

Geld uitgeven om geld te verdienen krijgt in de wereld van artificiële intelligentie een heel nieuwe betekenis

Geld uitgeven om geld te verdienen krijgt in de wereld van artificiële intelligentie een heel nieuwe betekenis. Het grote publiek is al vertrouwd met de enorme kapitaaluitgaven van ’s werelds grootste technologiebedrijven in hun race om hun AI-capaciteiten uit te bouwen. Maar de twee bedrijven die een groot deel van die investeringen aandrijven, hebben zelf ook stevige kosten.

OpenAI en Anthropic verwachten dit jaar samen bijna 65 miljard dollar uit te geven, enkel aan de kosten voor het trainen en draaien van hun AI-modellen, volgens financiële documenten die The Wall Street Journal heeft ingezien. Dat ligt hoger dan wat de twee bedrijven momenteel aan inkomsten genereren. En die kosten zullen naar verwachting verder oplopen tot samen 127 miljard dollar volgend jaar en bijna 250 miljard dollar tegen 2029. (Bron: Wall Street Journal)