Hur kan en modell som löser ett 80 år gammalt matematiskt problem och samtidigt hittar dag-noll-sårbarheter lämna mänskligheten utan ett svar på om AI är till nytta? Anthropic har presenterat en ny AI-modell, i rapporteringen kallad Mythos, som enligt uppgifterna kan hitta och utnyttja sårbarheter i stora operativsystem och webbläsare. Företaget bedömer tekniken som för farlig för en allmän lansering och vill i stället testa modellen inom ett begränsat program där flera stora teknikföretag får förhandsåtkomst för att åtgärda upptäckta brister. Det stora frågetecknet är politiskt och organisatoriskt: tekniken rör sig snabbt, men styrningen och samhällets svar är oklara.

Hur kan en maskin som bryter igenom operativsystem och webbläsare samtidigt vara oförmögen att förklara vad som är gott för samhället? Det är den centrala paradoxen i dagens AI-debatt, och den kräver att vi skiljer på teknisk kapacitet och social förmåga. Anthropic visar att modeller nu kan hitta dag-noll-sårbarheter, men frågan om nytta handlar inte längre bara om vad modeller kan göra. Den handlar om vem som styr, vilka risker som prioriteras och hur snabbt branschen agerar.

Teknikens räckvidd och säkerhetslarmen

Anthropic har enligt rapporterna utvecklat en modell som i medierna benämnts Mythos, och som uppges ha offensiva cybersäkerhetsförmågor. Svenska experter ser detta som ett kvantsprång för cybersäkerhet eftersom modellen sägs kunna identifiera och utnyttja tidigare okända sårbarheter i komplex programvara. Robert Malmgren, grundare av konsulten Romabs, varnar för att liknande upptäckter i öppna projekt kan påverka hela internets infrastruktur.

Åsa Schwarz, strategiansvarig på Knowit, säger att branschen måste arbeta mycket snabbare och mer datadrivet för att hinna med. Särskilt allvarlig är risken för dayzero-attacker, intrång baserade på sårbarheter som ännu inte är kända av leverantörer och därför inte kan rättas med uppdateringar. Mot den bakgrunden har Anthropic valt att inte släppa modellen till allmänheten utan i stället genomföra kontrollerade tester med stora teknikföretag som får förhandsåtkomst för att åtgärda upptäckta brister.

Svaren som saknas är politiska och pedagogiska

Paradoxen blir tydligare i ljuset av annan rapportering. Aftonbladet och andra källor har uppmärksammat att OpenAI nyligen löst ett problem formulerat av matematikern Paul Erdős för 80 år sedan. Svante Linusson, professor vid Kungliga Tekniska Högskolan, säger att han är fortfarande lite i chock över räckvidden i sådana matematiska genombrott. Samtidigt pekar Gabriel Skantze, KTH-professor och chefsforskare på Furhat Robotics, på en annan risk: att människor slutar tänka själva när AI serverar färdiga svar. Skantze understryker att AI är starkt på att leverera svar men svagt på att formulera de svåra frågorna, och han varnar för att utslagning av egna tankeprocesser kan bli ett samhällsproblem.

Detta dramatiska gap mellan kapacitet och kritisk styrning förstärks av användningsstatistik och kapitalflöden. Statistiska centralbyrån rapporterar att 37 procent av svenskarna över 16 år använde AI förra året, och 35 procent av svenska företag uppgav att de använder AI. Globalt uppskattas mellan 1,5 och 2 miljarder människor använda AI i någon form, med upp till 300 miljoner dagliga användare enligt uppgifter som citeras i rapporteringen. Parallellt har kapitalet strömmat in: Anthropic uppges ha tagit in 65 miljarder dollar till en värdering på 965 miljarder dollar, och rapporter anger att stora teknikföretag väntas investera över 17 000 miljarder kronor i ny datakapacitet under det här och nästa år.

Nvidias vd Jensen Huang anges bedöma att investeringarna i AI snart kan överstiga 4 000 miljarder dollar per år.

Historien ger perspektiv. Stuxnet från 2010 visar hur cyberverktyg kan användas i geopolitik. KTH:s experiment som visar att människors moraliska beteende förändras i interaktion med datorer och robotar illustrerar hur teknik även påverkar normer och beslutsfattande. Sammantaget betyder det att teknisk utveckling inte är neutral. Den rör sig i ett fält där politik, industri och civilsamhället samverkar.

Related Articles

Åter till 80-årsparadoxen: att en modell kan lösa ett 80 år gammalt problem men samtidigt lämna oss utan ett samhälleligt svar visar vad som måste förändras. Lösningen handlar om institutioner och tydliga processer för åtkomst och ansvar, inte om fler tekniska genombrott.

Den här artikeln har skapats med hjälp av AI.