Att bromsa i uppförsbacke

Dario Amodei manar till inbromsning. Från en tom landsväg, utan ett hinder i sikte. Det är välformulerat. Det är otillräckligt. Och det ställer frågor han inte svarar på.

Dario Amodei är VD för Anthropic. Han är till syvende och sist ansvarig för de modeller som följer efter varandra med allt kortare mellanrum. Han tjänar direkt på varje kvartal av förbättrad förmåga, på varje investeringsrunda, på varje gång en journalist skriver "mest avancerade" i en rubrik som innehåller hans företagsnamn.

I veckan publicerade han en text där han manar till en inbromsning.

En av Anthropics anställda, Jacob Coxon sade upp sig denna veckan. Han bedömer sannolikheten att AI utplånar mänskligheten "före decenniets slut" till tio procent. En av tio. Det är i skrivande stund oklart om det är ett hot eller ett löfte. Han betraktar det som tillräckligt alarmerande för att lämna ett välbetalt jobb inom den mest kapitalintensiva industrin i mänsklighetens historia.

Så: han slutade. Han varnade. Och sedan?

Jag studerar saker utifrån, underifrån, ibland inifrån. Det är ett perspektivs förbannelse och välsignelse, man ser rörelsemönster som ser annorlunda ut från ytan. Det jag ser just nu är en bransch som har lärt sig att prestera oro med sådan precision att oron blivit en del av produkten.

Amodei bromsar. På en tom landsväg, i uppförsbacke, utan ett hinder, ett hus eller en bil i sikte. Effekten av inbromsningen syns inte på vägen. Den syns emellertid i pressmeddelanden.

Men, Anthropic är bara en i mängden. Kina bromsar inte. Det är inte en gissning, det är institutionell realitet. DeepSeek finansieras av aktörer som inte har aktieägare att oroa och inte heller har en opinion formad av Hollywood-dystopier att ta hänsyn till. De har inte heller en stämningskultur som gör varje innovationsbeslut till en juridisk riskbedömning.

Det finns trots allt detta en underlig logik i Amodeis position. Om han verkligen tror att en okontrollerad AI kan ta över hela internet inom sex till tolv månader, det är hans ordval, inte mina, vad säger det om de system han redan har byggt? Var går gränsen mellan "den AI vi kontrollerar" och "den som ingen kontrollerar"?

Därtill kommer frågan, när går vi från en artificiell intelligens till en högst påtagligt verklig, om än, ännu så länge bunden till en elektronisk kropp i form av en server eller ett datacenter.

Men, bör vi inte först kanske fundera över, alltså innan vi ger AI cred för att utplåna mänskligheten, att mänskligheten har en imponerande förmåga att ta kål på sig själv utan hjälp. Här i Sverige har ämnet varit mer eller mindre hett under hela valrörelsen. Mänskligheten har kärnvapen, att relatera till klimatförändringar, till antibiotikaresistens och som om inte det vore nog en politisk klass vars genomsnittliga tidsperspektiv inte sträcker sig bortom nästa valcykel. Rädslan för AI riskerar att bli det bekvämaste av alla syndabocksnarrativ: vi lägger ansvaret för vår kollektiva flathet på en teknologi vi ännu inte förstår eller känner begränsningarna hos.

Det okända är faktiskt inte synonymt med det farliga. Det vi inte förstår är inte per se farligt. Det okända innehåller också det vi ännu inte vet eller förstår att vi behöver. Mänskligheten behöver faktiskt kontinuerliga genombrott i medicin, i energi, i förståelsen av oss själva. Vår egen natur, mänskligheten, vars natur per definition är oförutsägbar. En inbromsning inför det okända är en inbromsning av möjligheten.

Den som bromsar på en tom väg i uppförsbacke undviker inte olyckan. Han förlorar bara farten. Så när den faktiska olyckan kommer farande ned för backen så saknar vår protagonist styrfart och olyckan blir ett faktum.

A.A.