Dario Amodei har ägnat tolv år åt att utveckla AI. Han tror att tekniken kan bota sjukdomar och förbättra människors liv, och som vd för AI-företaget Anthropic är han själv ledande i utvecklingen. Men nu vill han att det ska gå långsammare. Risken är att vi bygger något som vi inte längre kan kontrollera.
AI används allt mer för att utveckla nästa generation av AI. Enligt Amodei riskerar det att driva upp tempot så mycket att människans förmåga att förstå och kontrollera systemen inte hinner med.
“Att bygga den för snabbt är vårdslöst”, skriver han i september 2026.
Varningarna stoppar inte utbyggnaden
Varningen har hörts förut. Redan 2023 gick Amodei och cheferna för OpenAI och Google DeepMind ut och varnade för att AI kan utplåna mänskligheten. De ville att världen skulle ta risken på samma allvar som pandemier och kärnvapenkrig.
Samtidigt byggs nya datacenter i snabb takt, med serverhallar där de beräkningar utförs som behövs för att träna och använda AI. I den första delen av den här artikelserien berättade vi om hur datacentren slukar el och vatten och driver fram nya fossilkraftverk. Vi berättade också om människorna som oroar sig för vad utbyggnaden ska göra med allt från deras närmiljö och elräkningar till klimatet.
Bli prenumerant för att följa Gad World. Du kan bli det helt gratis.
Bara under 2025 ökade elförbrukningen i AI-inriktade datacenter med hälften, enligt det internationella energiorganet IEA.
Vad är det då AI används till som gör att det krävs så många datacenter? Och vem bestämmer vad tekniken ska få göra?
För om de som bygger den själva varnar för att vi kan förlora kontrollen – varför fortsätter vi då?
AI hjälper oljebolagen att hitta mer olja
Det som driver utbyggnaden är dels dina och mina frågor till AI-chatbotar. Dels är det allehanda klimat- och människorättsvidriga aktiviteter.
För samtidigt som techbolagen lovar “grön AI” och att minska sin klimatpåverkan säljer de AI-tjänster till fossilindustrin.
Journalistik kostar. Swisha valfri summa till 123 515 98 35 för att stötta oss.
Microsoft har exempelvis lovat att ta bort mer koldioxid än företaget släpper ut till 2030. Samtidigt samarbetar företaget med ExxonMobil, som beskriver hur AI ska öka deras produktion.
Fossilbolagen använder modellerna för att effektivisera sin verksamhet, genom att analysera geologiska data och hitta tidigare dolda fickor av olja och gas djupt under marken eller havsbotten.
USA vill vinna kapplöpningen
Till detta kommer den militära upprustningen och kapplöpningen mellan USA och Kina. Investeringar strömmar in i AI från försvarssektorn. Under 2025 gav USA:s försvarsdepartement AI-kontrakt till Anthropic, Google, OpenAI och xAI.
Den amerikanska regeringen ser AI som avgörande för att behålla landets ekonomiska och militära övertag.
I Vita husets AI-plan från 2025 är målet att vinna kapplöpningen. För att lyckas ska regler undanröjas och nya datacenter byggas ännu snabbare.
Även Dario Amodei, som varnar för att utvecklingen går för fort, vill att USA behåller sitt försprång. Han skriver att en inbromsning inte får ge Kina möjlighet att gå om. Han menar att ett kinesiskt övertag inom AI skulle hota USA:s säkerhet och att det egna landet ska fortsätta leda utvecklingen.
AI pekar ut människor att bomba
AI utvecklas i datacentren där algoritmer tränas för automatisk ansiktsigenkänning, massövervakning och autonoma vapensystem.
I moderna krigszoner är det AI-modeller i avlägsna serverhallar som analyserar bildströmmar från drönare och annan underrättelseinformation och väljer ut militära mål.
Vill du läsa mer från Gad World? Prenumerera så missar du inget.
Exempelvis har israeliska myndigheter använt ansiktsigenkänning för att övervaka och kontrollera palestinier på Västbanken.
Även i Gaza har ansikten registrerats och jämförts med listor över eftersökta personer. Där har militären också använt AI för att peka ut människor som misstänkta medlemmar i Hamas eller Islamiska jihad och möjliga mål för bombningar.
20 sekunder för att granska ett mål
Sex israeliska underrättelseofficerare beskriver för den israeliska tidningen +972 och Local Call hur AI-tekniken har förändrat arbetet med att välja ut människor att bomba.
Ett av AI-systemen heter Lavender. Det matas med information om människor som militären misstänker tillhör väpnade grupper. Sedan jämförs andra palestiniers beteenden och kontakter med dessa uppgifter. Varje person får ett värde som ska ange sannolikheten för att tillhöra en väpnad grupp.
Lavender pekar ut tiotusentals mål och officerarna berättar att de inte behöver kontrollera ingående varför systemet pekat ut varje person. En officer säger att han lade omkring 20 sekunder på varje, främst för att kontrollera att det var en man.
Enligt Human Rights Watch kan underlaget vara både felaktigt och ofullständigt. Systemets misstankar är inte samma sak som belägg för att människor får dödas. Organisationen beskriver också risken att människor litar för mycket på datorns svar eftersom det uppfattas som mer objektivt.
Samtidigt tillät den israeliska militären under krigets första veckor att 15 eller 20 civila dödades vid en attack mot en misstänkt stridande av lägre rang. Vid flera attacker mot högt uppsatta befälhavare godkändes över 100 civila döda. Militärens beslut om att acceptera fler civila döda kombineras alltså med AI-teknik som snabbt kan föreslå fler människor att attackera.
Fakta: AI och automatisering i krig
Where’s Daddy? Var är pappa? är ett AI-spårningsverktyg som används av israeliska militären. Det larmar när människor som AI-systemet Lavender pekat ut bedöms vara i sina hem. Då kan militären bomba bostäderna, med familjerna inuti.
Fel familjer bombades. Enligt underrättelsekällor till +972 och Local Call kan det gå timmar utan nya kontroller om personen som pekats ut faktiskt är hemma. I ett fall hade den utpekade lämnat huset. I stället bombades två andra barnfamiljer som var där.
Skolmassakern i Minab. Minst 123 barn dödades när USA bombade en skola i Minab i södra Iran den 28 februari 2026. Enligt Bloombergs uppgifter bidrog gamla underrättelseuppgifter, tidspress och övertro på AI-systemet Maven till det som nu bedöms vara ett krigsbrott.
AI kan också rädda liv
Men AI används också till bra saker, vill Anna Furberg, forskare inom digital teknik på KTH, belysa.
– Användningen av tekniken kan leda till minskad klimatpåverkan i andra sektorer. Den kan hjälpa till att göra industrier och byggnader mer energieffektiva samt ta fram nya material som kan vara hjälpsamma i den gröna omställningen. AI är också stort inom hälsosektorn och kan användas för att screena efter sjukdomar.
Vilken nytta tekniken gör beror alltså på vad den får i uppgift att effektivisera. En byggnads energianvändning. Sökandet efter bröstcancer. Eller dödandet av människor.
Founding members hjälper oss att våga satsa större. Var med och bygg Gad World långsiktigt.
Hon menar att i takt med att användningen av AI blir allt vanligare är det oerhört viktigt att diskutera hur tekniken används. Och ansvaret kan inte läggas på en aktör.
– Både politiker, företag, forskare och individen måste ta ansvar. Vi kan inte tro att AI automatiskt kommer att lösa alla våra problem utan vi måste styra AI så att det leder till gott. Vi som individer måste fråga och kräva svar vad de datacenter som byggs ska användas till, men även politiker och företag har ansvar att fatta kloka beslut – som är bra för alla i det långa loppet.
Hur bromsar man en kapplöpning?
Dario Amodei vill att oberoende granskare får arbeta inne på AI-företagen för att kontrollera om säkerhetslöften faktiskt följs. Han vill också att bolag och regeringar kommer överens om gemensamma säkerhetskrav och begränsningar av utvecklingstakten.
Det är just konkurrensen som gör detta svårt. Ett företag som bromsar riskerar att förlora sitt försprång. Ett land som håller tillbaka fruktar att en rival ska gå om. Amodei vill därför också försöka få till överenskommelser med Kina. Men då måste båda sidor kunna kontrollera att den andra följer dem.
Det finns redan försök att sätta gränser. EU:s AI-förordning förbjuder vissa användningar och ställer krav på att företag bedömer och begränsar riskerna med de mest kraftfulla AI-modellerna.
Men AI-system som används uteslutande för militära ändamål, försvar eller nationell säkerhet är undantagna från förordningen.
Vad händer om vi förlorar kontrollen?
Frågan om vad AI-tekniken ska få göra hänger också ihop med vad vi är beredda att offra för att bygga ut den. Miljö- och klimatpåverkan från datacentren finns kvar även om beräkningarna används till något som är bra.
Amodei vill vinna tid så att människans förmåga att förstå och kontrollera systemen hinner med.
I Gaza berättade en underrättelseofficer att han lade omkring 20 sekunder på att granska varje person som Lavender hade pekat ut. Främst för att kontrollera att det var en man.
Är det vad vi menar med mänsklig kontroll?
Och vad gör vi om AI-modeller börjar agera mot vår vilja och blir så kraftfulla att de kan utplåna oss – utan att vi längre kan stoppa dem?
Izabella Rosengren är vetenskapsjournalist och utbildad biolog som återkommande frilansat för brittiska BBC. Hon har bevakat klimat- och miljöfrågan i decennier och skrivit böckerna Hetta – om människan i en varmare värld (2022) och 52 Hz: Världens ensammaste val (2025).
Läs del 1:
Hej ChatGPT, vad är det snabbaste sättet att förstöra planeten?
Celene Olsen har redan tvingats flytta en gång av oro för luftföroreningarna. Hon bodde tidigare i Salt Lake City, nära Stora Saltsjön i den amerikanska delstaten Utah. Nu bor hon i ett mindre samhälle i samma delstat.
Arish Gilan berättar att första frågan han får av sina kunder är hur många tjänster kan vi plocka bort med den här appen. Eller hur många kan vi låta bli att anställa. Staternas skatteintäkter minskar och arbetslösheten ökar. Är det konstigt att vi ser växande sociala problem och i förlängningen att extrema partier med enkla lösningar växer fram?