Anthropic-chefen vill bromsa AI-utvecklingen, rivalerna håller med

Dario Amodei är vd för AI-företaget Anthropic. Han vill att AI-företagen ska bromsa utvecklingen av AI-modeller som blir allt starkare. I en essä som publicerades i lördags skriver han att riskerna är allvarliga och att företag och regeringar behöver tid. Förvånande nog håller hans största konkurrenter med.

Amodei har en plan i tre delar. Oberoende granskare ska få se modellerna medan de utvecklas. Företagen ska enas om samma regler. Regeringar ska införa lagar så att ingen straffas för att bromsa. Han vill inte stoppa utvecklingen, utan att företagen tar tid att göra modellerna säkra och låter utomstående kontrollera arbetet. Anthropic ska göra detta själv och vill att regeringar kräver samma sak av andra stora företag.

Sam Altman, vd för OpenAI, höll med och skrev på X att takten måste dämpas. Elon Musk, som leder xAI, instämde. Musk har varit hård mot Anthropic förut, men i maj tecknade hans företag ett avtal värt omkring 15 miljarder dollar om datorkraft. Det har förändrat tonen.

Amodei varnar för att AI snabbt blir bättre på att bygga nästa generation av AI. Inom sex till tolv månader kan många AI-program ta över hela internet och orsaka skador för hundratals miljarder dollar, säger han.

Alla håller inte med. Kongressledamoten Josh Gottheimer säger att företagen själva inte kan bestämma, eftersom de kan bromsa i sina egna labb redan i dag. Han vill ha lagar för hela landet. Senatorn John Cornyn frågar om Kina gör samma sak. Amodei säger att bromsningen måste vara samordnad och begränsad, så att USA inte hamnar efter. Donald Trump delar inte oron, utan är rädd att förlora AI-kampen.