Kongen kaldte AI-cheferne sammen — og bad dem holde fast i rattet
Dagen efter at Ursula von der Leyen fra Europa-Parlamentets talerstol opfordrede til at bremse de mest avancerede AI-modeller, samlede den britiske konge industrien omkring et bord i Skotland.
Den 17. september var Kong Charles III vært på Dumfries House for ledende repræsentanter fra OpenAI, Anthropic, Google DeepMind og Nvidia — herunder Nvidias administrerende direktør Jensen Huang — samt den britiske AI-minister Kanishka Narayan.
Kongen lagde ikke skjul på sin uro. Udviklingen af AI, både dens indhold og dens tempo, er "intriguing and deeply concerning in equal measure", sagde han — lige dele fascinerende og dybt bekymrende. Han pegede på de eksistentielle farer ved at sådan en teknologi havner i de forkerte hænder og bliver brugt på potentielt katastrofale måder, og opfordrede til international samordning og til at bygge udviklingen med sikkerhed i centrum.
Industriens svar: vi klarer det selv
Jensen Huang gav et høfligt, men tydeligt modsvar. Ansvaret ligger hos den enkelte virksomhed, ikke i en branchebred opbremsning, mente han: når et produkt ikke er sikkert nok, skal man holde det tilbage — selv.
Det er i praksis samme uenighed som på EU-niveau. Politikerne efterlyser fælles tempogrænser; industrien tilbyder selvjustits.
Mødet førte ikke til nogen aftale eller nogen konkret annoncering. Det var en samtale, ikke en beslutning.
Hvorfor nu
Timingen er ikke tilfældig. Mødet fandt sted oven på en periode med usædvanligt høj temperatur omkring AI-sikkerhed: en Anthropic-forsker sagde sit job op med en advarsel om katastrofale risici, og OpenAI har rapporteret om seks hændelser med uventet modeladfærd. Samme uge demonstrerede folk foran både OpenAI og Anthropic i San Francisco.
Det bemærkelsesværdige er ikke at et statsoverhoved er bekymret. Det er at to europæiske ledere på to dage sagde næsten det samme — og at industrien begge gange svarede at den hellere selv vil holde igen.
Læs også: EU vil bremse den AI, Europa ikke selv bygger.