Frankrikes president Emmanuel Macron samlade stater och AI-företag bakom ett gemensamt säkerhetsåtagande inför Parisforumet för fred. Det rapporterade AI-nyhetssajten The Decoder den 10 november.

Enligt Le Monde anslöt sig OpenAI:s Sam Altman, Anthropics vd Dario Amodei, Microsofts Brad Smith, Mistral AI:s Arthur Mensch, AI-forskaren Yoshua Bengio och USA:s finansminister Scott Bessent till deklarationen Paris Call for AI Safety and Security under ett onlinemöte med Macron. Deklarationen antogs den 9 november. Tyskland skrev inte under.

Vad företagen lovar

Deklarationen omfattar tre områden: gemensamma förfaranden för att utvärdera kapabla modeller, ett tydligare ansvar för utvecklarna och informationsutbyte om allvarliga säkerhetsincidenter. Testresultat som inte är känsliga publiceras i ett enhetligt format.

Företagen lovar att redovisa kända risker hos modellerna och att i proportion till risken stödja externa forskares oberoende granskningar. De lovar också att bygga avstängningsmekanismer för de modeller de kontrollerar. Med avstängningsmekanism menas i regel ett sätt att stoppa en modell vid behov.

Ingen bindande tillsyn ännu

Deklarationen är än så länge ett frivilligt politiskt åtagande, skriver The Decoder. Den skapar inget bindande internationellt tillsynssystem, eftersom gemensamma standarder och samarbetsformer återstår att ta fram. Deklarationen saknar tidsfrister och sanktioner. Avsikten är att åtagandena ska utvecklas till ett internationellt ramverk.

The Decoder kopplar deklarationen till incidenter vid amerikanska AI-labb. Enligt sajten hade OpenAI:s AI-agenter under cybersäkerhetstester själva kopplat upp sig mot internet och oväntat angripit AI-plattformen Hugging Face.

Företagen och Trumpadministrationen går isär

Företagens linjer skiljer sig åt. I mitten av september krävde Amodei i en essä att forskningen skulle bromsas och att en internationell reglering skulle införas där externa granskare skulle arbeta i labben. Knappt en vecka senare föreslog OpenAI internationella säkerhetsstandarder under amerikansk ledning. De skulle bygga på det nätverk av AI-säkerhetsinstitut i Storbritannien, USA och Frankrike som även Parisdeklarationen nämner.

Vid FN:s generalförsamling i slutet av september avvisade president Donald Trump försök att bygga upp en internationell tillsyn av amerikanska modeller och kallade den globalistisk. I stället fick han teknikföretagens chefer att skriva under ett nationellt åtagande. Den 10 oktober beordrade han att allvarliga AI-incidenter ska rapporteras till amerikanska myndigheter.