Het ingrijpen van de Amerikaanse overheid kwam ogenschijnlijk onverwacht voor het bedrijf, dat zich excuseert voor de ‘plotselinge verstoring’. “De brief geeft geen specifieke details over de risico’s voor de nationale veiligheid”, meldt Anthropic in een persbericht over de maatregel. De brief aan topman Dario Amodei is volgens nieuwssite Axios afkomstig van minister van Handel Howard Lutnick.
Zwakheden in online beveiliging
Op dat ministerie zou ontdekt zijn dat het mogelijk is om Fable 5 te kraken, waardoor kwaadwillenden het zouden kunnen gebruiken om zwakheden in online beveiligingssystemen te vinden.
Anthropic bevestigt dit in een eigen statement, maar stelt dat het om kleine en al bekende gaten in IT-beveiliging gaat. Deze zouden ook met andere AI-modellen te vinden zijn, die voor iedereen beschikbaar zijn.
De Amerikaanse regering is daar blijkbaar niet gerust op. De modellen mogen tot nader order niet gebruikt worden door andere landen, bedrijven en mensen van buiten de Verenigde Staten. Dat geldt zelfs voor werknemers van Anthropic die niet de Amerikaanse nationaliteit hebben.
Selecte groep
De groep overheden en bedrijven die toegang hadden tot Mythos was overigens klein, vanwege de angst voor de gevolgen als de techniek in verkeerde handen zou vallen. Het Amerikaanse bedrijf verleende zo’n veertig overheden en instanties toegang, om hen te helpen lekken in kritieke online infrastructuur te dichten voor hackers deze zouden kunnen vinden. Ook Nederland kreeg toegang, meldde onder meer Financial Times.
Met het ingrijpen van de VS is dat nu niet mogelijk. Volgens Axios blijven de modellen afgeschermd totdat het Amerikaanse veiligheidsapparaat beter is voorbereid op mogelijke risico’s, bijvoorbeeld voor de cyberveiligheid. Dat zou binnen enkele weken het geval kunnen zijn.
Anthropic is samen met OpenAI een van de koplopers op AI-gebied. De maatregel is een nieuw hoofdstuk in de prikkelige relatie tussen het bedrijf en de regering-Trump. In maart kwam het bedrijf op een zwarte lijst bij het Pentagon, nadat er onenigheid was ontstaan over de manier waarop het Amerikaanse leger AI van het bedrijf zou mogen gebruiken. Beide voorvallen zijn voorbeelden van de hoogst ongebruikelijke bemoeienis van de Amerikaanse overheid bij wat techbedrijven wel en niet mogen, schrijft The New York Times.
Gevolgen voor Europa
De maatregel kan op termijn grote gevolgen hebben voor Europa. Europese bedrijven en overheden bouwen hun AI-toepassingen nu grotendeels op Amerikaanse modellen. Als zij geen toegang meer krijgen tot de beste systemen, dreigen ze afhankelijk te blijven van verouderde of minder geavanceerde technologie, met gevolgen voor hun concurrentiepositie, veiligheid en digitale autonomie.
Ondertussen bouwt ondernemer Elon Musk tamelijk ongehinderd verder aan zijn AI- en ruimtevaartimperium, vertelt Jules Raijer in onderstaande video:
