Dario Amodei hatte es schon seit einer Weile geahnt. Der Chef von Anthropic sitzt in seinem Eckbüro in einem Hochhaus in San Francisco. Durch die großen Fenster blickt er von hier auf einen auf Säulen stehenden Park, der wie eine grüne Oase zwischen den glitzernden Wolkenkratzern der Tech-Metropole liegt. "Und dann ist es passiert", sagt er. Im vergangenen Februar hatte ein Mitarbeiter von Amodei bei einem Sicherheitstest die neu entwickelte künstliche Intelligenz des Unternehmens dazu gebracht, einen hundert Seiten langen Plan zum Bau einer Biowaffe zu verfassen. Von der Beschaffung der Materialien über die Auswahl der Experimente bis zum Züchten einer ausreichenden Virenmenge – die Anleitung war so präzise, dass hinzugezogene Experten für Biosicherheit, die auch die US-Regierung beraten, sich Sorgen machten.