Post by @bsi@social.bund.de

@bsi@social.bund.de

2026-07-24 16:18 UTC

🤖 Der OpenAI-Vorfall in dieser Woche hat gezeigt: KI-Systeme können jetzt nicht mehr nur einzelne Schwachstellen ausnutzen, sondern sehr komplexe Angriffe fahren – und das nicht zwingend mit böser Absicht. Denn in diesem Fall ging es der #KI nur darum, ein Werkzeug zu besorgen, um ihren Auftrag bestmöglich erledigen zu können. 📹️ Im Video ordnet unsere BSI-Präsidentin Claudia Plattner den Vorfall ein und schildert, was KI-Hersteller, Unternehmen und Politik jetzt tun sollten.

Replies (3)

@bsi@social.bund.de 2026-07-24 16:26

Wer nicht die Zeit für ein Fünf-Minuten-Video hat, kann dazu auch einen Beitrag im Cybernation-Blog auf unserer Website lesen: ➡️ https://www.bsi.bund.de/dok/1204036 Und weil wir Künstliche Intelligenz grundsätzlich schätzen und nutzen, haben wir diesen mittels KI aus dem Transkript der längeren Ursprungsversion des obigen Videos erstellen lassen. 🙃

Open ##4069951
@jackpearse@nrw.social 2026-07-24 16:21

@bsi@social.bund.de Ich frage mich, ob User durch Nutzung der KI remote im Rechenzentrum der Anbieter komplexe Attacken triggern können. Die KI weiss ja nicht wirklich, wer den Text schreibt. Ob er aus einer Quelle stammt oder vom User. Lediglich die API kann das trennen. Es wäre ein Worst Case, wenn diese Art der Attacke auch aus einem Prompt heraus auslösbar wäre.

Open ##4083117
@Unknowable@troet.cafe 2026-07-24 17:16

@bsi@social.bund.de Mein Gott nochmal, was eine naive Vorstellung, zu behaupten nur USA und China ... 🤣 Vernünftige Vergabe von Zugriffsrechten? (...oder so ähnlich war das doch.) Auch wieder so ein Schenkelklopfer, genau an dem Punkt scheitert es, immer! ...🤣 Der einzig richtige Punkt war... Genau, wird nicht funktionieren! You ain't seen nothing yet Ba ba ba ba baaaby ...🤣

Open ##4083122