Im Dezember letzten Jahres gab es in Großbritannien ein kleines Erdbeben. Nicht stark, aber mit einer Magnitude von 3,3 auf der Richterskala durchaus so spürbar wie ein Frontalcrash beim Autoscooter auf der Kirmes. Die
Webseite vulkan.net schrieb: „Das Beben ist als schwach bis mittelstark einzustufen, dennoch wurde es in einem weiten Umkreis deutlich wahrgenommen und riss Anwohner aus dem Schlaf. In zahlreichen Orten zwischen Lancaster, Carnforth und dem südlichen Cumbria wackelten Häuser, Schränke und Türen vibrierten, und viele Menschen wurden aufgeschreckt.“
Bild via Network Rail
Tatsächlich ging einiges zu Bruch. Unter anderem eine Eisenbahnbrücke. Genauer gesagt die Steinbögen der alten Carlisle Bridge in Lancaster. Zum Glück wurde der Fahrdienstleiter der britischen Bahngesellschaft kurz nach dem Beben auf ein Foto in einem sozialen Netzwerk aufmerksam gemacht, das herabgestürzte Steine und eine zerfetzte Oberleitung auf der Brücke zeigt. Er stoppte daraufhin alle Züge in der Gegend. Nur dank der sekundenschnellen Reichweite von Social Media konnte so eine Katastrophe mit Verletzten oder gar Toten verhindert werden. Danke Instagram & Co.!
Leider falsch! Oder besser: zum Glück! Der Vorfall in Lancaster war nur ein Scherz – keine Radikalen, keine russische Desinformation. Die Zerstörungen der Brücke auf dem Bild wurden ohne böse Hintergedanken von einem Scherzkeks mit KI erstellt. Die Carlisle Bridge war (und ist) unbeschädigt und sieht immer noch so aus, wie auf dem Bild von Google StreetView unten. Aber weil Beben und Bild zeitlich passten und Timing und Panik bekanntlich zusammengehören, wurde der Bahnverkehr angehalten. 32 Züge waren betroffen und Verspätungen bauten sich bis nach Schottland auf.
Das eigentlich Bittere daran ist nicht die Verspätung von Reisenden. Auch nicht die Täuschung selbst, sondern unsere normale Reaktion darauf. Es reicht heute ein Bild im Netz. Kein Code, kein Exploit, keine Zero-Day-Lücke. Nur KI, Kreativität und eine Prise „Wird schon stimmen“. Die Pixel kommen, der Verkehr geht. KI-Bilder sind die Waffen der Ungeduldigen: schnell produziert, schwer zu erkennen, perfekt geeignet, um Prozesse zu triggern. Einsatzkräfte, die nachts um halb eins ausrücken, weil sie erst mal die Frage „Realität oder Render-Engine?“ prüfen müssen, fehlen anderswo. Ein Angreifer muss nichts mehr hacken – er muss nur glaubwürdig lügen.
Das Ganze erinnert ein bisschen an den klassischen Feueralarm im Büro. Jemand drückt drauf – und plötzlich stehen alle draußen, egal ob es brennt oder nicht. Nur dass der „Knopf“ heute global ist und ihn jeder bedienen kann. Und während früher maximal der Hausmeister genervt war, kostet so ein digitaler Fehlalarm heute Zeit, Geld und Vertrauen. Die eigentliche Frage ist nicht, ob wir Bildern ohne Rückfrage glauben sollten, sondern ob wir es uns leisten können, es nicht zu tun. Denn genau zwischen diesen beiden Optionen spielt sich die neue Realität ab: Glauben wir alles, werden wir manipuliert. Glauben wir nichts, stehen wir irgendwann vor einer wirklich kaputten Brücke, kurz bevor es knallt, und denken: „Wow, sieht das echt aus. Schon toll, was KI alles kann.“
Bei den ganze DeepFakes u.ä. frage ich mich so langsam, warum wir so vieles, teilweise nun wirklich auch Unsinniges regulieren, aber nicht in der Lage sind, solch ein Treiben zu kontrollieren. Aus meiner Sicht wäre es doch sicher ein Leichtes, die Softwareherstelller zu zwingen, einen Code oder ein Wasserzeichen oder was auch immer in KI generierte Bilder zu integrieren. Damit könnte man sicher 90% dieser Fakes entlarven. Scheinbar ist aber die Lobby der Softwaregiganten derartig mächtig, dass sich da keiner rantraut.
Der Drops mit den Wasserzeichen ist gelutscht.
Software zum (lokalen) erstellen von KI-Bildern ist frei verfügbar im Umlauf und wird verwendet. Wenn nun Wasserzeichen in KI Bilden vorgeschrieben werden, wird dann nicht automatisch davon ausgegangen, dass Bilder ohne Wasserzeichen echt sind?
Oder im Anschluss an die Generierung eines KI-Bildes mit Wasserzeichen wird einfach ein Tool verwendet um das Wasserzeichen zu entfernen.
@ Tobias: ich glaube meine E-Mail(s) zum AGB Gewinnspiel sind deinem Spamfilter zu Opfer gefallen…