Im Dezember letzten Jahres gab es in Großbritannien ein kleines Erdbeben. Nicht stark, aber mit einer Magnitude von 3,3 auf der Richterskala durchaus so spürbar wie ein Frontalcrash beim Autoscooter auf der Kirmes. Die Webseite vulkan.net schrieb: „Das Beben ist als schwach bis mittelstark einzustufen, dennoch wurde es in einem weiten Umkreis deutlich wahrgenommen und riss Anwohner aus dem Schlaf. In zahlreichen Orten zwischen Lancaster, Carnforth und dem südlichen Cumbria wackelten Häuser, Schränke und Türen vibrierten, und viele Menschen wurden aufgeschreckt.“
Bild via Network Rail
Tatsächlich ging einiges zu Bruch. Unter anderem eine Eisenbahnbrücke. Genauer gesagt die Steinbögen der alten Carlisle Bridge in Lancaster. Zum Glück wurde der Fahrdienstleiter der britischen Bahngesellschaft kurz nach dem Beben auf ein Foto in einem sozialen Netzwerk aufmerksam gemacht, das herabgestürzte Steine und eine zerfetzte Oberleitung auf der Brücke zeigt. Er stoppte daraufhin alle Züge in der Gegend. Nur dank der sekundenschnellen Reichweite von Social Media konnte so eine Katastrophe mit Verletzten oder gar Toten verhindert werden. Danke Instagram & Co.!
Leider falsch! Oder besser: zum Glück! Der Vorfall in Lancaster war nur ein Scherz – keine Radikalen, keine russische Desinformation. Die Zerstörungen der Brücke auf dem Bild wurden ohne böse Hintergedanken von einem Scherzkeks mit KI erstellt. Die Carlisle Bridge war (und ist) unbeschädigt und sieht immer noch so aus, wie auf dem Bild von Google StreetView unten. Aber weil Beben und Bild zeitlich passten und Timing und Panik bekanntlich zusammengehören, wurde der Bahnverkehr angehalten. 32 Züge waren betroffen und Verspätungen bauten sich bis nach Schottland auf.
Das eigentlich Bittere daran ist nicht die Verspätung von Reisenden. Auch nicht die Täuschung selbst, sondern unsere normale Reaktion darauf. Es reicht heute ein Bild im Netz. Kein Code, kein Exploit, keine Zero-Day-Lücke. Nur KI, Kreativität und eine Prise „Wird schon stimmen“. Die Pixel kommen, der Verkehr geht. KI-Bilder sind die Waffen der Ungeduldigen: schnell produziert, schwer zu erkennen, perfekt geeignet, um Prozesse zu triggern. Einsatzkräfte, die nachts um halb eins ausrücken, weil sie erst mal die Frage „Realität oder Render-Engine?“ prüfen müssen, fehlen anderswo. Ein Angreifer muss nichts mehr hacken – er muss nur glaubwürdig lügen.
Das Ganze erinnert ein bisschen an den klassischen Feueralarm im Büro. Jemand drückt drauf – und plötzlich stehen alle draußen, egal ob es brennt oder nicht. Nur dass der „Knopf“ heute global ist und ihn jeder bedienen kann. Und während früher maximal der Hausmeister genervt war, kostet so ein digitaler Fehlalarm heute Zeit, Geld und Vertrauen. Die eigentliche Frage ist nicht, ob wir Bildern ohne Rückfrage glauben sollten, sondern ob wir es uns leisten können, es nicht zu tun. Denn genau zwischen diesen beiden Optionen spielt sich die neue Realität ab: Glauben wir alles, werden wir manipuliert. Glauben wir nichts, stehen wir irgendwann vor einer wirklich kaputten Brücke, kurz bevor es knallt, und denken: „Wow, sieht das echt aus. Schon toll, was KI alles kann.“
2 Antworten auf „Brüchige Brücken“
Bei den ganze DeepFakes u.ä. frage ich mich so langsam, warum wir so vieles, teilweise nun wirklich auch Unsinniges regulieren, aber nicht in der Lage sind, solch ein Treiben zu kontrollieren. Aus meiner Sicht wäre es doch sicher ein Leichtes, die Softwareherstelller zu zwingen, einen Code oder ein Wasserzeichen oder was auch immer in KI generierte Bilder zu integrieren. Damit könnte man sicher 90% dieser Fakes entlarven. Scheinbar ist aber die Lobby der Softwaregiganten derartig mächtig, dass sich da keiner rantraut.
Der Drops mit den Wasserzeichen ist gelutscht.
Software zum (lokalen) erstellen von KI-Bildern ist frei verfügbar im Umlauf und wird verwendet. Wenn nun Wasserzeichen in KI Bilden vorgeschrieben werden, wird dann nicht automatisch davon ausgegangen, dass Bilder ohne Wasserzeichen echt sind?
Oder im Anschluss an die Generierung eines KI-Bildes mit Wasserzeichen wird einfach ein Tool verwendet um das Wasserzeichen zu entfernen.
@ Tobias: ich glaube meine E-Mail(s) zum AGB Gewinnspiel sind deinem Spamfilter zu Opfer gefallen…
Wir verwenden Cookies, um unsere Website und unseren Service zu optimieren.
Funktional
Immer aktiv
Die technische Speicherung oder der Zugang ist unbedingt erforderlich für den rechtmäßigen Zweck, die Nutzung eines bestimmten Dienstes zu ermöglichen, der vom Teilnehmer oder Nutzer ausdrücklich gewünscht wird, oder für den alleinigen Zweck, die Übertragung einer Nachricht über ein elektronisches Kommunikationsnetz durchzuführen.
Vorlieben
Die technische Speicherung oder der Zugriff ist für den rechtmäßigen Zweck der Speicherung von Präferenzen erforderlich, die nicht vom Abonnenten oder Benutzer angefordert wurden.
Statistiken
Die technische Speicherung oder der Zugriff, der ausschließlich zu statistischen Zwecken erfolgt.Die technische Speicherung oder der Zugriff, der ausschließlich zu anonymen statistischen Zwecken verwendet wird. Ohne eine Vorladung, die freiwillige Zustimmung deines Internetdienstanbieters oder zusätzliche Aufzeichnungen von Dritten können die zu diesem Zweck gespeicherten oder abgerufenen Informationen allein in der Regel nicht dazu verwendet werden, dich zu identifizieren.
Marketing
Die technische Speicherung oder der Zugriff ist erforderlich, um Nutzerprofile zu erstellen, um Werbung zu versenden oder um den Nutzer auf einer Website oder über mehrere Websites hinweg zu ähnlichen Marketingzwecken zu verfolgen.
Das eigentlich Bittere daran ist nicht die Verspätung von Reisenden. Auch nicht die Täuschung selbst, sondern unsere normale Reaktion darauf. Es reicht heute ein Bild im Netz. Kein Code, kein Exploit, keine Zero-Day-Lücke. Nur KI, Kreativität und eine Prise „Wird schon stimmen“. Die Pixel kommen, der Verkehr geht. KI-Bilder sind die Waffen der Ungeduldigen: schnell produziert, schwer zu erkennen, perfekt geeignet, um Prozesse zu triggern. Einsatzkräfte, die nachts um halb eins ausrücken, weil sie erst mal die Frage „Realität oder Render-Engine?“ prüfen müssen, fehlen anderswo. Ein Angreifer muss nichts mehr hacken – er muss nur glaubwürdig lügen.
Bei den ganze DeepFakes u.ä. frage ich mich so langsam, warum wir so vieles, teilweise nun wirklich auch Unsinniges regulieren, aber nicht in der Lage sind, solch ein Treiben zu kontrollieren. Aus meiner Sicht wäre es doch sicher ein Leichtes, die Softwareherstelller zu zwingen, einen Code oder ein Wasserzeichen oder was auch immer in KI generierte Bilder zu integrieren. Damit könnte man sicher 90% dieser Fakes entlarven. Scheinbar ist aber die Lobby der Softwaregiganten derartig mächtig, dass sich da keiner rantraut.
Der Drops mit den Wasserzeichen ist gelutscht.
Software zum (lokalen) erstellen von KI-Bildern ist frei verfügbar im Umlauf und wird verwendet. Wenn nun Wasserzeichen in KI Bilden vorgeschrieben werden, wird dann nicht automatisch davon ausgegangen, dass Bilder ohne Wasserzeichen echt sind?
Oder im Anschluss an die Generierung eines KI-Bildes mit Wasserzeichen wird einfach ein Tool verwendet um das Wasserzeichen zu entfernen.
@ Tobias: ich glaube meine E-Mail(s) zum AGB Gewinnspiel sind deinem Spamfilter zu Opfer gefallen…