ChatGPT Image 2 ist wirklich beeindruckend. Es kann Infografiken erstellen, die so professionell aussehen, dass man das Dargestellte für die Wahrheit halten könnte (ja, ja auch Nano-Banana kann das).
Ich habe zum Testen den Auftrag gegeben, mir eine Darstellung aller Uno-Generalsekretäre seit der Gründung zu erstellen (Bild 1). Es sah auf den ersten Blick gut aus und es ist mir auf Anhieb nicht aufgefallen, dass zwei fehlten. Wie sich später bei genauerem Hinschauen gezeigt hat, stimmten auch sonst noch so einige Details nicht.
Danach habe ich ein Bild des Bundesrates von 1980 erstellen lassen. Und dieses Resultat war, um es nett auszudrücken ein Meisterwerk der Halluzinationen. Hier stimmte so ziemlich nichts, ausser dass es aussieht, wie aus den 1980er Jahren.
Das Uno Bild habe ich dann noch durch einen KI-Faktenchecker prüfen lassen und auf dieser Basis neu generieren lassen. Es scheint weniger Fehler zu haben. Ob es keine mehr hat, kann ich natürlich nicht mit sicherheit sagen. Interessant ist, wie ChatGTP das zweite Bild im selben Stil wie das erste generieren konnte.
Was nehmen wir mit:
👉 Die Bildgeneratoren haben dieselben Halluzinationsprobleme wie Textgeneratoren, was nicht verwunderlich ist und wahrscheinlich vielen klar. Man kann es trotzdem nicht oft genug wiederholen: Modelle der generativen KI sind keine Lexika.
👉 Die neuen Bildgeneratoren sind grossartige und mächtige Werkzeuge für die Erstellung von visuellem Material. Die Inhalte, die sie darstellen sollen, kann man aber nicht einfach den Modellen überlassen. Für diese sind wir verantwortlich, und am besten geben wir sie ihnen vor. Genauso wie die Textmodelle immer fiktionale Texte produzieren und wir von ihnen keine Faktentreue erwarten können, ist es auch bei den Bildmodellen so.
👉 Nur weil die Bilder, Infografiken oder Visualisierungen professionell und seriös aussehen, heisst das noch lange nicht, dass das was sie Darstellen der Wahrheit entspricht.
👉 Eine der wichtigsten Kompetenzen des 21. Jahrhunderts ist die Quellenkritik.
Sind solche Systeme trotzdem nützlich und sinnvoll? Auf jeden Fall.
