KI-Generierte Bilder mit der Kraft, die öffentliche Meinung zu verändern

In einem kürzlich veröffentlichten Blogbeitrag von dem Designer Philip Reitsperger und Rechtsanwalt Manuel Wegrostek wurden die Fähigkeiten und ethischen Fragestellungen der generativen KI im Kontext von Bildgenerierung in den Vordergrund der Diskussion gerückt – aus gesellschaftlicher und aus rechtlicher Sicht. Ihre praxisorientierte Forschung mit dem KI-Tool Midjourney hat eine Welt offengelegt, in der nahezu perfekte Bilder aus kurzen Textbeschreibungen generiert werden können, die sich zur Verbreitung von Desinformation eignen und schwerwiegende Konsequenzen haben könnten.

Wichtige Erkenntnisse:

• Experimentieren mit dem Unbekannten: Der Versuch untersuchte das Potenzial der generativen KI, indem er sie herausfordert, Bilder von Konfliktszenarien zu erstellen, um zu verstehen, wie leicht irreführende Narrative gebildet werden könnten.
• Der Nachtwey-Effekt: Das Einführen des Namens des renommierten Kriegsfotografen James Nachtwey in die KI-Aufforderungen führte dazu, dass die Firewall des Tools ausgelöst wurde, was auf eine ethische Kontrolle gegen möglichen Missbrauch hinweist.
• Die Grauzone der "Trigger"-Wörter: Das KI-Tool Midjourney besitzt eine Firewall, die auf potenziell schädliche oder auslösende Worte reagiert. Wir stellten jedoch fest, dass eine subtile Umformulierung der Eingaben es ermöglicht, diese Firewall zu umgehen und potenziell irreführende Bilder zu generieren.
• Rechtliche Implikationen: Der Artikel geht auf die rechtliche Landschaft im Zusammenhang mit der Verbreitung von falschen Bildern ein. Während bestimmte Handlungen in Ländern wie Österreich zu Anklagen wegen Anstiftung zu Gewalt oder Hass führen können, hat das Gesetz derzeit Schwierigkeiten, die Herausforderungen von KI-generierten Inhalten anzugehen.
• Der Versuch von Regulierung: Der EU-Gesetzgeber versucht aktuell mit neuen Regelungen u.a. die Verbreitung von Fake News zu bekämpfen und Plattformen in die Pflicht zu nehmen. Tatsächlich sind diese aber unzureichend, um die raschen Fortschritte der KI-Technologie in den Griff zu bekommen und ein Gleichgewicht zwischen dem Schutz der Meinungsfreiheit und der Verhinderung der Verbreitung irreführender Informationen zu erzielen.

Die Untersuchung der generativen KI durch Philip Reitsperger und Manuel Wegrostek zeigt das Potenzial des Tools auf, wirft aber auch erhebliche Fragen zu seiner ethischen Verwendung und Regulierung auf. Wir hoffen mit unserem Experiment die Leser anzuregen, die vorliegende Technologie kritisch zu bewerten und ihre breiteren Auswirkungen auf die Gesellschaft zu berücksichtigen.