Künstliche Intelligenz und Verbraucherrechte im Spannungsfeld zwischen Regulierung und Innovation

„Ich freue mich, dass wir gemeinsam mit der Arbeiterkammer Wien namhafte Expertinnen und Experten aus der Wirtschaft, Verwaltung, Wissenschaft und Verbraucherschutzorganisationen gewinnen konnten, mit uns heute in der RTR das Thema Künstliche Intelligenz aus Nutzersicht zu betrachten. Wir werden diskutieren, ob der AI Act der Europäischen Union etwaige Anforderungen und Bedürfnisse der Verbraucher:innen ausreichend abdeckt“, sagte Klaus M. Steinmaurer, Geschäftsführer der RTR für den Fachbereich Telekommunikation und Post, am Beginn einer hochkarätig besetzten Fachveranstaltung in der RTR. Moderiert wurde die Veranstaltung durch den Technikfolgenforscher Walter Peissl (KI-Beirat).

Wolfgang Ebner (Bundeskanzleramt) betonte zur Begrüßung, dass eine gute Evidenzbasis für die Auswirkungen von KI-Anwendungen auf Konsumentinnen und Konsumenten geschaffen werden muss, wie etwa im Rahmen von zwei derzeit laufenden Studien gemeinsam mit dem BMSGPK. 

In ihrer Keynote beleuchtete Christiane Wendehorst (Universität Wien) den AI Act mit seinen Stärken und Schwächen in Hinblick auf das Zusammenwirken mit anderen Rechtsakten und den darin enthaltenen Verbraucherschutzbestimmungen, die hauptsächlich Grundrechte und Gesundheit adressieren. 

Dass seitens des Bundes das Verhältnis zwischen „KI“ und Verbraucher:innen bereits in vielen Projekten erarbeitet und berücksichtigt wird, führte Maria Reiffenstein (Bundesministerium für Soziales, Gesundheit, Pflege und Konsumentenschutz) aus. So arbeitete das BMSGPK etwa aktuell an Leitfäden zum Art 86 AI Act („Recht auf Erläuterung“).

Aus der deutschen Außenperspektive betonte Miika Blinn (Verbraucherzentrale Bundesverband, Deutschland) die Wichtigkeit, dass die nach dem AI Act einzurichtende Zentrale Marktüberwachungsbehörde auch einen niederschwelligen Zugang für Verbraucher:innen bieten soll. Der Auftrag an den nationalen Gesetzgeber sei es, die Spielräume entsprechend auszuschöpfen, um nicht nur Unternehmer-, sondern auch Verbraucherinteressen entsprechend zur berücksichtigen.

In der anschließenden Diskussionsrunde berichtete Marco Blocher (noyb) über seine Erfahrung mit der Durchsetzung von Datenschutz- und Verbraucherrechten gegenüber Hyperscalern wie Meta und Daniela Zimmer (Arbeiterkammer Wien) darüber, wie schwierig es oft ist, den Einsatz von KI-Systemen überhaupt erst nachweisen zu können. Aus Behördensicht wies Andreas Zavadil (Datenschutzbehörde) auf die bereits jetzt bestehenden Rechte der Datenschutzgrundverordnung (DSGVO) hin, die auch in Zusammenhang mit KI-Systemen weiterhin gelten.

In einer sehr praxisorientierten Keynote zeigte Niki Popper (Technische Universität Wien) anhand von Beispielen aus der Coronazeit, über den Ausbau von erneuerbaren Energien sowie die Stärkung der lokalen Gesundheitsversorgung, wie Verbraucher:innen von Datennutzung profitieren können, und wie wichtig KI-Kompetenz in diesem Zusammenhang ist.

Dass Künstliche Intelligenz und Grundrechte nicht unbedingt im Widerspruch stehen müssen, betonte auch David Reichel (Agentur der Europäischen Union für Grundrechte, FRA) und gab einen Überblick über den Grundrechtsschutz des AI Acts und die aktuell laufenden Tätigkeiten der FRA.

Praxisnah blieb es auch im abschließenden Panel. Verbraucher:innen profitieren bereits heute vom KI-Einsatz im Bankwesen, sei es durch effizientere und schnellere Abläufe, sei es durch eine bessere Erkennung von und Schutz vor Betrugsversuchen, betonte Philipp Nagel (Raiffeisen Bank International AG). Auch im Personalwesen werden KI-Systeme immer häufiger eingesetzt. Sie können beispielsweise im Bewerbungsprozess beim Job-Matching helfen und viele Fragen von Bewerber:innen bereits vorab beantworten – so Stefan Perklin (PWC). Dass der Einsatz von KI allerdings nicht nur positive Effekte mit sich bringt, betonte Louise Beltzung (ÖIAT), denn KI bietet der Kriminalität neue Spielwiesen und Betrugsversuche werden dadurch immer professioneller.

„KI als Werkzeug hat das Potenzial, viele Abläufe zu beschleunigen und Verbraucher:innen ganze neue Möglichkeiten zu eröffnen. Eine genaue Aufsicht und niederschwellige Beschwerdemöglichkeiten sind aber notwendig, damit hier Innovation und Verbraucherschutz im Gleichgewicht bleiben“, resümierte Klaus M. Steinmaurer, „mit der KI-Servicestelle leisten wir hier eine Beitrag, bereits vor Inkrafttreten des AI Acts eine zentrale Anlaufstelle zu bieten.“

Informationen zum AI Act, zu kommenden Veranstaltungen und zur Arbeit der KI-Servicestelle sind unter https://ki.rtr.at veröffentlicht.