Mit der wachsenden Verbreitung von KI-Technologien, sei es in unseren Smartphones, der Automobilbranche oder dem Gesundheitswesen, stellt sich auch die Frage nach deren Zuverlässigkeit: Können wir den Lösungen oder Aussagen einer Künstlichen Intelligenz vertrauen? Und wie können wir sicherstellen, dass sie in unserem Interesse und im Einklang mit unseren Werten handelt?
Darüber spricht Moderator Leon Stebe in der neuen Folge "Künstliche Intelligenz – Eine Frage des Vertrauens" des Wissenspodcasts "Neuland" mit Professor Bert Arnrich, Leiter des Fachbereichs Digital Health – Connected Healthcare am Hasso-Plattner-Institut (HPI) und Orhan Konak, Doktorand und Wissenschaftlicher Mitarbeiter am Lehrstuhl sowie Mitarbeiter am EU-Projekt WideHealth.
Künstliche Intelligenz ist auf Mustererkennung spezialisiert und birgt daher großes Potenzial für das Gesundheitswesen. Beispielsweise um Krankheiten schneller zu erkennen und Befunde zu analysieren. Bereits heute ist die KI Ärzt:innen dabei in Genauigkeit und Geschwindigkeit manchmal überlegen. "Der Grund dafür ist häufig, dass diese KI-Systeme mit Millionen von Patientendaten trainiert worden sind – so vielen, wie ein Arzt in seinem ganzen Leben nicht zu Gesicht bekommt," erklärt Professor Arnrich. Die Verantwortung über die vorgeschlagenen Diagnosen der KI tragen jedoch weiterhin die Ärzt:innen. Um in solchen Fällen der Aussage der KI vertrauen zu können, ist es wichtig, dass die Ärzt:innen nachvollziehen können, wie die KI zu ihrer Diagnose kommt.
"Explainable AI" heißt dieses Konzept, das KI – nicht nur im Gesundheitswesen sondern in all seinen Anwendungsgebieten – transparent und nachvollziehbar und damit vertrauenswürdig machen soll. "Das System soll uns, wenn es beispielsweise ein Bild bekommt, nicht nur sagen, was es darauf erkennt, sondern es soll uns zeigen, welche Bereiche des Bildes wichtig waren, um diese Entscheidung zu treffen," so Prof. Arnrich. Ein Sichtbarmachen des Entscheidungsprozesses hilft uns, zu prüfen, ob wir dem Ergebnis vertrauen können.
Um das Bewusstsein dafür zu schärfen, warum vertrauenswürdige KI wichtig ist und wie sie möglich wird, veranstaltet das HPI vom 14.-17.03. die WideHealth Winter School on Trustworthy AI. Die Registrierung für die Veranstaltung, in denen es in Vorträgen und Übungen rund um das Thema KI und Vertrauen geht, ist kostenlos möglich unter https://widehealth.eu/widehealth-winter-school-on-trustworthy-ai/.
Fundiertes Wissen über die digitale Welt, anschaulich und verständlich erklärt – das bietet der Wissenspodcast "Neuland" mit Experten des Hasso-Plattner-Instituts (HPI) unter: https://podcast.hpi.de, bei iTunes und Spotify. Einmal im Monat sprechen sie bei Neuland über aktuelle und gesellschaftlich relevante Digitalthemen, ihre Forschungsarbeit und über Chancen und Herausforderungen digitaler Trends und Entwicklungen.
Kurzprofil Hasso-Plattner-Institut
Das Hasso-Plattner-Institut (HPI) in Potsdam ist Deutschlands universitäres Exzellenz-Zentrum für Digital Engineering (https://hpi.de). Mit dem Bachelorstudiengang "IT-Systems Engineering" bietet die gemeinsame Digital-Engineering-Fakultät des HPI und der Universität Potsdam ein deutschlandweit einmaliges und besonders praxisnahes ingenieurwissenschaftliches Informatikstudium an, das von derzeit rund 800 Studierenden genutzt wird. In den fünf Masterstudiengängen "IT-Systems Engineering", "Digital Health", "Data Engineering", "Cybersecurity" und "Software Systems Engineering" können darauf aufbauend eigene Forschungsschwerpunkte gesetzt werden. Bei den CHE-Hochschulrankings belegt das HPI stets Spitzenplätze. Die HPI School of Design Thinking, Europas erste Innovationsschule für Studenten nach dem Vorbild der Stanforder d.school, bietet jährlich 300 Plätze für ein Zusatzstudium an. Derzeit sind am HPI 22 Professorinnen und Professoren sowie über 50 weitere Gastprofessoren, Lehrbeauftragte und Dozenten tätig. Es betreibt exzellente universitäre Forschung – in seinen IT-Fachgebieten, aber auch in der HPI Research School für Doktoranden mit ihren Forschungsaußenstellen in Kapstadt, Irvine, Haifa und Nanjing. Schwerpunkt der HPI-Lehre und -Forschung sind die Grundlagen und Anwendungen großer, hoch komplexer und vernetzter IT-Systeme. Hinzu kommt das Entwickeln und Erforschen nutzerorientierter Innovationen für alle Lebensbereiche.
OTS-ORIGINALTEXT PRESSEAUSSENDUNG UNTER AUSSCHLIESSLICHER INHALTLICHER VERANTWORTUNG DES AUSSENDERS. www.ots.at
(C) Copyright APA-OTS Originaltext-Service GmbH und der jeweilige Aussender. HPI Hasso-Plattner-Institut