Beim Diskussionsforum der Ev. Kirchengemeinde ging es am 17. März 2019 um Künstliche Intelligenz (KI), ein Thema, das den Walldorfern im wahrsten Sinne nahe liegt. Matthias Kaiser, selbst seit 21 Jahren beim Walldorfer Softwarehersteller tätig, begrüßte den Referenten Guido Wagner, einen Vordenker für Digitale Ethik, der bei der SAP an KI Projekten mitarbeitet. Im Zentrum der Diskussion stand die Frage: Wer trägt die Verantwortung, wenn Entscheidungen an Computerprogramme delegiert werden?
Die Programme oder Algorithmen der KI werden durch große Datenmengen trainiert und verbessern sich dadurch selbst. Sie treffen Entscheidungen aufgrund von Wahrscheinlichkeiten oder erlernten Fakten-Mustern. Wagner nannte als Beispiele für heutige Anwendungen individuell zugeschnittene Werbung, den Finanzhandel, Cyber-Attacken und die Entwicklung autonomer Waffen.
Und er wies auch auf Gefahren und Fehlentwicklungen hin. Chat-Bots die rechtsradikal werden oder Flugpreise, die nach einem Hurrikan durch die Decke gingen. Der IT-Experte machte deutlich: Maschinen können Notlagen nicht erkennen und den Kontext nicht erfassen.
Sozialpädagogin Antje Valouch vom Punktsieben-Team erfährt bei ihrer Arbeit, dass viele Menschen Ängste entwickeln. Ihre Befürchtung ist, dass sich das Miteinander verändert, wenn man nicht mehr weiß, ob man mit einem Menschen oder mit einer Maschine spricht. Ob ‚Alexa‘ und ‚Siri‘ sich dumm stellen, damit wir keine Angst vor ihnen haben, fragte sich der 21-jährige Informatik-Student Jonas Lehmann. Er ist besorgt, dass wir wenig tun können gegen große Server, wenn die KI zu mächtig ist. Wagner antwortete mit einer Anekdote. Ein Kollege habe ihm sein neues Auto gezeigt und mit ihm über Flaschenhalter für den Rücksitz gesprochen. Am nächsten Tag habe er Werbung für Flaschenhalter auf seinem Account vorgefunden. „Wir werden an ganz vielen Stellen beobachtet, ohne es zu wissen“, stellte er fest.
Dass die Wirtschaft gegen Regulierung sei habe man bei der Auseinandersetzung um die Datenschutz-Grundverordnung gesehen, bemerkte Stefan Karcher, wissenschaftlicher Mitarbeiter an der Theologischen Fakultät Heidelberg. Wirtschaftlichkeit vertrage sich nicht mit Ethik, bemerkte er und fragte nach den Entscheidungen, die KI trifft. Wer übernimmt die Verantwortung? Wer haftet? Nach Wagner ist das keine Aufgabe der Softwareentwickler. Das müsse der Gesetzgeber entscheiden. Der Theologe gab zu bedenken, ob es nicht etwas zu einfach sei, über Ethik zu diskutieren, aber die Verantwortung nicht zu übernehmen? Wagner betonte, dass wir bei der KI vorab sicherstellen müssen, dass Ethik eingebaut wird. Es könnte sonst zu spät sein.“