Panel

Automatisierte Modellierung: Utopie oder Realität?

Wir sind im Jahr 2030. Kunde und IT-Berater:in stehen am elektronischen Whiteboard ModGenAI und diskutieren eine mögliche Optimierung eines Geschäftsprozesses durch IT. Kaffeepause! Als die beiden von der Kaffeeküche wiederkommen, hat ModGenAI ein erstes vollständiges Modell der diskutierten IT-Anwendung generiert! Utopie oder Realität? Gewünscht?

Dieses Thema der Automatisierung von Tätigkeiten in der Softwareentwicklung durch die Nutzung von KI-basierten Techniken und dem Einfluss auf das Berufsbild von Beschäftigten in der IT-Industrie zeigt eines der heute existierenden Spannungsfelder auf.

• Es geht hierbei um das Spannungsfeld zwischen rein menschlicher Arbeit, Unterstützung durch Assistenzsysteme bis hin zu vollständig automatisierten Prozessen.

Darüber hinaus gibt es eine ganze Reihe weiterer Spannungsfelder, die diskutiert und verstanden werden sollten. Hierzu gehören:

• Ist der Einsatz KI-basierter Systeme ein rein technisches, informatisches Thema oder muss es interdisziplinär, holistisch betrachtet werden?
• Sind KI-basierte Systeme immer beeinflusst durch die Auswahl der genutzten Daten ((un)conscious bias) oder können sie auch auf objektiver, reiner Wahrheit beruhen?
• Ist beim Einsatz von KI-basierten Systemen das Spannungsfeld zwischen Opazität und Transparenz immer zu diskutieren und zu regeln?
• Sollte es hierbei staatliche (nationale, europäische, internationale) Regulierungen oder keine Regulierungen geben?
• Ist zu erwarten, dass die Verfügbarkeit neuer technologischer Möglichkeiten einen großen Einfluss auf das heute Machbare bei KI-basierten Systemen haben wird (etwa Einsatz neuartiger Prozessortechnologien)?
• Ist zu erwarten, dass begrenzte Ressourcen in der Zukunft den Einsatz von KI-basierten Systemen einschränken werden?
• Wird eine durch ein Individuum geforderte Selbstbestimmung der Nutzung von personenbezogenen Daten den Einsatz von KI-basierten Systemen in der Zukunft einschränken?

Diese und weitere Spannungsfelder werden uns in der interaktiven Diskussion von Panelteilnehmer:innen und Wortmeldungen aus dem Auditorium beschäftigen.

Teilnehmerinnen und Teilnehmer

Stefanie Rinderle-Ma

Technical University of Munich

CV

Stefanie Rinderle-Ma is a full professor at the Technical University of Munich, Germany, and holds the Chair of Information Systems and Business Process Management. Her research interests focus on process-oriented information systems, flexible and distributed process technologies, compliance management, as well as production and process intelligence. The overarching goal of her research is to enable and accelerate digitalization and automation through processes and at the same time keep the human in the loop. Application areas comprise manufacturing, transportation and logistics, as well as medicine.

Stefan Ullrich

Leuphana Universität Lüneburg

CV

Stefan Ullrich hat einen Doktortitel in Informatik und einen Masterabschluss in Philosophie. Er setzt sich kritisch mit den Auswirkungen allgegenwärtiger informationstechnischer Systeme auf die Gesellschaft auseinander. Bis 2022 war er Forschungsgruppenleiter am Weizenbaum-Institut für die vernetzte Gesellschaft, wo er jetzt mit der Forschungsgruppe Digitalisierung, Nachhaltigkeit und Partizipation verbunden ist. Seit 2022 arbeitet er für das Civic Tech Lab AI for Environmental Protection (KI-Ideenwerkstatt für Umweltschutz) der ZUG im Auftrag des Bundesumweltministeriums und hat den Lehrstuhl für Medienästhetik an der Leuphana Universität Lüneburg inne, wo er Bilder und Narrative der KI aus kulturwissenschaftlicher Perspektive untersucht.

Friedrich Steimann

Fernuniversität in Hagen

CV

Prof. Dr. Friedrich Steimann, Informatiker, Leiter des Lehrgebiets Programmiersysteme an der Fernuniversität in Hagen, Mitglied im Präsidium der GI, Programmierer und Modellierer mit einer Vergangenheit in KI in der Medizin sowie Computerlinguistik, interessiert an allem, was mit Sprache zu tun hat; vor etwas über einem Jahr kalt erwischt von der Erkenntnis, dass nun auch Maschinen sprechen können, und zwar über alles und das auch noch ziemlich gut.

Statement

Galt bis vor kurzem, dass KI zwar in Spezialgebieten menschliche Intelligenz übertreffen kann, ihr aber das Allgemeinwissen fehlt, das für ihren universellen Einsatz Voraussetzung ist, so hat sich das Verhältnis über Nacht umgekehrt: Kein Mensch hat so viel gelesen und damit so viele Sachverhalte integriert wie ein LLM. Hinzu kommt: Insoweit Sprechen Denken ist, können LLMs nicht nur sprechen, sondern auch denken, und wenn es kein Denken außerhalb von Sprache gibt, dann bleibt wohl nicht mehr viel übrig, mit dem wir uns mit unserer Arbeit über KI erheben könnten. Meine Sorge ist, dass wir uns viel zu sehr mit den offensichtlichen, oft belustigenden Unzulänglichkeiten der generativen KI beschäftigen, nur um uns darin zu bestätigen, dass es zum Glück ja noch uns gibt, die natürlich alles besser wissen und können. Ich habe Zweifel, dass dieser Trost noch lange Bestand haben wird. Vielleicht bleibt uns irgendwann nur noch, die Verantwortung für das zu übernehmen, was eine Maschine für uns erbracht hat und das wir verkaufen wollen. Bei den meisten materiellen Produkten ist das ja schon länger so.

Leitung