Im Interview mit dem Hardthöhenkurier fordert Frank Leidenberger, CEO und Sprecher der Geschäftsführung der BWI GmbH, eine intensive Diskussion um ethische Aspekte von Künstlicher Intelligenz.
Sehr geehrter Herr Leidenberger, das Leitthema der AFCEA Fachausstellung 2023 ist Künstliche Intelligenz und Innovationen und konkrete Nutzungsmöglichkeiten für die Bundeswehr. Welche Bedeutung haben Innovationen und KI als Schlüsseltechnologie für die Bundeswehr und damit für die BWI? KI kommt im militärischen Bereich in immer größerem Maße zum Einsatz. Dies lässt aktuell auch der Krieg in der Ukraine erkennen, etwa bei Drohneneinsätzen, der Auswertung von Social-Media-Daten oder der Erstellung täuschend echter Deepfakes. Kurz gesagt: KI beeinflusst schon heute den Ausgang militärischer Konflikte. Als primärer Digitalisierungspartner der Bundeswehr haben wir als BWI die Aufgabe, auch mit Blick auf KI die Einsatz- und Führungsfähigkeit der Bundeswehr zu erhöhen. Künstliche Intelligenz bietet enorm viele Anwendungsmöglichkeiten, beispielsweise bei der Datenauswertung. Bei der Entwicklung von IT-Lösungen für die aktuellen Herausforderungen der Bundeswehr im Cyberraum spielen wiederum die Entwicklung und Erprobung von passgenauen IT-Innovationen eine große Rolle. Unser Innovationsverständnis lautet „Innovativ by Design“. Was heißt das? Innovationen fließen in unsere Lösungen ein. Also: Nicht Innovationen um der Innovation willen, sondern da, wo sie die Einsatzund Führungsfähigkeit der Bundeswehr erhöhen.
Sich auch den ethischen Fragen stellen, fordert Frank Leidenberger im Gespräch mit Burghard Lindhorst. (Foto © Björn Trotzki)
Einsatz- und Führungsfähigkeit in allen Lagen: Wie sichert die BWI im Sinne digitaler Souveränität den Zugang für die Bundeswehr? Digitale Souveränität definieren wir momentan so, dass wir nicht alles selbst machen müssen, aber für alles eine eigene Bewertungsfähigkeit haben. Wir entscheiden, welche Technologie von welchem Provider wir nutzen, weil wir verstehen, wie es funktioniert. Es gibt Open Source Software, die im Netz verfügbar gemacht wird. Da es viele Nutzer gibt, geht man davon aus, dass sie ein hohes Maß an Sicherheit haben. Nichtsdestotrotz braucht man, wenn man sie anwenden will, eine Stelle, die sie bewertet und qualifiziert. Wir haben das am Beispiel des Bw Messenger gemacht. Wir haben ein offenes Protokoll namens Matrix genommen, es mit eigenen und den Entwicklern der Firma auf unsere Bedürfnisse angepasst und den Messenger so sicher gemacht, dass er eine BSI-Zulassung für VS-NfD bekommen hat. Das ist der Weg nach vorne, der auf dem Software-Layer dafür sorgt, dass wir hinreichend souverän sind.
Stichwort „Zeitenwende“: Welchen Einfluss hat die veränderte sicherheits- und geopolitische Situation auf die BWI und ihre Aufgaben? Als IT-Dienstleister der Bundeswehr müssen wir die IT in Krise und Krieg gewährleisten. Die Bundeswehr kann das, was wir tun, nicht mehr einfach ersetzen. Wir sind integraler Bestandteil des IT-Systems und haben unser Zielbild weiter so geschärft, dass das, was wir machen, immer grüner wird. Wir betreiben schon jetzt IT-Systeme für die Bundeswehr in den Einsätzen, beispielsweise beim Luftumschlagpunkt in Niamey in Niger. Auch eine Unterstützung im Baltikum für die VJTF ist geplant. Die BWI wächst im grünen Bereich, und das in der Rechtsform einer GmbH. Das wirft manchmal Fragen nach unserer Verlässlichkeit auf. Aber wir wissen, was wir tun, und alle Mitarbeiterinnen und Mitarbeiter sind genauso da wie die Soldatinnen und Soldaten. Wir sind genauso resilient und einsatzwillig wie andere, halt ein Spiegelbild der Gesellschaft. Die BWI durchläuft also den Wandel vom „Herkules-ITLieferanten“ hin zum IT-Systemhaus und primären Digitalisierungspartner der Bundeswehr in Frieden, Krise und Krieg.
Apropos Spiegelbild unserer Gesellschaft: Die ist ja nicht besonders durchdigitalisiert … Ja, genau. Digitalisierung der Streitkräfte ist ein Megathema. Wir sind teilweise schlechter als in der Wirtschaft, wo der Handlungsdruck deutlich höher ist, um Gewinn zu erzielen. In der öffentlichen Verwaltung kennen wir nur den Mittelabfluss und machen keinen modernen Controlling-Ansatz, schauen eher auf Sparsamkeit. Das behindert die Digitalisierung, bei der man erst einmal eine Investition leistet, denn man muss neue Software entwickeln, braucht neue Server und vieles mehr.
Ein weiterer Aspekt: Wenn man Digitalisierung richtig versteht, geht es nicht um Mensch-Maschine- Interfaces. Gute digitale Prozesse laufen im Hintergrund ab, brauchen eigentlich keine Menschen mehr. Sicherlich muss am Anfang ein Mensch ein Programm schreiben und Daten eingeben. Aber wenn es gut integriert ist, funktionieren Prozesse deswegen so gut, weil sie ohne Mensch-Maschine- Interface auskommen. Dann sind wir digital, dann hilft es bei der Wertschöpfung. Da sind wir für die Bundeswehr in der Perspektive der Kill Chain. Nicht zuletzt müssen wir damit umgehen, dass wir wahrscheinlich nicht mehr Soldaten haben werden als die derzeit rund 180.000. Es sei denn, wir führen die Wehrpflicht wieder ein. Aber wollen wir wirklich, dass unsere Söhne und Töchter auf dem Schlachtfeld fallen, nur weil wir keine Hochtechnologielösungen zulassen?
Der Fachkräftemangel ist seit Jahren allgegenwärtig – vor allem im IT-Sektor. Wie wollen Sie hier Wachstum generieren? Als IT-Dienstleister ist organisches Wachstum in der aktuellen Zeit natürlich kein Selbstläufer. Trotzdem haben wir es in den letzten sechs Jahren geschafft, um den Faktor 4,2 zu wachsen – das heißt, wir haben rund 4.000 neue Kolleginnen und Kollegen an Bord geholt. Wer bei uns arbeitet, leistet einen direkten Beitrag zur Arbeit der Bundeswehr und zum Schutz der Bundesrepublik Deutschland. Weil dieser tiefere Sinn in der Arbeit und spannende Aufgaben allein aber nicht reichen, haben wir uns zum Ziel gesetzt, der modernste Arbeitgeber im öffentlichen Sektor zu werden. Diesen Weg gehen wir konsequent. Wir prüfen natürlich auch, wo wir selbst automatisieren können. Der ganze IT-Betrieb zielt ja grundsätzlich immer darauf, möglichst viel zu automatisieren, weil es nicht nur Menschen spart, sondern eigentlich auch verlässlicher läuft. Ein händisch aufgesetzter Server ist wesentlich störanfälliger als die Cloud als hoch automatisiertes Bereitstellungssystem.
Von der ersten Minute an ein zentraler Anlaufpunkt: der Stand der BWI. (Foto © Lindhorst)
Bei „hoch automatisiert“ kommen wir wieder an den Anfang des Interviews zurück. Ist das im ITBereich der Bundeswehr überhaupt bis zur letzten Konsequenz gewollt? Die BWI erhält ihre Aufträge von der Bundeswehr, nach Recht und Gesetz geprüft. Alle Punkte, die man diskutieren könnte, ob sie genutzt werden sollten oder nicht, wie etwa KI für autonome Waffensysteme, auf die die Bundeswehr ja verzichten will, sind dann schon entschieden. Wir würden solche Aufträge gar nicht bekommen. Ich persönlich glaube allerdings, dass sich diese Haltung ändern wird, weil sie sich ändern muss. Wer dediziert auf fortschrittliche Technologien verzichtet, wird auf dem Gefechtsfeld nur zweiter Sieger sein. Ich meine, dass wir als BWI Künstliche Intelligenz als wesentlichen Baustein für autonome oder automatisierte Systeme sicher machen müssen. Wir würden gewährleisten, dass sie ausschließlich das machen, für das sie programmiert wurden. Darin sehe ich eine große Aufgabe für die Zukunft. Da gibt es verständlicherweise auch viele ethische Fragen. Automatisierte Waffensysteme töten Menschen. Die KI hilft dabei. Aber was machen denn die Soldaten im Kriege? Etwas anderes? Das sind Diskussionen, die noch lange nicht zu Ende geführt sind. Ich erinnere mich an Afghanistan mit der Diskussion um die Bewaffnung von Drohnen.
Unter dem Aspekt „Digitale Ethik von Künstlicher Intelligenz“ sollten wir diskutieren, wie wir die Systeme so bauen, dass sie unseren Wertevorstellungen folgen. Da gibt es technologische Ansätze im Produktionsprozess. Wenn man KI programmiert, kann man diese Fragen berücksichtigen. Aber KI ist nicht deterministisch. Wenn sie 100.000-mal eine Lösung abfragen, kommt nicht 100.000-mal das gleiche raus. Das ist eine besondere Herausforderung. Aber ein Mensch ist auch nicht fehlerfrei. Es wird keine Maschine geben, die Grausamkeiten begeht, es sei denn, man hat ihr das einprogrammiert. Das ist eine Frage der Software. Meine Position ist ganz klar: Es wird passieren. Wenn wir es nicht machen, die anderen machen es bestimmt. Wenn wir nicht mithalten, werden wir im Nachteil sein. Wir sollten zeigen, dass wir es können, allein schon aus Gründen der Abschreckung. Schauen wir auf die Ukraine: Wäre sie in der NATO oder hätte sie nicht ihre Nuklearwaffen abgegeben, hätte sie über ein wirksames Abschreckungspotenzial verfügt und eine russische Regierung wäre sicherlich zu einem anderen Risikokalkül gekommen. Ich finde, wir müssen diese Diskussionen offener und aggressiver führen. Das reine Wiederholen der Verteidigungsanstrengungen aus den achtziger Jahren, wo wir wirklich top waren, wird uns nicht siegfähig machen. Für Abschreckung müssen wir zumindest in der Perzeption des Gegners als siegfähig erscheinen. Wenn wir uns mit diesen Fragen nicht auseinandersetzen, sondern dies ethisch-ideologisch in die Ecke legen, werden wir wie bei vielen anderen Dingen überrascht sein, was die Welt um uns herum so macht.
Sehr geehrter Herr Leidenberger, vielen Dank für das interessante Gespräch!