speaker-0: KI trifft heute schon Entscheidungen. In Krankenhäusern, Unternehmen, auf den Finanzmärkten. Meist tut die KI das noch unterstützend. Der Mensch hat meistens das letzte Wort. Aber was passiert, wenn das nicht mehr so ist, wenn das kippt? Wenn die Maschine nicht nur schneller ist, sondern vielleicht sogar besser in ihren Entscheidungen, dann ist das keine Zukunftsfrage mehr. Im Militär ist ... genau das heute schon Realität. Und die Antwort auf diese Zukunftsfrage, die mein heutiger Gast gibt, ist relativ unbequem. Vielleicht sind wir nämlich dann moralisch verpflichtet, KI entscheiden zu lassen. Im militärischen Bereich, aber vielleicht, und wir versuchen das heute zu übertragen, auch im Unternehmen. Alexander Müller war verteidigungspolitischer Sprecher der FDP im Bundestag, ist aber auch Diplom-Informatiker und Oberstleutnant der Reserve. Er kennt diese Frage nicht nur aus dem Lehrbuch, sondern aus dem Ausschuss, aus der Truppe und aus der politischen Realität. Herzlich Willkommen, Müller.

speaker-1: Über die Einladung.

speaker-0: Herr Müller, Sie vertreten die These, die vielen Menschen ein unwohles Gefühl macht. KI sollte Entscheidungen über Leben und Tod treffen dürfen. Moralisch geboten ist das vielleicht sogar, sagen Sie. Wie sind Sie zu dieser Überzeugung gekommen?

speaker-1: Das ist einfach die Entwicklung der Realität. Wir sehen es am Krieg in der Ukraine. Dort werden Maschinen eingesetzt. Dort ist der Krieg schon teilweise automatisiert. Und es gibt viele Situationen, in denen die KI bessere Entscheidungen trifft als ein Mensch. Und im Krieg oder überhaupt in militärischen Auseinandersetzungen wollen sie möglichst keine Fehler machen. Wollen sie nicht auf eigene Leute schießen, dass nichts Falsches passiert. wenn sie die Wahl haben, ob ein ein Mensch diese Entscheidungen trifft oder eine KI die Entscheidungen trifft und Sie sehen, dass die KI deutlich deutlich besser ist und weniger Fehler macht, dann kommen Sie logisch zu dieser Schlussforderung, dass wir irgendwann dazu kommen, auch wir in Deutschland, dass KI für uns auch im Militär eingesetzt werden wird.

speaker-0: Okay, versuchen wir diese Logik mal so bisschen nachzuvollziehen tatsächlich, weil das für viele vielleicht gar nicht so logisch erscheint auf den ersten Blick. Vielleicht müssen wir für die Zuhörer erst mal kurz ein bisschen, die ja nicht alle aus dem verteidigungspolitischen Bereich kommen, erklären, worüber reden wir denn überhaupt. Wir sprechen von KI in Waffensystemen. Was gibt es denn da aktuell eigentlich schon in diesen Waffensystemen und wie unterscheidet sich das?

speaker-1: Ach, da gibt es eine ganze Menge. Fast in jedem Waffensystem wird heute oder ist es schon möglich, KI einzusetzen. Man kann sich das am besten vorstellen als Beispiel, warum KI nötig ist, nehme ich ganz gerne den Drohnenschutzschirm oder den Luftschutzschirm Iron Dome der Israelis. Die werden ja oft angegriffen aus ihren Nachbarländern und dann kommen auch gleich tausende Flugkörper gleichzeitig. Das kann ein Mensch gar nicht alleine machen. Das heißt, wenn sie dort sitzen als Verteidiger und wollen ihre Bevölkerung verteidigen und es kommen tausende Flugkörper auf sie zu, brauchen sie Unterstützung. Sie brauchen irgendein System, was Ihnen sagt, dieses Objekt ist besonders gefährlich, weil das ist ein ballistischer Flugkörper, der genau auf die Innenstadt von Tel Aviv zielt. Den müssen Sie mit Priorität bekämpfen und die anderen drei Mini-Drohne, das sind vielleicht nur Attrappen und da kann Ihnen eine KI helfen. Aber wenn Sie mit tausenden solcher Dinge zu tun haben, brauchen Sie Unterstützung und das ist, ich glaube, ein greifbares Beispiel, wo auch Nicht-Militärs ganz gut verstehen. warum man heute in vielen Systemen, auch militärischen Systemen, ohne KI gar nicht mehr auskommt.

speaker-0: Da würde man in so einem Beispiel jetzt natürlich, das ist ja noch moralisch relativ einfach zu bewerten, das ist ein Verteidigungsfall, ich werde also angegriffen und ich schieße ja erstmal nur eine Drohne ab auch einfach. Dabei vielleicht nochmal die Trennung zwischen, ist das KI, was da eine Entscheidung trifft oder ist das nicht einfach eine Regel, ist das nicht ein regelbasiertes System einfach nur?

speaker-1: Es war bis jetzt so, ich weiß gar nicht, ob es mittlerweile schon autonom ist, so ein Flugabwehrsystem. Bis jetzt war es so, dass es einfach Tipps den Bedienern gegeben hat, dass die Bediener eine Priorisierung gesehen haben. Das sind die besonders gefährlichen. Die müsst ihr so und so bekämpfen, immer mit Tipps. Und der Bediener, es war dann dem Bediener frei, ob er das so gemacht hat oder nicht. Und da geht es weniger direktes Leben und Tod, weil diese Flugkörper sind ja unbemannt. Da sitzt ja niemand drin. Das war bis jetzt so. Ich könnte mir vorstellen, das sind natürlich alles militärische Geheimnisse und in die israelische Waffentechnik habe auch ich keinen Einblick, ich kann mir aber vorstellen, dass die teilautonome Systeme haben, die mittlerweile völlig ohne menschlichen Eingriff die Luftverteidigung übernehmen. ist die Menschheit längst so weit und die Israelis sind da auch ganz vorne. Deswegen kann ich mir das durchaus vorstellen. Mich würde es sogar wundern, wenn es nicht so wäre, dass wir da Systeme mittlerweile haben, die das vollautomatisch lösen.

speaker-0: Okay, wir sprechen aber nicht nur über diese Verteidigungssysteme, sondern wir sprechen ja auch aktuell in der Bundesregierung über sowas wie Läutering-Munition. Also das sind Drohnen, an irgendeinem, so wie ich das verstanden habe, an irgendeinem Ort verweilen, eben die Situation beobachten und dann eben auch vielleicht eine Empfehlung aussprechen oder vollautonom einen Angriff dann ausführen, wo es dann auch Leben und Tod geht.

speaker-1: Genau. Das ist das, was wir in der Ukraine schon sehen. Sowohl die Ukrainer als auch die Russen benutzen mittlerweile Systeme, wo die Drohne ihren Auftrag erledigen kann, auch wenn sie den Kontakt zum Bediener verliert. Es ist ja so, dass in der Regel hinter jeder Drohne Bediener sitzt. Der ist meistens 10, 15 Kilometer entfernt, irgendwo im Bunker, steuert die Drohne und der Gegner gemmt. Das heißt, der strahlt stark auf einer Frequenz, mit der üblicherweise Drohnen gesteuert werden. passiert und immer wieder passiert, dass der Bediener den Kontakt zur Drohne verliert. Aber sie können die Drohnen heute so programmieren, dass die ein festes Ziel vor Augen haben, dass die erkennen, das ist ein feindlicher Panzer und genau darauf bin ich abgerichtet und auf den stört sich mich jetzt runter. Also die schalten selber die merken, ich habe den Kontakt zum Bediener verloren, aber ich bin so programmiert, dass ich meine Mission alleine zu Ende führen soll und das machen die. Und die Ja, was heißt Horrorvision, aber die Vision ist ja, und da arbeiten auch viele dran, dass solche Drohnen auch Gesichtserkennung in Zukunft können, gezielt gegen Personen eingesetzt zu werden und das nicht nur im Krieg. Und das ist natürlich etwas, dem wir uns, das ist eine ethische Frage, mit der wir uns auseinandersetzen müssen.

speaker-0: Wie ist die aktuelle Haltung der Bundesregierung dazu?

speaker-1: Die Bundesregierung meines Wissens will autonome Systeme, also vollautomatische Tötungssysteme nicht einsetzen. Das eine ist die rechtliche Lage. Ich gehe fest davon aus, dass es in Deutschland weder der Bundeswehr noch der Polizei erlaubt ist, solche Systeme einzusetzen, die ohne menschliches Zutun selber über Leben und Tod entscheiden. Das ist Artikel 1 Grundgesetz, die Würde des Menschen ist unantastbar. Dieser Artikel steht über allem anderen im Grundgesetz. Das ist sozusagen der heiligste Artikel unserer Verfassung und der sagt, es kann nicht sein, dass Maschinen über Leben und Tod entscheiden. das würden alle Gerichte in Deutschland so sehen. Deswegen ist so ein Einsatz derzeit rechtlich in Deutschland gar nicht möglich. Die Frage ist, ob wir international daran arbeiten, das zu verbieten. Das kann man ja auch machen. Also die sogenannten Laws ist der Fachbegriff. Lesel Autonomous Weapons Systems, also autonome Waffensysteme, die selbst agieren können und selbst wirken können. Da gibt es mehrere Ansätze, die zu verbieten international. Ich war im Unterausschuss Abrüstung. Da haben wir uns sehr stark damit beschäftigt. Alle Parteien des Deutschen Bundestages setzen sich dafür ein für ein internationales Verbot von solchen Systemen. Und wir waren auch in Genf. Da hat die UN ein großes Büro, wo über Abrüstungsfragen entschieden wird. Und da wird auch darüber gesprochen. Aber es gibt zwei Staaten im Wesentlichen, die sehr weit sind in der Forschung mit solchen autonomen Systemen. Das sind China und USA. Und beide haben null Interesse daran, überhaupt darüber zu verhandeln, solche Systeme zu verbieten. Da reden die gar nicht drüber. Solange sie da keinerlei Bereitschaft finden mit den führenden Nationen, die bei dieser Technik besonders führend sind, solange die nicht mit ihnen reden über ein Verbot, werden sie das auch nicht weltweit hinbekommen. Aber das ist die Haltung der Bundesregierung. A, in Deutschland verboten. B. Wir würden es gerne international ächten.

speaker-0: Auf der anderen Seite kauft die Bundesregierung gerade Systeme, die zumindest teilautonom sind.

speaker-1: Das ist richtig, das habe ich auch eben dargestellt. Also Systeme wie, nehmen wir den Flugabwehrschutz, der jetzt nicht direkt über menschliches Leben entscheidet, sondern sie bekämpfen Flugkörper, die auf sie zukommen. Das können sie teilautomatisch machen, wahrscheinlich können sie sogar automatisch machen. Wir kaufen ja auch das RO3-System, das habe ich noch mit entschieden im Bundestag, von den Israelis. Das ist ein Teil dieses Iron Dome von den Israelis. darf nicht verraten, inwieweit er in der Lage ist, heilautonom zu arbeiten. Aber da geht es ballistische Raketen, die im Weltraum bekämpft werden. Da sitzt kein Mensch drin. Das sind keine ethischen Fragen, wo man sich jetzt wegen deutscher Gesetzgebung einen Kopf machen müsste. Wo man sich dann Gedanken machen muss, sind diese neuen Systeme, die wir auch in der Ukraine schon sehen. Das sind diese kleinen Roboter. Die sehen aus wie ein Kleinwagen mit Panzerkette. Da ist ein schweres Maschinengewehr drauf und da sitzt kein Mensch drin. Und die sind auf Schlachtfeld schon unterwegs. Und es gab vor zwei Monaten ein berühmtes Video von den Ukrainen, wie sie gezeigt haben, wie sie vollautomatisch einen russischen Schützengraben erobert haben. Nur mit solchen Maschinen. Und solche Maschinen, die sind in Deutschland rechtlich fragwürdig, solange alle Entscheidungen von Menschen getroffen werden, die zwar an der Fernbedienung sitzen, aber wo ein Soldat dahinter sitzt. gehe ich von aus, dass das legal ist, auch rechtlich in Deutschland möglich ist. Ob die Bundeswehr solche Systeme schon hat oder kauft, bin ich nicht drin. Zu meiner Zeit, ich war bis März letzten Jahres im Verteidigungsausschuss, bis dahin haben wir sowas noch nie geschafft. Ob mittlerweile solche Pläne bestehen, ob sowas beschafft wird, weiß ich nicht. Aber den Einsatz halte ich für denkbar. Und vor allen Dingen, wenn andere Länder die einsetzen, werden wir auch früher oder später nicht darum rumkommen, die einzusetzen.

speaker-0: Genau, ich glaube, da liegt ja auch jetzt die Kernfrage. Jetzt kommt also der Gegner mit genau diesen autonomen Waffensystem auf mich zu und da ist ja schon die Frage, kann ich es mir noch leisten, diese Systeme dann nicht einzusetzen? Was ist Ihre Haltung dazu?

speaker-1: kann ich mir nicht leisten. Ich kann nicht zugucken. Wenn ich eine Bundeswehr mir leisten will, andere Länder abzuschrecken, das mache ich ja nicht, in den Krieg zu ziehen, sondern das mache ich nur, anderen deutlich zu machen, war es erst gar nicht, uns anzugreifen. Wenn aber andere Länder merken, wir haben uns freiwillig technologische Beschränkungen auferlegt, unterlegen zu sein anderen Waffensystemen, dann ist diese Abschreckung weg. Und dann ist die Frage, müssen wir uns überhaupt eine Bundeswehr leisten, wenn andere sehen Die Deutschen können nicht mithalten. Insofern ist das schon eine Frage. Natürlich müssen wir rechtskonform sein mit dem Grundgesetz. Das heißt keine vollautomatischen Waffen. Aber wir müssen uns gegen Wehren können, solche Automaten und müssen gegebenenfalls uns auch Systeme zulegen, die solche Systeme bekämpfen können.

speaker-0: Das heißt es ist aber schon Ihre eigene rote Linie, das sagen Sie auch, vollautomatische Entscheidung nein.

speaker-1: Stand heute ist das so, aber ich bin da sehr nachdenklich, denn ich glaube, wir sehen es. Wenn man sich mal anschaut, Sie beschäftigen sich ja auch sehr stark mit AI, dass wenn Sie heute Wettbewerbe haben zwischen menschlichen Experten auf irgendeinem Gebiet und KI, ist es immer häufiger, dass die KI gewinnt. Die KI ist einfach besser und natürlich haben wir immer Angst vor Softwarefehlern und natürlich gibt es immer Bugs in Software. Aber wenn ich immer wieder teste und merke, die KI ist besser als der Mensch, macht weniger Fehler, arbeitet perfekter, dann muss ich mich auch mit dem Gedanken auseinandersetzen, gegebenenfalls die KI zu nutzen. Auch für solche Fragen. Und dann müssen wir auch in unsere Gesetze eines Tages mal rangehen und müssen uns überlegen, wenn wir KI-Systeme verwenden, selbst wenn es vollautomatische Waffensysteme sind, aber die schützen unsere Bevölkerung besser, die verteidigen uns besser, die machen weniger Fehler als ein Mensch macht. Müssen wir uns diese Frage stellen und damit auseinandersetzen? Ich bin da noch nicht ganz entschieden. Mit dem Stand der Technik heute bin ich noch skeptisch. Aber ich sehe in die Zukunft und ich sehe, dass dass das wird auf uns zukommen. Und ich sehe, dass ich meine Meinung wahrscheinlich in zehn Jahren geändert habe.

speaker-0: Ich frag mich, inwiefern, wenn wir heute über nicht vollautonome Systeme, sondern nur teilautonome Systeme sprechen, das wirklich nur noch ein teilautonomes System ist. Wir kennen das ja aus dem Unternehmenskontext. werden wir also jetzt, wenn wir auf die Munition noch mal gehen, werden also jetzt Ziele vorgeschlagen und ich tippe noch auf Ja. Ich nehme also eine Empfehlung der KI einfach an. Ein anderes Beispiel ist mit dem EU AI Act sicherlich kritisch zu bewerten, weil hoch Risiko KI und so, um das mal bildhaft darzustellen, aufs Unternehmen übertragen, ich kriege 100 Bewerbungen und sagt der KI, schlag mir fünf davon vor. Die KI schlägt mir fünf vor und ich lade diese fünf Personen ein und sage ja, ja, ja und ja fünfmal. Dann habe ich 95 Bewerbungen gar nicht gesehen. Ist das noch eine menschliche Entscheidung? Ist es noch eine menschliche Entscheidung, wenn jemand oder es ist einfach nur noch absegnen, wenn jemand auf ja drückt, bevor die Drohne angreift?

speaker-1: ist eine berechtigte Frage und diese Gefahr sehe ich ebenfalls. Das heißt, wenn Sie eine KI einsetzen und haben hohes Vertrauen in diese KI und Sie üben immer wieder mit dieser KI und stellen fest, die Macht trifft sehr gute Entscheidungen und im Grunde kann ich das alles abnicken, dann kommen Sie irgendwann in den Modus, dass Sie einfach durchwinken und sagen, okay, der Vorschlag ist, auf diesen Panzer feuern wir, das ist mit Sicherheit kein eigener. Wenn die KI das sagt, dann wird das schon stimmen und dann haben Sie so hohes Vertrauen, dass dann im Grunde der menschliche Faktor, den Sie als Kontrolle noch mal haben wollen, dass der quasi ausgehebelt ist, insbesondere in Stresssituationen. Also wenn es wirklich in einer Kampfsituation geht und Sie dann stehen Sie unter richtig Stress, dann winken Sie das einfach durch und die Gefahr sehe ich tatsächlich, dass dann zwar formal ein Mensch dazwischen sitzt, aber in der Realität am Ende die KI die Entscheidung trifft.

speaker-0: Ja, und das ist ja vielleicht schon heute so.

speaker-1: Das kann gut sein, ja.

speaker-0: wir de facto voll autonome Waffensysteme.

speaker-1: Die haben wir quasi. Wir haben in der Theorie immer noch den Menschen dahinter, entscheidet. Der muss sich auch verantworten. Wenn er dann vor das Kriegsgericht gestellt wird, muss der seine Entscheidung am Ende verantworten. Das weiß der auch. Und insofern wird er sich sehr genau überlegen, was er da macht. Aber wenn es zur Routine wird, und das ist zu befürchten, dass es Routine wird, haben sie quasi tatsächlich die KI in der Verantwortung.

speaker-0: Das heißt, es ist am Ende nur noch eine Haftungsfrage, dass da noch einer auf ja drücken muss. Okay, jetzt haben Sie gerade schon gesagt, vielleicht muss man irgendwann dann auch an die Gesetzgebung tatsächlich ran. Jetzt sehen wir in anderen Bereichen, was das Thema AI angeht, eigentlich genau das Gegenteil. Also gerade ja auch im Unternehmenskontext sehen wir mit dem EU-AI-Act gerade in Europa eine ganz, ganz starke Regulierung momentan. Ist das der richtige Weg?

speaker-1: finde ich auch übertrieben. Deswegen sind die Amerikaner auch erfolgreicher als wir, weil die Amerikaner machen erst einmal und wenn die dann feststellen, es gibt Fehlentwicklungen, dann gehen sie hin und bekämpfen die Fehlentwicklungen. Wir machen es umgekehrt. Wir machen uns vorher in den Kopf und verbieten alles Mögliche und behindern damit natürlich auch viele Geschäftsmodelle. Also ich kenne es persönlich zum Beispiel aus dem Bereich Krankendaten, Anonymisierung von Krankendaten, damit zu forschen oder die der Forschung zu nutzen. sind wir Deutschen sehr, sehr streng und das behindert uns sehr stark. ja, das EU-Gesetz, von dem Sie gesprochen haben, ist ähnlich. Da ist man schon vorher mit ganz viel Sorgen drangegangen, hat sehr stark reguliert, ohne mal auf die Erfahrung zu schauen, ob da Missbrauch betrieben wird oder nicht. Und ich glaube, wir schneiden uns damit ins eigene Fleisch. Ich glaube, damit sind wir zu streng mal wieder und zu bürokratisch hier in Europa, wie wir sowieso fast überall sind.

speaker-0: Auf der anderen Seite wird das häufig ja als Wettbewerbsvorteil gerade dargestellt, dass man in Europa eben klare Regeln hat und klar reagieren kann und eben nachher nicht eine Milliardenklage an der Backe hat, was dann das Regulierungssystem in den USA ist.

speaker-1: Da bin ich mir nicht sicher. Selbst mit unserer Regulierung gibt es nachher auch Firmen, die aus Versehen gegen Gesetze verstoßen, weil sie es auf einer Rasierklinge entschieden haben. Darf ich das noch oder darf ich das nicht? Sie kommen ja nicht aus dem Risiko raus, nur weil sie eine strengere Regulierung haben. Ich glaube, wir legen uns da selber Steine in den Weg, weil wir Gefahren sehen, die vielleicht so gar nicht eintreten werden und gar nicht zu Ende gedacht haben, was wir uns damit versperren an Möglichkeiten.

speaker-0: Jetzt haben Sie eben gesagt, wir müssen an die Gesetze ran. Haben wir aber eben auch schon angeführt, dass es da ein Gesetz gibt, was schwer eränderbar ist, nämlich den Artikel 1 unseres Grundgesetzes. Wie passt das zusammen?

speaker-1: Ja, ist so, dass die Systeme, die wir heute haben... die sind nicht weit weg von der Perfektion. Und deswegen würde alleine aufgrund der Möglichkeit, dass da Fehler im System drin sind, zumal ja auch KI-Systeme nicht deterministisch sind. Das heißt selbst wenn sie es durchprüfen, durch und durch und einen Test unterziehen, die lernen irgendwie zwei, drei neue Dinge, völlig anders konfiguriert und verhalten sich anders. Das heißt nicht deterministische Systeme können sie auch nicht auf Herz und Nieren testen. Da ist das Vertrauen einfach nicht da, dass die immer die richtigen Entscheidungen treffen. Deswegen gehen Gerichte heute, ich weiß gar nicht, ob es da Musterverfahren gab, aber ich bin mir sehr sicher, dass da Gerichte immer gesagt haben, kann nicht sein, dass eine Maschine entscheiden darf, überleben oder tot. Ich glaube, es gab mal ein, zwei Musterentscheidungen, ich komme aber jetzt nicht drauf. Ich denke aber, das wird sich ändern in Zukunft, wenn man ... wenn man bestimmte Testkriterien findet oder Schutzmechanismen findet, die ein System so zertifizieren, dass das Vertrauen sehr hoch ist. Ich glaube, das ist möglich. Mein Glaube in die Technik, ich bin ja selbst Informatiker, ist einfach so, wir haben ja in der Informatik gerade mal, wie viele Erfahrungen haben wir da, 40 Jahre Erfahrung oder so und die Entwicklung geht so rasant. Wir werden es beide noch erleben, dass wir Systeme sehen, wo ein ganz hohes Vertrauen rein ist, dass da keine Bugs mehr drin sind oder wenn Bugs drin sind, ganz minimale und genügend Schutzvorkehrungen, Schutzschleifen innen drin, die diese Bugs auffangen, also mehrfach redundante Absicherungen drin sind. dass diese Systeme dann einsetzbar sind. ich glaube, also es ist auf der einen Seite der Artikel 1 Grundgesetz, aber sie haben natürlich einfache Gesetzgebung, die normale Gesetzgebung, die es auch noch gibt. Und ich kann mir vorstellen, dass es kompatibel mit dem Artikel 1 ist. Es geht ja Schutz menschlichen Lebens. Und wenn Sie nachweisen, dass diese Maschine dafür sorgt, dass der Krieg möglichst human geführt wird, dass da also möglichst wenig Kollateralschäden Zivilisten passieren, dass die exakt erkennt, ist der Gegner, dass sie exakt erkennt, dass ich wirklich mit angemessener Reaktion, also nicht sofort aufs Herz ziele, sondern auch mal aufs Knie schieße, den Gegner kampfunfähig zu machen. Dass all solche Dinge eingebaut sind und die Maschine wirklich am humansten arbeitet, humaner als jeder Mensch es in einer Stresssituation könnte. Und wenn der Nachweis gelingt, ist das auch grundgesetzkonform. Und dann sehe ich kein rechtliches Problem, das in Deutschland zuzulassen, solche Sachen.

speaker-0: Also finde genau diesen Aspekt humaner entscheidet als der Mensch, finde ich das sehr interessant und das sehen wir ja auch im Unternehmenskontext tatsächlich heute. Wir sehen das in der Medizin zum Beispiel, wo KI gegen Mediziner antritt und die KI am Ende die bessere Diagnose trifft oder die bessere Behandlungsentscheidung unter Umständen trifft. Und dann muss man sich ja die Frage stellen tatsächlich, ist es nicht vielleicht sogar moralisch geboten, auf die KI zu setzen, anstatt auf den Menschen?

speaker-1: Genau. Und das ist heute noch eine Frage und ich glaube in fünf bis zehn Jahren wird das keine Frage mehr sein, da ist das eine Selbstverständlichkeit.

speaker-0: Jetzt sind Sie Informatiker, Sie saßen im Verteidigungsausschuss. Was haben Sie da erlebt? Da sitzen ja nicht nur Leute, die sich vielleicht so intensiv mit dem Thema KI auseinandersetzen, wie Sie das tun. Ist da genügend Verständnis da bei den Politikern? müssen ja Politiker jetzt Entscheidungen treffen über auch Fragen, die man technisch erstmal verstehen muss.

speaker-1: Am besten kann man diese Frage beantworten an dem Beispiel bewaffnete Drohnen. Wie lange haben wir im Verteidigungsausschuss darüber diskutiert über bewaffnete Drohnen? Wir haben uns von der FDP immer dafür eingesetzt und gesagt, wir müssen das machen. Da sitzt natürlich immer ein Bediener dahinter. Selbst in Afghanistan hatten wir dann am Schluss auch Drohnen gehabt, die wirken konnten. Da sitzt hinter dem Bediener immer ein Rechtsberater. ist ohne Scheiß, ist das so. Der entscheidet am Ende oder berät den Bediener, ob er abdrücken darf oder nicht. Das ist so bei der Bundeswehr. Also Sie haben da immer einen Rechtsberater hinten dran stehen, selbst in solchen Kampfsituationen. Also so ist das bei uns abgesichert. Aber ich erinnere mich daran, wenn Sie diskutiert haben im Verteidigungsausschuss mit Grünen, mit Roten, mit Linken, mit BSW. Dann kamen immer, die haben aus meiner Sicht zu viele Horrorfilme geguckt von autonomen Kampfdrohnen und hatten immer dieses Bild vor Augen und hatten immer gesagt, sowas wollen wir bei der Bundeswehr nicht haben. ohne sich vorstellen zu können, dass die Dinger gar nicht autonom fliegen müssen, sondern dass da ein Bediener dahinter sitzen kann und dass sie sehr, sehr wirksam sein können. Und wir haben immer dafür gekämpft. Wir waren ja damals in Afghanistan und wir hatten damals nur Aufklärungsdrohnen. Aber diese Aufklärungsdrohnen haben häufig gesehen, wenn eine Patrouille von uns, der Bundeswehr durch Afghanistan fuhr und in irgendeinem Dorf hat sich ein Hinterhalt gebildet. Da saßen dann Taliban hinter irgendeinem Gebüsch und haben sich vorbereitet auf den Angriff auf unsere Bundeswehrkolonne. Aber die Drohne konnte nicht. Die konnte nichts machen. Die hat das gesehen. Die hat dann im Zweifel per Funk die Kolonne noch gewarnt. Aber die hätte natürlich im Fall, dass die losgeschlagen hätten, hätte die Drohne wirken können. Und wir haben es verboten. Weil bei uns Kräfte im Parlament immer wieder gesagt haben, oh Gott, will ein Teufelszeug. Was haben wir gekämpft? Wir haben, ich erinnere mich noch in die Situation, ich bin da 17 in den Bundestag gekommen, zwischen 17 und 21 der Wahlperiode haben wir es immer wieder versucht. Ergebnislos. Selbst der Fritz Felgentreu war damals Verteidigungspolitischer Sprecher der SPD. Der ist gegangen wegen dieser Frage, weil er überzeugt war, wir brauchen bewaffnete Drohnen. Aber seine eigene Partei hat ihm immer wieder gesagt, machen wir nicht. Das hat sich schlagartig geändert. Erstmal 21. Wir sind in die Ampelregierung gekommen. Wir haben in den Koalitionsvertrag, waren wir ganz stolz drauf, reingeschrieben, wir werden auch bewaffnete Drohnen anschaffen. Da stand im Koalitionsvertrag der Ampel und der Ukraine kriegte ja kurz darauf nach uns. unserer Regierungsbildung kam, hat dann gezeigt, wie wichtig Drohnen heute im Krieg sind. Heute zweifelt keiner mehr danach. Aber wir haben zehn Jahre lang diese Diskussion geführt. Und das zeigt, wie Ihre Frage ist. Das Technikverständnis der einzelnen Abgeordneten ist da häufig von amerikanischen Filmen eher geprägt als von der Realität. Und das ist leider trauriger.

speaker-0: Jetzt haben Sie gesagt, gab einen Moment, wo dann die FDP auch in die Regierung gekommen ist, 21, wo sich dann nochmal was geändert hat, weil Sie das in den Koalitionsvertrag reinschreiben konnten. Wir haben gerade die gleiche Situation mit diesen Laws, also den vollautonomen Waffensystem. Die sollen also geächtet werden von der Bundesregierung oder auch international. Sie sagen aber selber, in spätestens fünf Jahren ist das nicht mehr haltbar so. Was muss sich da ändern? Also was glauben Sie, was passiert oder was muss passieren in Deutschland, damit sich diese Haltung ändern wird?

speaker-1: Ich glaube, ist de facto, ohnehin, tot die Bemühung des Verbots, weil, wie ich schon gesagt habe, diejenigen, die da am weitesten sind in der Forschung, weigern sich, über ein Verbot zu sprechen. Insofern, es wird formal immer mal wieder aufgerufen in Genf, in der UN, dass wir das gerne verbieten würden. Die anderen gehen nicht darauf ein. Insofern läuft sich das Thema tot. Wir müssen die Entscheidung treffen, wie wir uns gegen solche Systeme verteidigen und mit welchen wie wir uns gegen solche Systeme verteidigen. Wir sehen das jetzt auf den Schlachtfeldern in der Ukraine, dass sowohl Russen als auch Ukrainer sehr große Fortschritte in der Technologie machen. Wir müssen uns überlegen, wie wir uns Auch diese Diskussion hatten wir tatsächlich im Bundestag geführt. Ich erinnere mich da sehr gut dran. Alle Parteien waren sich einig, dass wir Laws verbieten wollen, also autonome Waffensysteme. Aber wir haben uns gestritten über die Frage, ob wir überhaupt Forschung erlauben, sich dagegen zu wehren. Also Forschung an letalen autonomen Waffensystemen, die ja notwendig sind, Verteidigungssysteme zu entwickeln, wie man sich dagegen wehrt. Also für mich ist so ein plastisches Beispiel immer, es gibt so Filme, die finden es auch bei YouTube, wie sie einen Tesla zum Stehen bekommen. Also sie gehen über einen Zebrastreifen, haben ein T-Shirt an mit einem bestimmten Muster drauf und der Tesla, der dann autonom fährt, ist völlig verwirrt, weiß nicht, was ist das da und bleibt einfach stehen und also das sind sehr beeindruckende Filme und das sind Dinge, da müssen wir im Grunde forschen, ein gegnerisches autonomes Waffensystem zu stoppen oder zumindest zu verwirren. Und da erinnere ich mich sehr gut daran, wie die Grünen immer dafür gekämpft haben, das ist Teufelszeug, da dürfen wir gar nicht dran forschen. Habe ich alles erlebt in den Ausschüssen. Ich glaube, die Grünen sind heute auch realistischer und sind da weiter. Aber auch diesen Kampf haben wir sehr lange geführt. Wir haben uns immer dafür eingesetzt, wenn wir uns erfolgreich verteidigen wollen dagegen, müssen wir auch Forschung erlauben daran. Und diese Diskussion haben wir tatsächlich in Ausschüssen geführt damals.

speaker-0: Mein kleiner Exkurs zum Thema Forschung oder Forschung für das Thema Militär, das ist in anderen Ländern ja nicht nur zu einigen eigenen Verteidigungen wichtig, sondern in Teilen ist es auch eine Form von Wirtschaftsförderung. Wenn wir uns jetzt anschauen, was in den USA mit eben auch der Raumfahrt-Forschung oder auch der Militärforschung passiert, wenn wir schauen, wo kommen die großen Entwicklungen, die technologischen Entwicklungen der Vergangenheit her, wenn wir uns das Internet oder Halbleitertechnologie und so weiter angucken, ist das häufig aus Militärförderung auch passiert in Teilen? Ist der aktuelle politische Weg, wie wir in Europa gehen, in Bezug auch auf durch Militärgelder unterstützte Forschung für Sie der richtige?

speaker-1: Ich glaube, dass militärische Waffenproduktion in Europa kein Wirtschaftszweig ist, wie in anderen Nationen, wie USA zum Beispiel. In den USA haben sie fast keine Exportrestriktionen. In den USA wird nur geguckt, ob das Land, in das man exportiert, ob das halbwegs freundlich ist oder nicht, und dann wird es erlaubt. Wir haben wahnsinnig große Exportbeschränkungen. Also in Deutschland ist es so, selbst wenn Sie einen gepanzerten Mercedes oder BMW, der also schusssicher ist, wenn Sie den exportieren, wollen, haben sie eine irre Bürokratie, weil das gilt als Waffensystem oder schutzsicheres Glas. Wenn sie das exportieren wollen, müssen sie Anträge beim Bundeswirtschaftsministerium stellen auf Rüstungsgüter, das fällt unter die Rüstungsgüter Exportkontrolle. wir sind da super streng. haben also exemplarisch in letzten Jahren, wir haben ewig darüber diskutiert, ob wir Eurofighter an Saudi-Arabien liefern. Die wollten welche haben oder einfach nur Küstenschutzboote, die Wir haben die in Wismar bestellt damals und dann haben sie erst die Erlaubnis bekommen, die deutschen Firmen, dass sie die bauen durften und am Ende durften sie nicht exportieren nach Saudi-Arabien. Saudi-Arabien, ein Land, was sich gerade als sehr stabilisierend da unten auch zeigt, die haben die Abraham Accords mit Israel unterschrieben, haben sich also einen israelfreundlichen Kurs hingewandt, haben auch Raketen aus dem Iran abgefangen, die nach Israel geflogen sind. Also wirklich ein Land, was sich positiv entwickelt. Aber wo wir hochnäsig sind und sagen wir... liefern euch keine Rüstungsgüter. Solange sie so strenge Exportkontrollen haben, werden sie niemals mit Militärgütern, auch mit Förderung von Forschung in dem Bereich, damit werden sie nie Geld verdienen, dann müssen sie sich lockerer machen im Bereich Rüstungsexport. Aber das ist natürlich auch wieder eine ethische Frage, man diskutieren muss.

speaker-0: Ich spreche nicht nur über Rüstungsgüter, die als solche erkennbar sind, aber wenn wir in die USA schauen und gucken, was jetzt gerade vor ein paar Wochen durch die Presse ging mit Anthropic, wo ein Vertrag dann nicht verlängert wurde oder ausgelaufen ist, den man mit dem US-Militär hatte, weil man diese Technologie nicht in autonomen Waffensystemen einsetzen durfte, ist das nicht auch eine Form von Wirtschaftsförderung, wenn da Milliardenverträge vergeben werden an Softwarefirmen? ist ja per se erst mal keine Verteidigungstechnik, ... Claude LLM. Es wird aber in den USA als Verteidigungstechnik eingesetzt.

speaker-1: Ja, das stimmt. Sie haben natürlich dann eine Menge Zulieferer wie Softwarefirmen, die dann eben KI bauen, die dann profitieren von solchen Sachen. Aber nochmal dadurch, dass bei uns die Stückzahlen, die dann produziert werden, so gering sind, weil sie es halt einfach nicht exportieren dürfen, zweifle ich daran, dass selbst Zulieferer, die auf Nebenschauplätzen sind, dass die da großartig profitieren, weil sie einfach nie auf Stückzahlen kommen. Wenn sie das zu einem wirklichen Wirtschaftsfaktor machen wollen, dann müssen sie auch Exporte erlauben, Firmen Stückzahlen machen dürfen, damit sich das lohnt. Weil ansonsten investieren die auch nicht. Das sieht man ja jetzt auch. Wir haben Riesenbedarf. Als der Ukrainekrieg anfing, haben wir auf einmal gemerkt, wir haben gar keine Artilleriegranaten mehr. auch die Produktionskapazitäten waren überall weg. Und die Firmen haben natürlich gesagt, ja, wir bauen jetzt neue Werke. Aber nur, wenn ihr uns einen 15-Jahres-Vertrag macht, dass wir also jetzt hier nicht einen Strohfeuer haben, sondern wir müssen da jetzt auch über Jahre eine Produktion haben, damit sich der Business-Case für uns lohnt. Und nur dann investieren die Rüstungsfirmen auch. Das ist dann alles ausgehandelt worden und gemacht worden. Aber das ist halt das Problem bei uns. Sie kommen nicht auf Stückzahlen und damit... Also ich halte das für utopisch zu denken, dass das ein Wirtschaftsfaktor für uns ist.

speaker-0: Der eine oder andere, der Ihnen jetzt draußen zuhört, der wird jetzt sagen, ja, es ist wieder typisch FDP, haben keine Moral. Sie sagen ja, im Grunde genommen können wir uns gar nicht dagegen wehren, dass wir in Zukunft die KI entscheiden lassen oder die KI entscheidet vielleicht am Ende besser. Wo ist Ihre eigene rote Linie? Haben Sie die?

speaker-1: Natürlich. ich glaube, wenn man sich intensiver damit beschäftigt, dann merkt man auch, mir geht es darum. Also erst mal grundsätzlich, wir müssen uns verteidigen können. Natürlich gibt es Leute, sagen, die sind totale Kriegsverweigerer und sagen, Krieg ist so was Furchtbares. Lass uns die Bundeswehr abschaffen. Ist völlig Schnurz, egal was dann passiert. Hauptsache kein Krieg. Denen sage ich ja. Aber in dem Moment, wo wir so was machen, kommt Putin hier nach Deutschland. Der hat immer gesagt, er will sein altes Sowjetimperium und seine Sowjetmacht wieder haben. Ostdeutschland war damals unter Moskauer Knute. dann haben wir in Berlin, wenn wir Glück haben, Sarah Wagenknecht, wenn wir Pech haben, Björn Höcke als Bundeskanzler. Ob das dann das Wert ist, dass man sagt, auf gar keinen Fall Krieg, und dass bei uns dann Menschen aus dem Fenster fallen, die sich gegen die Regierung äußern, so wie das in Russland der Fall ist, das ist nicht mal in Deutschland. Und deswegen sage ich grundsätzlich ... Auf die Diskussion kann man führen, aber grundsätzlich müssen wir verteidigungsbereit sein. Wir müssen unsere freiheitliche, demokratische Grundordnung in der Lage sein, verteidigen zu können, unser freiheitliches, demokratisches Leben leben zu können, wie wir es wollen. Auch das kann man schon diskutieren. Und wenn man da sich mal einig ist, dann würde ich auch sagen, wenn wir das machen, dann will ich uns möglichst effektiv verteidigen. Also ich will modernste Technologie haben und ich möchte ... eine humane Kriegsführung haben, also mit möglichst wenig Einsatz, mit möglichst humanen Mitteln nur die Wirkung erzielen, die notwendig ist, unsere Ziele zu erreichen. Also ein Feind kommt, will uns angreifen, ich setze dem einen Schuss vor den Bug, möchte möglichst wenig Leben zerstören, aber deutlich machen, keinen Schritt weiter, bleib stehen, du brauchst hier gar nicht hinkommen. Und das muss das Ziel sein, eine möglichst opferfreie Verteidigung. Angriffskrieg können wir sowieso keinen führen. Verbietetes Grundgesetz gibt es überhaupt nicht. Es geht darum, wie verteidigen wir uns möglichst effektiv und möglichst human und mit möglichst wenig Opfern. Das ist meine tiefe Grundüberzeugung und dafür werbe ich auch. Ich glaube auch, das hat nichts damit zu tun, dass man frei von Moral ist. Ich glaube, da sind sogar starke moralische Grundsätze drin. Wenn man sagt, wir wollen nicht modernste Technologie nutzen und lassen uns darauf ankommen, dass der Feind uns überlegen ist, dann werden wir unsere Soldaten verheizen. Ich bin ja selber einer. Das kann es doch nicht sein. Wer will denn dann motiviert in die Bundeswehr gehen, wenn er weiß, wir sind einem potenziellen Feind deutlich unterlegen, technisch unterlegen und wir werden verheizt da an der Front. Da kriegen sie doch keine Soldaten dahin.

speaker-0: Ich versuche Ihre Position noch genauer zu verstehen zwischen Sie sagen, wir können uns eigentlich keine Moral leisten, weil die anderen es auch nicht tun, oder es ist eigentlich moralischer, dass wir auf diese Technologie setzen.

speaker-1: Ja, ist moralischer, dass wir auf diese Technologie setzen, weil das Ziel, habe ich ja gesagt, muss doch sein, dass wir möglichst wenig Opfer, möglichst wenig Verluste im Krieg haben. Und ich finde, das ist keine moralisch angreifbare Position. Ich finde, ist ethisch eine absolut gute Position. Also ich fühle mich völlig im Recht mit dieser Position.

speaker-0: Versuchen wir das mal auf Unternehmen zu übertragen tatsächlich. Wenn wir also sagen, die Maschine trifft eigentlich bessere Entscheidungen, zumindest in solchen Stresssituationen, in vielen Situationen, in denen ja, sagen wir mal, ein Chirurg oder so, der da operiert und gerade eine Notsituation hat, ist er vielleicht genauso in einer Stresssituation, trifft eigentlich die besseren Entscheidungen. Ist es da nicht so, dass menschliche Führung insgesamt noch ein Übergangsmodell ist?

speaker-1: Das glaube ich nicht, weil ich denke, wenn Sie das jetzt mal übertragen auf Unternehmen und sagen, Ihr Management ersetzen Sie jetzt mit irgendeiner künstlichen Intelligenz, dann fahren Sie das Risiko, dass alle Firmen die gleichen Entscheidungen treffen. Und wirklich erfolgreiche Firmen sind dadurch Disruption entstanden. Und ich habe Zweifel, dass KI in der Lage ist, solche disruptiven Entscheidungen oder solche Ideen, wie es ein Bill Gates hatte, wie es ein der Apple-Gründer hatte, wie es Elon Musk hatte. wirklich Visionen, wie sieht die Welt in 20 Jahren aus? Was habe ich für tolle IT-Projekte oder insgesamt Projekte, wie ich die Welt voranbringen kann? Das glaube ich nicht, dass das von einer KI im Management entschieden werden würde. Ich glaube, wenn alle Unternehmen ihr Management mit KI ersetzen würden, würden die alle ... kaum Wettbewerbsvorteile erreichen, weil die ähnlich ticken würden, weil ähnliche Entscheidungen getroffen würden und die Disruption einfach fehlt. Ich glaube, dass KI für Disruption, weiß ich nicht, also vielleicht eines Tages mal, aber heute verbinde ich jetzt mit KI nicht Disroposition.

speaker-0: Ich bin gespannt, wo das hingeht, ob eine KI nicht nachher dann auch einen Steve Jobs ersetzen kann. ich glaube, ist eine Frage, vielleicht ist es eine Frage der Zeit, bis wir die erste große KI-Innovation da draußen sehen und das erste große KI-Produkt, was aus den Gedanken einer KI stammt.

speaker-1: Alles ist möglich. Ich kann es mir noch nicht ganz vorstellen, aber vielleicht ist das so. Kann passieren. Aber darum würde ich mir am wenigsten Sorgen machen. Also dass gute Manager durch KI ersetzt werden, das sehe ich im Moment noch nicht.

speaker-0: Okay. Aber wie sehen Sie es, wenn Sie es auf ein Unternehmen übertragen? Sie sind selber auch selbstständig tatsächlich. Wenn Sie es auf ein Unternehmen übertragen, gibt es dafür Sie rote Linien oder würden Sie auch sagen, erlaubt ist das, was funktioniert und wo die KI die besseren Entscheidungen trifft? Nehmen wir mal Beispiel, HR, Recruiting, Entscheidungen. Ist das der richtige Weg, hier auf KI zu setzen?

speaker-1: Das kommt drauf an. glaube... Wenn eine KI, wie Sie es als Beispiel genannt hatten, die Bewerber Vorauswahl macht und vorsortiert, müssen Sie schon sehr, sehr hohes Vertrauen in Ihre KI haben. Und ich glaube, es gibt ein paar wirklich gute HR-Recruiter, die einfach Lebenserfahrungen haben, wo eine KI noch nicht ganz mitbekommt, die einfach Dinge sehen in einer Bewerbung, die Sie aus Ihrer Lebenserfahrung sagen, Mensch, der ist divers, der bringt etwas mit, was ich mir wünsche, was die KI vielleicht noch gar nicht auf dem Schirm hat. Da glaube ich schon, dass da ein guter, ein erfahrener HR-Manager das kann. Klar, die KI wird das eines Tages auch lernen. Irgendwann wird auch die KI sämtliche Nuancen kennen und das machen. Bin ich im Moment noch skeptisch. Ich glaube, Stand heute ... müsste ich mir das angucken, müsste ich ein sehr hohes Maß an Vertrauen entwickeln in eine KI, weil ich, wie Sie es richtig gesagt haben, 95 Bewerbungen auf Seite lege und mir gar nicht angucke und vielleicht wirkliche Rohdiamanten gar nicht rauspicke. Und da muss mein Vertrauen in die KI schon sehr groß sein. Denkbar halte ich das, dass eine KI irgendwann so erfahren, so gut ist, dass sie das so gut macht wie ein Mensch. Also einen moralischen Fehler sehe ich da jetzt nicht.

speaker-0: finde es unglaublich spannend zu sehen, wie Sie das in dem für Sie eher fremden Bereich, das Personalwesen, ja, das wird sich noch entwickeln müssen, da gibt es Menschen, die sind sicherlich kompetenter, weil die Lebenserfahrung mitbringen. Im militärischen Bereich könnte ich ja diese Argumente genauso bringen. Da gibt es also erfahrene, kriegsführende Menschen, die viel, besser Entscheidungen treffen können, als das die KI kann. Aber da sind Sie weniger skeptisch. Warum?

speaker-1: Es gibt einen Unterschied dazwischen, weil sie in einer Kriegssituation, in einer Stresssituation, insbesondere wenn tausend Flughörper auf sie zufliegen, anders entscheiden, als wenn sie zwei Wochen Zeit haben, diese 100 Bewerbungen durchzugucken. Das ist schon mal ein Unterschied. Aber ich gebe Ihnen recht, ich bin kein erfahrener HR-Mensch, ich kenne mich damit nicht so gut aus. Ich kann mir durchaus vorstellen, dass es gute KI gibt, die mittlerweile wirklich alle Nuancen und irgendwelche Spezialkenntnisse, auch irgendwelche Windungen, einen Nebensatz, der eine Bewerbung besonders erfolgreich macht, dass auch eine KI sowas rausfinden kann. gebe Ihnen den Punkt

speaker-0: Okay, also das heißt auch schon heute ist es die richtige Entscheidung, KI in der Kriegsführung tatsächlich einzusetzen und nicht erst in fünf Jahren.

speaker-1: würde ich auf jeden Fall sagen, weil wir ansonsten technologisch wieder abgehängt werden. Genauso wie wir uns bei bewaffneten Drohnen künstlich zehn Jahre zurückkatapultiert haben durch falsche Entscheidungen in Berlin, wo wir jetzt aufholen müssen, würde ich dafür plädieren, dass das, was rechtlich geht, dass das jetzt auch getestet und genutzt wird bei der Bundeswehr, damit wir auf Augenhöhe bleiben mit potenziellen Angreifern. und das Wissen einfach haben in der Bundeswehr und nicht wieder technisch Jahre zurücklegen und das alles aufholen müssen.

speaker-0: Ist das irgendwas, wo Sie sagen, da überschätzen wir KI?

speaker-1: Dafür bin ich zu technikaffin.

speaker-0: Glauben Sie, dass wir in fünf Jahren hier sitzen und sagen, wir haben damals gedacht, das wird in fünf Jahren gehen? Sie sagen ja ganz oft, und das sagen ja ganz viele meiner Gäste auch, ja in fünf Jahren wird das alles überhaupt kein Thema sein. Kann es vielleicht auch sein, dass wir rückblickend sagen, wir haben der Technologie zu viel zugetraut?

speaker-1: Ich sehe eine Gefahr, ich bin im Moment sehr froh, dass es einen großen Wettbewerb im Bereich KI gibt. Nehmen Sie mal andere Dinge, wo es Monopole gibt, wie Betriebssysteme, Microsoft ist quasi ein Monopol. Natürlich gibt es viele Leute, die Linux nutzen, aber auf dem Standard-Desktop ist nun mal ein Monopol. Ich bin sehr, froh, dass es da einen breiten Markt gibt an KI, auch ein fähiger KI. Das wäre tatsächlich eine Sorge, dass wir in Zukunft Monopolisten haben oder zwei Firmen haben und die vielleicht politisch geprägt sind. die ja ideologisch sehr stark geprägt ist, Einfluss bekommt. Zum Beispiel, jetzt nehmen wir mal Elon Musk, der ein Stück weit verbandelt ist mit der US-Administration, der ja auch eine KI betreibt. Das würde mir Sorgen machen, wenn der nachher ein Monopol im Bereich KI hätte, weil das natürlich auf die Bildung, auf soziale Medien, wie wir beeinflusst werden, einen Einfluss hätte. Aber deswegen bin ich sehr froh. dass wir eine breite Vielfalt haben. das wäre eine Sorge, ich hätte, dass wir natürlich in der Entwicklung vielleicht zum Beispiel durch Gesetzgebung oder durch andere Maßnahmen in eine Richtung kommen, dass wir dann nachher auf einmal ein Monopol haben. Das würde mir tatsächlich Sorgen machen. Ansonsten, solange es breiten Wettbewerb gibt, viele verschiedene gute KI's gibt, auch eine große Auswahl gibt, ich jetzt keine Technik-Sorge, die mich jetzt speziell sorgt.

speaker-0: Frage ist, ob wir nicht aus Sicht der Bundesregierung bereits ein Monopol haben. Weil, wo wird denn KI entwickelt? Natürlich gibt es in den USA mehrere Firmen, die das entwickeln, aber es sind eben alles US-Firmen. Und dann stelle ich mir natürlich die Frage für mein autonomes Waffensystem, welche KI setze ich denn dann ein?

speaker-1: Das ist tatsächlich eine gute Frage. Das muss dann ohnehin ein KI-System sein, was nicht unter fremder Beeinflussung ist. Das heißt, Sie müssen genau gucken, wie lernt dieses System? Da müssen sie einen Einfluss drauf haben und natürlich auch, dass da andere ihr Wissen nicht abgreifen können, weil das wäre eine ziemliche Katastrophe, wenn ihr potenzieller Gegner das Wissen der LLM abziehen würde. Da muss man in der Tat sehr stark aufpassen. man sollte auch die deutschen Firmen nicht unterschätzen. der Klassiker ist Aleph Alpha, werden Sie kennen. Auch meine Kollegin Nicole Büttner, Generalsekretärin der Bundesrepublik. FDP ist sehr stark engagiert in der KI-Szene. Wir haben in Deutschland eine gute KI-Landschaft. Wir haben nicht die großen Firmen hier, die den großen Umsatz haben, aber wir haben eine Menge KI-Wissen. Ich habe an der Universität Kaiserslautern studiert. hatten schon Ende der 80er, Anfang 90er Jahren gab es ein Zentrum, das Deutsche Forschungszentrum für Künstliche Intelligenz an der Uni Kaiserslautern. Und da ist auch richtig geforscht worden. habe da auch mal, das war jetzt nicht mein Studien Schwerpunkt, aber wir sind in Deutschland gar nicht so schlecht. Wir vermarkten es nicht. nicht so gut. Aber wir haben eine Menge Potenzial und wissen hier... Da würde ich mir jetzt weniger Sorgen... Wir sind in ganz anderen Dingen abhängig von den USA. Nehmen Sie jetzt gerade die Entscheidung, dass wir die Tomahawks nicht kriegen. Das ist Technologie. Oder die F-35, die wir jetzt kaufen, der modernste Kampfflieger der Welt. F-Cast, das ist ja unser Projekt, wo wir den Franzosen den Next Generation Kampfjet bauen wollten. Steht kurz vorm Scheitern. Das heißt, da sind wir auch von den Amerikanern abhängig. Es gibt verschiedene Felder. wo wir von den Amerikanern abhängig sind. sehe das bei der KI noch nicht so. glaube, es gibt eine Menge Initiativen hier in Europa, europäische KI isoliert hier in Europa zu bauen. Da mache ich mir keine großen Sorgen, dass wir uns da in Abhängigkeit begegnen.

speaker-0: Ich mache mir da schon Sorgen, weil wir schon sehen, was passiert in der europäischen Zusammenarbeit. Wir sehen so Projekte wie GaiaX, die ja gerade vor die Wand fahren. Es gibt ein Nachfolgeprojekt, es soll in den Industrial AI investiert werden. Da sprechen wir über Summen. Ich hatte gerade einen Gast hier vom Eco-Verband, der mir gesagt hat, ja, schau mal, da haben wir ein eigenes LLM hier in Europa entwickelt. Da haben wir 200 Millionen reingesteckt. Ja, fantastisch, 200 Millionen. Wenn wir uns anschauen, über wie viele Milliarden oder was immer für eine Einheit da drüber kommt, wir in den USA sprechen, dann ist schon die Frage, ob wir uns nicht abhängig machen von diesen Technologien. Oder nehmen wir ein anderes Beispiel. haben gerade in der Ukraine sehen wir, dass man dort auf ein Kriegsbetriebssystem von der Firma Palantir setzt, wo man ja auch gerade in Deutschland entschieden hat, dass man das nicht kaufen wird, weil man sich dann in Softwareabhängigkeit begibt von eben einem fremden Staat unter Umständen. Das ist die richtige Entscheidung?

speaker-1: Steck ich zu wenig drin, hat Vor- und Nachteile. Ich würde es mir auf jeden Fall mal angucken. wir in Hessen, ich komme ja aus Hessen, die Landesregierung nutzt ja Palantir. Das ist sehr umstritten. Aber auch da bin ich nicht final entschieden. Es hat Vorteile und Nachteile. Also ich weiß zu wenig über dieses System. Ja, es ist eine Datenkranke, es sammelt sehr viele Daten. Aber solange das Gesetz ist konform ... benutzt wird, ist das für mich okay. Die Frage ist tatsächlich, ob wir uns an eine Abhängigkeit begeben, aus der wir da irgendwann nicht mehr rauskommen und auf Jahre immer wieder an die Firma Palantir gebunden sind und nicht mehr von denen wegkommen. Ist eine Gefahr in der Tat auf der anderen Seite, solange es die Technologie gibt und es eine gute Technologie und die Polizei sagt, wir können damit gut arbeiten. noch sind die USA ein befreundeter Staat und ich glaube auch nicht, dass sich das grundlegend ändern wird in den nächsten Jahren. ist ja auch immer das Problem, das habe ich auch bei der Bundeswehr immer gefragt, ich bin ja in der Cyberabteilung und auch da wir haben ja Netzwerkkomponenten, Firewalls zum Beispiel, die unsere Netze schützen oder auch kritische Komponenten. Wir haben so Schnüffelsysteme, die in unseren Netzen drin sitzen, aufzuspüren, ob irgendjemand versucht da aktiv zu werden. Das sind fast alles amerikanische Systeme und ich habe die auch mal gefragt, die haben doch bestimmt Backdoors, da gibt es doch bestimmt Generealschlüssel, wo andere reinkommen. Dann gucken die sich alle verlegen an und sagen, ja ist so. Aber dann nutzen wir lieber Systeme von Freunden, wo wir im Zweifel wissen, dass die nichts Schlimmes damit machen, wenn die an solches Wissen rankommen. Aber ja, es ist nun mal so. Wir werden immer Abhängigkeiten haben von anderen. Das ist nun mal so. Und dann müssen wir uns sehr genau überlegen, wie gehen wir damit

speaker-0: Das ist eine sehr ehrliche Einschätzung, ich. Weil genau, wir sehen es ja auch in anderen Bereichen, wo wir versuchen, digitale Souveränität zu erreichen. Dann werden hier von einer Schwarzgruppe zum Beispiel in Deutschland Rechenzentren aufgebaut, die natürlich dann in Deutschland stehen, wo aber dann eine Orchestrierungssoftware drauf läuft, die von einem US-Hersteller eingekauft wird. Da ist ja auch die Frage, wie viel Souveränität ist dann da?

speaker-1: Ich würde das auch nicht so nationalistisch sehen, denn Sie haben natürlich auch Firmen in Deutschland, die manchmal Firmenchefs haben, die merkwürdig ticken. Es gibt einen großen Milchkonzern aus dem Allgäu, der einer rechten Partei sehr nahe steht. Wenn das jetzt ein Softwarehersteller wäre, würden Sie dessen Software mehr vertrauen? Schrausch auf eben. Das sind schwierige Entscheidungen, die man treffen muss, aber sie werden nie die Garantie haben, dass sie da ein System kaufen, mit dem sie über viele Jahrzehnte keine Probleme haben werden. Man muss es immer von Mal zu Mal entscheiden. Schwierig, ja.

speaker-0: Herr Müller, vielen, Dank für den Einblick heute. Und ich hoffe, der eine oder andere hat vielleicht aus dieser, ja, im Militär noch viel, bedeutenderen Frage, was darf KI eigentlich entscheiden und wo brauchen wir noch den Mensch, den einen oder anderen Gedankenanstoß heute sicherlich mitgenommen. Vielen, Dank und ja, Ihnen und Ihrer Partei weiterhin viel Erfolg.

speaker-1: Danke für die Einladung. Und wir arbeiten dran, dass wir wieder parlamentarisch werden. Danke fürs Daumen drücken.

speaker-0: Alles klar. Danke.