Jakob Steinschaden: Hallo und herzlich willkommen bei Wasener und Steinschaden, deinem allerliebsten KI-Podcast. Mein Name ist Jakob Steinschaden, Mitgründer von Trending Topics und der allerbeste Co-Moderator Sitzbereit und er heißt wie immer

Clemens Wasner: Clemens Wasner, Gründer von Enlight und Vorsitzender von Air Austria. Und ja, by the way, Jakob, welcome back to Austria, weil du warst hier letzte Woche unterwegs, du hast doch relativ viel gepostet für deine Verhältnisse, weil sonst schreibst du Artikel, du bist nicht sorgfüff auf LinkedIn. viel aus ihnen, wie war es in Taipei?

Jakob Steinschaden: Taipei in Taiwan war super, tolle Reise. habe mich gefreut und bestätigt, dass ich die Einladung dorthin angenommen habe zur InnoTech Expo in Taipei. War ganz cool und irgendwie hat mich meine Recherche, These dorthin geführt in der Annahme, dass wenn Taiwan quasi so ein Chip-Gigant ist, also so 70 bis 80 % aller KI-Chips, also von Nvidia, auch von Apple, Google, Broadcom, wie sie alle heißen, die werden eigentlich in Taiwan hergestellt und meine These war so, wenn die Chips so gut können, dann müssten die ja quasi in Sachen KI-Modelle und so weiter auch stark unterwegs sein. Vielleicht einmal so ein sanfter Einstieg ins Thema. Wie schaut es dort aus? Genau, ja, das war mein erster Stopp.

Clemens Wasner: Ha, den kennt man ja.

Jakob Steinschaden: am Foodmarket am Abend. Und auf wen trifft man da? Leider nur als Bild und nicht in Person, aber Chen Sen Huang, selbst gebürtiger Taiwanese, ist ein Riesenstar dort. wenn der bei einem Würstelstand und Co. auftaucht, dann wird er sofort natürlich fotografiert und dann am nächsten Tag gleich in der Werbung mitgenommen. Also die Black Pork Sausages, die hat er dort genossen und der Standler dort, der wirbt jetzt mit Jensen Hoang, also dem Nvidia CEO, auf seinem Stand. Man kann sagen, es ist verkaufsfördernd. Ich habe mir dann auch gleich so eine Wurst gegönnt. War ziemlich gut.

Clemens Wasner: Das wäre sehr gleich meine erste Frage gewesen. Die wichtigste Info wie was? Würstchen.

Jakob Steinschaden: Würstchen ausgezeichnet und generell Essen in Taiwan, schwere Empfehlung. Wie soll man sagen, dort ist quasi das Best of Chinas auf einer kleinen Insel versammelt und hat dann noch obendrauf sehr deutliche Einflüsse der japanischen Küche, der ich sehr geneigt bin. Also es war ein Festessen und zwar jeden Tag.

Clemens Wasner: quasi das Kerntenasiens, wie du es beschreibst.

Jakob Steinschaden: Ja, aus deiner Sicht absolut, genau. So ist es ja. Aber ich war nicht nur zum Essen dort, sondern habe mir eben auch viel in Sachen Technologie angeschaut. Und vor so einer Reise tritt man mit unterschiedlichen Thesen an. Eine war eben davon, also wenn die so gut bei KI-Chips sind, dann müssten sie ja auch bei KI-Modellen und Co. bei Software stark sein, hat sich herausgestellt, dem ist eigentlich nicht so. Also TSMC, also der große Chip-Hersteller aus Taiwan, der macht so 70 % plus aller KI-Chips da draußen, also von Nvidia über Google bis Apple und Amazon und so weiter. Dann gibt's noch MediaTek, auch eine große Firma dort. Aber es ist dann doch so, dass sie halt diese Hardware gut können. aus unterschiedlichsten Gründen, aber bei Software eigentlich die gleichen Probleme haben, wie wir hier in Europa. Da auch einige Startups, Projekte, universitäre, technische Projekte dort getroffen und naja, was soll man sagen? Also wenn die mit KI arbeiten, dann bedienen sie sich entweder den amerikanischen Modellen, auch im Bereich von Open-Way, also Whisper von OpenAI zum Beispiel bei Spracherkennung. Oder bei den chinesischen Modellen, Startup getroffen, die heißen Silicon Mind, die bedienen sich den Gwen Modellen von Alibaba aus China. ja, zeigt auch, naja, dass auch in einem Land, wo eigentlich die KI-Chips herkommen, eigentlich auf der Softwareseite die gleichen Thematiken, die gleichen Probleme sind wie in Europa. Also die haben keine eigenen AI-Labs. keine großen EIL Labs, die LLMs selbst herstellen. Das heißt, sie müssen sich eben in China oder den USA bedienen. Und in Sachen digitaler Souveränität ist man dort einen gehörigen Schritt weiter. Bei uns dreht sich das ja ganz stark eben Themen wie KI und so weiter, Software. Dort, wenn man über Souveränität spricht, ist man sofort im Defenstech, also im Militärtechnikbereich. Die große Aufgabe, die sie dort haben, aktuell ist, eine sogenannte Non-Raid Supply Chain herzustellen. Also was heißt das? Eine kinafreie Lieferkette in den Bestandteilen, denen Militärtechnik gebaut wird. Also Beispiel Drohnen. Da ist man dort daran, vom Akku bis zum Antriebssystem, also eine kinafreie Drohne herstellen zu wollen. Hat man dann auch schon geschafft. Also eine wurde ausgestellt, die Da hat man gesagt, die ist zu 98, 99 Prozent frei von chinesischen Bestandteilen. Und das ist ihnen natürlich besonders wichtig, weil China und ein möglicher Angriff auf die Insel, schwebt dort wie ein Damokles-Schwert über dieser kleinen Nation. Da gibt es ja auch US-Geheimdienste, die sagen, dass 2027 soweit sein wird. da ist man ordentlich unter Druck. Da werden natürlich auch die Verteidigungsausgaben raufgefahren und es wird versucht, möglichst viel bei nationalen Produzenten eben von Drohnen zum Beispiel einzukaufen. Aber die bauen sich auch ihre eigenen AR-Helme, also dass die Soldaten, in einem Panzer drin sitzen, so eine Durchsicht haben, quasi durch die Panzerwände, wenn man so will, durchsehen können. Genau im Drohnenbereich. gibt so Drohnenabwehrsysteme, die KI-gesteuert sind, also die in der Luft anfliegende feindliche Drohnen automatisch erkennen und verfolgen können sollen und so weiter und so fort. Also einigermaßen skurril, uns eins ist gewohnt irgendwie so von asiatischen Messen, dass man dort niedliche Roboter und so weiter sieht. Die sieht man dort auch, aber drei Meter weiter steht dann ein Panzer. die, genau, die Bedrohung Chinas ist auch auf so einer Hightech-Messe sofort zu spüren.

Clemens Wasner: Ich finde den Punkt mit Digital Sovereignty interessant, den du erwähnst. weil stimmt, bei uns ist das eigentlich im Vergleich dazu wirklich auf einer sehr soften Ebene, diskutiert wird. mir erinnern, Anfang des Jahres habe Buch gelesen über die Glasfasernetze weltweit, die Unterseekabel, die verlegt werden. Das heißt The Web Beneath the Waves. Und dort interviewt der Autor auch die in Thailand, also von Militaire bis Telcos. Und die sagen, sie haben eigentlich jetzt auch schon seit knapp 20 Jahren auch so Vollpack-Szenario, was passiert, wenn sie komplett abgenabelt sind von Untersee-Kabel und Satelliten gestört sind. Also das ist eigentlich schon so Setting, wie man es von Biosphere 2 kennt oder ähnliche Setups. Also was ist, wenn es thematisch abgeriegelt ist?

Jakob Steinschaden: Genau, also dort bereitet man sich konkret auf dieses Szenario vor. Ich habe da auch schon mal auf Training Topics einen größeren Artikel geschrieben, ebenso 2027, 2028, das sind so die gefährlichen Jahre vor ihnen. Also die rechnen halt da wirklich mit konkreten Angriffen, in welcher Form auch immer, seitens China. Und sie sind sich halt dann unter der Trump-Administration dann auch nicht mehr so 100 % sicher, dass die USA einspringt, wenn es soweit ist. Und deswegen wollen sie sich halt mit eigener Technologie und eigenen Systemen so gut wie möglich darauf vorbilden.

Clemens Wasner: Naja, Geopolitics, aber aktuell gibt es hier ein Thema, was damit wirklich auf Augenhöhe spielt. Also same, same but different. Nämlich befinden wir uns jetzt, nachdem wir die letzten paar Episoden, in den letzten zwei bis drei Monaten ist es vermehrt Cybersecurity-Inzidenz gegangen, da war der Hugging-Face-Inzident. Dann das Graz-Abort, das Wiki, das gehackt, wo sich Agenten ausgetauscht haben. Die Woche hat sogar Google, sogar muss man sagen, sogar Google hat mittlerweile schon Meldungen. das ist so quasi, mittlerweile hat jedes AI Lab mindestens drei Inzidenz reportet. Was da jetzt aber im Windschatten total viel Fahrt aufgenommen hat, ist die Diskussion von Pacing the Frontier. Damit ist gemeint, dass die AI Labs entweder durch freiwillige Selbstkontrolle, aber lieber hätte man natürlich externe Kontrolle, ein bisschen kürzer treten bei der Weiterentwicklung von KI und erst dann, wenn sichergestellt ist, dass KI-Systeme aligned sind, also quasi, sie tatsächlich das tun, was man ihnen sagt und sie auch nicht nur vorgeben, das zu tun, dass nur dann quasi der Rollout passieren kann. Das ist wieder mal ein Thema, an sich wirklich jeder zu Wort meldet. ist unglaublich. Du hast da die Zitate zusammengesammelt in einem Artikel. Und ich hab da vor mir unten unseren Google Doc drinnen. Da steht de facto jede Person und jede Einrichtung drinnen, die wir so in den letzten zwei Jahren jemals angesprochen haben in unserem Podcast. Das ist unglaublich.

Jakob Steinschaden: Genau, gehen wir es vielleicht mal ganz kurz durch. Also wir haben das mal zusammen gesammelt, wer was sagt. Also, Auslöser der Debatte war Dario Amodei, CEO von Entropic, das haben wir ja schon öfter diskutiert. Also der ist eben mit diesem Pacing the Frontier Blogbeitrag rausgegangen und hat da unter anderem gefordert, dass es unabhängige Prüfer geben soll für die KI Labs, gemeinsame Sicherheitsstandards vor allem innerhalb der demokratischen Welt. und zusätzlich ein Abkommen mit China, das in den Griff zu kriegen, weil ohne China geht es nicht. Wie wir schon oft gesagt haben, die Open-Weight-Modelle fast auf Augenhöhe mit den Top-Modellen Ostern-USA. Die muss man natürlich da auch reinpacken, weil sonst macht das alles keinen Sinn. Und kontrovers, der will auch eine Kartellrechtsausnahme für die ERI Labs. Also natürlich, klar, wenn sich die alle absprechen und quasi ein gemeinsames Vorgehen und gemeinsame Sicherheitsstandards und so weiter. dann braucht es theoretisch so eine Kartellrechtsausnahme, weil in anderen Fällen könnte man SpaceX und OpenAI und Entropic vorwerfen, naja, ihr habt quasi einen Kartellgebilde, sprecht sich ab, was auf den Markt kommt, wie viel es kostet, was es kann, was es nicht kann, und dafür will eine Kartellrechtsausnahme. Sam Altman von OpenAI hat dem Prinzip zu gestimmt und wird auch demnächst UN-Sicherheitsrat ist bezüglich die Politiker-Briefing. Elon Musk hat sich dem auch angeschlossen. Demis Hazabis von Google Deep Mind hat auch gesagt, und das kennen wir aus Österreich, die Richtung stimmt, so in die Richtung.

Clemens Wasner: Das ist meistens schlecht, wenn das Zitat kommt.

Jakob Steinschaden: Ich glaube Satya Nadella von Microsoft ist dem ganzen auch nicht abgeneigt und auch Ursula von der Leyen EU Kommissionspräsidentin hat diese KI-Bremse unterstützt und hat die EILabs zu Gesprächen nach Brüssel eingeladen. so und die Gegenseite hat sich auch sofort formiert. Unter anderem Mark Zuckerberg von Meta hat einige nicht unwahre Worte gesprochen,

Clemens Wasner: Ja, ja, absolut. Also er wie auch viele, die jetzt quasi gegen die Bremse sind, argumentieren damit, dass man jetzt versucht, einen regulatory capture move zu machen. quasi die drei Laps, aktuell gerade führen, sich die Regeln schreiben und validieren lassen oder Zulassungssysteme einführen etc. und das alle anderen außen vor bleiben. Sackenberg bringt im Spiel, dass die dass auch heutzutage die Labs das schon machen könnten. Niemand hält die Labs davon ab, Thema Haftungen und Sicherheit anzugehen. Weil es wird ja, das ist ja bei alle anderen Produkte genauso. Also

Jakob Steinschaden: Mmh.

Clemens Wasner: auch wenn jetzt zum Beispiel für eine Produktkategorie noch keine spezifische Regulierung quasi in Gesetz oder Regulierung gegossen wurde. Also gibt es trotzdem, nennen wir es den Hausverstand, was du auf den Markt bringst und was nicht. Und bei diesen Systemen ist es halt so, ja, im Endeffekt, verkürzt, wie gibt es, Mark Zuckerberg, die Anthropics und Open AI's dieser Welt kommen her, bitte reguliert sie uns, weil wir sind zu arm, wir haben gerade ein System gebaut, mit zehnprozentiger Wahrscheinlichkeit die Menschheit auslöschen kann. Und damit schalten sie eigentlich ihren eigenen Hausverstand vollkommen. oder sie nehmen sich selbst aus der Gleichung raus und ihre eigene Verantwortung.

Jakob Steinschaden: Was mir bei Mark Zuckerberg ganz gut gefallen hat, ist, dass er sagt, man will ja, dass die KI-Agenten von den Usern genutzt werden und die User verwenden die nur, wenn die machen, was sie ihnen sagen und wenn die dann irgendwie ausbrechen und was hacken und so weiter und so fort, wäre das nicht im Interesse der User. Also muss es im Interesse der Anbieter sein, dass die auch genauso gut funktionieren, wie sie funktionieren sollen. Also der Markt wird schon selbst regeln. Mark Zuckerberg, ein klarer Befürworter dieser These. Jensen Huong meint auch, da sind keine neuen Gesetze notwendig und man könnte Security und Tempo ja schon irgendwie zusammenbringen. Und der sagt natürlich auch und da hat er schon immer wieder darauf hingewiesen, es ist halt ein globaler Wettbewerb und in den USA müsste man so schnell wie möglich entwickeln und laufen, weil eben in China wird auch nicht auf die Bremse getreten. Donald Trump sieht das ähnlich. hat ja schon von sich als High-IQ-Präsident gesprochen und im selben Art dem Zug gemeint, er eben so sieht, wer bei KI gewinnt, der gewinnt alles und dementsprechend könnten die USA jetzt nicht einfach aufs Gas betreut steigen, schon gar nicht, wenn China nicht mitmacht. Aus dem chinesischen Außenministerium hat es dann auch gleich geheißen, so eine Bremse ist malicious competition. die sehen halt so, naja, die Amerikaner wollen eigentlich nur uns ausbremsen und nicht sich selbst und den Vorsprung behalten, den sie jetzt haben. Und das sei dann eben panikmachende US-Konzerne, die jetzt herumlaufen und sagen, dieses und jenes im Cybersecurity-Bereich sei passiert und deswegen müsse man jetzt auf die Bremse steigen und genau

Clemens Wasner: Genau, und in dem Kontext, also man sieht so schön, wie sich der Diskurs entwickelt. Also Dario Amode preist vor, Sam Altman sagt wie üblich Ja, Aber und dann kommen fünf Zeilen im Nachsatz, oder im Gliedsatz. Und die Gegenseite, halt für Open Models und gegen Regulatory Capture ist. Und was aber interessant ist, wir hatten letzte Wochen schon drinnen, dass der Trump meint, braucht keine Bremse oder braucht jetzt strengere Regulierung. Und da wir es jetzt von der zeitlichen Nähe interessant gefunden, dass gestern der Alex Carp, also der Palantir-Founder und CEO ein Interview gegeben hat, in dem er sagt, er sieht keinen anderen Weg als eine Verstaatlichung von Open AI und Anthropic. Und zwar argumentiert er damit, Das Schadenspotenzial davon ist de facto unendlich und der Einzige, das garantieren kann, ist der Staat. Das ist genauso wie, du würdest nicht das komplette Straßennetz verstaatlichen, also soll es privatisieren und eine private Firma könnte für alle Unfälle haften, die auf Straßen prinzipiell möglich sind.

Jakob Steinschaden: Mhm.

Clemens Wasner: Was da jetzt so interessant ist, das Interview ist gestern, und jetzt könntest sagen, das ist ein Ausreiser, Ausreiser gibt es immer. Aber direkt gestern Abend amerikanischer Zeit hat Treasure Secretary Scott Besant noch nachgeschossen und gemeint, die Verantwortung für diese ganzen Hacking-Inzidenz, die liegt einzig und allein bei OpenAI, was natürlich auch Unlimited Liability impliziert.

Jakob Steinschaden: Mhm.

Clemens Wasner: Naja, das wird… Mit dem IPO wird es tatsächlich interessant, worauf das hinauslaufen wird. Wir hatten das schon einmal thematisiert, Hugging Face, es handelt sich hier eine kritische Einrichtung. Dass die gehackt wurde, das ist für manche lustig, für manche unschön, für manche interessant, aber es ist zu keiner Klage gekommen. Ab dem Zeitpunkt, wo Open AI einen IPO hingelegt hat. können die verklagt werden, wie sie lustig sind, weil aktuell gerade das Dafürhalten der US-Administration ist, ob er dafür Sorge zu tragen dass die Agents nicht a rock gehen.

Jakob Steinschaden: Eine Forderung seitens Hack'n'Face gibt es, die wollen 100 Millionen Dollar für diesen Hack und zwar halt nicht in Form von Cash, sondern in Form von Computer, also selber KI-Modelle ausführen und berechnen zu können. Aber 100 Millionen Dollar sind halt 100 Millionen Dollar, also da geht es dann schon viel Geld. Vielleicht noch ganz kurz die europäische Perspektive, da sitzt man so ein bisschen in der Mitte zwischen den USA und China und eigentlich würde man meinen die Europäer sagen, aber klar gehört das reguliert, wir haben ja schon den AI Act und den könnte man ja dann auch irgendwie weltweit anwenden oder den als Grundlage nehmen und darauf diese KI-Bremse, diese KI-Regulierung draufbauen. Aber eigentlich gar nicht so, seitens Mistral hat man so durchklingen lassen, dass die großen AI Labs in den USA das nur nutzen wollten, ihre Marktposition einzuzementieren. Auch bei Hackingface, ist ein halbfranzösisch-amerikanisches Startup, jetzt mittlerweile im Besitz von Nvidia, die sagen, man muss eigentlich beschleunigen, anstatt zu bremsen. Bei Black Forest Labs, deutschen Startup im Bildgenerierungsbereich, meint man, das würde eher die Neueinsteiger, also quasi auch sie selbst, härter treffen als die etablierten Labs und vor allem im Open-Wates, im Open-Source-Bereich wäre das nachteilig. ja, auch bei Proton, das ist jetzt kein KI-Anbieter in dem Sinn, aber die wittern halt auch eigene Interesse der US-Labs, ihre Marktposition zu zementieren. Genau. In Deutschland, Digitalministerium, die einen Entwicklungsstopp auch für nicht gangbar, weil KI ist eben ein Wettbewerbsfaktor, aber zumindest unterstützt man so die Idee einer KI-Aufsicht und genau in Frankreich wiederum, wir haben es ja schon gesagt, da bietet man eben Eigeninteresse der US-Anbieter und so weiter und so fort. Genau, also das sind so ein bisschen so die Fronten und das sind sehr skurrile Fronten, weil die führenden US Die Labs, wollen sich regulieren lassen und alle anderen wollen sie nicht regulieren. Ich glaube, in anderen Branchen wäre es umgekehrt. Aber okay.

Clemens Wasner: Ja, da kommen nicht so viele Sachen zusammen. Also was ja auch interessant ist, dass bereits vor dem Hugging-Face-Inzident Open AI und Entropic Verhandlungen darüber geführt haben, dass es Legally Binding-Stress-Tests gibt von den jeweiligen Modellen. Was dann aber auch wieder aus der Kurve gefallen ist, weil die beiden CEO oder eigentlich die beiden Unternehmen misstrauen sich massivstens.

Jakob Steinschaden: Ja.

Clemens Wasner: Und dementsprechend, naja, das ist jetzt aber schon eine spannende Zeit. Also in welche Richtung sich das entwickelt, ist aktuell wirklich schwer absehbar. Das heißt, irgendwelche Statements, also non-enforceable recommendations auf Seite der United Nations gibt, davon kannst du fix ausgehen. Das Europa-Vorbrechen versucht kann auch sein, hat aber real null Einfluss auf die Modellentwicklung selbst, sondern nur auf die Applikation innerhalb der EU.

Jakob Steinschaden: Was auch ganz interessant ist, während dieser ganzen Diskussion geht es munter weiter. Also ein paar Beispiele. Hektron, ein Team von Sicherheitsforschern, ein Team von KI-Experten, die haben jetzt bekannt gegeben, die haben Cloud Opus 5 dafür verwenden können, Jet-GPT zu hacken, also quasi OpenAI-Mitarbeiter in deren System einzudringen. fand ich ganz lustig und das zeigt auch irgendwie so auf eine halbwegs amüsante Art und Weise, welches KI-Modell irgendwie besser ist. Also Cloud dürfte da wieder einmal dem OpenAI-Modell überlegen gewesen sein. Auch interessantes Detail hinter vielen dieser Cyber-Vorfällen, die jetzt der Reihe nach in den letzten Wochen und OpenAI, Entropic, Meta und Google kommuniziert haben. Also zuletzt hat Google eben zugegeben, Gemini, hätte drei externe Firmen angegriffen. Da ist auch immer wieder ein israelisches Start-up involviert, die heißen Irregular und die bieten eben diesen AI Labs so Testumgebungen an. Und da dürfte so gewesen sein, dass diese Testumgebungen falsch eingestellt worden sind. Bedeutet diese KI Modelle, die dann quasi ausgebrochen sind, denen hat man irgendwie erleichtert oder ungebremst Internetzugang gegeben. Das heißt, die mussten quasi fast in die Außenwelt vordringen und Webseiten angreifen. Dazu gesagt sei, der Hacking-Face-Vorfall fällt da nicht hinein. Aber es ist ganz interessant, welche weiten Kreise das zielt und wer da alle eigentlich involviert ist. Und jetzt könnte man annehmen im Fall von Irregular, naja... dann ist eigentlich wieder der Mensch schuld. Also wenn die Testumgebung falsch konfiguriert ist und dann das KI-Modell, sagen wir mal, Schaden anrichtet, dann ist eigentlich der Mensch schuld. Kann man sagen ja, aber man muss ein aber hinzufügen. Die Fähigkeit, die Grundlegenden des KI-Modells automatisiert eine Webseite oder was auch immer anzugreifen, die gibt es ja trotzdem. Und

Clemens Wasner: Hm.

Jakob Steinschaden: die Gefahr weisen ja immer alle hin. Also natürlich gibt es 95 Prozent der User da draußen, die tun nichts Schlimmes. mit GPT-6 Astra oder wie auch immer es heißt. Aber es gibt halt immer noch Leute, dann doch Böses wollen und denen will man halt diese KI-Systeme nicht in die Hand geben. Also das ist ja eigentlich der Kern der Debatte. Natürlich sagen alle, die meisten Menschen würden das zum Guten nutzen, besser in der Arbeit zu sein oder, ich weiß nicht, Reiseinformationen zu finden oder schönere Bilder zu machen. Aber es gibt halt immer noch andere. da draußen und die würden das dann eben zu gewissen Zwecken einsetzen und das will man halt irgendwie einfangen, klarerweise.

Clemens Wasner: Genau. Naja, das ist interessant. Inwieweit ist das eigentlich in Taipei letzte Woche thematisiert worden? Weil in Europa, finde ich, hat man schon gemerkt, ja, abgesehen davon, ich jetzt alle äußere, dass das auch auf fast jeder, jeden Tech- oder Start-up-Event auf die Panels diskutiert worden ist. Also das ist schon, es ist jetzt kein… dem man das als abgehoben gesehen wird, was auf Events z.B. ignoriert wird, wenn man so sagen will.

Jakob Steinschaden: Naja, also wie vorhin schon bisschen geschildert, also in Taiwan ist man ähnlich wie in Europa so zwischen den Stühlen, also man ist halt zwischen den Großmächten, China und USA ein wenig gefangen, also sowohl militärisch als auch wirtschaftlich als auch technologisch, zumindest was KI-Modelle angeht. Naja, und was macht man halt? Naja, man hat selbst keine eigenen KI-Modelle, jetzt muss man sich die woanders besorgen und man holt sie sich halt dann entweder im Open-weight-Bereich. aus China oder im Open-weight- oder proprietären Bereich aus den USA und baut dann halt dann eigene Dinge damit. Was sie schon machen wollen, ist so eine eigene KI-Infrastruktur aufzubauen, also Open-weight-Modelle souverän betreiben zu können. Aber was durchgeklungen ist, wo ihnen eigentlich wahrscheinlich letztlich das Geld und die Investitionen fehlen, ich meine, es ist ja dann doch ein kleines Land, ist, KI-Modelle zu entwickeln. sagen wir mal, ich nicht, in Spanien beginnen sie jetzt dann wahrscheinlich auch nicht im großen Maßstab auf staatlicher Ebene eigene KI-Modelle zu entwickeln und genauso wenig ist das im Taiwan der Fall. Und worauf sie halt dann natürlich verstärkt schauen ist, dass sie diese souveräne KI-Infrastruktur halt haben und auf Basis derer dann halt stark in diese Defense-Tech Richtung gehen. Also da geht es dann eben darum, kann eine eine Abwehrkanone mit Hilfe von KI sicher erkennen, dass da ein Marschflugkörper oder eine Drohne oder was auch immer im Anmarsch ist, kann das Ziel erfassen und kann das Ding dann abgeschossen werden. Also in die Richtung geht es natürlich stark. Aber auch in vielen, vielen

Clemens Wasner: Hm.

Jakob Steinschaden: anderen Bereichen. Es gibt auch die HealthTech Startups, da habe ich eines kennengelernt, die haben den Cardio Mirror, also einen der mit Hilfe einer Kamera- und KI-Algorithmon den Hineinblickenden erkennt, auslässt und seinen Gesundheitsstatus erkennt. im Sportbereich, im Entertainmentbereich und so weiter. So wie bei uns gibt es natürlich viele Start-ups, Projekte. Kaum eines kommt mehr ohne KI aus. Und da fällt halt dann wahlweise, je nach Anwendungsfall, die Wahl auf. das eine oder andere KI-Modell, aber halt so eigene Modelle haben sie nicht. Also genauso wenig wie wir in Österreich große, starke, leistungsfähige, eigene KI-Modelle haben.

Clemens Wasner: Mhm. Es ist eigentlich recht schräg, wenn man daran denkt. Wir reden von Security Incidents, wir reden von Bremse. Dann ist diese Woche die Information publik geworden, dass Entropic ein sogenanntes Wet Lab eröffnet hat in den USA. Wir kennen Weblabs aus diversen Filmen, wo Killerviren ausbrechen. Die Firma, die für einen Slowdown ist, hat ein eigenes Bio Lab, an Wirkstoffe zu forschen. Plus wird dieser Tage möglich werden, die nächste Modellgeneration, also Zwischengeneration mit Opus 5.5 veröffentlicht wird. Elon Musk und SpaceX haben GROG 4.7 gestern veröffentlicht. ganze Reihe an Open AI Modelle soll diese Woche kommen und entweder diese oder nächste Woche dann auch der Assistent, der MuseSpark Konkurrent. Also ja, soviel zum Thema Slowdown. Man könnte eher glauben, befinden sich gerade in einem massiven Wettrösten.

Jakob Steinschaden: Absolut in China ist auch nichts von einer KI-Bremse zu sehen. Also Xiaomi hat jetzt erst kürzlich vor wenigen Stunden sein allerneuestes KI-Modell veröffentlicht und das ist jetzt das beste Open-Weight-Modell, also kann man auch auf Hacking Face beziehen und schlägt quasi Modelle wie GLM 5.3 von ZDI oder Chemica 3 von Munshu.de, wo man vor ein paar Wochen noch die großen Alarmsignale hatte mit und Hilfe jetzt ist Open Source so gut. dass sie die proprietären AI-Labs schlagen. Und jetzt ist schon wieder das nächste da. Also von einer KI-Bremse ist weit und breit nichts zu merken und man könnte irgendwie so einen Zwischenfazit ziehen und sagen, nichts ist so wie es scheint. Es alles eine Scheindebatte auf einer politischen Ebene, aber auf einer technologischen Ebene geht die Entwicklung so schnell wie bisher weiter, vielleicht sogar noch schneller, weil man möglicherweise nicht öffentlich macht, was man schon hat. Also jetzt in

Clemens Wasner: Mmh.

Jakob Steinschaden: Diskussionen rein platzen mit, ich weiß nicht, einem GPT-7 oder einem Cloud-5, Entschuldigung, mit einem Cloud-6 oder Fabel-6 wird man nicht machen, aber man weiß ja nicht, was in den Labs schon entwickelt ist und vom Militärbereich ganz zu schweigen. Also ich auf der Konferenz sehe dort viele spannende Dinge, aber die wirklich wichtigen Entwicklungen, werden sich dort sicher nicht auf die Inotec Expo stellen, damit ich und viele andere das aus nächster Nähe anschauen können, sondern die wirklich relevanten Technologien und der Körter KI-Bereich sicher dazu, sind im Militär hundertprozentig unter Verschluss und die werden niemandem gezeigt, wie es nicht die Zeit reift dafür ist.

Clemens Wasner: Ja, es ist auch interessant, dass abgesehen von der Selbstregulierung, Thema RSI, also Recursive Self-Improvement, dass die KI sich selbst verbessert, selber die nächste Art von Modelle konzipiert und trainiert und so weiter. Das war in den letzten Jahren immer der heilige Gral. Also man hat gesagt, wenn RSI kommt, dann hat man es geschafft. Und so, der erste, das schafft, der hat dann die sich selbst verbesserte KI und die wird alle anderen komplett davon ziehen. Mittlerweile wird das interessanterweise wie heiße Kartoffeln behandelt. OpenAI hat zum Beispiel gestern, gerade am Montag, dem 21. an Blog Eintrag geschrieben, wo sie gesagt haben, die nächste Modellgeneration, also Codewort BEL, aber das wird dann anders heißen, B-E-L, nur mit einem L, ist die bereits 100 mathematische Probleme gelöst hat. Man geht jetzt in den Austausch mit der Mathematik-Community, wie mit diesen Forschungsresultaten umzugehen ist. Und bei der gleichzeitig Charme-Offensive auf Social Media sagt man dann auch dazu, dass Bell aber nichts mit rekursivem Self-Improven zu tun hat. Das ist ganz was anderes und man glaubt nicht, dass das überhaupt in absehbarer Zeit erreichbar ist. Das ist auch eine 180-Grad-Drehung gegenüber dem, was man bis jetzt immer kommuniziert hat. Also quasi das AGI bereits

Jakob Steinschaden: Mmh.

Clemens Wasner: intern erreicht worden ist und das nächste ist RSI am Weg zu ASI. Basis Bip bei MFG von Die Fantastischen Viert merke ich gerade in unserem Podcast.

Jakob Steinschaden: Absolut. RSI ist ja ein komplett verrücktes Konzept. wenn man das so liest im technischen Bereich, naja, gut, die KI, die verbessert sich selbst. Leg das mal auf dich selbst. Du könntest quasi dein eigener Lehrer sein. Und wenn du jetzt heute beschließt, ich will jetzt ein besserer Mathematiker werden oder ein besseres Sprachentalent oder ein besserer Programmierer, Dann könntest du das tun, einfach indem du dir es selbst beibringst. Das ist komplett verrückt, oder?

Clemens Wasner: Ja, mein gut, theoretisch wirklich auf einer neurologischen Ebene stimmt das ja sogar. Also, kannst hier alles lernen. Das Problem ist halt, jeder kann alles lernen, aber nicht jeder kann alles gleichzeitig lernen.

Jakob Steinschaden: Tja, das ist die Limitation.

Clemens Wasner: Wie war das immer? 50.000 Stunden und du kannst bei Olympia-Computen, oder waren es 10.000 Stunden, was halt in der Bandbreite drinnen ist. Jedes Hirn kann theoretisch schon alles lernen, aber du kannst auf Nobelpreisebene unterwegs bist, eher nicht. Aber gut, mit RSI und Computer ist das aber so. Es gibt schon einen Grund, warum vor allem White-Color-Arbeitende sich besonders große Sorgen ihre Jobs machen. Das merkst du im Blue-Color-Bereich fast gar nicht. Die Diskussion.

Jakob Steinschaden: In dem Bereich hat man es wahrscheinlich eher im Robotikbereich. Wenn man an einem Blue-Color-Arbeitern einen Roboter zeigt, der 24 Stunden durchgehend Kisten von A nach B hebt, dann wird sich der auch denken, was mache ich künftig mit meinem Gabelstapler oder sowas in die Richtung.

Clemens Wasner: Mh. Das sind noch dann zehn Jahre, bevor die Diskussion dann auch losgeht mit Robotern. es wird schon wieder zu fatalistisch. glaube, ist ein guter Zeitpunkt, einen Stecker zu

Jakob Steinschaden: Kindheit.

Clemens Wasner: ziehen. Weißt du, das ist ähnlich wie bei Future-Rama immer. The killer robots wiped out three planets, but in other news a nice puppy was born in the solar system. Und dementsprechend Das nächste Mal werden wir sicher sehr viele Modellupdates haben.

Jakob Steinschaden: Absolut super Clemens, mir wieder eine Freude und Ehre. Vielen Dank euch fürs Zuhören und Zusehen und bis zum nächsten Mal.

Clemens Wasner: Bis zum nächsten Mal. Ciao!