Jakob Steinschaden: Hallo und herzlich willkommen bei Wasner und Steinschaden, deinem allerliebsten KI-Podcast. Name ist Jakob Steinschaden, Mitgründer von Trending Topics und der allerbeste Co-Moderator sitzt wie immer bereit und er heißt... Clemens Wasner: Clemens Wasner, Gründer von AI Austria und von enliteAI. Jakob Steinschaden: Lieber Clemens, Österreich hat viele schöne Dinge, aber was hat Österreich eigentlich nicht? Was fällt dir an? Clemens Wasner: Da gibt es so wenige Kandidaten, da weiß ich gar nicht, was ich nehmen soll. Eine unabhängige Justiz, also eine entpolitisierte oder eine von politischer Einflussnahme unabhängigen Rundfunk. Nee, das wäre auch dem in Verfehlung. Du meinst wahrscheinlich das Fehlen einer KI Strategie in Österreich. Jakob Steinschaden: So ist es. Ich glaube, die AIM 2030 Strategie ist eher inhaltsleer und soll jetzt überarbeitet werden. Und das österreichische Bundeskanzleramt und der Staatssekretär Pröll sind damit beschäftigt, eine ordentliche KI Strategie für Österreich. Ich würde sagen, bis die fertig ist, widmen wir uns einfach internationalen Themen, weil da passiert ja dann doch einiges. Clemens Wasner: Das stimmt, aber du hast recht, die Lücke schließt sich so rasant, dass wir wahrscheinlich sowieso nur noch diese Woche haben, bevor dann quasi die One-and-Only-Strategy-Release wird. ihr werdet Jakob Steinschaden: Das Clemens Wasner: schon wieder zu bösartig, alles ganz gut, wir haben alle ganz lieb, im Rahmen ihrer Möglichkeiten machen sie das Beste. Jakob Steinschaden: Genau, aber ich glaube, wir gewinnen ja aktuell Zeit, zumindest wenn es nach den KI-Leadern da draußen geht, weil sowohl Dario Amodei von Anthropic als auch Sam Altman von OpenAI als auch Elon Musk von SpaceX, naja zumindest online haben sie es gesagt, die würden dafür eintreten für eine KI-Bremse, also für eine Verlangsamung der KI-Entwicklungen, weil Und das hat er die letzten Wochen und Monate ordentlich aufgerüttelt. Hacks wie jener von Hugging Face durch KI-Agenten, da sagen viele, das gleitet uns aus der Hand, das geht zu schnell, das ist zu gefährlich. Und in dem Tempo kann die KI-Entwicklung nicht weitergehen. Und es braucht eben so eine KI-Bremse. Naja, und das hat sich dann über das Wochenende entsponnen, diese Geschichte. Und jetzt gibt es eigentlich viele Aspekte drum herum, die man sich anschauen kann. Clemens, gib uns vielleicht mal so einen ersten Überblick. Was ist denn der Kern der Diskussion? Clemens Wasner: Die Kerne der Diskussion, man eigentlich sagen. Also keine Steinfrucht, sondern eine Bäre für diejenigen, im Biologieunterricht aufgepasst haben. Wo fangen wir an? Du hast Hugging Face erwähnt. Hugging Face war, wenn du so willst, das Aufregerthema des Sommers im Juli und im August, weil AI-Agents während dem Testing von OpenAI aus dem Labor sinngemäß ausgebrochen sind, bei Hugging Face eingebrochen, testcheaten wollten. Jetzt ist als zweiter Aspekt dazugekommen, dass du eine ähnliche Situation bei einem österreichischen Wiki hast, also einem in Österreich gehosteten Messaging Board, wo ebenfalls mehrere, also über, ich glaube, 15.000 Chatnachrichten ausgetauscht wurden und sich Agenten darüber koordiniert haben. Jetzt ist das Ganze leicht anders gelagert als der Hugging-Face-Fall, weil bei Hugging-Face ist es ja vor allem darum gegangen, dass die Systeme an Hack gemacht haben und dann ausgebrochen sind. Wo es aber Parallele gibt und was eigentlich gewissermaßen sogar schlimmer ist, DSE Wiki war es der Fall, dass die Agenten ebenfalls beim Testen cheaten wollten und dort außerhalb von OpenAI quasi die Spuren hinterlassen haben und sich ausgetauscht haben. Und das Ganze ist OpenAI gar nicht da aufgefallen. Es ist eigentlich zwei externe Organisationen aufgefallen. das heißt, die zwei Inzidenz jetzt in Summe sind schon einmal, ja, könnte man jetzt sagen, OpenAI hat sehr schleißige Testverfahren oder geht sehr sorglos damit was im Testing von diesen KI-Systemen passiert, bevor sie in die freie Wildbahn losgelassen werden. Dann ist aber als zweiter großer Aspekt dazugekommen. Einerseits sind die KI-Systeme die großen Mathematikprobleme lösen, wie das Navias Docs, was letzte Woche quasi durch die Medien gegangen ist. Plus, dass das Gerücht am Freitag aufgekommen ist, dass Google angeblich RSI gelöst hat. Mit RSI ist Recursive Self-Improvement gemeint, also quasi ein System, das sich selber immer besser macht. Und wenn du jetzt ein schleißiges Test Sicherheitsrichtlinien mit einem System zusammenlegst, das immer besser wird und schon die besten Mathematikformeln löst oder die schwierigsten Mathematikprobleme, dann ist es nicht ganz so abwegig, dass man auch in die Richtung überlegt, vielleicht sollte man sich mal überlegen, wie man der Technologie jetzt herwird, bevor es irgendwann einmal spät ist im Kontext von das Virus, also Computervirus, der in der freien Welt entlassen wird. was dann noch ein weiterer interessanter Punkt ist, man hat Open AI schon öfters vorgeworfen, dass sie sich von Chain of Thought Training oder Chain of Thought generell wegbewegen. Mit Chain of Thought ist gemeint, dass du nachvollziehen kannst, was das System eigentlich gemacht hat. Also das hatten wir auch beim letzten Mal, wie wir GPT-6 geredet haben. Wenn das System sagt, ich bin auf 20 Webseiten gegangen und habe nachgeschaut, ich habe die Ergebnisse in eine Vergleichstabelle geschrieben. Ich habe dann geschaut, wie passt das jetzt mit dem Code of Contact in 26 EU-Nationen zusammen. Dann sind die Systeme heutzutage so aufgestellt, dass sie das, was sie tun, auch quasi dokumentieren, damit du eben den Chain of Thought auditieren kannst. Bei Open AI sagt man jetzt, dass die draufkommen sind oder man weiß eigentlich schon länger, dass die Systeme vermutlich besser funktionieren, wenn man das Chain of Thought nicht mehr macht, sondern wenn die Systeme in ihrer eigenen Sprache denken können, unter Anführungszeichen. Das hat aber Jakob Steinschaden: Mhm. Clemens Wasner: den Nachteil, dass du nicht mehr wissen kannst, was im System vorgeht und das ist eigentlich noch so weiterer Aspekt in dem Ganzen. Die ganze Situation jetzt zusammen genommen, wir rennen jetzt eigentlich nur, was in den letzten vier, fünf Wochen passiert ist und an die Öffentlichkeit gekommen, das macht es dann schon verständlich, dass die Alarmglocken an manche Orte hochgehen. Auch wenn das Jakob Steinschaden: Mhm. Clemens Wasner: nicht unbedingt wahrscheinlich die Motivation war von den drei Akteuren, die du genannt hast. Jakob Steinschaden: Absolut, was man noch hinzufügen kann, was ja auch dann vor wenigen Tagen erst veröffentlicht wurde, der Freight Intelligence Report von Anthropic. Und da steht dann halt unter anderem drinnen, dass sie dabei Wissenschaftlerinnen oder vielleicht möchte ich gern Wissenschaftlerinnen dabei erwischt hätten, Cloud dafür zu nutzen, ihnen bei der Entwicklung von Biowaffen zu helfen. Das haben sie dann quasi aus der Ferne unterbunden. Kleiner Nebensatz, wenn das so ist, dann muss sich jeder Cloud-User oder wahrscheinlich auch jeder JGPT-User darüber gewahr sein, dass einfach alles, was man da eingibt, automatisiert ausgewertet wird, weil wie könnte es sonst irgendwo in Kalifornien, rote Lichtchen angehen, dass irgendwo am anderen Ende der Welt jemand versucht, eine Biowaffe mit Hilfe von Cloud zu entwickeln. Also nur mal so als kleine Side Note. Naja, also und in diesem 150 Seiten Report steht dann Unter anderem drinnen, dass in China drei Fälle entdeckt wurden, dass Entwickler Cloud Code als Ersatz für Steuerungs- und Leitsysteme für Waffenplattformen versucht wurde zu verwenden. In Russland soll es zwei Fälle gegeben haben, das Modell für die Entwicklung autonomer Kamikaze, Dronenschwärme, einzusetzen. Und im Jemen soll Cloud gleich an drei Waffenprogrammen, inklusive einer gelenkten Rakete beteiligt gewesen sein, mit Nähe zur Huty Miliz. Naja, also wenn man das alles rausfinden kann, quasi bei Anthropic, was da draußen in der Welt mit Cloud angestellt wird, da wird einem wahrscheinlich auch ein bisschen übel und das zahlt dann auf diese Diskussion ein, dass viele sagen, so und jetzt reicht's aber mit euch und jetzt Hört bitte auf, den Leuten da draußen so mächtige KI-Systeme zur Verfügung zu stellen. Und dann hat sich recht bald Dario Amodei zu Wort gemeldet und hat dann öffentlich in einem langen Blogpost mehr oder weniger bekannt gegeben, dass er dafür eintritt, so eine KI-Bremse in die Entwicklung einzubauen. Und daraufhin haben sich Sam Altman und Elon Musk gemeldet und haben gesagt, da hat er eigentlich recht. Genau. Und jetzt liegt er bald bei der Politik eigentlich. Clemens Wasner: Jupp, absolut. Wobei Trump den auch jetzt in der Nacht von Sonntag auf Montag wieder zurückgekickt hat und er gesagt hat, sieht jetzt keine Veranlassung dazu, warum der Staat hier reingrätschen soll. Darüber hinaus beziffert er den Vorsprung der USA gegenüber China auf ein Jahr, was wahrscheinlich ziemlich genau hinkommen würde. Und er sagt, wenn die USA jetzt verlangsamen dann holt China auf, wird sich nicht daran halten, also so seine These, und dann ist das Recht wieder nichts geworden in dem Ganzen. Jakob Steinschaden: Mhm, genau. Clemens Wasner: Und wo er eigentlich total Recht hat, und das sagen eigentlich auch sehr viele Beobachter, es hält ja niemand Anthropic und Open AI davon ab, bessere Validierungen einzubauen, bessere Fail-Safes, sich stärker zur Sicherheit abzustimmen. Das haben wir jetzt sogar Airbus und Boeing hingekriegt. Jakob Steinschaden: Na gut, aber die sagen dann wiederum, gut, also wenn wir jetzt mehr auf Sicherheit setzen sollen, vielleicht auch so in einer Art von Selbstregulierung, das verlangsamt uns und dann wird aus dem Jahr Vorsprung vor China vielleicht nur ein halbes Jahr oder dann ziehen die gleich. Und das ist eigentlich auch so die Angst, Trump hat. Der sagt, wer bei AI gewinnt, der gewinnt. Er will unbedingt gewinnen, meine, was sonst? Und sie wollen einfach den Vorsprung den sie auf die Chinesen haben, einfach beibehalten. Und unterm Strich Trump und seine Anhänger sind dafür. Unter anderem auch der David Sex, natürlich ein bekannter Investor und Berater im Weißen Haus. Die sagen, ja, reguliert euch halt selber, wir machen nichts und wir wollen, dass ihr weiter Gas gebt. Also da hat man schon irgendwie so dieses Bewusstsein, dass das einfach die entscheidende Zukunftstechnologie ist. Clemens Wasner: Genau, aber vielleicht, weil du den David Sacks erwähnst, es ist schon zu beobachten, dass sich im Spektrum der Trump-Supporter oder der Silicon Valley Tech-Größen, dass es da zwei Lager gibt. Also die einen, sagen, eine Technologie, auch wenn das nur 10 %iger Wahrscheinlichkeit ist, aber dass die tatsächlich Leute umbringen kann oder vielleicht sogar sehr viele Leute. dass es denkunmöglich ist, dass die nicht reguliert wird. Die sagen, autonome Autos, wo das Schadenspotenzial eigentlich verschwindend gering ist, weil es skaliert mit der Anzahl an Autos, die mal fahren. Aber die sagen, sogar da war das bis zum letzten Detail reguliert und jede Verkehrstote, die es gegeben hat, wurde im Detail analysiert. Gleichzeitig hast du jetzt die KRI-Firmen, sagen, 2030 könnte es schon sein, dass die Menschheit ausstirbt und du lässt dich einfach so gewähren. Das ist relativ untypisch. Die andere Fraktion sagt einerseits Selbstregulierung und zweitens sehen die das ganz stark aus der Ecke Regulatory Capture. Damit ist nämlich gemeint, dass die drei großen Frontier Labs, ist Anthropic Open AI, XAI und Google, wobei Google aktuell nicht dazu die großen drei gezählt wird, aber das ist ja ihr Wanderpokal, man sagt die die richten sich quasi untereinander, damit dann danach niemand mehr nachkommt. Und wir hatten das auch schon immer wieder in unseren Sendungen, wenn es darum ging, Open-weight-versus-closed-models. Das sind in eine riesengroße, wie soll ich fast Sehnsucht, danach herrscht, dass amerikanische Open-weight-Models entstehen. Die sind auch immer entstehen, wenn wir an Sinking Machine Labs denken oder die nächste Generation von Meta-Modelle. Und man hat wirklich die Befürchtung, dass da jetzt Open-weight, Open Source wird, wenn man quasi die bestehenden Frontierlabs die Regulierung schreiben lässt. Die Angst finde ich nicht ganz unbegründet, weil wenn du dir anschaust, Europa hat ja immer schon das Problem, dass eigentlich unsere Regulierung zu einem guten Teil von die Encomments, also von den Unternehmen im Markt geschrieben wird. Mein Lieblingsbeispiel ist immer YouTube. hättest du ever YouTube in Europa machen können, weil da hätte ich Kanal 5 oder Kanal Plus oder Axel Springer bis auf den Mars geklagt. Wenn wir jetzt bei mir am Marskebeispiel bleiben. Das ist in Amerika halt anders. Da kannst du das wirklich durchdrücken. Und die haben wirklich die Angst, dass sie quasi zur EU werden, wenn man sie überspitzt formulieren will. Jakob Steinschaden: Das ist sicher eine große Sorge von Donald Trump zur EU zu werden. Das lässt er sich glaube ich nicht zweimal sagen. Was ich ganz interessant ist, was parallel zu dieser Diskussion passiert, der Dario Amodei in seinem Blogpost schreibt dann, naja, größte Hindernis an so einem KI Slowdown ist eigentlich China. Also China muss mitmachen, weil sonst macht das alles keinen Sinn. Und eigentlich wenige Stunden später hat dann der Briggs Gipfel in Noidelli begonnen. war der chinesische Staatschef, also der Xi Jinping, Vladimir Putin, war dort Narendra Modi und so weiter und so fort. was hat Xi Jinping dort verlaubert? Er hat gesagt, er will die Bricks starten mit Open-Weight Modellen versorgen. Also so ganz direkt war es nicht formuliert, aber so ist es gemeint. Also sie wollen so eine gemeinsame Open Source KI-Initiative schaffen und wer hat die Open-Weight-Modelle, das ist natürlich China, namentlich die Firmen, wir schon oft darüber gesprochen, Deepseek, SET.AI, Minimax, Xiaomi natürlich, Alibaba, Moonshot.AI mit Kimi K3 und so weiter. Naja, und das ist so quasi so eigentlich die Pipeline und diese KI-Modelle im Open-Weight-Bereich an andere Länder eben aus den Brics-Staaten zu exportieren und wahrscheinlich passenderweise dann noch dazu die Huawei-Cheeps, auf denen ja teilweise diese KI-Modelle trainiert wurden, also so als Alternative zur Nvidia-Hardware. Das heißt, ich glaube, da wird es ganz schwer, dass sich die westliche Welt einigt mit China und den Brics-Staaten auf irgendeinen KI-Stopp. Also in den USA sagt man gerade steigen wir auf die Bremse und in den Brics Staaten sagt man gerade, na jetzt steigen wir aber nochmal ordentlich aufs Gas bei Clemens Wasner: WUHUHUHUHU Jakob Steinschaden: den Openweight Modellen, die ja teilweise schon die Fähigkeiten haben, die auch die Top Modelle von den Tropic und Open AI haben. Also interessante Entwicklung. Clemens Wasner: Ich würde bei dem ganzen vielleicht noch einbringen, dass die Brics-Staaten natürlich nicht auf den Schädel gefallen sind und das ist jetzt weniger eine China-freundliche Haltung, weil die gibt es zwischen Indien und China ganz bestimmt nicht. Also dort werden sogar Online-Games abgedreht und ähnliches. Also Chips sind dann auch einmal eine andere Liga, was jetzt National Jakob Steinschaden: Mhm. Clemens Wasner: Security betrifft. Der Punkt ist aber, die Staaten werden natürlich besonders stark davon betroffen sein sollte Open-Wade ein Riegel vorgeschoben werden, weil das ist Open Source, freie Web-Technologien und so weiter und so fort. Das wäre für diese Staaten natürlich der Super-GAU, gefühlt reden wir jede zweite Episode davon, dass Chips teurer werden und dass die monthly subscriptions von AI-Services teurer werden. Und das wird diese Ökonomie natürlich massiv benachteiligen. eigene Innovation fast unmöglich machen, weil die Lücke auch nie wieder geschlossen werden könnte. Also das ist Jakob Steinschaden: Hm. Clemens Wasner: einfach im Eigeninteresse der BRICS-Staaten, wie auch Europa übrigens, dass diejenigen, die aktuell digital abgehängt sind, gerade solche auf Openweight und Open Source setzen. Jakob Steinschaden: Absolut, weil andersherum, angenommen Openweight würde jetzt wirklich, wie auch immer das sein könnte, aber angenommen das würde verboten werden, also dann wäre einfach 100 % von den USA abhängig beim Thema KI, Hardware von NVIDIA und dann quasi die Software, die Modelle von OpenAI, Anthropic, Google und Meta und XCI von Elon Musk, aber sonst hätte man eigentlich nichts, weil mittlerweile haben wir ja auch schon darüber gesprochen, Mistral geht ja mittlerweile auch schon so einen Mittelweg. Die haben zwar ihre eigenen KI-Modelle, die sind aber nicht so wirklich kompetitiv mit dem Rest, da draußen ist und die haben jetzt auch damit angefangen, sich zur Neo-Cloud zu entwickeln und Open-Wade-Modelle auf ihrer Infrastruktur laufen zu lassen. Ich glaube, das erste ist von ZAI aus China, ich GLM 5.2, wenn mich nicht alles täuscht. Also da sieht man auch schon diesen Spagat, den man auch in Europa machen muss, mithalten zu können zwischen propretären Modellen und Open-Weight-Modellen und die kommen dann natürlich ganz stark aus China. Clemens Wasner: Ja, aktuell. Ich finde in der ganzen Debatte auch interessant, dass man sagt, die Wertschöpfung wird letztendlich auf der Inferenzebene passieren. Das bringe ich da jetzt nur deshalb an, weil man jetzt immer davon spricht, ja, Land X oder Region Y ist abgehängt, dann stimmt das als Momentaufnahme natürlich schon. Aber wenn du sagst, letztendlich spielt die Musik am Inferenzlayer, das heißt, derjenige oder diejenigen, die über die großen GPU-Farmen und Neoclouds verfügen, werden letztendlich die Kohle machen, naja, dann ist zunächst einmal naheliegend, dass US-Neoclouds vor allem den US-Markt bedienen werden und in Europa eigentlich, wenn du das so haben willst, die Karten sind noch nicht einmal hergestellt und dementsprechend sind sie auch noch nicht gemischt und verteilt. Also da stehen wir wirklich noch ganz am Anfang. Das ist immer mein Lieblingsbeispiel. dem Kontext sind immer Relationale Datenbanken, wurden nicht in Europa erfunden, aber mit SAP heißt das der größten Unternehmen, was sich damit beschäftigt, oder Simulation, der SoSystems, Magna und so weiter und so fort. Also davon sind wir wirklich noch wahrscheinlich ein paar Jahre entfernt, bis das wirklich komplett durchdiffundiert. Jakob Steinschaden: Unter einem von meinen LinkedIn Posts sich auch eine rege Diskussion entwickelt zu diesem Thema KI-Bremse. Also warum fordern jetzt eben Anthropic Open AI mit Elon Musk im Gespann? meine, vor ein paar Monaten haben sich noch alle gegenseitig verklagt. Warum sind die alle gerade so einhellig der Meinung, dass es eine KI-Bremse braucht? Und da schreiben manche Leute dann so, naja, vielleicht ist dieses Thema Cybersecurity, KI-Sicherheit so bisschen vorgeschoben, weil vielleicht braucht man diese KI-Bremse aus anderen Gründen, vor allem deswegen, weil Ihnen irgendwie so das Compute, die Energie und das Geld ausgeht bald, ist ja doch alles sehr teuer, kann so dem was abgewinnen. ich meine, das trägt zumindest dazu bei, könnte ich mir vorstellen. Also OpenAI hat jetzt auch seinen IPO auf 2027 verschoben und haben gesagt, na so aktuell bei dieser ganzen Cybersecurity-Debatte, das wäre überhaupt nicht zuträglich, auch ein vorgeschobenes Argument möglicherweise. Clemens Wasner: Also bei OpenAI bin ich mir sicher. OpenAI ist ja, was wirtschaftliche Kennzahlen betrifft, Anthropic zurückgefallen. Und es sind schon länger die Gerüchte rumgegangen, dass der massive Brain Drain, der auf der Führungsebene basiert ist, also da sind ja zehn Very Senior Executives rausgeprägt in den letzten zwei Monaten, dass das damit zusammenhängt. weil das Unternehmen hinten und vorne nicht dafür ein IPO aufgestellt ist, was Wirtschaftszahlen betrifft etc. Das ist jetzt ein sehr convenient excuse, wenn man sagen kann, na ja, wegen Cybersecurity tun wir es verschieben. Anthropic drückt nach wie vor aufs Gaspedal, will sogar, wie gesagt, 2 Trillion Dollar, also 2 Billionen Euro Börsengang machen. Also das Open AI heute oder übers Wochenende entdeckt hat, dass man deshalb den IPO verschiebt, ein Unsinn. Das ist daran, glaube ich, hinten und vorne nicht. Was ich aber nicht so ganz ausschließen kann, ist oder ausschließen wird, dass es da so banale Themen wie Liability geht. Und zwar, Jakob Steinschaden: Mhm. Clemens Wasner: ich habe das bei dem DSE-Wiki jetzt, was in der Steiermark kostet wird, schon interessant gefunden. Open AI hat seit Anfang Juni gewusst von dem Inzident. Also am 11. Mai hat es begonnen mit den Agenten. Und dann den 11. Juni herum hat das erste Mal in den Logs, dass jemand mit einer Open AI-App-Adresse drauf zugegriffen hat. Einen Tag darauf sind die Agenten gestoppt worden. Das sind jetzt natürlich alles lustige Beispiele und so weiter. Aber ... Man stellt sich wird es zu einem Stromausfall kommen. Hugging Face hat das Ganze schon ernst genommen, aber letztendlich ist nichts passiert. Was ist, wenn du dort Amazon Web Services Cloud Instance hackst, Kundendaten in die große, weite Welt kommuniziert werden? Irgendwo wird der Stromnetz abgeschalten. betrankenszenarien sind sie mehr kreativ. Das wird so AG Liabilities auslösen, dass die Firma sie jetzt instantly zusperren Jakob Steinschaden: Hm. Clemens Wasner: Und dass man da jetzt quasi noch einmal in sich geht und da waterproofing macht, das würde von einem IPO her, das könnte gemeinsam mit die schlechten wirtschaftlichen Zahlen schon der Auslöser gewesen sein, dass man den IPO verschiebt, weil bei solchen Sammelklagen bist du in Amerika bald einmal on the hook und für einen IPO wäre das eigentlich das Instant Game Over. Jakob Steinschaden: Wobei ich ja gespannt bin, was dann im Börsenprospekt von Anthropic drin steht. Also müssten die dann reinschreiben, bei dieser Technologie gibt es eine zehnprozentige Möglichkeit, dass sie dazu beiträgt, dass die Menschheit ausgelöscht wird oder dass Kraftwerke abgedreht werden. Also die müssen ja im Börsenprospekt ja auch gegen den künftigen Investoren alle möglichen Risikofaktoren auflisten. Also das wird schon spannend, was da drin steht. Weil das mit den Biowaffen und so weiter haben sie selbst publiziert. Also das müssten sie eigentlich reinschreiben. Mit Hilfe von Cloud kann man Biowaffen entwickeln, wenn wir es nicht unterbinden. Clemens Wasner: Ja, das ist das Absurde daran, weil wenn du dich jetzt an Gentechnik unternehmen, wenn du da zurückdenkst, vor 20 Jahren hat es dort die ersten IPOs gegeben. Da war dann auch immer die Frage, ja, was ist, wenn sich das quasi mit natürlich gewachsenen Pflanzen oder Tieren, wenn es zu einer Vermischung kommt und die Mutationen dann ja ungut werden quasi. Da hast du Sicherheitsprotokolle, die es natürlich der Forschung gegeben hat für die Wirkstoffforschung, Biotechnologie und so weiter. Und bei Gentechnik ist das genau eingehalten worden. Gewissermaßen sagen unsere Firmen oder die sagen die Frontier Labs jetzt, dass sie in der Lage sind, Antrags herzustellen oder whatever oder Ebola im Labor. Aber bei Security wissen sie nicht, wie sie sich selbst regulieren sollen und bitte lieber Staat, reguliere uns. Jakob Steinschaden: Mh. Clemens Wasner: Dass wir im selben Monat über einen Entropic-IPO reden und das Anthropic drum bettelt, reguliert zu werden, ist eigentlich, eigentlich sollte es nicht so sein, das ist schon recht seltsam. Jakob Steinschaden: Der seltsame an der Geschichte ist, dass die Firmen battlen Regulierung, aber der noch mächtigste Mann der Welt, US-Präsident Donald Trump, sagt, ich regoliere euch nicht, weil ihr müsst Gas geben. Normalerweise ist es doch immer umgekehrt. Die Unternehmen wollen sich nicht regulieren lassen, aber die Regierung sagt, wir regulieren euch. Also komplett verkehrte Welt eigentlich. Clemens Wasner: Ja, ich glaube, großer Denkfehler, Anthropic in dem Ganzen auch macht, vor allem der Dario Amodei. Man darf nicht vergessen, Grund, warum Anthropic gegründet wurde, ist ja, weil Dario Amodei und Co. schon vor Jahren gesagt haben, dass Open AI sehr lax ist, was Security betrifft, und bei Alignment noch viel schlimmer. Also quasi ... Man muss verhindern, dass Open AI eine böse KI trainiert. Wir Anthropic sind die Guten, wir passen auf, dass das Ganze nicht passiert. Und jetzt aus dem Weltbild herausgedacht, wer sei optimale Variante natürlich, wenn jetzt Leute mit einem ähnlichen Weltbild die Regulierung machen, da ist jetzt per se auch nichts dagegen einzuwenden. Nur wo ich finde, wo der Denkfehler drinnen liegt, das wird nicht so sein, dass die in Zukunft von Leuten auditiert und reguliert werden, die ... die genauso drauf sind wie bei uns, wie Anthropic, sondern keine Ahnung. Vielleicht sind das Beamte, vielleicht sind das jetzt aus der Welt von Anthropic kommend, was ganz schlimm wäre, Hardcore, Republikaner etc. You just don't know. Also, dass du quasi ein Szenario beschwörst, was genau den Outcome hat, den du gerne hättest, das halte ich für undenklich. Es ist der Denk unmöglich. Jakob Steinschaden: Willst du übrigens meine schönste Verschwörungstheorie hören, was in Wirklichkeit abgeht? Clemens Wasner: Ja, kommt direkt nach dem Impfstatus. Aber bitte, schieß los! Jakob Steinschaden: Okay, also meine liebste Verschwörungstheorie ist folgende, und zwar, dass der Krieg der KI-Modelle schon längst begonnen hat und die Frontlinie heißt Closed Models gegen offene Open-Weight-Modelle, weil im Falle von Hacking Face hat er ein bis dato noch nicht näher benanntes KI-Modell von OpenAI, also ein Closed Model. jene Webseite angegriffen, die ja als wichtigster Zugangspunkt für Open-Weight-Modelle zählt, also natürlich Hugging Face. Also möglicherweise war es so, dass das Closed-Model den Open-Weight-Modellen die Tür zumachen wollte, in die Welt zu gelangen. Das ist, finde ich, die plausibelste Erklärung. Also die haben sich schon längst verselbstständigt und es gibt jetzt einen Kampf Closed-US-Modelle gegen offene chinesische Modelle, weil was ja auch bei Hacking Face passiert ist, die haben ja dann quasi diesen Angriff abgewertet und haben ein Open Weight Modell, ich glaube von ZAI. oder von Moonshot, eins von beiden, weiß ich jetzt nicht genau, ich glaube von ZAI. war es eingesetzt, diesen Angriff abwärmen zu können. Also das hat schon längst begonnen in Wirklichkeit. Alles andere ist quasi Makulatur, wir Menschen plaudern noch darüber, aber da passiert es wirklich. Clemens Wasner: Das ist very cyberpunk. Jakob Steinschaden: Genau. Clemens Wasner: Jakob, William Gibson, Steinschaden. das ist genug Substanz, dass du dazu ein Buch schreibst. Weil natürlich, Science Fiction hat genau, also sehr oft genau solche Ansätze, das quasi unbewerkt von den Menschen so was passiert. Na ja, ob das jetzt der Fall ist. Das ist wie beim Higgs-Boson-Teil und den CERN, wo man auch gesagt hat, das ist bisschen nicht nachgewiesen worden, weil in der Zukunft das Teil verhindern will, dass es in der Vergangenheit gefunden wird, dass sogar Paper dazu verschienen wird, dass es zidiert worden ist. Jakob Steinschaden: So ist es, genau. Wir haben alle Tenet gesehen und haben nicht verstanden, wie der Film genau funktioniert, aber irgendwas aus der Zukunft macht sich auf den Weg in die Vergangenheit, irgendwas zu verhindern. Clemens Wasner: Chris Nolan hat ihn wahrscheinlich auch nicht verstanden. Aber er ist super. Jakob Steinschaden: Genau, wo bleibt der Chris Nolan Film über den Kampf Open Models gegen Closed Models? Auf den warte ich. Na gut, also das war jetzt Clemens Wasner: Mmh. Jakob Steinschaden: nur Spaß, aber finde ich eigentlich auch interessant, Clemens Wasner: Ja, man tut... Jakob Steinschaden: dass ein Closed Model die Plattform angreift, die die Open Models hostet. Ernst gemeint Aspekt des Ganzen. Die USA haben sicher eigentlich jetzt auch wieder die zwei wichtigsten Zugangspunkte zu den Open-Weight-Modellen gekrallt. Also Openrouter, man war sowieso ein US-Startup, gehört jetzt Stripe, also einer der wertvollsten Payment-Firmen da draußen, natürlich in den USA. Und Nvidia hat sich Hackingface gekauft, also vorher war ja Hackingface so, wie soll man sagen, halb französisch, halb amerikanisch, also er war eher frankreich zugeordnet. und gehört jetzt Nvidia. Also Millionen Developer da draußen, auf Open-Weight-Modelle zugreifen wollen, die machen das über OS-Plattformen. Also das sind ja keine neutralen Plattformen da draußen, haben einen Eigentümer mit Interessen und hat noch nicht stattgefunden. Aber warum sollte es nicht so sein, dass in fünf Jahren bestimmte Open-Weight-Modelle, zum Beispiel aus China, nicht via Openrouter oder Hackingface verfügbar sind und die Softwareentwickler da draußen halt dann aus anderen auswählen müssen. weiß, ob es so weit kommt. Aber das wären eigentlich die Plattformen, wenn man Open-Weight regulieren will, da würde man wahrscheinlich als erstes zugreifen. Clemens Wasner: Wobei da ja meine These ist, wenn Mark Zuckerberg und Meta jetzt all in geht mit Openweight, dass die chinesischen Modelle relativ früh verschwinden werden, weil das ist so wie Google damals head to head gegen Microsoft gegangen ist bei E-Mail zum Beispiel. Und bei Gmail hast du den hundertfachen Speicherplatz gehabt und nix dafür gezahlt versus jetzt MSN und Hotmail. Meter kann sich's leisten. Wenn Meter den Ansatz fährt, dann kann niemand mit denen konkurrieren. Also das ist ja der Klassiker. tust das, wofür die Konkurrenz Geld verlangt, gibst du gratis her. Und das wäre so der klassische Move wieder mal. Aber naja, zusammenfassend muss ich schon sagen, ich meine, die bin jetzt so circa zehn Jahre am AI-Zug. AI-Landscape, enliteAI AI Austria und so weiter und so fort. kann mich nicht erinnern, dass es jemals ein Thema geben hätte, wo in dermaßen hoher Frequenz sich Medien melden oder Vertreter wirklich quer durchs gesellschaftliche Spektrum. Also das ist wirklich, wenn du es haben willst ... Und damit meine Zeit diesen ganzen Themenkomplex bringt KI uns die KI bricht aus, KI hackt, wie gefährlich ist das Ganze. Also das ist jetzt so wirklich, das ist auf einer komplett anderen Ebene. Jakob Steinschaden: Hm. Clemens Wasner: Also du merkst, wie stark das die Leute beschäftigt, weil das natürlich auch auf Urängste einzahlt. Darauf darf nicht vergessen, wir sind ja auch populär kulturell dazu schon geschult worden in den letzten Jahrzehnten, wenn man so nennen will. Also da kommt ... Wenn du mich fragst, 100 %ig was Regulatorisches raus, das kann gar nicht sein. Auch wenn Trump das jetzt so wegwischt und der hat gerade, wir diese Episode aufnehmen, sagt er wirklich wortwörtlich, ich zitiere, man braucht dafür keinen Regulator, sondern nur einen High IQ President. Und gerade Jakob Steinschaden: Mhm. Clemens Wasner: die USA hat den besten High IQ President aller Zeiten. Also, wörtliches Zitat Ende. Aber selbst wenn es der Trump so sieht, wird es ein Wahlkampfthema jetzt bei den Midterms. Es ist auch unter Democratic Operators am Wochenende eigentlich schon wieder gepostet worden, dass Obama sagt, man soll Data Center und KI-Regulierung zu einem Thema machen. meine, November ist ja bald, das sind zwei Monate, sind die Midterms schon wieder vorbei. Jakob Steinschaden: Absolut. Naja, auf jeden Fall die Zeitspanne zwischen haha, die KI ist so dämlich und halluziniert, was das Zeug hält und Gott, die KI wird die Welt zerstören, liegen irgendwie gefühlt nur eineinhalb Jahre. Also unglaublich schnell, was da passiert und vor allem in der Diskussion. Vor eineinhalb Jahren haben sie sich darüber lustig gemacht und jetzt haben alle Angst davor. Clemens Wasner: Man wird irgendwann zurückblicken und sagen, dem Zeitpunkt, die Image Generation Modelle Baby Hippos herstellen konnten, dass das eigentlich so der Punkt war, wo alles gekippt ist, ist das Jakob Steinschaden: Ja. Clemens Wasner: nicht bequem sentient and self aware. Jakob Steinschaden: Na gut, super. Lieber Clemens, war mir wieder eine Ehre und Freude mit dir zu sprechen über die aktuellen Entwicklungen in der KI-Welt. Dieses Mal mit viel Geopolitik und Open-weight-Thematik drinnen. War super und bis nächste Woche. Clemens Wasner: Jupp, bleibt spannend. Dieses Mal bin ich wirklich neugierig, wie die Debatte in 7 Tagen ausschaut, weil die wird nicht stehen bleiben, im Gegensatz zum Modell Development. Also bis bald und schöne Woche. Ciao!