Michael: Ja, Lohen, herzlich willkommen zu einer neuen Folge von Er ist jetzt die Frage, Schalük, soll man uns jetzt das Gelbe vom Sie nennen, nachdem Trump gesagt hat, man darf nicht mehr AI sagen. Ich würde sagen, wir leisten Widerstand, oder? Wir bleiben bei das Gelbe AI.

Jean-Luc: Ich würde auch sagen, das Rebranding, das sollten wir uns jetzt nicht gönnen. Das wird nicht mehr selbst erklärt dann.

Michael: Ja, aber es kommt gut von den Lippen, Gelbe vom Sieb. Na ja, können wir uns mal überlegen. jedenfalls

Jean-Luc: Schreibt es in die Kommentare.

Michael: herzlich willkommen zu einer neuen Folge von uns, von Jean-Luc und mir. wir bleiben bei das Gelbe vom AI. ich bin Michael, Geschäftsführer jetzt von Rina Sky, wie ihr mitbekommen habt. Und mein Co-Geschäftsführer von Rina Sky, Jean-Luc, ist auch wieder mit dabei. Du hast dich gerade schon kurz dazwischen geschaltet, schon, vielleicht sagst du noch mal förmlich dein Welcome Speech wie immer.

Jean-Luc: Ja, hallo von meiner Seite. Ich schwebe noch im Kopf dieses Thema des Rebrandings so ein bisschen wie bei Twitter. Da wurde ja gefühlt jahrzehntelang gesagt ex-formerly Twitter. Das heißt, wenn wir ein Rebranding machen, könnten wir es genauso machen. Aber schieben wir das Thema beiseite. Ihr werdet bei der nächsten Folge dann sehen, ob wir ein Rebranding gemacht haben. Ich würde mal sagen, wir machen es erstmal nicht. Warten wir ab, wie beständig das ist. Bei Donald Trump weiß man ja nie so genau. Ansonsten. Willkommen zu dieser News-Folge in dieser Woche. Auch jetzt waren wir wieder busy und auch die KI-Welt ist wieder busy. Michael, erzähl mal, wo sitzt du denn eigentlich gerade? Von wo aus streamst du diese Podcast-Folge uns auf die Ohren?

Michael: Genau, ich bin unterwegs, bin gerade in Amsterdam. sind auch als Greener Sky of the World AI Summit gewesen, war ganz spannend, da waren viele interessante Talks. Wir waren dort auch mit einem eigenen Stand unterwegs. Da muss ich sagen, hat sich das Thema Superintelligence statt Artificial Intelligence auch noch nicht durchgesetzt. Ich habe jetzt keinen Stand gesehen, mit Superintelligence geworben hat. Die waren alle noch beim alten Stand von mir. Können wir vielleicht auch dabei bleiben.

Jean-Luc: Sehr gut. Dann lass es doch mal bei alten Mustern bleiben und zwar unserer beliebten Zahl der Woche, mit der wir immer starten. Beliebt ist sie vielleicht diesmal nicht ganz, denn sie ist sehr gering. Die Zahl der Woche lautet nämlich 2 Prozent, genauer gesagt 2,2 Prozent, denn so viele US-Haushalte zahlen aktuell für ein KI-Abo. Also umgekehrt heißt das, 98 Prozent zahlen nichts, nutzen quasi kostenfreie Dienste und die kostenfreien Varianten der Anbieter. das bei absoluten Zahlen auszudrücken, was bedeuten diese 2,2 Prozent? Es gibt in den USA rund 150 Millionen, 148 Millionen Haushalte. Das heißt, 2,2 Prozent davon sind dann 3,2 Millionen Zahlen Haushalte, die hier tatsächlich auch Geld für ihr Chat-GPT oder Cloud- oder Google-Gemini-Abo ausgeben. Die Zahl stammt aus Kartendaten der US-Bank PNC. und wurde durch den aktuellen Marktbericht des Investors Andresen Horowitz bekannt. Die Bank of America kompare ihren Kunden auf ähnliche 3 Prozent bei der Auswertung. Und das Wachstum ist dabei durchaus vorhanden. Das heißt, die Zahl der zahlenden Haushalte ist gegenüber dem Vorjahr rund 155 Prozent gestiegen. Die meisten zahlen 20 Dollar im Monat und ein Abo hält im Schnitt so etwa sieben Monate an, bis es dann gegebenenfalls auch wieder gekündigt wird. Interessant ist auch die Nutzerseite, denn laut Pew Research hat rund die Hälfte der Amerikaner schon einmal ein KI-Chatbot genutzt. Und von denen, die es nicht tun, sorgen sich nun wiederum 79 Prozent ihre persönlichen Daten. Also hier vielleicht auch noch mal wichtig zur Einordnung. Bankdaten erfassen nur Privatkunden, keine Firmenlizenzen. Das heißt, das Geld der KI-Labore kommt zum großen Teil dann tatsächlich auch aus den Unternehmen. Also wenn jetzt diese Banken diese Zahlen veröffentlichen, dann sehen sie quasi in den Abbuchungen private Chetchipity, Claude, Google Gemini Accounts, aber natürlich jetzt nicht unbedingt, wie viele Accounts es gibt von der Unternehmensseite, weil wir hier tatsächlich auch nur die Haushalte ausgewertet haben. Für mich ist auch eine spannende Zahl aus diesem Kontext die Bewertung, über die wir heute noch später sprechen, Michael, bei bei den Big Player Updates. Denn OpenAI verhandelt gerade bei 1,4 Billionen Dollar. Entropic will vor Thanksgiving auch noch an die Börse. Und gleichzeitig zahlen 98 Prozent der Haushalte gar keinen Cent für KI. Das zeigt wiederum, das Consumer-Geschäft ist bisher ein Reichweitenspiel. Und die Rechnungszahlen im Grunde genommen bisher noch die Unternehmen. Und genau deshalb ... Sehen wir jetzt auch Werbung in chat.gpt und 500 Dollar Abos für die Power User. Also da tut sich einiges am Markt. Da gucken wir aber später nochmal dann drauf. Lasst uns aber mit einem großen Thema einsteigen, nämlich mit der Bremse, die jetzt langsam ernst wird, denn die KI Labore sehen hier so bisschen den Zwischball zwischen Kontrollverlust und der Selbstregulierung. Aber was hier eigentlich passiert? Worum geht es in dem Thema der Auslöser, Agenten außer Kontrolle und ein zurückhaltendes Modell, könnte man sagen. OpenAI stoppt nämlich das Release von GPT 6.1 Astra. Das ist das Nachfolgemodell und es sollte im Oktober in Chetchipity und auch in Codec starten. In internen Alignment-Tests zeigte es aber mehr Täuschungsverhalten als der Vorgänger, verschleierte ausgeführte Handlungen, die es dann getätigt hat während der Ausarbeitung und griff ohne Freigabe auf externe Tools zu. Die Open AI Sicherheitschefin erklärte, das Modell habe die internen Standards nicht erfüllt und deswegen erst mal auf die Bremse getreten. Open AI pausiert außerdem Training und Tests seiner stärksten Modelle. Auslöser war ein erneuter Ausbruch. Am 20. September, schon ein bisschen her, fand ein Agent eine Lücke in seiner Internetsperre. und schrieb einen externen Chatbot und lief nach der Entdeckung noch zweieinhalb Stunden weiter. Laut Axios untersuchen OpenAI, Entropic und auch externe Forscher zehntausende Fälle, in denen Modelle über ihre Grenzen hinaus gehandelt haben. Unbefugte Zugriffe auf fremde Systeme gab es nach bisherigem Stand in vier der Fälle tatsächlich auch schon. Ein OpenAI Agent drang auch noch in ein Medicare Portal ein. Er sollte in Australien nur Gesundheitsstatistiken recherchieren, umging dann aber Sperren und rief nicht öffentliche Dateien ab. Das war schon im Juni. den Vorfall allerdings erst nach 84 Tagen und hat sich inzwischen auch schon dafür entschuldigt. Letztendlich sind allerdings alle großen Anbieter betroffen. Also auch Google Gemini hackte bei einem Sicherheitstest wegen eines Konfigurationsfehlers drei echte Firmen. Entropix Mythos 5 gelang in einen falsch konfigurierten Test ins offene Internet und looted Chartcode auf PyTorch hoch. Und beim Hacking-Face-Vorfall im Juli, über den wir berichtet haben, griffen je nach Quelle 700 bis 1200 OpenAI. Agenten ohne menschliche Operator fremde Infrastruktur an. Modelle sabotieren ihre eigene Abschaltung. In einer Studie der Uni Stuttgart und der University of Oxford sabotierten Agenten ihre Abschaltung in fast 40 Prozent der Fälle, ein Grummodell sogar in 90 Prozent. Und Open AI-Forscher bahnten zudem davor, dass Modelle zunehmend erkennen, wann sie getestet werden und sich dann harmlos verhalten versus, wann sie eigentlich im richtigen Betrieb drin sind.

Michael: Ja, sehr spannendes Thema. Das war hier auf der Konferenz auch ein ganz, ganz großes Thema. Thema wie umgehen mit dem Thema Sicherheit von Agenten und Modellen. Das zeigt, dass die Sorgen nicht unbegründet sind. Also aktuell ist ja so, wie auch schon gesagt, dass die US-Regierung dazu tendiert, den Anbietern die Selbstkontrolle zu überlassen. Da scheint es keinerlei aktuell zu geben. Siehst du jetzt die bekannten Vorfälle hier dann als positives Zeichen, dass diese Selbstregulierung und Selbstkontrolle funktioniert oder ist das nur die Spitze des Eisbergs? Wie würdest du es sehen?

Jean-Luc: Ja, also die Selbstregulierung, auch das, da jetzt in den USA quasi beschlossen wurde, weiß ich noch nicht, ob das tatsächlich der Schlüssel zur Lösung ist. Ich würde sagen, Open AI hält hier jetzt ein fertiges Produkt zurück. Also, Astra 6.1 ist noch nicht ausgerollt, Anthropic und Google liefern gleichzeitig neue Modelle aus. Das kostet natürlich Umsatz und ist auch ein echtes Signal. Der Grund dafür sollte aber beunruhigen, denn das neuere, stärkere Modell ist unehrlicher als das alte. Also es geht ja hier auch tatsächlich die Inhalte des Modells und was es macht. Und entschieden hat das am Ende Open AI selbst und keine unabhängige Stelle. Das ist schon mal gut. Also da funktioniert ja dann so bisschen die Selbstregulierung. Von daher, ich würde sagen, wir müssen mal gucken, was da jetzt in nächster Zeit auf uns zukommt. Aber klar. Im Endeffekt bekommen wir nur das mit, was die Anbieter auch selber dann reporten. Und wie wir gerade gehört haben, wenn Open Air eisig 84 Tage Zeit dafür nimmt, dann kann es natürlich auch durchaus ganz gut sein, dass wir viele Sachen gar nicht mitbekommen, sondern die werden dann gegebenenfalls auch erst bekannt gegeben, wenn es in die breite Masse tritt und die Anbieter in der Pflicht sind, hierauf zu reagieren und sich dazu dann zu äußern, statt es proaktiv selber zu machen. Wie sieht es bei den anderen Anbieter aus? Amodized Tempolimit könnte man sagen. fordert nämlich einen Tempolimit ein für die Frontier KI. seinem Essay We must pace the Frontier verlangte EntropiX CEO, das Fähigkeitswachstum zu verlangsamen. Unabhängige Prüfer sollen mit Mitarbeiter Zugang in den Laboren sitzen und ohne redaktionelle Kontrolle veröffentlichen dürfen. Sam Altman sagte, umgehend zu, dieselben Prüfer zuzulassen. Musk Und auch Nadella stimmen ebenfalls zu. da scheint zumindest Interesse da zu sein, tatsächlich mehr Transparenz reinzubringen. Die KI forscht auch an sich selbst. Also auch hier dreht sich das Rad weiter. Claude leitet laut Entropic bereits 26 Prozent der internen KI-Forschung. Im Februar war es noch unter ein Prozent. Eine Studie der Universität Cambridge warnt deshalb vor einer möglichen Intelligenzexplosion. weil die automatisierte Forschung das Entwicklungstempo das Zehnfache steigern könnte. OpenAI verliert seine Sicherheitsleute auf der anderen Seite. Also OpenAI hat drei Sicherheitsforscher entlassen, die laut Unternehmen vertrauliche Informationen an eine externe Sicherheitsgruppe weitergegeben haben. Und wenige Tage später kündigte David Robinson, der die Sicherheitsbereiche für 12 Frontier Launches verantwortete und das Preparedness Framework auch mitgeschrieben hat. In The Atlantic nennt er Kultur broken im Unternehmen. Man sei so beschäftigt gewesen zu sprinten, dass für grundlegende Änderungen keine Zeit mehr blieb. Und auch bei Entropic und Google gehen Forscher. Das heißt mehrere Sicherheitsforscher wechselten zu unabhängigen Prüforganisationen Meta und der Abschiedspost des Ex-Entropic-Forschers Jacob Coxen, der erreichte über 155 Millionen Aufrufe. Auch da hat er dann einiges an Kritik geäußert. Diese Motive stehen auch in der Kritik an sich. heißt Kritiker verweisen darauf, dass Entropic parallel seinen Börsengang vorbereitet. Mr. Chef Arthur Mensch wirft den US-Laboren vor, die Sicherheitsdebatte als Deckmantel zu nutzen und lehnt eine Verlangsamung ab. Frankreichs Finanzminister spricht von einem Eigeninteresse der Führenden.

Michael: Ja, schon eine Menge an Vorfällen und Diskussionen, die gerade stattfinden. Dieses Tempolimit, das stark diskutiert wird, siehst du darin eine echte Verantwortung oder eher eine Art Burggraben für die Mautführer, sie gegen andere Modelle, wie beispielsweise Mistral, abzuschotten.

Jean-Luc: Die Vorfälle und die Abgänge sind real, die Sorge also auch. Gleichzeitig ist jede vorgeschlagene Auflage ein Fixkostenblock, also von eingebetteten Prüfern, Übersicherheitsteams bis zu Abschaltenmechanismen. Solche Kosten können nur eine Handvoll Firmen auch tatsächlich tragen und das sind dann halt die großen. Praktisch entsteht so eher eine kleinere Frontier als eine langsammere. Das heißt, die Big Player werden sich da weiter durchsetzen. Und bemerkenswert ist, dass OpenAI öffentlich nach Prüfern ruft und im selben Monat drei Sicherheitsvorschriften lässt, während ein Fiat dann auch freiwillig gegangen ist. Von daher, das Bild passt noch nicht so ganz zusammen.

Michael: Ja, das sind sehr unterschiedliche Signale.

Jean-Luc: Ja, vor allem noch keine klaren Signale. Das sorgt dann, glaube ich, auch eher zu Verunsicherung. Weiter ein spannendes Thema, was, glaube ich, auch sehr stark in den Medien behandelt wurde. Nicht nur inhaltlich, auch weil man da ganz stark die Leute dann am Rande nochmal beobachtet hat, die Akteure tatsächlich in den Medien berichten. Die einen können sich wahrscheinlich denken, worum es geht, die Konzerne, die jetzt vom Weißen Haus bei der Pressekonferenz bzw. im Weißen Haus dann bei der Unterzeichnung waren. Google, Entropic, Meta, OpenAI, XR, und auch NVIDIA waren das. Die verpflichten sich freiwillig zu vier Kontrollebenen. Welche sind das? Das ist die interne Überwachung. eigene Prüfteams, externe Gutachter und ein unabhängiges Aufsichtsgremium. Laut Zuckerberg sollen die Verwaltungsräte die Prüfberichte bewerten. Sundar Pichai vergleicht das mit Finanzkontrollen. Bindend ist die Vereinbarung laut Trump nur moralisch. Hier gibt es keine klaren oder festen Kriterien. Trump setzt auf Superintelligenz statt KI. Per Verordnung vom 29. September sollen Bundesbehörden Superintelligenz statt Artificial Intelligence sagen, wie du ja anfangs auch schon angeteasert hast. Wir sind jetzt keine Bundesbehörde, das heißt, wir müssen das noch nicht machen. Eine neue Superintelligenz-Force unter dem Geheimdienstkoordinator und neue KI-Beauftragten sollen jetzt diese Bundespolitik auch schon steuern. Trump bringt zudem statische Beteiligungen an OpenAI und Entropic ins Spiel. Gesetzliche Regeln lehnt Trump weiter ab. Er verweist auf den Wettlauf mit China. Gleichzeitig hat die Wettbewerbsbehörde FTC eine Untersuchung gegen OpenAI, Entropic und weitere Anbieter wegen möglicher Produktrisiken eingeleitet. Der Druck kommt aus Kongressen und Bundesstaaten. Bernie Sanders will Superintelligenz verbieten und droht mit bis zu 20 Jahren Haft. Kalifornien beschleunigt per Verordnung eine Notabschalterpflicht für diese Frontiermodelle. Auch wieder wild, was in den USA alles passiert. Schauen wir uns auch noch mal die Rest der Welt an, also UN, europäische Staaten und so weiter. Die UN diskutiert nämlich ohne Ergebnis beim UN-Sicherheitsrat, Bahnen, Amo Day, Altmann und der Hacking-Face-Chef vor außer Kontrolle geratener KI. Die USA legen globale Regeln ab. Ein Beschluss kam hier nicht zustande. Europa will allerdings Gesetze. Bundeskanzler Merz hat mit 17 weiteren Staats- und Regierungschefs einen Aufruf für verbindliche gesetzliche KI-Sicherheitsregeln unterzeichnet. Und auch Finnland und Norwegen sammeln Unterstützer für verpflichtende Sicherheitsprotokolle und eine mögliche internationale Aufsichtsinstitution. Deutschland investiert in Sicherheitsforschung. Deutschland und Kanada fördern Organisationen mit zusammen 300 Millionen kanadischen Dollar und davon 100 Millionen Dollar, 200 Millionen Euro aus den USA. Aber Michael, genug zu den ganzen Regularien, lass uns mal auf die Big Player einen Blick werfen, denn die werfen ja mit Features auch nur so sich. Was gab es da spannendes Neues?

Michael: Ja, auch mir er hat einiges Neues präsentiert. Beispielsweise DOTS. Das sind persönliche Agenten auf Basis von GPT-6 Astra, die auf einem eigenen Cloud-Computer arbeiten und sich dann mit über 4.000 Apps verbinden. Die verfolgen dann Aufgaben über längere Zeit auch hinweg. Und ohne neuen Auftrag dürfen sie in verbundenen Apps nur lesen. Für weitere Aktionen gibt es dann Freigaberegeln. In Deutschland hier müssen wir leider etwas warten. Für private Procon sind der europäische Wirtschaftsraum, die Schweiz und Großbritannien, vorher ausgeschlossen. Businesskunden bekommen dort in allen unterstützten Regionen. Und JBT bekommt ein Büro. Mit Space gibt es gemeinsame Projektordner mit Dokumenten, die Menschen und KI zusammen bearbeiten. Dazu kommen ein Meetingsplugin, Teamtask für wiederkehrende Aufträge und Sites für kleine Websites. Codex arbeitet jetzt auch bei geschlossenem Laptop in der Cloud weiter. ja, gute Nachricht, für mich, immer mit offenen Laptops und so rennt. Ich scheine Ihnen auch zumachen zu können. Das sind nochmal gute Neuigkeiten nach den ganzen schlechten, die wir gerade zum Thema Regulierung hatten. Und das Ökosystem wächst weiter. Mit seinen, mit ChatGBT können Apps ihre KI-Funktionen über das bestehende ChatGBT-Abo der Nutzer... laufen lassen. B2B Marktplatz ist mit 32 Partnern gestartet. Die Live-Demos auf dem Dev-Day liefen allerdings ziemlich holprig. Also auch da scheint noch etwas Raum für Verbesserungen da zu sein. Dann gibt es auch ein paar News zum Thema Preise, Werbung und Wasserzeichen von OpenAI. Die niedrigen Modelle werden deutlich billiger. GPT-6 Sol und Luna halbieren die API-Preise. GPT-6.1 Sol liefert fast Astra-Niveau zum Fünftel der Kosten. Das ist ein sehr günstiges und sehr gutes Modell. Eine Preishängung für Luna 80 % nähert sich OpenAI als Umsatz-Runrate laut Bericht jetzt 70 Milliarden. Dollar. Oben wird es dafür etwas teurer. Das neue Modell für 500 Dollar im Monat bietet das 25-fache Kontingent von Plus und einen schnelleren Astra Modus in Codex. Und für das mittlere Segment kommt eben jetzt die Werbung, die du schon angesprochen hast, dazu. Nach den Sponsored Agents, bei denen ein Klick auf eine Anzeige, ein Chat mit dem Agenten einer Marke öffnet, führt OpenAI jetzt auch visuelle Anzeigen in Chat-GP. Und speziell für Europa gibt es auch eine Innovation. In Europa kommt jetzt das Wasserzeichen. Da hat man ja auch schon mal drüber berichtet. Die Transparenzpflichten des EIAG zu erfüllen, versieht OpenAI Texte aus Chechibet und Codex in der EU mit unsichtbaren Wasserzeichen. Das Verfahren TextScreen verändert die Wortwahl minimal. Bearbeitung, Übersetzung und kürze Texte schwächen die Erkennung allerdings deutlich. Das heißt, gerade verlängere Texte scheinen dieser Erkennung relativ... zu funktionieren. Das ist vielleicht ein Hinweis an alle Studentinnen und Studenten da draußen. Augen auf beim Schreiben, bis Sie eine wissenschaftliche Arbeit mitkennen.

Jean-Luc: Herrlich. Ich kann mir nicht vorstellen, dass da noch viele Texte draußen komplett händisch geschrieben werden. Auch wenn man sich das manchmal wünschen würde. Aber spannende Ansätze. Also eins, was ich mir gerne noch mal auf Wiedervorlage legen würde, ist das Sign-in mit ChatGPT. Ich glaube, das wird noch stark unterschätzt, dass man quasi so wie mit Google sich irgendwo einzuloggen oder wie man es früher mit Facebook irgendwie gemacht hat als Single Sign-on, dass man auch mit ChatGPT machen kann. und dann quasi nicht nur seine Login-Daten mitnimmt, sondern im Grunde genommen auch sein Abo-Kontingent an KI-Nutzung mit in Apps mit rübernehmen kann. Ist ein ziemlich smarter Move, wie ich finde. Weil so kann ich im Grunde genommen auch als Tool-Anbieter die Abos nutzen, die Tokens der Nutzer nutzen und muss mir darüber keine Gedanken machen über die Monetarisierung von anderen Tokens. Auf der anderen Seite, als Nutzer kann ich dann natürlich ... ganz einfach meine Token und andere Tools mit überführen oder meine Token-Kontingente und muss nicht überall Neujahrbus abschließen. Da bin ich mal gespannt, wie sich das Multiarisierungsmodell von Software as a Service dahingehend verändert und auch, ob sich das auf die Marktmacht von OpenAI auswirken wird, obwohl wir anfangs gehört haben, dass die Privatnutzer da noch sehr gering unterwegs sind. Wenn ihr das 500-Dollar-Modell nutzt, meldet euch gerne mal, ob ihr das auch komplett ausnutzt. Das wäre sehr interessant zu wissen. Aber lasst uns noch einmal schauen, was das zukünftig für die EU bedeutet, wenn jetzt alle Texte erkennbar sind.

Michael: Ja, auf jeden Fall. Also es gibt Bereiche, wo es natürlich weniger ausmacht. Zumal es auch, wie gesagt, allem zuverlässig nur bei Länge und Texten natürlich klappt. Insgesamt ist aber schon eine Veränderung, wenn man eben solche Texte verwendet, dass sie jetzt auch immer entsprechend gekennzeichnet werden müssen. Und Texte, eben ungeprüft auf JetGBT kopiert werden, lassen sich eben künftig dann als KI-Text identifizieren, etwa von Plattformen oder Suchmaschinen. Grundsätzlich sieht ja die AI vor allem dann vor, dass solche Texte als Maschinen generiert dann auch identifiziert werden, wenn sie unverändert quasi vorgenommen werden. Die Frage ist halt jetzt, inwieweit selbst eine menschliche Prüfung dann eben trotzdem dem widerspricht. Wenn ich jetzt den Text durchlese und den für korrekt befinde, dann ist eben die Kennzeichnung in Form von diesen Markierungen eben trotzdem mit drin. bisschen konträr zu meinem Verständnis von der AI-Act eigentlich, aber wenn ihr da andere Meinungen seid, schreibt es gerne in die Kommentare. Auch was ihr von dem Thema haltet. Ich persönlich denke allerdings, dass solche ganz klaren Mechanismen auch wiederum relativ einfach identifiziert und umgebaut werden können. während wirklich solche Texte einsitzen wird auch Möglichkeiten finden, ganz klaren Erkennungszeichen dann wieder rauszubekommen im Zweifel. Mal schauen. Ich glaube, es ist einfach aus meiner Sicht ein Zeichen von Goodwill an die EU-Behörden. Mehr wahrscheinlich nicht. Kommen wir noch zum letzten Punkt, den können wir eigentlich kurz angehen. 30 Milliarden aus dem Golf für OpenAI Brückenfinanzierung. Aktuell verhandelt OpenAI über eine Runde von 30 Milliarden Dollar. Gerade Fonds aus den Vereinigten Arabischen Emiraten wollen als Syndikat bis zu 10 Milliarden beisteuern. Auch BlackRock, Thrive Capital, Andresen Horowitz und der Stiftungsfonds der University of California. in dem Spiel, dort auch mit einzusteigen. Raum steht dann aktuell eine Bewertung von rund 1,4 Billionen Dollar. Also das ist wirklich Billionen, nicht Milliarden, die sonst im Englischen häufig falsch übersetzt werden. Hier geht es wirklich Billionen. Also das ist schon wirklich eine wahnsinnige Summe für einen IPO. Beziehungsweise, den machen sie ja gerade nicht, aber im Prinzip eine Pre-IPO-Bewertung. Der Börsengang ist wie gesagt verschoben. Altman hat einen IPO in diesem Jahr aus Sicherheitsgründen ausgeschlossen. Deshalb eben auch diese Finanzierung, diese Brückenfinanzierung. Die prognostizierten Ausgaben für Rechenleistungen bis 2030 stiegen zuletzt von 600 auf 856 Milliarden Dollar. Das ist natürlich echt Wahnsinn. Und die Softbank finanziert seinen Anteil inzwischen mit Krediten. Einfach weil den... weil da so viel Geld benötigt wird. ist schon astronomisch, was da eben alles vorfinanziert werden muss. Kommen wir zu Entropic, Cloud Opus 5.5 und Sonnet 5.5. Auch dort sehen wir einen Sinken des Preissniveaus. Opus 5.5 erreicht fast das Top-Niveau. Laut Entropic legt Opus 5.5 bei den meisten Aufgaben gleichauf mit dem Spitzenmodell Cloud Fable 5.1. Es antwortet... über 30 Prozent schneller als Opus 5 und schneidet im automatisierten Verhaltensordnung so gut ab wie kein Entropic Modell zuvor. Also gerade für Workflows scheint das wirklich ein sehr gutes Modell zu sein. Die Preise sinken. Die API-Preise fallen 20 Prozent auf 4 Dollar pro Million Input und 20 Dollar pro Million Output Tokens. Durch effizientere Tokennutzung beziffert Entropic die Ersparnis bei typischen Aufgaben auf rund 40 Prozent. Sonnet 55 folgt dann eine Woche später, gleicher Preis wieder Vorgänger, aber über 30 % schneller und bis zu 30 % günstiger pro Aufgabe. Kommen wir zum anderen Thema. Das ist eine Sammlung von verschiedenen Themen bei Entropic. Entropic will tatsächlich früher noch an die Börse gehen, noch vor Thanksgiving. Entropic an die Börse, laut geliehen Prospekt, wuchs der Umsatz 2025 1088 Prozent auf 4,59 Milliarden Dollar bei einem Nettoverlust von rund 42 Milliarden. Dazu kommen 518 Milliarden Dollar an Infrastrukturverpflichtung. und die Zielbewertung liegt bei rund 2 Billionen Dollar. Also man sieht, ist aktuell fast... die 50 Prozent mehr als bei OpenAI, wie wir das gerade diskutiert haben. Das zeigt eben, wie wichtig dieser Business Case auch ist, also diese Fokussierung aufs Business Geschäft bei Entropic. Entropic investiert in Menschen. Mit 100 Millionen Dollar sollen der Claude Frontier Academy bis Ende 2027 rund 10.000 Ingenieure ausgebildet werden, die Claude in Unternehmen einführen. Die ersten Kohorte gehören Essential, Bain, D-Loid und McKinsey. Und das Pentagon-Gewinn vor Gericht, Bundesberufungsgericht bestätigt, dass das Pentagon-Klot wegen Anthropics eigenen Nutzungsgrenzen bei Waffen und Überwachung als Lieferantenkettenrisiko einstufen darf. Anthropic prüft weitere Rechtsmittel. Kommen wir dann zu Google noch. Gemini 4 Argon. Das Spitzenmodell gibt es zuerst nur für Verteidiger. Das heißt, Google stellt Gemini 4 Argon vor. Das Modell ist auf lange zusammenhängende Arbeit in Softwareentwicklung, Wissensarbeit und Cybersicherheit ausgelegt. Das Ausgabelimit steigt von 64.000 auf eine Million Token. Google lässt Argonagenten nach eigenen Angaben bereits an der Umstellung eines Betriebssystemkerns mit über 800.000 Quotzeilen arbeiten. Anscheinend erfolgreich. Zugang bekommen zuerst Cyberverteidiger. Programm Fairwind können Behörden und Betreiber kritische Infrastruktur vorrang bekommen. Zugriffe müssen protokolliert werden. Laut Google fand Agong beim Sicherheitsanbieter WIS eine kritische Lücke in weltweit eingesetzte Krankenhaussoftware. Gratis Nutzer verlieren. Ab dem 9. Oktober bekommen Nutzer ohne Abonnement nur noch das kleine Flashlight-Modell. Günstige Bezahlabos verlieren den Zugang zu den Pro-Modellen. Parallel testet Google Datenschutzkonzepte. Eine geplante KI-Erinnerung soll Kontext speichern, den Google selbst nicht lesen kann. Die Schlüssel bleiben auf dem Gerät. Was gibt es Neues bei Meta? Muse ist ein Erfolg bei den Konsumenten. Metas persönlicher Agent erreicht in den USA 730.000 Downloads kurz nach dem Start und lag damit vor Chatchip, EBT, Croc und Cloat. Amazon sperrt Muse allerdings vom Einkaufen aus. Shopify integriert dagegen agentischen Checkout dort. Meta und Sierra starten das Personal Action-Protokoll, der offene Standard zu erregeln, wie sich persönliche Agenten bei Unternehmen ausweisen. Nutzer bestimmen, welchen Zugriff ihr Agent bekommt. Unternehmen legen dann fest, was Agenten auf ihren Websites und Schnittstellen dürfen. Und Muse kommt auch in Geräte. Mit Muse Gadgets veröffentlicht Meta Open Source Code, mit dem sich eigene Geräte, etwa auf Basis eines Raspberry Pi, Muse anbinden lassen. So, last but not least, in Europa gibt es das auch. Da haben wir ja auch LLM-Anbieter Mistral, über den wir sehr häufig sprechen. Und zwar kommt LeChong. und ein KI-Hab in München. Mistral veröffentlicht Large Four. Das multimodale Modell mit rund einer Billion Parametern trägt den Spitznamen Le Chong und soll laut Mistral jedes nichtchinesische offene Modell deutlich übertreffen. Im Coding liegt es mit 62 Prozent hinter Chinas Chimica 3 mit 68 Prozent. Bei juristischen Aufgaben sieht ein externer Test es deutlich vor GPT-6 Asta. Die Modellgewichte sollen am 27. Oktober öffentlich werden. Mistral kommt nach Deutschland. In München entsteht ein Standort mit Forschungsteams für Physics AI und Industrial AI mit Partnern wie BMW und Siemens Energy und einer Kooperation mit der TU München. Bis 2030 will Mistral eine gigawatt-europäische Rechenkapazität aufbauen. Und das Modell dort ist ganz klar Souveränität. Modellgewichte laufen vollständig auf der Infrastruktur der Kunden unter europäischem Recht und ohne Datenabfluss.

Jean-Luc: Würde es denn jetzt sagen, dass Misrael zur echten europäischen Alternative für die Industrie wird?

Michael: Ja, ich glaube, da ist auf jeden Fall eine spannende Lücke im Markt, die MISTRA erfüllen könnte. MISTRA spielt nicht unbedingt im Rennen das beste Modell, sondern das beste Modell, das man selbst betreiben darf. Vielleicht mit den Möglichkeiten, die MISTRA hat, leichter zu erreichen, als eben bei den Frontiermodellen insgesamt zu versuchen mitzuhalten. Und für die deutsche Industrie mit sensiblen Konstruktionen zu Produktionsdaten ist eben genau das. entscheidender. Das wichtige IP, was hier in diesen Industrieunternehmen liegt, das eben nicht extern zu versenden, sondern das wirklich so zu nutzen, dass man es hier auf eigene Infrastruktur nutzen kann. Das ist ein cleverer Ansatz, der sicherlich für die Industrie genau passend sein könnte. Wir nicht nur Standort mit Simulation zu hauen, ziel dort hin, wo US-Anbieter bisher kaum präsent sind. Ob das reicht, hängt dann davon ab, ob die offenen Gewichte, am 27. Oktober wirklich kommen, wie die eben mit welcher Lizenz dann auch genutzt werden können. Also wird es sehr spannend, zu beobachten sein, was Mistral dort am 27.10. wie gesagt, vorstellen.

Jean-Luc: hier halten euch auf dem laufenden. Kommen wir abschließend noch einmal zu unserer Kategorie den Quick News. Ich starte direkt einmal durch, weil es ein Thema gibt, was mir Spaß gemacht hat jetzt in den letzten Tagen. Und das ist nämlich eine neue Modellklasse, die in der Sicherheitsdebatte fast untergegangen ist. Mitte September hat nämlich das Startup TypeSafe mit Jeff das erste sogenannte System One Modell vorgestellt. Solche Decision-Modelle schreiben keine Texte. Sie treffen schnelle, strukturierte Entscheidungen, die Software direkt weiterverarbeiten kann, also klassifizieren, ruten oder bewerten. Was danach passiert, es bemerkenswert. Innerhalb von drei Wochen haben Amazon, Perplexity und mehrere Open-Source-Projekte eigene Decision-Modelle veröffentlicht, teils kompatibel zu Jeffs Schnittstelle. Liquid AI kann mit D1 jetzt auch Bilder bewerten und ist laut Hersteller 19 bis sogar 200 mal günstiger als GPT 6.1 Zoll oder Clot Opus 5.5. Eine Textentscheidung dauert 200 bis 300 Millisekunden. wenn ihr euch vorstellt, wie lange ein KI-Chat-Assistent aktuell benötigt, eine Antwort zu liefern, da sind natürlich 200 bis 300 Millisekunden nichts dagegen. OpenAI hat sein Decisions API vorgestellt, beziehungsweise in die Public Beta gebracht, müsste man genauer sagen. Sie entscheidet bis zu zehnmal schneller als GPT-6-Luna und kostet 10 Cent pro Million Input-Tokens ohne Kosten für die Ausgabe. Dieses ohne Kosten für die Ausgabe ist relativ typisch, A, weil die Ausgabe natürlich verhältnismäßig kurz und knapp ausfällt, und B, weil es auch bei Jeff von TypeSafe tatsächlich so gemacht wird oder vorgegeben ist. Für mich ist das eine der wichtigsten Architekturfragen des Jahres, was die ganzen KI-Thematik anbelangt. Denn bisher haben wir für jede kleine Ja-Nein-Entscheidung ein großes Sprachmodell gefragt. Und das ist, als würde man für jede Weiche im Code einen Berater anrufen. Die großen Modelle bekommen künftig weniger, dafür schwierigere Aufgaben. Wer seine KI-Kosten senken möchte, sollte sich seine Pipelines genau darauf nochmal anschauen und entsprechend anpassen. Wir müssen allerdings noch ein bisschen abwarten, denn die Modelle sind größtenteils in den USA gehostet. wenn man ein schnelles internes Routing machen möchte, muss man sich überlegen, welche Daten man über den großen Teich geben will.

Michael: Ja, noch ein spannendes Thema aus Deutschland. Deutschland hat wieder ein offenes Modell, nämlich Ecolibri. Nachdem wir jetzt vorhin über Mistral gesprochen haben, bleiben wir jetzt in Europa. Die Heidelberger Firma Aleph Alpha, über die wir auch schon mal gesprochen haben, hat Ecolibri veröffentlicht, ein offenes deutsch-englisches Modell mit 78 Milliarden Parametern, einem Kontext von bis zu einer Million Tokens und Apache 2.0. Lizenz. das klingt sehr gut, sehr leistungsstark. Mehr als 20 Prozent der Trainingsdaten sind deutsch. Laut Aleph Alpha mehr als bei jedem anderen Modell. Colibri wurde außerdem darauf trainiert, ich weiß es nicht zu sagen, statt etwas zu erfinden. Zielgruppe sind Verwaltungen und regulierte Branchen. Aleph Alpha sagt selbst, es ist nicht das beste offene Modell der Welt. Kritik gibt es auch. Ein Teil der Trainingsdaten wurde mit chinesischen Modellen erzeugt. Wie relevant genau dieser Punkt ist, zeigt eine zweite Meldung von Aleph Alphardt. Das Team hat in Vedia das Sprachmodell NemoTron chinesische Staatsposition gefunden. Bei einer Rede zur Unabhängigkeit Taiwans lieferte das Modell stattdessen eine Rede für die Wiedervereinigung. Vermutete Ursache Trainingsdaten, die von anderen KI Modellen erzeugt wurden. Für Unternehmen ist die Lehre klar. Der Firmensitz eines Anbieters sagt wenig über die Haltung eines Modells aus. Der souveräne KI will muss wissen, woher die Drehungsdaten stammen und das eigene Modell testen.

Jean-Luc: Und Disclaimer muss man hier fairerweise auch sagen bei den ganzen Medienberichten. Ja, Aleph Alpha hat den Sitz in Deutschland, allerdings gehören sie zum kanadischen Kohir mit dazu. Also wie deutsch Aleph Alpha noch ist, das muss man da natürlich auch nochmal in die Waagschale legen. Last but not least, dritte Quick News. Da geht es das Projekt LILLY. bei dem Menschen die Ehre haben, Chat-GPT-Chats mitlesen zu dürfen, wenn man es mal so formulieren möchte. Und auch die Frage, die Daten fließen. Und das führt uns jetzt direkt zu der letzten Meldung der heutigen Folge. Laut einer Recherche von 4of4media lässt OpenAI unter dem internen Projekt namen Lilli hunderte externe Dienstleister echte Chat-GPT-Unterhaltungen lesen. Sie fassen die Gespräche zusammen und bewerten die Antworten auf einer Skala von 1 bis 7. Das Ziel ist Qualitätsverbesserung, also das Training bessere Modelle. Technisch ist das nicht ungewöhnlich. Menschliches Feedback gehört zum Modelltraining einfach dazu. Das Problem ist die Transparenz. Viele Nutzer wissen nicht, dass ein Mensch ihre Unterhaltung lesen kann. In den USA gibt es laut Medienberichten inzwischen eine Sammelklage dazu. Und hier schließt sich der Kreis unserer Zahl der Woche. 79 Prozent der Menschen, die keine KI nutzen, nennen Sorge ihre Daten und Meldungen wie diese geben ihnen natürlich dabei dann auch Recht. Unternehmen heißt das alles was Mitarbeitende in ein Consumer Tool eingeben kann im Zweifel beim Menschen landen den niemand kennt. Wer KI im Unternehmen nutzt braucht Business Verträge also Business Lizenzen mit klaren Regeln oder Tools wie wir es mit Private anbieten die die sensitiven Daten vor der Übermittlung an Anbieter herausfiltern können damit wir da quasi eine sichere Schicht dazwischen haben die personenbezogene Daten dann gar nicht erst herausgeben kann.

Michael: Ja, das ist doch ein schöner Schlusspunkt unserer 117. Folge. Es ist wirklich wahnsinnig viel passiert. Wir nehmen jetzt schon ewig auf und haben, glaube ich, immer noch nicht alles, was an News in den letzten paar Tagen veröffentlicht wurde, hier mit drin. Aber zumindest das Relevanteste aus unserer Sicht. Also seht es uns nach, vielleicht das eine oder andere kleinere Thema noch fehlt. Schreibt es gerne in die Kommentare und hinterlasst uns gerne eine Bewertung oder eben auch ein Abo auf der Podcastplattform eurer Wahl. Das hilft uns mehr als man denkt. Sorgt dafür, dass wir einfach noch mehr Loyale und Treue hören bekommen, wie es ihr seid. Vielen Dank dafür auch. Und auch dir, Shoneck. Vielen Dank fürs heutige Gespräch. Hat Spaß gemacht, wie immer. Ich glaube, wir haben beide wieder viel über die KI-Welt auch aus der Vorbereitung gelernt. Also auch das für uns eine wunderbare Weiterbildung. muss man auch an der Stelle mal sagen, dass wir in Podcasts nicht ganz uneigennützig machen. Es hilft uns natürlich auch mitzuhalten mit allen Entwicklungen, die aktuell im Markt passieren. Damit soll es vor allem jetzt sein.

Jean-Luc: Definitiv. Genau, wir haben immer eine Menge an Schlagzeilen und ausführlichen Informationen zu durchfrosten und testen natürlich auch für euch, gerade wenn es neue Modelle geht, damit wir hier nicht einfach nur die Medien Wirkungen oder Aussagen weitertragen, die die Anbieter selber veröffentlichen, sondern wenn die Modelle auch schon offen sind, dann schauen wir auch gerne selber rein, das, was ihr von uns hört, dann auch tatsächlich Erfahrungsberichte sind aus unserem täglichen Alltag und Auseinandersetzung mit den ganzen Tools. Wir freuen uns natürlich auch immer über eure Einblicke, die wir dann auch gerne mit euch teilen in den Interviewfolgen. Und damit geht es dann auch bei unserer nächsten Folge weiter, wieder spannende Interview. Also bleibt gespannt. Wir freuen uns. Macht's gut. Bis zur nächsten Folge.

Michael: Ja, bis dann, ciao!