Josef: Hallo Christoph!

Christoph: Hallo Josef, schön dich wieder zu sprechen.

Josef: Absolut. Und die Frage, die ich mir seit einem halben Jahr stelle, die klingt albern, aber ist es nicht. Wie führt man eigentlich Arbeit, die keinen Puls hat?

Christoph: Ja, du musst in erster Linie anfangen, dich zu fragen, ob es ein Tool oder eine Software ist und es wahrnehmen, wie eben irgendwo ein Mensch. Also die Führung ist aus meiner Sicht die gleiche wie die Führung von deinen Mitarbeitern.

Josef: Ja klar und anfängst zu fragen, welchen Job diese Arbeitseinheit überhaupt erledigen soll. Und das ist kein Wortspiel, weil beim Tool fragst du nach Funktion und Preis, beim Job fragst du nach Zielgrenzen, Abnahme und das sind vollkommen verschiedene Gespräche und führen auch zu unterschiedlichen Ergebnissen und Mitarbeiter haben ja meistens und auch wir haben ja nicht nur einen Job, sondern wir haben einen ganzen Blumenstrauß an Jobs und verschiedenen Messgrößen dahinter.

Christoph: Die sind im Zweifelsfall auch nicht so richtig gut aufgeschrieben. Deswegen habe ich dafür zwei Testfragen, die eigentlich jeder heute Abend beantworten kann. Die erste ist, könntest du das, was dein Agent gerade tut, neuen Menschen in drei Sätzen als Aufgabe übergeben? Und wenn du dabei in Stocken kommst, hast du keinen Job definiert, du hast deine Software angeschaltet.

Josef: Und die zweite ist die unangenehme.

Christoph: Ja, was darf er nicht? Also wenn dir spontan nichts einfällt, was das System nicht darf, dann hast du nicht tief genug drüber nachgedacht dann lautet die Antwort in deinem System heute alles. Okay, naja, das macht ja

Josef: Ja, alle.

Christoph: insofern schon Sinn. Alles. Nein, das System darf nicht alles. Ein Mitarbeiter darf auch nicht alles.

Josef: Absolut,

Christoph: Also vielleicht hier nochmal der Cut und was darf er nicht? Wenn dir spontan nichts einfällt, dann lautet die Antwort in deinem System heute alles. Und ist es das, was du willst?

Josef: Wahrscheinlich nicht, ne?

Christoph: Ja, also ich nehme dafür irgendwie unsere Beispiele, die wir auch im Vertrieb haben. Also gerade als junge Marke ist jetzt ja natürlich schon sehr, sehr wichtig, wie wir auftreten gegenüber unseren Kunden und die Agenten, die bearbeiten und nach bearbeiteten ja natürlich irgendwo jede Absprache, die bereiten jedes Kundenangebot vor, die bereiten jedes E-Mail an einen Kunden vor. Aber sie dürfen halt nicht eigenständig mit dem Kunden bis zum Ende durchkommunizieren, sondern sie müssen an einem gewissen Punkt halt sich auch erstmal noch die Freigabe für diese E-Mail bekommen. So wie man im Zweifelsfall auch den Brief der Chefsekretärin früher freigegeben hat, beim aller einfachsten Level zu bleiben.

Josef: Absolut. Und ich glaube, das ist ja ein Teil des Prozessthemas, sich da genau zu überlegen, wo muss das sein? Also wie du es ja auch sagst, früher gab es das schon. KI kann da natürlich wahnsinnig viel übernehmen und stützen, was Jobs angeht. Aber jetzt aus meiner Brille, jetzt aus dem Feraxia-Kontext, human in the loop Gates und klare Quality Gates sind da extrem wichtig. nicht weil wir Control Freaks sind, sondern weil die Komplexität auch so hoch ist und die verschiedenen Stränge zusammenzubringen. Aber auch noch selber im Überblick zu bleiben, ist es unheimlich wichtig.

Christoph: Das ist ja genau dieser Punkt, wo wir wieder bei unserer Entscheidung und unserer Diskussion sind, ob ich jetzt eigentlich einen Agenten führe oder manage. Und ich glaube, den Fehler, den du zu schnell machst, ist, dass du bei den Agenten alles anfängst, micro zu managen. wirklich Schritt für Schritt. Das kommt wahrscheinlich dann auch aus den ersten Schritten, die die Leute mit JetJPT und sonstigen Softwares gemacht haben. Das ist wirklich jede Freigabe, jeden Schritt. Ich gehe jetzt links oder rechts, links und du gibst dann wirklich die einzelnen Schritte frei. Und die Frage der Führung ist ja vielmehr, dass du am Anfang dem Agenten erklärst, da genau will ich hin. In klaren Sätzen, mit einem klaren Zielbild und mit klaren Limitierungen von dem, was er machen darf. Und dann an dem Punkt, wo er dir mitteilt, ich habe das Zielbild erstellt, ich bin fertig mit meiner Arbeit. Andere Agenten haben meine Arbeit überprüft. Wir glauben, dass alle Quality Gates geschlossen sind, dass du in dem Moment in diese finale Führungsentscheidung reingehst und so diese Sponsoring Abnahme der Arbeit eigentlich macht, wie eine eine Führungskraft, das ja auch im Alltag mit den Menschen tut.

Josef: Ja, und ich glaube, das sind drei Dinge, du für dich noch sehen solltest. Das erste, das kommt natürlich darauf an, dass du auch Mitarbeiter bzw. dass du Personen hast, die das mitbringen, nämlich Urteilskraft. Also du gehst ja bei einem Menschen, der für einen gewissen Job beauftragt ist, davon aus, dass er merkt, wenn eine Aufgabe komisch wird, also wenn irgendwas nicht passt oder in die falsche Richtung läuft. Das ist wieder der typische Punkt, den wir erklärt haben. Du musst Erfahrungen mitbringen und du musst wissen, was du tust. Wenn du nicht weißt, was du tust und keine Erfahrung hast, hast du ein Problem, weil dann fehlt dir die Urteilskraft. Das zweite Punkt, und da können wir beide, glaube ich, Geschichten erzählen. kannst sicher daran machen, ist das Thema Scham. Ein Mensch, der etwas nicht weiß, wird unsicher. Was macht er? Verdeckt er es? Versucht er, sich irgendwie rauszuwinden? Bei einem Menschen sieht man das noch mehr, was ist dann bei den Agenten. Aber der dritte Fall, der lässt sich nicht wegdiskutieren, ist Haftung. Das ist der, der auch richtig Geld kostet.

Christoph: Ja, ja, also bei dem bei dem Scham Thema, da da, da will ich mal wirklich einsteigen. Also weil so so rotzenfrech wie verschiedene Modelle lügen und dir was erzählen, was sie gemacht haben, was sie nicht gemacht haben. Das habe ich wirklich nur bei sehr wenigen menschlichen Mitarbeitern erlebt. Und diese diese Scham Grenze ist dann bei den Menschen auch sehr viel einfacher zu identifizieren. Aber wenn du wirklich dann so unhinterfragt alles mitnimmst, was dir der Agent hinterklärt und das ja auch was ich Leuten am Anfang immer wieder sage, frag dann, wenn du wirklich an den Punkt angekommen bist, auch nochmal nach dem Warum. Frag ihm, warum der Agent es so gemacht hat und überprüfe oder stell einfach mal so eine ketzerische These auf, da heißt, na, ich bin nicht ganz sicher, ob du richtig liegst. Das reicht schon, den Agenten wenigstens nochmal zurückzuschicken. Und das Ergebnis im Zweifelsfall zu hinterfragen. Wie oft haben wir beide die Antwort gesehen? ja, du hast recht. Ich habe ja gar nicht die Schritte gemacht. Das war nur im Smokescreen und ich hatte gerade keinen Zugang. Und deswegen habe ich dir mal eben was erzählt. Also die Punkte muss man spüren. Und klar, ohne Puls fehlt uns da dieses zwischenmenschliche Gespür, wo wir im Büro gemeinsam sitzen und merken. Der Kollege, der hatte sich jetzt

Josef: Vielen Dank.

Christoph: nicht wirklich vorbereitet und redet hier gerade die Antworten. Da müssen wir doch noch mal tiefer reingehen.

Josef: Ja absolut. ich denke sprachlich tun das schon ganz viele, die dir dann sagen, der Agent hat entschieden das. Und den Satz

Christoph: Ja.

Josef: höre ich ständig.

Christoph: Aber das ist dann auch wieder diese Software-Diskussion, wo du davon ausgehst, so eine Software, die ist abgenommen, ist fertig, die ist getestet, die spuckt immer das gleich gute, perfekte, deterministische Ergebnis aus. Und das ist halt eben nicht der Fall. Ein Agent ist keine Software. Der ist bis zu einem gewissen Teil unglaublich gut, performant und schnell. Und irgendwo geht auch bei den besten Agenten heute so diese Dummheit. und die Lügen und die Halluzinationswindel los. Also das ändert sich auch nicht durch die Größe des Modells oder sonst. Man muss diese Punkte auch in seiner Führungsherausforderung bei den einzelnen Modellen und Agenten identifizieren. Welchen Teil kann ich ihm vollständig vertrauen jetzt? Was nehme ich einfach ab? Und wo muss ich wirklich nochmal genau hingucken? Und wann muss ich eventuell auch einen Agenten einfach austauschen?

Josef: Und wann muss ich Grenzen neu ziehen? Also ich glaube, ist in dem Moment an den letzten Tagen diese Hugging-Face-Geschichten, wo es hieß, die Agenten haben sich in fremde Infrastruktur eingehackt. Per se, da hat jemand ein Ziel gesetzt und Grenzen nicht durchgezogen oder nicht die Grenzen gesetzt. Und das ist ja bei vielen der Themen, die du auch vorhin gesagt hast. Was ist die Grenze? Wenn du Dinge nicht machst, dann berichte, dann dokumentiere, dann halte ich da dran. Also wenigstens, du eine Aufzeichnung hast, was passiert ist.

Christoph: Ja, ja, also deswegen auch dokumentiere ich ja alles aus den aus den Language Models heraus und relevant ist für uns eigentlich wirklich nur unser Harnes, wie Sie auch gerne nennen, also unsere wirkliche interne Dokumentation, die zwar auch Agenten immer wieder anpassen und die auch von Agenten erstellt wird, aber die ich halt doch als tägliches Brot lesen und verstehen muss. Und Haftung, Haftung ist halt dann. Also ich meine, ich glaube, wir sind beide in hoch regulierten Geschäften drin. Ich habe gegenüber den Institutionen in Deutschland Unterschriften noch ein Löcher abgegeben, für was ich alles hafte. Und ich kann in einem regulierten Business da nicht einfach auf Blindflug stellen.

Josef: Absolut. Und deshalb auch zu sagen, behandel ihn wie einen neuen Mitarbeiter, war ja auch für viele Firmen oder für viele ist erstmal Verbot, Verbot, Verbot. Aber wahrscheinlich muss man erstmal Jobdesign, Verantwortung, also die Jobdesign zu sagen, was ist da, das Ziel, der Kontext, was darf er. Wie läuft es? Mit wem wird gearbeitet? Und für die Verantwortung ist ja auch wichtig. Du bist ausschließlich du dran und zwar nur für das, was du nicht wusstest. die die Verantwortungsregulierung muss auch komplett sauber sein.

Christoph: Ja, und wo ziehst du da die Grenzen in der Verantwortung, die du früh delegierst? Oder wie baust du das grenzentechnisch dann auf?

Josef: Also ich habe, wie man sagen, führen wie Arbeitseinheiten, haften wie Menschen. Also ich habe das in Abteilungen geklidert. Jetzt kann man sagen, ist das noch korrekt in Abteilungsdenken? Ich habe Abteilungen geklidert und dann haben die Abteilungen gewisse Zugriffe und gewisse Rechte in dem Bereich und gewisse Übergabethematiken und das auch nicht jeder. Agent aus jeder Abteilung mit anderen Abteilungen kommuniziert, sondern dass es da klare Workflows und Vorgaben gibt. Nehmen wir an, das Research und Lab Team arbeitet an ganz wichtigen Patentthematiken, die aber noch unter Verschluss sind. Dann darf aus dem Bereich natürlich nichts in das Markt Team gehen, weil ich will ja unter allen Umständen verhindern, dass jetzt etwas mit der Präsenz auch nur annähernd in einem Investoren- oder Kundenbereich kommuniziert wird. Weil damit würde ich mir jegliche Neuerung auch schädigen. Und das muss ganz klar abgegrenzt sein, sowohl prozessual als auch von der Datenhaltungsseite her.

Christoph: Also wir haben genau diese Abteilungsdenkweise, die haben wir intern jetzt auch schon öfter diskutiert, ob das wirklich die richtige ist, weil die Agenten sind ja auf dem ersten Level sehr viel flexibler als so eine Abteilung. Aber ich hatte mit den Abteilungen genauso angefangen, weil ich glaube ich dadurch selber das Ganze besser verstehe, weil ich ja klassisch denken kann, wie die Abteilungen in einer Firma funktioniert haben. Und so fällt mir die Führung der verschiedenen Abteilungen auch einfacher. Und ja, wirklich führen wir Arbeitseinheiten, wir Abteilungen und und haften müssen wir dann halt als Menschen. Das heißt also auch in den Gates haben wir erst mal zumindestens einen Haftenden drin und die Abteilungen werden bei uns auch von Menschen geführt. Also die müssen dann schon gucken, was die Agenten auch in die anderen Abteilungen kommuniziert und übergeben haben und haben da klare Limitierungen. Und an diesen Schnittstellen passen Menschen bei uns auf.

Josef: Ja, absolut. vielleicht nochmal ganz kurz, wie ich es mir aufgegliedert habe, ist zu sagen, was ist eigentlich das Ziel? Jemand Abteilungs- oder Agentenziel? Was ist der Kontext? Was darf der Agent eigentlich wissen? Was ist der Input? Was kommt rein? Welche Quelle? Welche Form? Was ist der Output? Was sind die Werkzeuge? Also auch vielleicht noch ein spannendes Thema. Nehmen wir an, mein Research Team arbeitet auch mit Codex, JetGPT im speziellen Plug-in-Bereich. Das abgesichert ist, dürfen die damit arbeiten, können sie dazu zugreifen, ist es in dem Sicherheitsrahmen drin, also welche Tools darf welche Abteilung nutzen. Die Research-Abteilung braucht nicht den Zugriff auf Marketing-Tools. Das braucht nur das Vertriebsteam. Sechstens verbotene Aktionen. Was muss immer gescannt werden? Was darf man niemals tun? Und und und. Und eben Review-Kriterien. Also das Thema, was du auch gesagt hast, was ein Verifier, was wird wie dokumentiert. Auch ein Eskalation-Fahrt. von der Seite, sind so die Abteilungskriterien, was ich noch habe und das ist jetzt relativ neu, ist so ein Zero-Day-Thematik, was mache ich, wenn mein aktuelles Orchestrierungslayer, was Band Tropic ist, nicht mehr funktioniert. Also

Christoph: Mhm.

Josef: bin ich in der Lage, meine Infrastruktur von heute auf morgen auf ChatchieBT oder auf Codex zu ziehen oder auf Mistral. Also ich habe die zwei Varianten in der Vorbereitung. Genau, das ist so das übergreifende Thema noch.

Christoph: Ja, ich glaube, das ist uns mit den Eingriffen von Fable Fünfter durch die amerikanische Regierung in den letzten Monaten ja doch sehr deutlich klar geworden, dass wir hier ein Risiko fahren, wenn wir Models verwenden, die wir eben nicht kontrollieren, wo wir auch den Zugang dazu nicht kontrollieren. Und ich glaube, im Sinne der Souveränität und auch des Datenschutzes ist der erste Weg, dass wir eben diese Dieses Thema vorbereiten, was du sagst, kann ich wechseln. Und du kriegst es ja automatisch dadurch, dass du wirklich das Briefing, den Kontext, den Input, den Output komplett in deinen eigenen Systemen hältst. Und dann ist es ja, wie wir gesehen haben, nicht nur ein Switching von heute auf morgen, sondern du kannst eigentlich innerhalb von Sekunden umstellen und ein neues Model auf ein Thema rauflassen. Oder teilweise lasse ich ja auch zwei Models parallel auf das gleiche Thema auf und Ich kontrolliere dann am Output Gate wiederum, welches Model mir dies bessere Ergebnis geliefert hat, dann wieder eine Entscheidung zu treffen, wen lassen wir jetzt produktiv für eine Weile.

Josef: Genau, also das mache ich auch sehr viel. Aber dann halt orchestriert meistens durch eine Klott, eine separate Klottlayer. Aber

Christoph: Gut.

Josef: per se fahre ich jetzt auch sehr viele Themen zu sagen. Schau dir das alles an, wenn du morgen übernehmen müsstest. Was fehlt noch in Dokumentationen? Was ist noch unklar? Was müssen wir noch nachziehen? Und es ist wirklich spannend, wie ... momentan aus meiner Sicht, Chatchie Pt und Entropic schon sind. Also das ist relativ plug and play. Mistral ist wesentlich komplexer, das zum Laufen zu bringen in der Form.

Christoph: GroK scheint jetzt ja auch genauso austauschbar zu sein, habe ich selber noch keine Tests gemacht, aber das hört man ja auch im Markt. Ich habe auch das, also das ist für mich eins der Kernziele im nächsten Jahr, dass man von diesem Orchestrierungslevel Claude wegkommt, also dass man davon frei wird. Ich habe da verschiedene Tests gefahren in den letzten Wochen oder ich habe auch einige Agenten, die halt wirklich mit kompletten Harnese aufgesetzt sind, aber die ihren eigenen Orchestrierungslevel bei anderen günstigeren Open Source Modellen oder so etwas haben. Und das kreiert mir aktuell noch mehr Probleme als Lösungen. Also der Orchestrierungslevel, wenn ich den nicht auf Cloud habe, wird für mich schwierig.

Josef: Das hatte ich ja auch schon viel diskutiert. Ich habe sehr viel rumprobiert, wenn du dann Subspawning Prozesse hast, die dann erhängen bleiben oder spawnen 15 Themen und da kommen nur 12 zurück oder 11 und es ist wirklich sehr, schwer. Auch wenn viel in der Presse steht, wie toll diese Open Source Modelle sind für einzelne Nischen Anwendung. Ja, aber als Prinzipielle Arbeitshelfer, da müsstest du erstmal genau definieren, was, setze ich wie was dediziert als ein Thema ein und dann auch wirklich sicherstellen, dass das Spawning klappt. glaube, da hattest du auch eine spannende Erfahrung.

Christoph: Da hatte ich überall spannende Erfahrungen. Ich weiß nicht, auf was du dich jetzt da beziehst, aber...

Josef: Das war doch dieses Video, glaube ich, wo jemand gesagt hat, er kann damit ganz, ganz viel machen und das funktioniert ganz super.

Christoph: Ach ja, meine Lieblingsstory, da wo du dich wieder in diesen Hacker Geschichten verlierst. Und dann hatte ich da eine Implementierung gesehen von dem Open Source Model runtergebrochen und habe mich da eingelesen und gedacht super, das müssen wir auch machen und las dann da Kommentar für Kommentar und war irgendwie fünf bis zehn Minuten in dem Thema drin, Artikel. bis ich den einen Satz las, dass die Geschwindigkeit von so einem kleineren Modell irgendwie bei einem Token pro Sekunde liegt und das ist Ja

Josef: und

Christoph: Ich spreche jetzt so kann ich nicht arbeiten. ist also gerade bei den Geschwindigkeiten von den Modellen. Da denke ich Leute, was habt ihr gemacht? Also womit habt ihr eure Zeit verschwendet? Natürlich kann man auch irgendwie ein Haus mit einem Löffel bauen, aber der Bagger ist dann schon das sinnvollere Werkzeug. Da muss ich nicht den Löffel für erfinden.

Josef: Ich glaube, das ist ja auch wiederum ein Thema bei den, wenn wir jetzt zurückkommen zu den verschiedenen Tools. Vielleicht ist dieses Open Source Modell ja für eine Nischen Anwendung, wo du eine Berechnung durchführen musst oder eine Umwandlung von Daten, ist es natürlich vielleicht extrem gut und hilfreich und reduziert dir Kosten und Aufwendung. Aber da glaube ich auch, dass genau wie in der menschlichen Thematik diese Innovation muss aus den Abteilungen kommen und den Bereich. Und ich hatte es vor so spaßhalber gesagt, dass das Research Team, die haben bei mir zum Beispiel Perplexity, nutzen die viel im Search Thema. Mein Marketing Team und Sales Team braucht kein Perplexity. Das ist nicht notwendig als Thema. und das eben aufzuteilen und zu verstehen. das müssen auch die einzelnen Teams haben und da geben wir die Guideline. Natürlich ist bei mir auch die Guideline, kostenoptimiert zu arbeiten. Und das ist ja, wenn du es nicht eingrenzt und sagst, bitte ab.

Christoph: Hast du den Tokenfresser offen? Also das ist Puff und das war auch ein Learning, glaube ich, was dann viele gemacht haben. Und das ist ja auch die aktuelle Diskussion. Also wir sehen ja, wie die Tokenkosten zunehmen, gerade im Produktivbetrieb, wenn du nicht mehr irgendwelche Abo-Modelle verwenden kannst. Also viele streiten sich ja noch mit rum, ob sie die 20 Euro Chetchu-PT-Gebühr oder 100 Euro im Monat zahlen sollen. Die sind ja nichts im Vergleich zu dem, wenn du auf die API gehen musst, die du brauchst im Produktivprinzip. Da... Da musst du dann anfangen auch so zu denken, dass du eben ein Agent, ein, zwei, drei, fünf Toolzugriffe, aber das war's. Und nicht einfach mal hier ach ja super, man kann es ja mit allem verbinden. Freie Welt, freie Reise. Im Zweifelsfall war das ja auch der Auslöser für diese Hacking Face Hacks, dass sie da die Tools einfach mal freigeschaltet haben breit. Die sind ja aus der gleichen Organisation raus in die Angriffe gegangen. auch wenn das jetzt alles so separat dargestellt wird. Also da war wieder irgendwo ein Konfigurationsfehler an einer kleinen Stelle dran, der zu allem anderen gewöhnt. Und dann sind wir bei den Rechtsfolgen. Und die haben sich jetzt ja auch geändert seit wenigen Wochen, besonders für uns in der EU. Ich kriegte da auch gestern Diskussionen mit, wo es die Transparenzpflichten geht und wo sicher

Josef: Mmh.

Christoph: auch noch viel diskutiert werden wird in den nächsten Wochen.

Josef: Also, das kurz abzuholen, das geht ja nur darum, zu sagen, dem EU-AI-Act, wenn ein Mensch davor setzt, fällt er aus der Pflicht raus. Also sozusagen ist ja das Human Gate, die Rechtsfolge daraus. Aber das liegt ja an deinen Prozessen. Also wo sitzt der? Nehmen an, du bist jetzt eine Bank, die Kreditentscheidungen jetzt komplett mit AI macht. dann geht es ja nicht darum zu sagen, wir machen das morgen nicht mehr, aber du musst halt am Ende einen Experten haben, der in der Lage ist, das zu überblicken und zu sagen, ja oder nein, funktioniert das. das ist, glaube ich, mit gesunden Menschen verstanden, sollte es eigentlich jeder so machen. Also halte ich das eigentlich nicht für abschreckend, sondern eigentlich für unheimlich sinnvoll. Wobei natürlich dazu führt, wenn du dann natürlich jemand hinsetzt, der keine Ahnung hat oder der es nicht überblicken kann, dann ist auch ad absurdum.

Christoph: Ja, Aber gut, auch das ändert wieder nicht so viel zu der Führungsverantwortung des Geschäftsführers, wie wir es immer kannten. Wenn ich die falschen Mitarbeiter an den Gates hatte sitzen lassen und die Fehler gemacht haben, wo ich eben halt nicht meine Kontroll- und Strukturprozesse so unterlegt habe, dass ich die Haftung auch wirklich tragen kann, dann kriege ich heute auch die gleichen Folgen mit den AIs, wie ich es immer als Geschäftsführer wissen musste. und wofür ich immer gehaftet hab.

Josef: Ja, ich meine, viele der Diskussionen, die wir jetzt auch durchgegangen sind, du musst auch bei einem menschlichen Mitarbeiter überlegen, was passiert, wenn der Mitarbeiter die Firma verlässt. Du musst dir auch Gedanken machen. Da hatte ich die lustigsten Diskussionen schon über Datenschutz mit AI, wo wir dann relativ schnell darauf gekommen sind, dass das rechte System in ihrem Microsoft- Umfeld nicht ordentlich gepflegt ist. wenn du das Rechtesystem nicht richtig aufsetzt und dann sagst die KI kann auf die und die Sachen zugreifen, die KI kann nur das sehen, was der Mitarbeiterrechte hat, über der er sich einloggt. Wenn ich den aber nicht richtig geregelt habe, dann bin ich halt nicht in der richtigen Box. Und dann ist es ad absurdum zu sagen, das ist das Problem der KI. Es ist ein menschliches Thema von der Vorarbeit.

Christoph: Ja, aber da sehe ich die Zukunft auch im Luxus für die KI, weil also wie wir jetzt drüber nachdenken, ist sagen wir jeder Kunde sein eigener KI Agent. das quasi als Lösung für den Datenschutz, weil in dem Moment, wo ich nicht ein pauschales, großes Language-Modell auf meine Datenbank losjage, so wie ich einen Menschen losjagen muss, und hier hast du mal Zugriff auf alle Kunden oder auf alle deine Kunden, wie wir es Systemen früher konfiguriert haben, sondern anders vorgehe und sage, warte mal, hier sprechen wir gerade mit dem Kunden Josef und Ich gebe demjenigen Mitarbeiter einfach nur alle Informationen, die er zu Josef braucht. Die hat er alle. Aber eben nicht

Josef: Hm.

Christoph: vom Karl, Nachbarn von Josef. Der kann... dem Josef dann auch nichts mehr über Karl verraten oder irgendein Datenschutzthema bei uns auslösen, weil er eben als Mitarbeiter so eingeschränkt ist, dass er nur den Datenzugriff hat zu all dem, was wir in unseren Systemen haben, über den jeweiligen Kunden. Und das wird dann auf einmal auch wieder tokeneffizient und ein ganz, ganz kleiner schöner Datensatz.

Josef: Genau. Ich glaube, das wichtige Thematik heute. Die menschlichen Mitarbeiter haben Zugriff zu allen

Christoph: Ja.

Josef: Kundendaten in vielen Fällen. Also auch die Logik zu sagen, wir können es viel kleintliedriger, wir können es viel dedizierter, wir sind nicht gezwungen. Warum hat man das so? Weil du hättest ja den Vertriebs-Innendienst-Mitarbeiterinnen und gesagt, es macht keinen Sinn für jeden Kunden einen einzustellen. Sondern du musstest ja diese Personen so definieren, weil du einfach sonst nicht die Kapazität hast. Das hat ja keinen Sinn gemacht. Aber mit Agents bist du ja frei. Du könntest für jeden Kunden dann in der Anlage der Kunden, wird sofort der Agent auch mit angelegt, mit Rechten, mit Zugriffen, allem drum und dran. Dann gibt es einen Orchestrierer oben drüber. Aber so kannst du natürlich Dinge viel klarer festlegen.

Christoph: Ja, also das ist unsere aktuelle Architektur Entscheidung. Ich glaube, die hält. Aber das werden wir jetzt auch im Zeitablauf sehen, wie sich da auch die die weiteren Möglichkeiten in den Rails und in allen anderen Alternativen entwickeln, wie zukünftige Architekturen aussehen. Aber das ist ja dann wirklich so ein Organisationsarchitektur Konzept, wo wir in die Zukunft reinkommen und dann zwar immer noch die Abteilungsdenkweise haben, immer noch die Prozessdenkweise als grundsätzlicher haben, aber eben irgendwo auch auf die Individuen Visualität des Kunden runtergehen können.

Josef: Ja, aber ich hatte jetzt von vielen Firmen, war bei mir auch die Anfrage, Josef, wir suchen jetzt ein C-AIO, jemand, der uns die AI-Sache aufsetzt, was ist denn das beste Profil für die Person? Und das finde ich ganz spannend. Und was ich bisher als als beste Variante gesehen habe, aus meiner Sicht waren Personen, genügend Betriebserfahrung haben, sozusagen den Kontext und die Expertise mitbringen, das heißt nicht die jungen Wilden und die idealerweise ein IT-Architektursdenken schon verstehen. Also die verstehen, was ist Recht im Management, funktioniert es, also dass die so ein Projekt Architekturhintergrund haben. Also das fand ich, die haben am besten diese Kombination operative Expertise und Architektur, weil es gar nicht die KI an sich geht.

Christoph: Ja.

Josef: Die einzelnen Agenten kann ja nur die Fachabteilung machen. Das kann auch nicht eine Zentralabteilung machen. Deshalb scheitern ja auch so viele dieser Zentralabteilung. Aber du kannst ja die Boundaries sozusagen.

Christoph: Ja, klare Boundaries. ich glaube, Frage, also worüber ich die letzten Tage nachgedacht habe, weil ich auch mit einigen Transformationsmanagern dazu dem Thema gesprochen habe, ich glaube auch dieser klassische Transformationsmanager Background, schon gerne aus dem Unternehmen heraus. Jemand, der vielleicht Integrationsprojekte lange Zeit geführt hat, der hat ein Verständnis für Abteilung, aber eben halt auch für IT Architekturen und die Schnittstellen. Wenn ich Produkt und IT-Architektur zusammenbringen muss. Also diese Erfahrungen sind, glaube ich, jetzt sehr, sehr wertvoll. Und ich würde wahrscheinlich auch, wenn ich dazu einstelle, in diesem Markt versuchen, rumzufischen, wer könnte es sein? Aber eben halt auch Leute mit der kognitiven Flexibilität, sich in die neue und in eine zukünftige Welt reinzudenken.

Josef: Ja, und das ist, ich, so, dass dieser Sprung nach vorne, du kannst es nicht für jetzt machen. Also du kannst nicht sagen, ja, wir haben jetzt Co-Pilot und wie gehen wir jetzt alle damit und auf was kann der Co-Pilot alles zugreifen? Ach Mensch, hat er die Lohnabrechnung vom Hans Müller gefunden? Was ist denn mit dem Co-Pilot los? Das ist natürlich ad absurdum, sondern es muss Genau diese Zukunftsvision. habe Abteilungen, ist noch zwei Personen, Menschen. Abteilungsleiter hat überhaupt die Fähigkeit, im Detail zu führen und wie viele Agenten bauen wir drunter. Ein Beispiel vom NEMA-Vertriebs-Innendienst wäre ja, vorher wäre das ein Team gewesen von drei Leuten oder von zwei. Heute wären es dann ganz schnell 350 Agenten. geführt werden müssen. Das muss dann halt aber auch führen.

Christoph: Ja, da wieder auch zurück zur Führung. aus Konzernsicht habe ich jetzt auch mehrfach gehört, dass die da teilweise halt fünfstellige Kosten an Tokens für ihre Mitarbeiter schon haben. Und dann sagte derjenige im Nebensatz auch noch so Ja, wir haben ja auch alle hier unsere Zugänge jetzt bekommen. Und da werden natürlich besonders viele Tokens in der IT verbrannt. Da muss ich sagen, verbrannt ist halt leider das richtige Wort, wenn es dann wirklich kostenintensiv wird. da braucht es dann halt eben auch ganz ganz schnell KPIs und ich glaube gerade in dieser Umstellungsphase hast du relativ schnell einen gewissen Tokenwert, der immer noch effizient ist und der auch zeigt, dass der Mitarbeiter einigermaßen okay mit den AI's umgeht. Ich kann bis heute nicht sinnvoll Milliarden Token irgendwie verbrennen. Also mit allen Teams und all dem, was wir darunter haben. Das geht einfach nicht, wenn ich etwas produzieren will. Wenn ich sie einfach nur wild in die Welt losschicke und hier und da ein Feuer mache, ja natürlich, dann bin ich bei den Milliarden. Und dann ist das auch kein Qualitätskriterium, der ist jetzt super in AI, sondern... Also die besten AI-Führungskräfte haben glaube ich auch sehr sehr geringe Tokenkosten selber. Relativ zum Output wiederum.

Josef: Genau, ich glaube, du musst immer zum Haltpunkt sehen. Ich verbrenne ja ähnlich wie du. Ich habe drei Clot Max Abos, habe Chat-GPT Max. Also ich brenne schon durch vier, fünf Abos pro Monat durch in den höchsten Thematiken. Aber ich mache auch wahnsinnig viel. Und dann frage ich mich manchmal auch, wo kommt, wie soll das funktionieren? Also wenn ich die Aussagen von den Videos höher, du musst die Hälfte deines Gehalts in Tokenkosten produzieren, schafft es erst mal produktiv. Also ich sage jetzt ja, es muss zu allem nicht nur ein Verbrauch, sondern es muss eine Messung geben, was kommt hinten dabei raus. Aber da musst du ja schon wahnsinnige Dinge bauen und leisten. Und das kommt in den Köpfen, glaube ich, auch noch viel zu wenig an, was das eigentlich bedeutet. Also was kannst du für 200 Euro im Monat Fixpreis an Leistung bringen?

Christoph: Ja, also wenn du das also hoffen wir mal, dass es nicht nur ein Vertriebsargument im eigenen Interesse von Nvidia ist und die da schon irgendwo auch eine Referenzzahl haben, die aus ihrer eigenen Produktivität herauskommt.

Josef: Sicherlich.

Christoph: Da muss ich sagen, da brauchst du halt eine lange Lernkurve, glaube ich, bis das gehen könnte. Und du brauchst eingespielte Agententeams, weil ich merke es ja und ich glaube, das war auch der Auslöser, warum wir gesagt haben, wir machen diesen Podcast bei einer gewissen Tokenmenge. ist meine kognitive Obergrenze erreicht und ich verzweifle an all dem, ich überprüfen und lesen Das muss sich einspielen und ich weiß auch noch nicht, wo dann da die Grenzen liegen, aber naja, auf unserer Reise zum 10X werden wir das hoffentlich feststellen.

Josef: Das denke ich auch und es wird ihr besser. Also Technologie wird besser, das sehen wir ja auch mit den Modellen, auch wenn man mal kurz Fabel 5 nicht hatte, aber auch das neue Sol-System von JetGPT. Die Grundmodelle an sich werden leistungsstärker, ob sie dann in der Einzeltätigkeit besser werden, aber sie werden per se schon wesentlich leistungsfähiger. dann mit Multiagenten und dedizierten Agententeams damit zu arbeiten.

Christoph: Eindeutig in der Einzelfähigkeit sind wir halt jetzt auf dem Level angekommen, dass auch günstige Modelle reichen, wo die Token dann auch nicht mehr so relevant sind. Und wenn du diese Einzelfähigkeiten dann sauber identifiziert hast, dann werden die Tokenkosten eben halt auch produktiv und effizient.

Josef: Ja, wird auch, also ich glaube, das wird per se die nächsten Monate spannend. Wie wird sich das entwickeln mit den sehr günstigen Modellen aus Asien? Wo gehen die Preise hin? Ja, ich hatte, man ist immer beim anderen Thema, aber wenn man zum Thema Datenschutz hört und sagt, jawohl, wo findet das Processing statt? Natürlich bei OpenAI und bei Anthropic ist das Processing in USA. Und das ist auch kein Problem. Es gibt genügend. Regularien dafür. Da gibt es keinerlei Probleme für eine Firma. Vielleicht klar, wenn du irgendwelche Rüstungsthematiken machst, musst du dir das zweimal anschauen. mit den asiatischen Modellen hast du ja genau das Thema. Das ist dann Processing in China von den Seiten. Und ich glaube, das sind die Themen, wo man irgendwann sagen muss, was in Kosten, Qualität, Sovereignty und und und die alle dann mit reinspielen. zu sagen, welche Anwendung nehme ich eigentlich welche Modelle.

Christoph: Ja, da wird definitiv unsere europäische Souveränität für alle uns hier des wichtigsten Entscheidungskriteriums zunehmen werden. man kann nicht genügend hoffen, dass auch mit genügend Ernsthaftigkeit in Mistral und in andere europäische Produkte investiert wird, das nach vorne kommt und das irgendwo auch auf ein Level kommt. Weil das sind die Modelle, die wir zumindest nachhaltig haben können. Ich glaube, Der Streit die Modelle ist in die Commodity abgerutscht. So gut sind sie jetzt heute schon. Und ich glaube fest daran, dass wir wirklich auch dann langfristig oder mittel-, ganz kurzfristig eigentlich sogar schon in einem Energy-Play landen. Also in wirklichem Frage, was sind denn dann eigentlich auch meine wirklichen Energiekosten? das ... zu produzieren. Also noch sind Energiekosten nicht so relevant relativ gesehen auf die Hardware-Abschreibungskosten in Datencentern. Aber früher musste ich mein Handy auch jedes Jahr tauschen und jetzt

Josef: Ja.

Christoph: ist mein iPhone sechs Jahre alt und funktioniert auch immer noch ganz gut. Das sind Trends, die wir auch in dem KI-Chip-Bereich sehen werden.

Josef: Ja, meine, haben ja so viele der Sachen, die da kommen sollen, noch gar nicht durch. Das heißt, die Chips sind noch gar nicht produziert, das ist noch gar nicht gebaut. weißt, die Sprünge, die dann da kommen werden, das wird wirklich noch interessanter, was wir da erwarten. Aber das werden wir auf jeden Fall sehen. Es wird schneller gehen, wir denken in der Sache. Okay, ich glaube, wir haben ein ganz schönes Potpourri an Themen jetzt zum Bereich Agenten, ich will nicht sagen Versus, Agenten mit Mitarbeitern bzw. Organisationsstrukturen gegeben. Und da waren sehr, sehr viele Ansätze, glaube ich, für unterschiedliche Hörerschaften und unterschiedliche Komplexitätsgrade dabei.

Christoph: Ja, schöne Schlusswort. denke auch, wir sind in der Breite durch. Ich hoffe, war nicht zu verwirrend, das Potpourri. Aber ich denke, der Fokus wiederum auf Führung, auf Organisationsdenken, auf Input, Output und klaren Grenzen. Das sichert uns Geschäftsführern dann auch zu, dass wir diese Reise mit einer ausreichenden Haftung nach vorne weitergehen können.

Josef: Ja, ja, und vielleicht als als als Thema. Das Ganze ist der Unterschied dann zwischen Agent und Autopilot. Also eigentlich der Agent arbeitet, der Mensch führt weiterhin. Und das sollte das Credo sein, dass wir da auch auch reinbringen und das Verständnis dafür schaffen.

Christoph: Ja, danke dir!

Josef: Super, dann bis zum nächsten Mal.

Christoph: Bis zum nächsten Mal. Ciao, ciao.