Phillipe: dann erzähl mal Andreas wie empfindest du aus der SOC Engineering Perspektive das Wort KI was ist so bei euch so bei wem triffst du da auf die nerven wenn du sagst so wir kennen das ja also wenn man so das Wort KI sagt drehen viele sich und sagen ne kein los Amis die lesen alles mit aber ⁓ sind jetzt im 2026 und ist es vielleicht gehen wir vielleicht einen schritt zurück und die frage geht ihr an dich ist deiner meinung nach noch möglich im jahr 2026 oder auch nächstes jahr oder aus 2030 ohne k.i. zu leben ist schon heftig gesagt daher sage ich mal zu arbeiten Andreas: Also ich glaube, jetzt auch schon ohne KI zu arbeiten ist so gut wie unmöglich geworden, denn wir haben halt jetzt schon in sehr sehr vielen Tools KI drin, wo wir es vielleicht auch gar nicht merken unbedingt, dass da KI hinter steckt. Also wenn ich jetzt allein den Defender zum Beispiel mal betrachte, den Microsoft Defender, da ist der allein schon für die ganze Korrelationslogik KI dahinter, die halt darauf guckt, was für Entitäten sind vorhanden und kann hier irgendwas zusammengefasst werden. ich merke halt auch, also ich glaube wir haben vor allem in Deutschland wieder ein allgemeines großes Problem von Datenschutz und wann können wir wirklich Virtual Tools verwenden. Denn wenn wir mal ehrlich sind, ist es halt so, Es gibt Unternehmen, die diskutieren über eine Co-Pilot-Lizenz, ob sie es einführen dürfen, ob ihnen die Kosten dafür gerechtfertigt erscheinen. Und wenn wir dann die Angreifer betrachten, die diskutieren über autonome Angriffsketten und wie sie die optimieren können. Ich wir haben einfach ganz unterschiedliche Grundlagen, die wir hier aufeinander legen. Und wenn ich das im Security-Kontext betrachte, jetzt einmal auf der einen Seite, ist das halt so, dass sehr starke Hemmungen haben aufgrund von ⁓ Daten und von KI, angegriffen werden kann oder den LLMs darunter, angegriffen werden können, ⁓ Daten preiszugeben, was aber auf der Angriffsseite die Leute überhaupt nicht interessiert, weil die können es einfach ausprobieren und wenn da Daten irgendwo verloren gehen, denen ist es auch egal. Aber zum alltäglichen Arbeiten, also Wenn ich das auf persönlicher Sicht betrachte, es halt schon so, dass wir mit KI wesentlich schneller geworden sind, Dinge zu tun und auch in unterschiedlichen Bereichen wie Detection Engineering, Dokumentation, Ideen sammeln, Korrelation von Incidents, das überall nutzen könnten. Da muss ich aber halt nur das Toolset so weit entwickeln, dass wir das auch mit mit LLMs nutzen können, die halt wirklich nur die Daten in den Organisationen belassen und die halt soweit abgesichert sind, dass da nichts nach außen dringt. Wie ist es denn bei dir und deiner Arbeit, Philippe? Also du hast ja auch mit sehr viel unterschiedlichen Kunden zu tun, die in unterschiedlichen Bereichen sind, aber auch unterschiedlichen Ausbaustufen schon agieren. Ist da KI aktuell noch eher das Thema, was sie gar nicht hören wollen, weil sie dem vielleicht nicht vertrauen oder die da schon aktiv einsetzen und bei sich intern überall implementieren? Phillipe: da ist wirklich ein Achterbahn. Also ich könnte ja sagen, zum Beispiel jetzt einen aktuellen Kunden, den ich betreue, der ist voll in KI Modus dabei. Er möchte am liebsten alle Agents von Microsoft ausprobieren. Da sind wir voll am Start. Wir probieren gerade den Condition Access Agent einmal über den ganzen Condition Access Policies, die deployed wurden, rüberzuschauen und dann evaluiert er also das Agent, die Condition Access Policies. Andreas: Mhm. Phillipe: und natürlich am Ende gehen dann wir hin, also die Spezialisten von den Identity Domänen, die wir im Betrieb haben, gehen dann rüber und gucken Werten aus, was die KI da ausgegeben hat. Nie zu so trotz gibt es auch, zum Beispiel von Microsoft, diese Phishing Agent, der ist auch ziemlich gut, hast du vielleicht mal Erfahrung damit gemacht, gehe ich stark davon aus. Insider. Und am Ende gibt es ja noch den MCP Server, was auch bei Microsoft gerade ein ziemlich großer Thema ist. Nicht nur bei Microsoft, wie wir sehen, gibt es auch MCP Server für Atlassian, also für Jira, für Node.LM, also für gefüllte jeden Software da draußen. Also wir sehen schon, dass die Amis da... ja. Andreas: vielleicht noch ganz kurz bevor du da weiter rein gehst. MCP Server müssen wir vielleicht auch noch einmal erklären, weil ist ja vielleicht auch relativ neuer Begriff. November 2024 kam der raus, magst du vielleicht noch einmal erklären was das überhaupt ist? Phillipe: Ja, was ist das? Wie kann man sich das kurz vorstellen? Moment, ich muss mal ein Beispiel überlegen. Früher haben wir die APIs einzeln angesprochen. Also wir müssen quasi jede API einzeln ansprechen und dann gucken, dass die richtig eingebaut sind, die Token, die Credentials etc. Jetzt kann man sich so vorstellen wie, nehmen wir mal ein Amerikanisch, ich ja vor kurzem in den USA mit dir. Andreas: Mhm. Phillipe: nehmen wir mal so die Amis, die haben ja den Walmart oder den Casco, wir fahren den Casco wir sind reingegangen bei uns geht man beim Kaufland, Rewe, Edeka rein man holt dann Lebensmittel manchmal so bei Kaufland gibt es noch andere Sachen aber den Casco haben wir so selber gesehen das war unendlich also wir könnten da wirklich ein Bett einkaufen oder mal eben ⁓ die Ecke hier ein Andreas: Mhm. Phillipe: 1 Kilo Hackfleisch oder in der anderen Abteilung ein Tresur. So sind MCP Server, die sind mit jedem API verbunden, die du denen gibst und du sprichst nur ihnen an. Also du gehst quasi jetzt in den Kaskord rein in deinen MCP Server und sagst, ich möchte wissen wie mein Sentinel, gib mir Informationen über den Incident 345. Dann geht er hin, holt sich dann, dann geht er zu den API von Sentinel hin. und holt sich an die Informationen von deinen Inzidenten, gerade liegen. Vielleicht liegt er auch in Defender, dann geht er aber der weiß wo der hin muss. Der hat die Zugriffe, er hat alles, du musst dich nicht mehr darum kümmern, dieses API selber irgendwo Hard-Zu-Coden oder zu schauen, dass immer Up-to-Date ist, das macht der selber für dich. Das ist quasi eine Anlaufstelle für dein Agent, also bestes Beispiel ist nimmer mehr Agent. Dein Agent ist damit den MCP Server verbunden, der spricht ihn an, holt den MCP Server, holt vielen Informationen. Andreas: Mmh. Phillipe: die er benötigt und geben das zurück. Andersrum wäre, wir müssen dann für jeden Agent oder für den Agent für jeden API eine Verbindung herstellen. Also eine einzelne Verbindung. Ja, das wäre, wenn du dann keine Ahnung, bei fünf Tools geht das noch. Also fünf APIs abzufragen. Aber seien wir ehrlich, für ein richtiges Szenario sprechen wir mehrere API an. Wir haben Varios DOSL, weiß was ich weiß, man muss alles mit sich bringt. Und am Ende des Tages, wir kennen ja die Menschen. Andreas: Totales Chaos eigentlich. Hmm. Phillipe: Wir tendieren immer dazu, eine Lösung zu machen, denn man fragt sich, da muss ich ja für jede Lösung einen MCP-Server bauen. Nee, die Menschen gehen hin und bauen dann ein großes MCP-Server, sei es Incident Response. Und da packen wir einfach alle APIs rein, die für uns relevant sind für den Fall Incident Response. Andreas: so kann man das machen. Man kann natürlich auch für jedes Tool, was man anbinden möchte, einen eigenen MCP-Server dann nachher aufsetzen. Das muss man halt immer bisschen schauen ⁓ nutzen. Man muss ja auch sagen, Microsoft stellt ja eigene MCP-Server auch schon bereit. Da gibt es ja auch einige Beispiele wie den Triage MCP oder den Data Exploration MCP, wo man ja auch bei unterschiedliche toolings innerhalb von Defender reingeht, Informationen abzugreifen. glaube so richtiges best practice hat sich da noch nicht draus ergeben was man machen sollte aber es verbessert auf jeden fall die die möglichkeiten die wir haben ⁓ nicht unendlich viele agents die wir nachher oder später in den jahren ja immer mehr entwickeln mit unterschiedlichen berechtigungen und authentifizierungen zu haben sondern wir haben dann wie du meintest der unsere mcp server das nimmt die authentifizierung und so weiter hinter hinterlegt Da sind die Guardrails festgelegt, da ist festgelegt, was dürfen die machen und was dürfen die nicht machen. Und die können dann einfach verwendet werden, die kann man warten und muss nicht an zehn verschiedenen Stellen dann ansetzen. Phillipe: Ja, und dann gehen wir mal zurück zu dem Thema KI. meine, ja, wie schon gesagt, also das ist ein Achterbahn. Es gibt dann halt Kunden, bzw. Unternehmen, sagen, wir trauen die KI nicht, weil wir wissen nicht, wo unsere Daten jetzt verwaltet werden, gespeichert werden. Man sieht natürlich immer in den Medien die schlechte Seite, die dunkelseite. Man hört immer, da wurden Sachen geleakt, da hat ein Mitarbeiter hochsensible Daten Files in die KI reingeworfen mit Kundennamen, mit Zahlen, mit Bankverbindungen und natürlich die Hacker warten nur drauf. Aber nichtsdestotrotz wir wissen nicht, ist es perfekt? Denn wäre die Welt perfekt, würden wir alle nicht arbeiten müssen. So ist meine Vorstellung von der Utopie. Niemand muss arbeiten, alle leben ihr Leben und gut ist. Aber einfach die Augen zuzumachen, ich sehe das nicht so. Was ich immer gerne als Beispiel benutze, ist Nokia. Wir kennen alle Nokia Fall. Als die Smartphone rauskam, hat Nokia damals ja gesagt, wer will den bitte schön auf ein Bildschirm drücken? Menschen wollen Tassen haben. Das setzt sich nicht durch. dann kommt dann iPhone. Der erste hat dann funktioniert. iPhone 3 damals, dann 3S, 3GS, iPhone 4. Und langsam langsam sind die Menschen auf Smartphones gestiegen. Es hat... eine Masse getroffen. Menschen fanden das gut. Dann hat man gesehen wie Blackberry schnell den Bach runter ging mit Nokia zusammen. Weil ich weiß nicht ob du noch kennst, damals war wirklich so die Business Leute hatten Blackberry mit einer Tastatur drauf. Genau so. Ja und dann sie da, Samsung kam hinterher, dann LG und pum Nokia weg. Andreas: Ja, ja, wer was auf sich gehalten hat, hat dann Blackberry gehabt, dann in Businesswelt, ja. Phillipe: Nokia war damals einer der größten Mobilanbieter überhaupt auf der Welt und heute wenn man Kinder fragt, keiner kennt Nokia. So Siemens hat auch irgendwann dann selber gesagt wir machen kein Handys mehr, wir bleiben bei unserer Waschmaschine und anderen Hardware die wir haben, Produkte die verkaufen sich ⁓ Weil wer weiß im Bitteschön noch heute dass Siemens damals telefoniert. Ich hatte selber eins. Andreas: Mmh. Ja. Hmm. Phillipe: Ich hatte sogar eins, war bei einem Veranstalt, bei einer Messe, wo Siemens ein Handy vorgestellt hat. Du könntest den im Sand verlieren, dann durch die Vibrationen kann man so nach oben. Damals war es so, wow, brauche ich, aber welche Wüste gibt es in Deutschland? Und das Gleiche sehe ich auch mit KI. Also ich für mich ist es so, die Unternehmen, die jetzt nicht mit KI mitgehen oder sich wenigstens mit dem Thema auseinandersetzen, werden es schwer haben. Also jetzt ist halt der Punkt. Andreas: Mhm. Mmh. Phillipe: wo es wirklich noch grüne Wiese ist, wo man dumme Fragen stellen kann, weil gerade ist der Punkt, es gibt keine dummen Fragen, aber vielleicht in drei, vier Jahren, wenn man mit so einer Frage kommt, die Antwort, wie du weißt es nicht. Aber wir müssen immer noch natürlich im Hintergrund behalten die Frage von dem Sicherheit. Also es gibt der Data Security von Microsoft Seite aus, das Purview, den am Ende des Tages ist eine KI nur so gut wie sein Benutzer. Andreas: Mhm. Mmh. Phillipe: So wie auch dein Auto. Wenn du nicht Auto fahren kannst, nicht parken kannst, wird ja auch schief stehen. Es sei denn du hast ein selbstfahrendes Auto. Ja, okay, hast du noch Glück. Aber ja, wenn du halt einen Prompt schreibst, schlecht ist, ist auch dein Ergebnis schlecht. Und wenn der Enduser, das die Expertise nicht hat, den Text, das Endergebnis zu evaluieren, dann bleibt auch das Endergebnis unprofessionell. Andreas: und jetzt sagen, ich hab einen Autopiloten drin. Ja, wobei ich ja auch sagen muss, da vielleicht nur ganz kurz, wir beide spielen ja momentan auch viel mit unterschiedlichen KI's rum und testen ja und da ist ja auch interessant zu sehen, wie weit sich das immer entwickelt, auch vom schlechten Prompting her, wo ich auch unterschiedliche Sachen schon gesehen habe, von wenn man mit Claude arbeitet und da auch mal in Claude Code mehr mit rum spielt, sieht man ja auch Phillipe: und Andreas: umso schlechter die Promts sind, umso mehr Tokens werden einfach verballert. wenn man dann dann Skills verwendet von diesen Tools, die dich dann hinterfragen und das Ganze optimieren, wird das Ganze halt auch wieder besser. Also ich glaube, wenn man halt anfängt in diesen Austausch sozusagen zu gehen mit der KI, kann man sich selber sehr stark verbessern und auch ein viel besseres Ergebnis bekommen, sodass man dann gar nicht mehr so viel an sich arbeiten muss, sondern die KI hilft mir schon wieder. Phillipe: Ja. Hmm. Andreas: selber besser zu werden, damit sie bessere Ergebnisse erzielt. Aber wie du auch jetzt wieder gesagt hast, das was hinten rauskommt, muss ein Mensch drauf schauen und darauf achten. Aber ich glaube wir sind uns auch einig, dass 2026, wir sind jetzt gerade Ende Februar, nicht mehr unbedingt das Jahr sein wird, wo die KI besser schreiben wird. Denn das macht sie ja eigentlich schon, das macht sie sehr sehr gut. Phillipe: Ja. Andreas: sondern wo sie anfängt Dinge selber zu tun, also autonom zu handeln. wenn wir da vielleicht noch mal ganz kurz die Security-Seite betrachten, was da jetzt alles kam mit OpenClaw und so weiter, ist ja auch noch mal ein großes Thema, was jetzt aufgemacht wird, wo die Leute draufgesprungen sind. Aber wo wir dann glaube ich jetzt auch schon wieder zwei Welten aufeinander prallen, nämlich einmal die klassische Infrastruktur-Seite von Phillipe: Ja und... Macht's zu Ende? Andreas: wie härte ich meinen Server ab und so weiter, weil viele haben auf einmal angefangen OpenClaw einfach so ins Internet zu stellen, ohne darauf zu achten, dass SSH verboten wird oder dass das Gateway von außen erreichbar ist und haben dann halt einfach blind angefangen noch LLMs zu verwenden und dann die auf ihre Mails und auf ihre internen eigenen Sachen loszuwerfen. Also wir haben glaube ich Phillipe: Mh. Ja. Andreas: von Business zu Privat ganz unterschiedliche Use Cases und Angriffsfälle schon gesehen und neue dazu bekommen. Phillipe: man natürlich auch nicht vergessen darf ist, nicht nur wir benutzen KI, auch die Hackers. Das ⁓ ist für jeder da. Jeder der einen Computer hat und eine Leitung, sei es eine Kupferleitung mit 16 MB oder von einem Gig oder Glasfaser, jeder hat Zugriff drauf. Und so wie wir das auch privat nutzen, benutzen das andere Menschen für schlechte Taten. ⁓ Hier ist der Punkt, gehe noch ganz kurz zurück zu deinen Punkt, du gemeint hast, dass die KI auch hilft. Auch wenn du jetzt vielleicht die Expertise nicht hast, was Coding angeht. Also, schön. Ich kann auch jetzt nicht. Ich bin nicht der Mastercoder oder der Einstein, aber ich benutze auch bei Claude jetzt dieses Planmodus, immer bevor ich in ein Projekt reingehe, dass ich quasi mit ihm kurz Brainstorming mache, dass ich kurz sage, guck mal, ich habe diese Idee. Andreas: Mhm. Phillipe: Ich habe diese Ansichten. Was könnten wir damit machen? du irgendwelche Vorstellungen? Recherchier bitte für mich in Internet, irgendwelche Forum. Vielleicht findest du etwas, was ich nicht weiß. Und dann kommt er zurück mit Gegenfragen, wie du schon sagst. Dann stellt er mir so 3, 4 Fragen. ABCD oder sogar selber, dass ich aus den ABCD mir eine eigene Frage, also Antwort erstellen kann bei ihm. Dann habe ich quasi so Auswahl 3 Fragen. Unten gibt es noch mal so einen selbstständigen Command, so ein Custom Befehl. Andreas: Mmh. Mhm. Phillipe: Dann kann ich da vielleicht aus dem 1 und 2 meine eigenen bauen. Dann geht er damit weiter und dann kommt nochmal die Gegenfrage und am Ende gibt er mir so eine Summary und dann sagt er kann ich loslegen und dann drückst auf OK, dann fängt er zu programmieren und nichtsdestotrotz weiß ich wo in solchen Web Apps oder Programme Fehler sein können und am Ende bin ich der, der das testet und dann finde ich einen Fehler, aber Andreas: Mmh. Phillipe: gehe nicht direkt zu ihm und sage guck mal hier ist ein Fehler behebe das jetzt sondern lese mir die alle auf und am Ende habe ich so einen Fehlerkatalog dann sage ich guck mal ich habe hier in diesem Sektor diesen Fehler gefunden das wird nicht ausgesprungen oder hier der Text wurde falsch übersetzt oder das lädt nicht und das sollte so funktionieren dann geht er nochmal wieder hin stellt mir Gegenfragen und so arbeitet man halt weil wie du schon sagst die Token werden schnell aufgebraucht und ich habe mal einen Blogpost gelesen da hat jemand gesagt Er hat einen Agent gebaut und die Token waren immer schnell weg. Dann hat er sich gedacht, was ist denn hier los? Es kann doch nicht sein, dass diese Token so rasant abgearbeitet werden. Hat er in die Logs reingeschaut und was war das Problem? Sein Agent, jetzt kommt, war zu nett. Also der Agent hat Token verbraucht mit, bitteschön, dankeschön, hat so gut gemacht. Und diese Nettigkeit, diese kurze Rückmeldung verbrauchen Token auf eine große Menge. Andreas: Mhm. Haha. Ja. Mhm. Mmh. Phillipe: Weil hier sind wir wieder an dem Punkt, wenn die Person jeden Satz mit dem Agent, also mit der KI, austauscht. Jede Antwort ist ein Token wert. Darum sage ich mein Code, antworte direkt und präzise und manchmal sage ich sogar, ich möchte kurze Antwort haben, damit ich darauf antworte. Weil wenn du das nicht machst, gib dir den Roman. So, dann lese ich mir den Roman, dann in ersten Abschnitt weiß ich, okay, hier habe ich eine Gegenfrage. Andreas: Mhm. Phillipe: In dem zweiten habe ich wieder eine Gegenfrage, in dem dritten geht es immer so weiter. Und dann habe ich wieder 4-5 Fragen und andere Worte. Deswegen, damit es halt ruhig und vernünftig vor sich geht, sage ich ihm immer, kurzer Abschnitt, dann lässt mich Zeit, Fragen zu stellen, wenn das alles passt, sage ich dir, dann mach weiter. Aber ich möchte jetzt einen Cut machen. Mein Punkt ist, Senioren, also was Unternehmen nicht vergessen können, Senioren kommen nicht aus dem halben Himmel. Weil was wir gerade sehen ist, wie Menschen in Internet schreiben, ⁓ ich habe Angst vor meinem Job. Ich werde ersetzt. Die KI kann ja schon programmieren. Die KI kann PDF-Dateien erstellen. Die KI kann PowerPoint erstellen. Die KI kann Bilder bearbeiten. Ja, kann sie. Alles schön und gut. Aber, wie du schon sagtest, im Hintergrund oder am Ende der Kette brauchen wir immer noch einen Menschen, der es evaluiert. Der sagt, deine Arbeit ist gut. Deine Arbeit ist richtig. Wir können das so verwenden. Und dieser Mensch, am besten ist das ein Junio, weil ein Junio lernt dadurch mit der KI. Und dieser Junio, wenn er mit der KI zusammen seine Karriere besteigt, wird er am Ende ein besseres Senior sein als die heutigen Senior, die jetzt erst mit der KI sich auseinandersetzen. Den wir wir mal, also wir können immer nach hinten gehen. Wir haben sehr viele Erfahrungen damit gemacht. Andreas: Hmm. Phillipe: Wenn du dir heute anschaust, wie ältere Generation mit dem Smartphone Ich hatte mal so viele Artikel gelesen, dass wir Lidl erst mal besteinig wurden, jetzt eine Drittgesellschaft geschaffen wurde. Weil wenn du die Lidl-App hast, kriegst du Rabatte auf bestimmte Produkte. Und dann war die große Debatte, ja, ihr könnt doch nicht von meiner Oma erwarten, dass sie jetzt ein iPhone hat oder ein Smartphone, damit im Lidl geht und günstiger einkauft. Ihr schafft hier jetzt eine Drittgesellschaft, aber das ist nicht halt so. Denn wir, du und ich und unsere Kinder und vielleicht auch noch die Generation über uns, also wie wir noch 10 Jahre übergehen, die sind die Personen, die jetzt auch Smartphones nutzen, die auch Internet nutzen. Für uns ist das kein Neuland. Klar, für die Ganzeltern schon. Aber wenn die Familie dann nicht drauf guckt und die einweist oder die unterstützt, Dann werden die halt dieser Drittgesellschaft bleiben. Man muss es nicht. Niemand ist also gezwungen, nicht mitzumachen. Man kann nicht mitmachen, aber man ist nicht davon quasi, also wie soll man das so sagen, so abgetrennt. Du hast die Möglichkeit. Das ist da. Du musst es nur nutzen. Aber wenn du niemanden hast, der dir das beibringt, wie sollst das auch nutzen? Andreas: Genau, also ich glaube auch, das ist halt ganz wichtig. Wir werden halt eine starke Veränderung haben der Position von denen, die KI verwenden und verwenden können und die die halt KI nicht nutzen aktuell und nicht nutzen wollen und sich damit halt auch nicht beschäftigen. Da wird dann immer größeren Drift geben voneinander. Phillipe: Ja. Andreas: Das ist ja schon in unserer Arbeit auch sichtbar, dass man sieht, wenn wir jetzt nochmal bisschen zurückkommen auf das SOC Leben vielleicht, es ist ja auch einfach, wenn ich heute anfange einen Agent zu definieren, also kein Chatbot mehr mit dem ich unbedingt schreibe, sondern einen Agent, eine Aufgabe bekommt, ⁓ etwas autonom auszuführen, sollte der in der Regel eigentlich immer kontrolliert werden. Du meinst das gerade von einem Junior halt, wenn ich jetzt zum Beispiel einen Agent habe, jetzt ein Enrichment von Daten macht auf eigener Basis halt, also ein Incident kommt rein und soll halt über unterschiedliche Tools gehen mit MCP-Verwendung jetzt in dem Beispiel dann, von VirusTotal und AbuseIPDB zum Beispiel Informationen zu ziehen, dann geht er darüber, ⁓ guckt welche Entities hat er drin und reichert das dann an und packt dann vielleicht gleich so ein Achtung ist malicious oder sieht erstmal clean aus hin. Aber solange wir noch nicht so weit sind, dass wir 100 % sicher sein können, dass die Daten stimmen, wenn wir jemanden brauchen, nochmal drüber schauen muss. Weil ich glaube vor allem im Security-Kontext ist das nochmal sehr sehr wichtig, denn hier geht es ja wirklich ⁓ Unternehmen, die mit beschützt werden müssen oder die wir beschützen wollen. Und das ist sehr wichtig, dass wir darauf achten, dass die Integrität der Daten stimmt und wir keine falschen Ergebnisse haben. Von daher wird uns KI hier viel vereinfachen, aber immer mit den Menschen im Hintergrund, der dann das Ganze gerade rückt. Phillipe: Ja und wir sollen nicht vergessen, es gibt ja immer diese schöne Sprichworte, Zeit ist Geld. So und wenn die KI in manchen Ecken Zeit ersparen, wieso die auch nicht nutzen? Die muss ja nicht komplett Arbeit alleine machen. Das soll nicht. Aber ich bin, könnte man schon sagen, ein KI Befürworter, aber natürlich mit den kleinen Satz. mit der vorsichtig dass sie benutzen nicht einfach blind loslegen irgendwelche screenshots mit sensibler daten oder informationen man kann immer musternamen benutzen wenn man möchte irgendwelche email zu schreiben anstatt wirklich die persona das zu erwähnen kann man ja max muss man die kaiserscheiß egal also ich mache einen clip markieren so Man kann ja, also wenn man jetzt die KI irgendwelche Dokumente gibt zu zu evaluieren, man kann ja die Namen ändern. Max Mussermann, die KI kümmert das nicht, was da steht, die guckt ja nur auf den Text, dass er richtig ist, richtig formuliert und dass die Rechtschreibung passt. Scheiße, natürlich guckt jetzt mein Auge. Aber zum Glück hab ich meinen Ersatzländer gemacht. Aber ja, wir müssen quasi auf den Zug mitsteigen. Immer mit dem Gedanken, mit der Vorsicht, den wie du schon sagst Personendaten sind hier davon betroffen und Daten ist wertvoll. Wir sehen, wenn ein Unternehmen Bridge hat, wie teuer das wird für ein Unternehmen. Deswegen ist immer mit vorsichtig, da umzugehen, nicht sofort die KI Global Admin Rechte vielleicht geben. Nein, gibt es ein Reader Rechte. damit und fangen jetzt mal unten an. Fangen damit an, dass die irgendwas evaluiert oder irgendwelche Texte korrigiert oder vielleicht sogar für dich ein Konzept schreibt. Fangen unten an. Und wenn das klappt, dann kannst du weiter steigen. Es gibt hier Microsoft das Azure Foundry. Du kannst da dich austoben mit verschiedenen KI Modelle, sei es Gemini, ChatGPT, Claude, DeepSeek oder was was ich was. Ich gefühlt gibt es KI wie Sand am Meer heutzutage. Und jeder baut sich irgendwelche KI, irgendwelche Agent. Da werden wir sagen, das kann ein 5-Jährigen zusammenbauen. Aber momentan, sollte sich, meiner Meinung nach, mit dem Thema auseinandersetzen. Wenigstens nur angucken. Gucken, was es ergibt. Andreas: Genau, du hast ja auch gerade die Microsoft Foundry mitgenannt, wo man ja jetzt relativ einfach schon, wenn man es auch mal vergleicht, als das ganze Thema mehr und mehr wurde, also vor allem durch Chit-Chit-Bit-T getrieben damals, das war ja noch so die Anfänge, an ich mich erinnere, wo es dann anfing, so jeder hat doch immer Chit-Chit-Bit-T gehabt und hat das genutzt, war es relativ schwer sein eigenes LLM irgendwie zu deployen und zu verwenden, ist heute mit Microsoft Foundry echt einfach geworden. Aber Microsoft hat ja auf unterschiedlichsten Ebenen die Möglichkeit, man Agents einbindet oder konfiguriert. Da haben wir auch das Co-Pilot Studio als Möglichkeit. Da kann man sich auch sehr einfach einen Agent mit unterschiedlichen Konnektoren die schon built-in sind, oder MCP-Server-Anbindung. Und da kann ich dann auch alles mitgeben, was mein Agent tun soll. Und kann diesen dann zum Beispiel in meinen Microsoft 365 Copilot mit einbinden. Egal was man vielleicht jetzt über den Copilot denkt und wie der funktioniert, der ist in vielen Firmen der Chatbot, der halt zugelassen ist oder zugelassen sein sollte, weil dort halt nicht die personenbezogene Daten noch irgendwo anders landen. Und ich verwende den auch. meine Sachen mit korrigieren zu lassen, Texte schreiben zu lassen und so. ich glaube, der kann halt viel, viel mehr, wenn wir anfangen, ihm die Aufgaben zu geben, die wir halt nicht machen wollen. Und da fängt man halt, wie du meintest, an mit einem einfachen Agent, der irgendwas reviewn soll. Eine Mail kommt rein mit irgendwie Angebot. Und dann wird die Mail automatisch gescannt, der Inhalt ausgepackt, irgendwo abgelegt und vielleicht das PDF schon eingelesen und geguckt, was da drin steht und dann die Daten irgendwo eingetragen in irgendeine Angebotsliste oder in irgendeine andere Liste. Das ist ja vollkommen irrelevant. Aber man muss halt anfangen, nach Use Cases jetzt mal zu suchen und zu schauen und dann zu gucken, wo kann mich hier KI unterstützen oder einen Agent auch unterstützen. und dann einfach mal anfangen zu bauen und das zu verwenden. Denn ich glaube, auch immer ganz wichtig ist, auch bevor man es verteufelt und sagt, klappt ⁓ alles nicht, man muss es halt optimieren. wie beim Prompting, die Prompts, die wir am Anfang geschrieben haben, waren bestimmt bei allen gleichgrottig schlecht und sind halt immer besser geworden und immer ausgereifter. Und wir können uns heute schon sehr, gut mit der KI unterhalten und relativ genau definieren, was wir wollen. für die Bereiche, in denen wir das schon gemacht haben. Klar, wenn wir in einen neuen Bereich reingehen, müssen wir es erst wieder üben. Aber so ist es nun mal im Leben. Wir müssen uns immer wieder verbessern, ⁓ da halt besser zu werden. Phillipe: Ein guter Punkt, dass du meinst, ist mit unserer früheren prompting den ich weiß nicht, wie es bei dir war, aber ich weiß, ich das jetzt meiner Frau vorgestellt habe, Shachibiti, und dann gesehen habe, wie sie so prompt und dann war immer so irgendwie, kannst du das bitte für mich machen? Dankeschön. Wo so denke, du weißt, die Maschine hat kein Gefühl. Und ein paar Monate später sah ich dann so einen Artikel, die sagte, wenn du so Shachibiti freundlich bist, ist dein Ergebnis auch besser. Wo ich mir so denke, okay. Andreas: Hahaha. Phillipe: Und dann kam heraus, die verbrauchen sehr viele Token mit dieser Freundlichkeit, wo die auch gecheckt haben, ⁓ wenn die Menschen freundlicher sind, arbeitet er noch intensiver. Wir müssen da was machen. Aber ja. Andreas: Mhm. Mhm. Ich denke immer wieder an iRobot zum Beispiel, den Film mit Will Smith. Ich sage auch lieber bitte danke zur KI-WFV, wenn wir auch mal uns angucken, wie sich die Roboter-Technik entwickelt hat und was die heutzutage schon können, wie die sich bewegen. Die werden mit KI ausgestattet. Ich bin freundlich, glaube ich, meiner KI. Phillipe: Ja. Ja. Hmm... Am Ende kriegst du noch Black Mails von ihr. Ich weiß nicht, ob du den Besuch von Merz in China gesehen hast, wo du gerade sagst, ein Robot, und die Show, die ihm geliefert wurde mit dem Robot, da will man nicht dabei sein. Und heute wissen wir, es gibt viele Fake Videos, die KI gemacht wurden. Also ich glaube, wenn das jetzt nicht wirklich so eine Reportage oder so eine Aufzeichnung hätte man gesagt, das ist KI. Also wie die Robotas sich da bewegt haben. Andreas: Mhm. Das war auch der Roboter, der umgefallen ist und dann auf dem Boden lag und dann eigenständig wieder aufstehen konnte, ohne seine Hände zu verwenden. Das war beeindruckend. Phillipe: Das Ja. Ja. Ja, also wir sehen schon, die Welt bewegt sich. Wir wollen ja dahin gehen, dass die Menschen es leichter haben. Und jetzt sind wir auf diesem Weg mit den KI, mit den Robotern. Und natürlich bei vielen Menschen erweckt da so eine Art Angst. Kann ich auch verstehen. Aber man muss das halt mit offenen Armen nehmen, denn die Autos kamen auch irgendwann und die Pferde wurden arbeitslos. Es gab keine Kutsche mehr. Andreas: Mmh. Phillipe: Und heute haben die vielleicht ein schönes Leben, aber zurück zu den Security-Punkten. bin immer noch der Meinung, Microsoft, Ökosystem ist super, wie du schon sagst. Co-Pilot, kann halten, was man davon möchte, aber wenn man wirklich mit einer KI anfangen sollte oder vorhat, damit anzufangen, dann in seine Umgebung. Dann würde ich auch sagen, Co-Pilot, Microsoft gibt sich echt Mühe in Europa und auch in Deutschland Datenzentren aufzubauen, dass die Daten auch hier bei uns liegen. Natürlich sagen die einen oder anderen, es gibt immer ein Backdoor zu den Amis, aber dann muss da Europa sich bewegen, auf eigenen Füßen stehen und sagen, ich baue jetzt selber was. In der heutigen Zeit, bei denen Macht, ich sag mal Macht, die Microsoft in den IT-Welt mit sich bringt, wird es schwer. Wir sehen wie Norddeutschland das gerade versucht. Von Windows runter auf Linux. Ist einfach so wert. Es gibt doch die Lösung dafür. Es gibt doch das. Also es ist nicht so, dass wenn du kein Microsoft Tool hast oder so Computer hast, dass du einfach nichts machen kannst. Nein, das ist gelogen. Also es gibt genug da Tools draußen. Man muss sich dann natürlich damit sehr beschäftigen. Ich sag immer zu meinen Freunden, bzw. zu meiner Mutter oder zu anderen. Ihr müsst euch das so vorstellen wie euer iPhone. Also ich bin jemand, ich springe immer gerne zwischen iPhone und Android und immer so zu sehen, was gibt es hier Neues, wie sind die Features, wie entwickelt sich so das ein und das andere, ich vergleiche die gerne. Und das Gleiche ist hier mit Microsoft und Linux. Also iPhone ist für mich so benutzerfreundlich, wie es nur geht. Du, ist flüssig, es ist nicht kompliziert, du weißt wo die Sachen liegen, das Menü ist alles, alles ist super verständlich. Was ich nicht sagen möchte, dass Android das nicht ist, Natürlich ist es aber. Bei Android ist das etwas chaotischer. Es ist so wie mein Monitor, also wie mein Test-Stop damals, als ich noch Jugendlichen war. Das war eine komplette Katastrophe. Und das ist genau das Gleiche da. Also manchmal weiß ich nicht selber, wo manche Einstellungen liegen. Und wenn ich die suche, ertappe ich mich oft durch mein Handy, also die App für mein Watch. Ich habe die Galaxy von Android, wie ich da die suche, weil die heißt nicht Watch. Die heißt auch nicht Galaxy. Die heißt irgendwie anders. Und jedes Mal ertappe ich mich, wie ich die wie ein verrückter Suche, werden bei Apple die einfach Watch heißt. Und das sind so Kleinigkeiten. Das Gleiche ist auch bei in der Security Welt mit Microsoft. Hast du Defender for Endpoint? Hast du Defender for Identity? Hast du Defender for Office? Und et cetera. Und du hast dann dein XDR Umgebung. Du kannst die alle mit einem Klick anbinden. Andreas: Mmh. Phillipe: Du kannst die so leicht anbinden, die kommunizieren noch miteinander, die harmonieren miteinander. Aber was auch nicht heißt, wenn du Third-Party-Solution hast, wie es den SAP, dass du die auch nicht so einfach anbinden kannst, weil die Unternehmen bewegen sich auch in diese Richtung. Vor kurzem hat ja, ich meine, das war Mitte letztes Jahres, wo SAP dann den Agent-Less-Connector für Sentinel vorgestellt hat, wo wir früher Sicht VMs aufsetzen mussten, dann gucken, dass die Vermischung alle da stehen. Andreas: Mh. Phillipe: Das hat sich so angefühlt wie ein Hexenwerk und heute musst du nur ein paar Sachen eintragen und schon steht die Verbindung. Andreas: Mmh. Ja, ist ja auch nicht nur mit SAP so, sondern man sieht ja auch, geht ja wirklich ganz stark in Third-Party Richtung. Sei es Anbindung von unterschiedlichen PAM-Lösungen ins MDI, AWS-Anbindung und Integration. Das Neueste, was ja jetzt rauskam, war ja auch Usersperrung in AWS. Wenn du die Daten über Sentinel mit angebunden hast, gab es ja vorher auch nicht. Und so geht das halt durch in unterschiedlichen Tool-Links, sei es jetzt Sentinel oder Defender for Phillipe: Mhm. Andreas: Claude Apps, wo wir auch ganz unterschiedliche Provider mit anbinden können, auch GCP, AWS, Salesforce und so weiter. Das können wir auch alles in Sentinel auch mit andere Use Cases mit abzubilden. Gibt es eine sehr große Third-Party-Möglichkeit, ⁓ Daten da rein zu bekommen, was ja auch sehr, gut ist, denn aus Socksicht interessiert uns halt vor allem immer die Security Posture vom gesamten Unternehmen und umso mehr Daten wir halt haben. Also da muss man jetzt wieder auch abstrahieren. Ich will nicht einfach nur Datenplane im Sentinel haben, sondern ich will Use Cases für diese Daten haben. Und wenn das jetzt überdefiniert ist und wir unterschiedliche Ebenen der Daten haben, ⁓ wirklich Lateral Movement oder Angriffsfade komplett verstehen zu können, bringt uns das natürlich viel viel mehr, als wenn wir einzelne Schnittpunkte haben. die wir gar nicht miteinander verbinden können, weil unterschiedliche Teams zum Beispiel an den Daten arbeiten. Aber ⁓ jetzt vielleicht nochmal den Bogen zu KI zurückzuspannen und vielleicht nochmal, wo wir jetzt auch im Defender sind und wieder im Security-Kontext mehr, die Frage nochmal an dich. Du arbeitest ja sehr viel mit Enterprise-Unternehmen und was würdest du denen denn jetzt empfehlen, wenn die ankommen zu dir morgen? Morgen ist jetzt gerade wahrscheinlich Samstag. oder montag oder was auch immer und dann sagen wir haben jetzt hier ein LLM was bei uns läuft können wir das irgendwie absichern oder können wir irgendwie KI besser einsetzen bei uns das sicherer machen was würdest du den Leuten empfehlen wenn die allgemeinen KI Fragen haben jetzt Richtung Security Phillipe: Ich arbeite jeden Tag. Ist so Andreas. Easy. Nee, also ich versuche zu verstehen, der Interesse herkommt, natürlich. Weil klar, du kannst heute aufwachen, KI. Und dich dann hinsetzen, recherchieren. Wie ich am Anfang auch gesagt habe, ich habe da diesen einen Kunden, der gerade Feuer und Flamme ist, für die ganzen Agent von Microsoft. Andreas: Wir binden das ein, wir beobachten das. Mhm. Mmh. Mhm. Phillipe: Der Ansatz ist erstmal, welche Daten wollen wir anbinden? Und je nach Stufe schauen wir dann halt, welche Berechtigung wir der KI geben. Weil am Ende muss ja noch gewährleistet werden, dass die Daten nicht irgendwo rumliegen und von Dritten quasi zugegriffen werden können. Und natürlich die entscheidende Frage, wer benutzt die KI? Andreas: Mhm. Mhm. Mmh. Phillipe: Also jetzt bei den jetzigen Kunden haben wir eine kleine Auswahl getroffen von drei Mitarbeitern. Da ist einmal der Ingenieur, der mit mir arbeitet seit Anfang an. Und da haben wir zwei Sock-Analysten mit an Bord, weil die Agent, wir probieren wollen, ist der Triage Agent, die du auch schon am Anfang erwähnt hast, der ist auch existiert mit dem SAP-Server. Und den Fishing Agent, das sind so die zwei Stück, die wir testen wollen. Und da haben wir jetzt die drei Kollegen ausgewählt. Wir fangen, ich fange erstmal mit dir an, was ist Prompting? Wie prompt ihr am besten? Welche Art von Prompt gibt es oder wie sollte ein Prompt bei euch aussehen? Und zu guter Letzt versuche ich auch immer wieder bei uns intern die Purview Kollegen mit an Bord zu holen, denn wir wissen ja über Purview Data Security können wir, können wir die Sicherheit auf der anderen Seite gewährleisten, weil Purview bietet die Möglichkeit zu schauen, dass die Prompt quasi nicht sensible Daten beinhalten. Du kannst bestimmte Keywords flaggen als sensibel. Und wenn dann das in den Copilot, das ist das Gute, wie du schon sagtest, man kann halten von Copilot was man möchte. Aber du kannst halt diese Mechanism hier einbauen, dass wenn ein User jetzt bestimmte Keywords in seinen Prompt beigefügt hat oder vielleicht sogar Dateien, sei es Excel, PDF-Dateien, mit eingefügt hat, dass die KI Alarm schlägt und sagt nein. Andreas: Mhm. Mhm. Phillipe: Ich kann das nicht mehr erarbeitet und hier wird dann gestoppt. Dann wird das halt nicht verarbeitet und wird dann gebeten, dass der User nochmal den Probe neu schreibt oder sogar in Sentinel ein Incident wird getriggert und gesagt, schau mal, da User XY hat versucht, sensible Daten reinzuwerfen. Andreas: Ja, genau, also ich glaube auch, dieses Thema mit Datensicherheit ist halt wird eines der wichtigsten. wir wollen nicht, dass Mitarbeiter unbedingt personenbezogene Daten an öffentliche LLM schicken. Das ist ja eines der Hauptsachen, die wir ja eigentlich verhindern wollen. Aber ich glaube, wir können auch nicht oder man sollte nicht unbedingt allen Mitarbeitern den Zugriff auf JGPT verwehren, weil wenn wir das machen, dann kommen wir schon wieder in so Situationen wie 2016, 18, wo Mitarbeiter angefangen haben, sich Präsentation und Dokument an ihre private E-Mail-Adresse zu schicken, weil sie da nicht drauf kamen an die Daten, daran weiter zu arbeiten. Haben wir dann schon wieder das Problem, dann kommen die Mitarbeiter auf irgendwelche anderen tollen Ideen, machen mit dem Handy ein Foto von dem Dokument und schicken das dann an den Chat-GPT. Das will ich auch erst recht nicht, weil dann habe ich einfach das Foto in der Claude. und dann habe ich noch das WT-BTD drin, dann habe ich gleich noch mehr Probleme. Phillipe: Ich finde am Ende ist das hier so ein Approach, den wir machen müssen, wie bei der Fischinkampagne. Wir müssen die Mitarbeiter einfach schulen. Also die Mitarbeiter müssen geschult werden. Du sagst das schon recht. Wir sollten Mitarbeiter nicht gewähren, weil am Ende des Tages ist der Enduser, bzw. der User, die größte Angriffsoberfläche. Wir wissen das. Also die KI selber bietet vielleicht wenig in, also wenig Angriffsoberfläche, aber quasi ein User. Andreas: Mhm. Ja. Phillipe: wie du schon sagst, wenn der jetzt fotografiert haben wir kein, wir haben keine Gewaltmacht drüber wir wissen nicht wer Zugriff auf sein Handy hat, wir wissen auch nicht wo das Foto später landet deswegen ist da mein Appell immer am Ende des Tages den Kunden mitzugeben unterrichtet euer User sieh zu, dass jeder quasi darauf irgendwie Zugriff bekommt aber auch mit einem gewissen Andreas: Mhm. Phillipe: auf eine gewisse Art Weise nicht unlimited und wie wir schon am Anfang gesagt haben es gibt ja die Azure Foundry da kann man sich selbst was bauen ich habe schon Kunden gehabt die haben ihre eigenen Shadjibiti gebaut also da hat er mir gesagt das ist dann XY Shadjibiti also die haben die selbst sicher mit beschäftigt auch dann ihre eigene Inhalte von sei es von People in Culture sei es interne Ordnung Richtlinien Regel Andreas: Mh. Mmh. Phillipe: und so weiter haben die da alles die KI gegeben, dass die Mitarbeiter quasi das dann der KI abfragen können. Also Leute, sei nicht geschlossen, seid offen für Neues, aber immer mit den Hintergedanken beibehalten, dass man es mit vorsichtig rangehen sollte. Andreas: Genau, denke, ich glaube, das ist ein guter Punkt, denn wir sollten den Mitarbeitern die Tools nicht verwehren, sondern eine Möglichkeit schaffen, die in einem gesicherten Rahmen zu verwenden, wie du gesagt hast, weil sonst fangen die Mitarbeiter an, andere Lösungen oder andere Wege zu suchen, an diese Tools zu kommen oder die irgendwie zu verwenden, so damit sie das machen können. Phillipe: Ja. Andreas: Genau und ich glaube damit haben wir ja einen relativ runden Burgen jetzt nochmal geschaffen. Phillipe: Ja, es hat Spaß gemacht, unsere erste Folge. Ich hoffe, unser Zuhörer und Zuschauer gefällt es auch. Ich würde mich natürlich, ich hoffe, du auch natürlich, über Feedback freuen. Das ist ja für mich das erste Mal, für dich bestimmt auch. Und jeder weiß, das erste Mal ist nicht immer einfach. Und mit der Zeit werden wir uns natürlich bessern und jetzt an den Ball sitzen und gucken, wir neuen Themen und was gerade so in die Welt der Security und Microsoft abgeht, uns weiter vertiefen und das halt hier mit den Zuhörer teilen. Andreas: und wenn ihr Themen habt, die euch auch interessieren, vor allem halt Microsoft Security relevant, dann schreibt uns gerne und wir können uns darüber sehr gerne austauschen. Wenn ihr auch Lust habt, selber mal Teil davon zu werden, dann schreibt uns ebenfalls gerne dazu und wir melden uns. Und dann, genau, diese Folge ist an einem ersten Sonntag dann rausgekommen im Monat. Und die nächste Folge wird an einem nächsten ersten Sonntag des Monats dann wieder folgen. Und so werden wir versuchen, unseren Zeitplan einzuhalten. Phillipe: So und so. Genau. Vergiss nicht zu liken und abonnieren. Andreas: Willkommen bei die Sentinels. Phillipe: der neue Security Podcast. Andreas: Mit mir Andreas? Phillipe: Und meine Wenigkeit Philippe. Andreas: Heute wollen wir das Thema AI und MCP Server einmal etwas genauer auseinandernehmen und uns darüber unterhalten. Viel Spaß!