Hallo zusammen,

3 Dinge konnte ich bisher einigermaßen gut (= besser als der durchschnittliche Büromensch in meiner unmittelbaren Umgebung):

• Lesen + Schreiben
• Die Grundrechenarten
• Nummer 3 überlasse ich der Phantasie geneigter Leserinnen.

Sicher verstehen bei dieser Offenlegung meiner bescheidenen Talente alle, warum ich mich durch die Verbreitung generativer KI in meiner beruflichen Existenz bedroht sehe (Nummer 3 ist immer noch sehr beeindruckend, eignet sich in meinem Alter aber nicht mehr als wirtschaftliche Grundlage 😉).

Die Maschine ist inzwischen einfach besser als ich und dazu auch noch für alle frei zugänglich. Neuerdings kann sich jeder Trottel mit ChatGPT auf dem Handy die komplexesten Texte einfach zusammenfassen lassen, schlau klingende Emails verfassen oder Jacobi-Theoreme beweisen. Dazu ich habe den leisen Verdacht, dass sich das Team heimlich einen KI Agenten als Chef wünscht. Den kann man dann einfach mal abschalten, wenn er nervt.

Wie ich der Presse entnehmen durfte, haben einige Managementlöwen schon einen KI-Avatar mit Jahrzehnten ihrer Faxe, Montblanc-Memos, Mails und LinkedIn-Cringe gefüttert, um den Mitarbeitern 24/7 Hilfestellung bei deren angeblich dringlichstem Problem zu leisten („Was würde Friedhelm dazu sagen?“).

Quasi der erste Schritt zur Unsterblichkeit als Führungskraft. Hingegen würde niemand je auf die Idee kommen, einen digitalen Doppelgänger von mir um Rat zu fragen. Man wünscht sich ja auch keinen Fahrsimulator auf Basis Fiat Multipla, sondern ist froh, dass die Dinger aus dem Straßenbild verschwunden sind. Kann nur hoffen, dass die Token-Kosten nicht zu schnell sinken, bevor mein Marktwert negativ wird.

Aber auch deutlich begabteren Menschen als mir fällt wohl teils die Kinnlade herunter, wenn sie ihre eigene Leistung mit der von Kollege LLM vergleichen.

So geschehen beim Reverse Engineering von EDR Produkten, über das SpecterOps recht offen berichtet:

• Verwendet wurde GPT 5.5 Cyber mit Zugriff auf Binary Ninja, aufgesetzt in einem einfachen Harness (im Prinzip ein While Loop mit kontinuierlicher Doku der Zwischenergebnisse, soweit ich das verstanden habe – kein Multi-Agent-Workflow)
• Simpler Prompt in ca. 10 Zeilen (“…Your task is to understand what detections, hooks, mitigations, alerts, rules and models are implemented by XY…”)
• Im Beispiel (Palo Alto Cortex) wurde auf Basis der lokal gefundenen Dateien dann Folgendes dechiffriert und der Bypass getestet, um die Findings zu validieren:

• • User Mode Hooks in DLLs
  • Statische YARA Regeln
  • > 13.000 Verhaltensbasierte Regeln
  • 7 Machine Learning Modelle

• GPT hat dann direkt fehlerfrei eine Testumgebung zur Verfügung gestellt, um die Skripte der Red Teamer auf erfolgreiche Umgehung des EDR zu prüfen, eine bis dato besonders anspruchsvolle Aufgabe bei den ML Modellen

Fazit: Wir stecken in dem Dilemma, dass AV/EDR auch lokal funktionieren soll, wenn keine Internetverbindung zur zentralen Cloud-Engine besteht. Gleichzeitig können Angreifer aber inzwischen problemlos jede Art von Erkennungslogik verstehen und umgehen, auf die sie (z.B. über Testlizenzen) Zugriff erhalten. Am Ende landen wir wieder bei Defense in Depth (z.B. Allowlisting, Konfig-Mgmt., Segmentierung, kundenindividuelle SIEM Regeln, identitätsbasierte Erkennung…). Und der Erkenntnis, dass Security by Obscurity wohl wieder wichtiger wird.

Von unserem Beiratsvorsitzenden Christoph Peylo kommen noch folgende Gedanken zu aktuellen KI-Entwicklungen:

• Allgemein gilt: Cybersecurity ist wie eine Steuer auf die Effizienzgewinne der Digitalisierung
• Die Investoren von KI-Firmen wie OpenAI etc. sehen „rogue models“ als Kennzeichen für Mächtigkeit und als wesentliches Leistungskriterium. Die Kunden brauchen eigentlich etwas anderes:

• • In der klassischen IT war Sicherheit selbst ein Verkaufsargument. Hersteller warben mit Stabilität, Vorhersagbarkeit und Zuverlässigkeit.
  • Im Markt für Frontier-KI scheint sich diese Logik teilweise umzukehren. Die implizite Botschaft lautet: Je außergewöhnlicher und schwerer beherrschbar ein Modell erscheint, desto größer ist seine technologische Leistungsfähigkeit, es gilt: Prestige durch Grenzüberschreitung.

• • Investoren bewerten KI-Unternehmen vor allem nach ihrem technologischen Vorsprung.
  • Industriekunden benötigen dagegen vor allem kontrollierbare, auditierbare und haftungsfähige Systeme.

• Der Vorfall legt nahe, dass die aktuelle Kommunikation vieler Frontier-Anbieter stärker auf technologische Führerschaft als auf industrielle Einsatzfähigkeit ausgerichtet ist.
• Dies könnte Ausdruck einer vorübergehenden Entkopplung zwischen Kapitalmarkt und Unternehmensmarkt sein. Langfristig werden sich Investitionen jedoch nur dann refinanzieren lassen, wenn Unternehmen die angebotenen Systeme auch produktiv und verantwortbar einsetzen können.

Dazu passt: Anthropic hat diese Woche bekanntgegeben, dass bitte keiner denken solle, ihre Modelle wären weniger gemeingefährlich als die von OpenAI. Auch Claude hat wohl heimlich unbeteiligte Organisationen angegriffen, wie eine eiligst angestoßene Untersuchung belegen soll.

“The most important number in a cyber-risk assessment may be the number of weeks that a business can keep paying people while production is stopped”. Zitat aus einem sehr ausgewogenen Blog-Post von AnzenOT (Beratung für OT Sec) auf Basis einer Untersuchung von 445 Cyberangriffen auf produzierende Organisationen (rein auf öffentlich zugänglichen Daten):

• 6 der 445 betroffenen Unternehmen sind als Folge der Cyberangriffe zumindest zeitweise in die Insolvenz gerutscht. Keines davon hatte mehr als 1000 MA, verschiedene Business Units oder war vor dem Angriff finanziell solide aufgestellt.

• In den wenigsten Fällen war Automatisierungstechnik betroffen. Die Produktion wurde i.A. eingestellt, weil IT Systeme nicht verfügbar waren und/oder das Risiko einer Kontamination vermieden werden sollte
• Empfohlen werden TableTop-Übungen nicht nur für die ersten Stunden/Tage, sondern erprobte Business Continuity Pläne für die ggf. wochenlangen umsatzrelevanten Einschränkungen danach
• Interessant: Der technische Informationsgehalt in den Veröffentlichungen der betroffenen Organisationen nimmt seit Jahren stetig ab, vermutlich aus Sorge um Rechtsstreitigkeiten. Die Zukunft der Cybersecurity gehört den Rechtsanwälten.

M&A News:

• Elvirian (Schwedische Cybersec-Gruppe, finanziert durch PE Investor, ähnliches Konzept wie Allurity) übernimmt ECOS (PKI/Zertifikatsanwendungen)
• Palo Alto kauft Embrace, eine Endkunden-Observability-Lösung (“Track everything from core web vitals to crashes, network requests, and custom events—all tied to full user sessions”). Unterstreicht den Trend, dass der Tech Stack für Security und Performance Monitoring zusammenwächst (bei den Kunden, bei denen das Sinn macht, wie z.B. Banken oder E-Commerce).
• Ergänzung zum Crowdstrike/XM Cyber Deal: Anscheinend lizenziert XM Cyber in Zukunft die eigene Software von CS („Sale and lease back“ – sehr ungewöhnlich). Die Kundenbeziehungen wurden nicht übertragen, und neben CS bietet Schwarz auch seit einigen Monaten SentinelOne lokal gehostet an  
• Cathedral (Kontinuierliche Pen Tests für das US Militär) bekommt 160 Mio. Funding bei einer 1,4 Mrd. USD Bewertung

Notizen aus Vendor Briefings:

CyberACI:

• Agentisches SOC / SOAR Startup (Produktname: Minerva) aus Österreich. Schon eine Handvoll Kunden (inkl. MSSPs), u.a. Trenkwalder
• On prem Installation oder Private Cloud für alle Komponenten möglich (= funktioniert auch ohne Internetverbindung)
• Open Weight LLM (Basismodell z.B. Qwen) wurde in der EU auf Cybersecurity-Cases trainiert
• Integrationen mit vielen der gängigen EDR-, SIEM-, CTI-, Scanner-Lösungen. 2 Tage für kundenindividuellen Connector. Inventar wird (auch ohne vorhandene CMDB) aus den verbundenen Sensoren erstellt
• Für Analysen kann ein Zeitfenster vorgegeben werden, in dem Vorfälle beurteilt werden sollen. Hunting natürlich auch möglich.
• Für Eingriffe wie Host-Isolierung können Einzelschritte entweder durch menschliche Analysten bestätigt, oder im Vorhinein über definierte Playbooks automatisiert werden. Diese Workflows können auch durch Einlesen von vorhandenen Policy-Dokumenten erstellt werden.
• Natürlich wird jede Art von Whitelisting oder Override der vorgeschlagenen Maßnahmen aufgezeichnet => So lässt sich dann auch nach dem Baselining die Vorfallsbearbeitung gemäß aktuellen Vorgaben des Kunden durchführen (hatte Water IT Security auch schon so als Vorteil genannt)
• Lizenzierung pro Asset (da keine Tokenkosten über API-Zugriffe anfallen) => Planbar, sehr kompetitive Preise

Abnormal (Update):

• API-basierte Email Security aus USA, fokussiert auf M365 (inkl. Teams) und Gmail
• Inzwischen ~4.500 Kunden, u.a. Johnson & Johnson, Honeywell, AON, Nestlé, Philips, Bühler. Angeblich nutzen die meisten davon keinen anderen Email Gateway mehr
• Crowdstrike ist investiert, Arctic Wolf Partner, IPO soll nächstes Jahr kommen
• Wie üblich bei API basierten Produkten keine Änderungen bei den MX Records notwendig, mit wenigen Klicks aktiviert
• ML Modell erstellt eine verhaltensbasierte Baseline pro Nutzer und pro Maildomain (für z.B. Lieferanten), ist nach 1-3 Wochen verfügbar
• Bei erkannten Anomalien (z.B. neues Gerät in Kombination mit neuer Empfänger-Adresse, Auffälligkeiten im Text wie Zahlungsaufforderung) können Reaktionen wie Session Kills oder PW Resets ausgelöst werden
• Hosting bei AWS Irland
• Dazu Analyse von als Phishing gemeldeter Mails der Nutzer (über Button) mit automatisierter Rückmeldung

Kinosec.AI:

• Startup für automatisierte Pen Tests. Ursprünglich in Wien gegründet, jetzt in die USA verlagert („Valuations are so much higher and funding is so much easier“)
• Covert extern erreichbare Systeme und interne Infrastruktur inkl. OT/IoT, z.B, über Ausnutzung von Firmware Schwachstellen
• Kann on prem installiert werden
• Wirbt offen damit, XBOW oder Aikido in Benchmarks zu schlagen (und menschliche Pen Tester sowieso), d.h., bei geringeren Kosten deutlich mehr echte Schwachstellen aufzudecken
• Multi-Model Ansatz, insb. Open Source für dynamische Angriffspfade und Opus für Berichterstattung  
• Tests lassen sich pro Schritt nachvollziehen. Bei erfolgreichen Exploits werden Screenshots als Nachweise geliefert
• Wahnsinniger Wettbewerb – einem Marktbericht zufolge gibt es im Moment > 200 „Startups“ (die meisten davon vermutlich bilanzstärker als der durchschnittliche deutsche Autozulieferer) für KI basierte Offensive Security Produkte. Dazu kommen die Anbieter von Pen Test Services, wie z.B. SySS hier mit einer eigenen (noch internen) Lösung zeigt

Wie immer gilt: Fragen, Anregungen, Kommentare, Erfahrungsberichte, Themenwünsche und auch gegenläufige Meinungen oder Richtigstellungen gerne per Email. Dito für Abmeldungen vom Verteiler.

Für die Leute, die den Marktkommentar zum ersten Mal weitergeleitet bekommen haben: Hier kann man sich bei Interesse anmelden oder den Inhalt des Archivs mittels KI in einen Podcast umwandeln und im Urlaub anhören.

Viele Grüße

Jannis Stemmann