{"id":27687,"date":"2025-03-05T13:46:07","date_gmt":"2025-03-05T13:46:07","guid":{"rendered":"https:\/\/cybercompare.com\/?p=27687"},"modified":"2025-03-06T08:19:45","modified_gmt":"2025-03-06T08:19:45","slug":"advens-llm","status":"publish","type":"post","link":"https:\/\/cybercompare.com\/de\/advens-llm\/","title":{"rendered":"Large Language Models im Security Operations Center:\u00a02025 wird das Jahr des Sicherheitsanalysten mit KI-Unterst\u00fctzung"},"content":{"rendered":"\n

aDvens,<\/a> eines der f\u00fchrenden unabh\u00e4ngigen Unternehmen f\u00fcr Cybersicherheit in Europa, hat die Nutzung von Large Language Models (LLMs) als einen der wichtigsten Trends im Bereich Security Operations Center<\/a> (SOC) f\u00fcr das kommende Jahr identifiziert. LLMs sind eine Art der k\u00fcnstlichen Intelligenz (KI), die durch Machine Learning in der Lage sind, Textinhalte zu verstehen und zu generieren. In Form von ChatGPT und \u00e4hnlichen Plattformen sind LLMs der breiten \u00d6ffentlichkeit vor allem in den vergangenen zwei Jahren bekannt geworden. Im modernen SOC kommt KI jedoch schon lange zum Einsatz, insbesondere wenn es um das Identifizieren von potenziellen Bedrohungen geht.<\/p>\n\n\n\n

Die Aufgabe eines Security Operations Center (SOC) besteht darin, sicherheitsrelevante Vorf\u00e4lle in einem Netzwerk oder System in Echtzeit zu identifizieren, zu analysieren und zu beheben. F\u00fcr diesen Prozess muss eine gewisse Flexibilit\u00e4t gegeben sein \u2013 die Experten im SOC m\u00fcssen sich dynamisch an verschiedene F\u00e4lle und Situationen anpassen. Gleichzeitig beginnt ein Wettlauf gegen die Zeit, wenn ein sicherheitsrelevanter Vorfall identifiziert wird. Es muss eine gro\u00dfe Menge an Informationen verarbeitet und analysiert werden, um festzustellen, ob es sich um eine tats\u00e4chliche Bedrohung handelt oder nicht.<\/p>\n\n\n\n

\u201eLLMs sind die Scouts im SOC. Bei einem potenziellen Vorfall dienen sie dazu, alle m\u00f6glichen Eventualit\u00e4ten abzubilden und die ersten Schritte hin zu verschiedenen Erkl\u00e4rungsans\u00e4tzen zu erarbeiten. Im n\u00e4chsten Schritt entscheiden dann die menschlichen Experten, welcher dieser Ans\u00e4tze verfolgt werden soll\u201c, sagt Arthur Tondereau, Data Scientist bei aDvens.<\/p>\n\n\n\n

Die Vorteile von LLMs: Nat\u00fcrliche Sprache und Weiterentwicklung zu KI-Agenten<\/strong><\/h2>\n\n\n\n

Das Besondere an LLMs ist, dass sie nat\u00fcrliche Sprache verstehen und in Maschinensprache \u00fcbersetzen k\u00f6nnen. Beispielsweise k\u00f6nnen die Experten im SOC die simple Frage \u201eWas geschah eine Stunde vor dem Vorfall X?\u201c stellen, worauf ein LLM \u00fcber Schnittstellen zu anderen SOC-Tools die gew\u00fcnschten Informationen einholt und verst\u00e4ndlich zusammenfasst. Die Reaktionszeit auf Vorf\u00e4lle verk\u00fcrzt sich auf diese Weise signifikant.<\/p>\n\n\n\n

Dieser Effizienzgewinn f\u00e4llt noch einmal gr\u00f6\u00dfer aus, wenn die LLMs zu KI-agenten\u00e4hnlichen L\u00f6sungen weiterentwickelt werden. Dabei handelt es sich um LLMs, die darauf trainiert werden, entsprechend den individuellen Anforderungen der Experten eine bestimmte Aufgabe zu erf\u00fcllen, zum Beispiel \u00fcber eine Schnittstelle mit dem Log-Analyse-Tool oder der Wissensdatenbank des SOC. Das LLM bzw. der KI-Agent wird damit zu einem wichtigen Teil des SOC-Werkzeugkastens zum Identifizieren, Analysieren und Beheben von potenziellen Bedrohungen.<\/p>\n\n\n\n

Halluzinationen vorbeugen<\/strong><\/h3>\n\n\n\n

Gleichzeitig sind LLMs jedoch nach wie vor ein Werkzeug, das die menschliche Expertise nicht ersetzen sollte und nicht ersetzen kann. Standardm\u00e4\u00dfig sind LLMs n\u00e4mlich darauf ausgelegt, eine Antwort geben zu m\u00fcssen, \u201ekoste es, was es wolle\u201c, und werden deshalb im Zweifelsfall eine entsprechende Information erfinden \u2013 das \u201eHalluzinieren\u201c, das auch beispielsweise bei ChatGPT bekannt ist.<\/p>\n\n\n\n

Um dies zu verhindern, braucht es einerseits Leitplanken: SOC-Teams k\u00f6nnen Sicherheitsschleifen in den Prozess integrieren, die sicherstellen, dass Informationen und Quellenangaben systematisch auf inhaltliche Korrektheit \u00fcberpr\u00fcft werden. Daf\u00fcr muss in jeder Phase des Prozesses Transparenz gew\u00e4hrleistet werden. Jede Anfrage muss f\u00fcr die Experten einsehbar sein, genau wie die Argumentation und Herleitungen der LLMs. Und nicht zuletzt braucht es deshalb weiterhin menschliche SOC-Mitarbeiterinnen und -Mitarbeiter, denn nur Teams mit der notwendigen Expertise k\u00f6nnen \u00fcberpr\u00fcfen, ob die vom LLM gelieferten Informationen korrekt sind.<\/p>\n\n\n\n

Regulatorische und Sicherheitsaspekte mitdenken<\/strong><\/h4>\n\n\n\n

Mit der zunehmenden Integration von LLMs in SOCs sind auch regulatorische Aspekte zu ber\u00fccksichtigen. So werden mit dem AI Act der Europ\u00e4ischen Union in Zukunft SOCs, die kritische Infrastruktur \u00fcberwachen, auch selbst als kritische Infrastrukturen gelten \u2013 und m\u00fcssen damit entsprechend gesch\u00fctzt werden. Diese Sicherheitsanforderungen gelten dann auch f\u00fcr die im SOC genutzten LLMs, gerade auch weil LLMs wie jedes andere System Schwachstellen haben, die von Angreifern gezielt ins Visier genommen werden k\u00f6nnen. Ein Beispiel daf\u00fcr w\u00e4re eine Prompt Injection, die das LLM dazu zwingt, verd\u00e4chtige Aktivit\u00e4ten zu ignorieren.<\/p>\n\n\n\n

Auf lange Sicht wird die Nutzung von LLMs f\u00fcr SOC-Anbieter unabdinglich werden, um den Anforderungen ihrer Kunden zu entsprechen. Damit liegt es jedoch auch in der Verantwortung jedes einzelnen Anbieters, in ihren SOCs die notwendigen Rahmenbedingungen zu schaffen, um LLMs produktivit\u00e4tssteigernd, sicher und allen relevanten Vorschriften entsprechend zu integrieren, sodass sie ihre Experten-Teams bestm\u00f6glich unterst\u00fctzen k\u00f6nnen.<\/p>\n\n\n\n

aDvens GmbH ist Teil des Provider Directory<\/strong><\/p>\n\n\n\n

\n
aDvens GmbH entdecken<\/a><\/div>\n<\/div>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

aDvens, eines der f\u00fchrenden unabh\u00e4ngigen Unternehmen f\u00fcr Cybersicherheit in Europa, hat die Nutzung von Large […]<\/p>\n","protected":false},"author":24,"featured_media":27683,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[18],"tags":[],"class_list":["post-27687","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-article-de"],"_links":{"self":[{"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/posts\/27687","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/users\/24"}],"replies":[{"embeddable":true,"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/comments?post=27687"}],"version-history":[{"count":5,"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/posts\/27687\/revisions"}],"predecessor-version":[{"id":28621,"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/posts\/27687\/revisions\/28621"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/media\/27683"}],"wp:attachment":[{"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/media?parent=27687"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/categories?post=27687"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cybercompare.com\/de\/wp-json\/wp\/v2\/tags?post=27687"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}