Die KI befindet sich in der Anfangsphase ihrer Industrialisierung. Einzelpersonen und Organisationen experimentieren mit Anwendungen von KI. Ein Teilnehmer sagte, es sei ein bisschen „Wilder Westen“, wenn es um die Sicherheit geht.<\/p>\n\n\n\n
Am 20. M\u00e4rz 2024 veranstalteten \u00a0Elizabeth Press<\/a>\u00a0von D3M Labs<\/a>\u00a0und\u00a0Hannah Suarez<\/a>\u00a0von Superuser O\u00dc<\/a>\u00a0gemeinsam einen runden Tisch zum Thema KI & Information und Cybersicherheit mit Gr\u00fcndern, Datenverantwortlichen und Verantwortlichen f\u00fcr Cybersicherheit.<\/p>\n\n\n\n Welche neuen Risiken und Chancen ergeben sich durch den Einsatz von KI in meinem Unternehmen\/Organisation?<\/strong><\/p>\n\n\n\n Large Language Models<\/em><\/p>\n\n\n\n Open LLMs werden auf einer breiten Palette von Datenquellen trainiert und bieten Vielseitigkeit bei verschiedenen Aufgaben. Ihre Verwendung kann jedoch unbeabsichtigt zu Informationslecks f\u00fchren. Es bestehen auch Bedenken hinsichtlich Datenvergiftung, Halluzinationen und Transparenz bez\u00fcglich Eingabe- und Datenqualit\u00e4t. Nicht alle Unternehmen, insbesondere kleinere Organisationen, k\u00f6nnen lokale LLMs nutzen.<\/p>\n\n\n\n Bei Samsung\u00a0<\/a>gab es Informationslecks, weil Mitarbeiter sensible Daten in ChatGPT eingegeben hatten.<\/p>\n\n\n\n Der Blackwell Superchip<\/em><\/p>\n\n\n\n Microsoft Azure hat k\u00fcrzlich bekanntgegeben, dass es den NVIDIA Grace Blackwell Superchip in seine Plattform integrieren wird. Dieser leistungsstarke Prozessor ist speziell f\u00fcr gro\u00df angelegte generative KI-Aufgaben, Datenverarbeitung und High-Performance-Anwendungen konzipiert. \u00a0Er macht trillionenparameterf\u00e4hige Grundlagenmodelle \u00fcber Grace Blackwell verf\u00fcgbar.<\/p>\n\n\n\n Die potenziellen Auswirkungen der generativen KI auf die Besch\u00e4ftigung stellt ein bedeutendes soziales Risiko dar. Gegenw\u00e4rtig ist die Qualit\u00e4t der Ausgabe begrenzt, und der Einsatz von generativer KI dient oft dazu, die Effizienz zu steigern, z. B. durch die Verwendung von Copilot zur Codegenerierung. Menschliches Eingreifen bleibt entscheidend f\u00fcr die Sicherstellung der Ausgabequalit\u00e4t. Die Frage bleibt jedoch: Wie lange wird diese Abh\u00e4ngigkeit vom menschlichen Eingriff bestehen bleiben?<\/p>\n\n\n\n Der moderne Data Stack und Cloud-basierte Lieferketten<\/em><\/p>\n\n\n\n In der dynamischen Landschaft moderner Data Teams, Data Science Kompetenzen und digitaler Unternehmen stellt das Lieferantenrisiko eine gro\u00dfe Herausforderung dar. Der „Modern Data Stack“, cloudbasierte Lieferketten und Interdependenzen f\u00fchren zu Komplexit\u00e4ten. Organisationen sind auf verschiedene Anbieter f\u00fcr wichtige Komponenten angewiesen, von der Speicherung bis zur Analyse. Diese Abh\u00e4ngigkeit birgt jedoch Risiken. Die Zuverl\u00e4ssigkeit der Anbieter, Sicherheitsanf\u00e4lligkeiten und die Einhaltung des Datenschutzes beeinflussen alle die kontinuierliche Verf\u00fcgbarkeit und Integrit\u00e4t von Daten.<\/p>\n\n\n\n Trello<\/a>,eine beliebte Projektmanagement-Softwareplattform, wurde gecrackt und im Dark Web ver\u00f6ffentlicht. Ungef\u00e4hr 15 Millionen Nutzer waren von diesem Versto\u00df betroffen.<\/p>\n\n\n\n Wie f\u00f6rdern Sie eine Kultur der Cyber- und Informationssicherheit in einer digitalen Organisation, insbesondere in einem Datenteam?<\/strong><\/p>\n\n\n\n Standardisierte Arbeit, Dokumentation, Transparenz<\/em><\/p>\n\n\n\n Eine Kultur, die durch standardisierte Arbeit, akribische Dokumentation und Einhaltung bew\u00e4hrter Verfahren gekennzeichnet ist, legt einen soliden Grundstein f\u00fcr die F\u00f6rderung eines gesunden Arbeitsumfeldes, das erforderlich f\u00fcr ein erh\u00f6htes Sicherheitsbewusstsein ist. Dar\u00fcber hinaus vereinfacht die Transparenz den Weg zu Rahmenwerken wie ISO 27001:2022 und SOC 2 Type 2.<\/p>\n\n\n\n Akzeptable Nutzung<\/em><\/p>\n\n\n\n Richtlinien zur akzeptablen Nutzung von LLMs sind ebenfalls eine gute M\u00f6glichkeit, eine sicherheitsbewusste Kultur im Hinblick auf generative KI zu f\u00f6rdern.<\/p>\n\n\n\n Erm\u00e4chtigung des CISO<\/em><\/p>\n\n\n\n Die Erm\u00e4chtigung des CISO mit Verantwortung und Verantwortlichkeit zur Schaffung einer sicherheitsbewussten Kultur und zur Einhaltung von Rahmenwerken ist ebenfalls wichtig.<\/p>\n\n\n\n Wie kann KI eingesetzt werden, um die Cybersicherheit zu verbessern?<\/strong><\/p>\n\n\n\n KI kann dabei helfen, Phishing zu erkennen, oft besser als Menschen.<\/p>\n\n\n\n Cyberangreifer innovieren h\u00e4ufig schneller als Cyberverteidiger. Cyberkriminalit\u00e4t hat sich zu einer bedeutenden Branche entwickelt, die manchmal von staatlichen Akteuren unterst\u00fctzt wird. Die Methoden und die Raffinesse, die Angreifer in der Bedrohungslandschaft Ihrer Organisation zeigen, h\u00e4ngen vom Profil und der Natur Ihrer Organisation ab.<\/p>\n\n\n\n KI-gest\u00fctzte Funktionen werden in der Tat zu einem erwarteten Standard in der Cybersicherheit und unter verschiedenen digitalen Dienstanbietern, einschlie\u00dflich solcher, die in der Cloud t\u00e4tig sind.<\/p>\n\n\n\n Die Durchf\u00fchrung einer sorgf\u00e4ltigen Pr\u00fcfung von Lieferanten ist entscheidend. Sowohl SOC 2 Type 2 als auch ISO 27001:2022 betonen die Bedeutung der Bewertung und des effektiven Managements von Lieferanten. Sie erfordern von Organisationen, die Sicherheitslage und -praktiken ihrer Lieferanten zu bewerten, um sicherzustellen, dass sie bestimmte Standards und Anforderungen erf\u00fcllen. Dazu geh\u00f6ren Risikobewertungen, die Implementierung von Kontrollen und die Festlegung von Vereinbarungen zur Bew\u00e4ltigung von Sicherheitsbedenken im Zusammenhang mit Lieferantenbeziehungen.<\/p>\n\n\n\n Bei Interesse an eine Bewertung, einen Fahrplan und Unterst\u00fctzung bei der Zertifizierung nach ISO 27001 : 2022? Kontaktiere Elizabeth.Press@d3mlabs.de<\/p>\n\n\n\n Die englische Fassung: Brave Questions About AI & Information and Cyber Security Round Table # 1 – The Data-Driven Decision Making Blog (d3mlabs.de)<\/a><\/p>\n\n\n\n