63 DSD 4 | 2024 EUROPA Branchenexperten verfasst und verfügbar auf www.coess.eu, soll daher Sicherheits- unternehmen in Europa dabei helfen, die europäische KI-Verordnung und entsprechende Anforderungen an sie zu verstehen, aber auch KI-Systeme auf eine verantwortungsvolle und ethische Weise in Dienstleistungen und Unternehmensabläufe zu integrieren, die über die Einhaltung der EU-Vorschriften hinausgeht. Sie beschreibt nicht nur die verschiedenen KIAnwendungsfälle und die damit verbundenen Chancen im Detail – sie geht auch auf wichtige Risiken ein und definiert eine Reihe von Empfehlungen, die Unternehmen befolgen sollten, um Risiken effektiv zu begegnen und gleichzeitig die Vorteile der Technologie zu nutzen. Risiken im Zusammenhang mit dem Einsatz von KI in der Sicherheitswirtschaft Das Thema Risikomanagement ist dabei zentral. Die CoESS-Charta listet dazu verschiedenste Risiken auf und empfiehlt Unternehmen, sich dezidiert mit fünf Risikotreibern auseinanderzusetzen, die sich gegenseitig verstärken und sowohl vor als auch während des Einsatzes von KI ganzheitlich angegangen werden sollten: • Mangel an sorgfältigen Risikomanagementprozessen. • Verwendung von nicht vertrauenswürdigen und verzerrten Datensätzen. • Mangel an menschlicher Beaufsichtigung. • Mangelnde physische und Cyberresilienz des KI-Systems. • Fehlen von KI-Governance-Rahmen in Unternehmen. Diese Treiber können sich in vielfältigen, anwendungsspezifischen, materiellen und immateriellen Risiken niederschlagen. Um ein Gleichgewicht zwischen der Nutzung des Potenzials der KI und damit einhergehenden Risiken zu finden, legt die CoESSCharta betroffenen Unternehmen nahe, die ethischen, rechtlichen, gesellschaftlichen und sicherheitsrelevanten Auswirkungen des jeweiligen Einsatzes sorgfältig zu prüfen und in einem KI-GovernanceRahmen zu verankern. Die europäische KI-Verordnung Dies ist auch aus rein rechtlichen Gründen wichtig. Der in diesem Sommer verabschiedete „EU AI Act“ der Europäischen Union skizziert Regelungen für sogenannte„Hochrisiko“-KI und stellt damit neue, wichtige Compliance-Anforderungen an Unternehmen – die meisten davon gelten ab August 2026; erste Anwendungsverbote sowie Bestimmungen zur KI-Mitarbeiterschulung treten aber bereits im Februar 2025 in Kraft. Für die Compliance ist es von zentraler Bedeutung, dass Sicherheitsunternehmen erkennen, wann sie KI in ihren Dienstleistungen und Unternehmensabläufen einsetzen. Sie müssen in der Lage sein, zwischen „risikoarmen“ und „risikoreichen“ Systemen und Anwendungsfällen zu unterscheiden, und sie müssen die Implikationen der europäischen KI-Verordnung und Anforderungen an sie vollständig verstehen. Über die CoESS-Charta In ihrer Charta empfiehlt die CoESS den Unternehmen daher, jetzt einen KI-Governance-Rahmen einzurichten, die für den Gebrauch von KI verantwortlichen Mitarbeiter*innen entsprechend zu schulen und sich auf die Einhaltung der KI-Verordnung vorzubereiten. Die CoESS-Charta soll Unternehmen bei diesem recht komplexen und anspruchsvollen Unterfangen unterstützen und beispielsweise bei der Bewertung von KI-Systemen und Anwendungsfällen helfen. Auf Basis der rechtlichen Vorgaben der KI-Verordnung bietet sie praktische Empfehlungen und Compliance-Anforderungen für den Einsatz von KI, einschließlich einer Checkliste, die sicherstellen soll, dass Unternehmen die KI- Integration verantwortungsbewusst und effektiv angehen. Dabei geht das Dokument weit über das ledigliche Abhaken von Vorschriften hinaus: Es setzt sich für einen menschenzentrierten Ansatz bei der KI-Innovation ein, der auf einer Reihe von Grundwerten beruht, die in dem Dokument festgelegt sind. Die Charta kann unter www.coess.eu heruntergeladen werden.
RkJQdWJsaXNoZXIy Mjc4MQ==