48 DSD 3 | 2023 WIRTSCHAFT UND POLITIK Die Ergebnisse eines Workshops zum aktuellen Stand der Prüfbarkeit von KI-Systemen in sicherheitskritischen Bereichen hat das BSI in einem Whitepaper zusammengefasst. Und es hat einen „AI Cloud Service Compliance Criteria Catalogue“ erstellt. Grenzen für den Einsatz von KI ergeben sich vor allem aus Datenschutz und dem Diskriminierungsverbot. Dabei wird oft übersehen, dass personenbezogene Daten nach ihrer Anonymisierung keinem Datenschutz unterliegen. Im April 2021 hat die EU-Kommission den Entwurf einer Verordnung veröffentlicht, deren Ziel es ist, einen umfassenden einheitlichen Rechtsrahmen für die Entwicklung und Anwendung von KI in den Mitgliedstaaten zu schaffen. Sie verfolgt dabei einen risikobasierten Ansatz und legt einen einheitlichen horizontalen Rechtsrahmen mit acht Anwendungsbereichen fest. Die Ausschüsse des EUParlaments für Binnenmarkt und für bürgerliche Freiheiten haben am 11. Mai 2023 Änderungsanträge zum Entwurf der Kommission beschlossen. Dem Beschluss ist das Plenum am 14. Juni 2023 gefolgt. Nach diesem Beschluss sollen KISysteme, die ein unakzeptables Risiko für die Sicherheit von Menschen darstellen (manipulative Techniken, Ausnutzung der Schwachstellen von Menschen, Social Scoring) streng verboten werden. Die Hochrisikoanwendungen sollen um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt erweitert werden. Anbieter von FoundationModellen müssen Risiken bewerten und abmildern, Auslegungs-, Informations- und Umweltanforderungen einhalten und sich in der EU-Datenbank registrieren lassen. Generative Foundation-Modelle müssen die Generierung durch KI offenlegen. Es wird spannend, zu welchem Ergebnis der nun anstehende Trilog zwischen EU-Kommission, Parlament und Rat führen wird. Bis zum Jahresende soll eine Einigung gefunden werden. Für den Einsatz von KI-Tools bei Kundenaufträgen sollte zur Vermeidung rechtlicher Konflikte eine Regelung der Nutzung von KI in Verträgen und den AGB erfolgen (Thomas Schwenke, LL.M in AssCompact am 19. Juli 2023). Das Leistungsniveau der KI wird weiter zunehmen, in immer kürzeren Innovationszyklen. Die rasante Entwicklung von generativen Text- und Bildverarbeitungssystemen, mit denen die amerikanischen Big-Tech-Konzerne aktuell gegenseitig konkurrieren, zeigt dies in eindrucksvoller Weise. Gleichwohl wird KI die menschliche Intelligenz, die gänzlich anders strukturiert ist als KI, die systemfremde Umstände und das Weltwissen, Intuition und Kreativität in Entscheidungsprozesse einbringt, entgegen allen Warnhinweisen einiger Wissenschaftler nie ersetzen können. Der BDSW wird sicher überlegen, inwieweit er künftig – in Kooperation mit relevanten Fachverbänden wie Bitkom und dem Bundesverband künstliche Intelligenz – die IT- Sicherheit und KI-Anwendungen in der Sicherheitswirtschaft verstärkt in den Blick nehmen und fördern kann. Bild: # 1408832606 / istockphoto.com
RkJQdWJsaXNoZXIy Mjc4MQ==