SpreeBlick am 12.06.2024: Künstliche Intelligenz – Regulierung und Potenzial für den Mittelstand

Am Mittwoch, den 12.06.2024 ging es bei unserem Hybrid-Event SpreeBlick um das Thema künstliche Intelligenz insbesondere um die EU KI-Verordnung, die am 21. Mai verabschiedet wurde. Wie immer fand die Diskussion mit Zuschauern in unserem Studio statt und wurde live auf LinkedIn gestreamt.

Die Aufnahme und eine Zusammenfassung finden Sie weiter unten.

Hier eine kurze Zusammenfassung der Diskussion:

Das Risikomodell der KI-Verordnung mit seinen vier Kategorien (unannehmbare Risiken, Hochrisiken, begrenztes Risiko und minimales Risiko) bietet genügend Spielraum für die Entwicklung von Anwendungen mit KI. Problematisch können allerdings viele unbestimmte Rechtsbegriffe werden.

KI wird von Unternehmen bereits mehr verwendet, als ihnen oft selbst bewusst ist. Da bereits Routenplaner und andere Anwendungen KI beinhalten. Bewusst eingesetzt wird KI vor allem, wenn es um Textgenerierung geht. Aufgrund des Fachkräftemangels wird KI künftig verstärkt dort eingesetzt werden, wo sich großvolumige Prozesse automatisieren lassen, damit sich die Mitarbeitenden auf ihre Kernkompetenz konzentrieren können.

Als Aufsichtsbehörde, die jedes EU-Mitgliedsland benennen muss, spricht vieles für eine bestehende Bundesbehörde, die beide Funktionen (Notifizierung und Marktüberwachung) übernimmt. Da auch in der Verwaltung Fachkräftemangel herrscht, macht die Schaffung einer neuen Behörde wenig Sinn. Ebenso spricht vieles gegen eine Aufteilung der Kompetenzen wie beim Datenschutz zwischen Bund und den Ländern. Zum einen aufgrund der Kapazitäten und zum anderen um 16 unterschiedliche Auslegungen der KI-Verordnung zu vermeiden. Vieles spricht aktuell für die Bundesnetzagentur.

Leider bringt die Verbreitung von KI auch Gefahren und Risiken für die IT-Sicherheit mit sich. KI macht es möglich auch ohne Programmierkenntnisse Schadsoftware zu erzeugen und zu verbreiten. Dabei ist Phishing mit 80% aller Cybersicherheitsvorfälle immer noch das Haupteinfallstor. Herkömmliche Systeme und der klassische IT-Admin sind ausgeklügelten und KI-basierten Angriffen nicht gewachsen. KI muss deshalb auch verstärkt in Cybersicherheitssystemen eingesetzt werden.

Beim Thema Nachbesserungsbedarf bei der KI-Verordnung durch den nationalen Gesetzgeber, gibt es wenig Spielräume. Neben der Benennung der Aufsichtsbehörde kann der nationale Gesetzgeber Ausnahmen vom grundsätzlichen Verbot der Gesichtserkennung durch KI für Zwecke der Strafverfolgung machen. Eine weitere Möglichkeit sind sogenannte Sandboxes, die auf nationaler Ebene eingerichtet werden können. Darin können Unternehmen KI-Anwendungen in einem geschützten Raum unter Aufsicht der Behörden ausprobieren, ohne sämtliche regulatorische Vorgaben gleich einhalten zu müssen.

Aufzeichnung der Veranstaltung

Diskutanten: