„Künstliche Intelligenz kann im Einzelhandel helfen, die weltweiten Warenströme noch punktgenauer zu steuern. Aber auch in den Geschäften lassen sich mit Hilfe von KI Kundenbedürfnisse noch besser verstehen. Klar ist, dass wir Regeln brauchen, dabei darf aber nicht das Kind mit dem Bade ausgeschüttet werden“, so der stellvertretende HDE-Hauptgeschäftsführer Stephan Tromp. Der HDE bewertet deshalb einen risikobasierten Ansatz mit der Eingruppierung in unterschiedliche Risikoklassen als passend und sachgerecht. Dabei geht es dann aus Sicht des Verbandes sehr stark darum, welche Anwendung in welche Risikoklasse einsortiert wird. „Es darf nicht sein, dass beispielsweise Anwendungen von Computer Vision, bei denen keinerlei personenbezogene Daten entstehen oder ausgewertet werden, mit der höchsten Risikoeinschätzung belegt werden“, so Tromp weiter. Deshalb müsse es um eine möglichst konkrete Formulierung der Vorgaben gehen, um für Klarheit zu sorgen. Insofern sei es positiv, dass die Parlamentsposition neue Vorgaben vorsehe, nach welchen die EU-Kommission Leitlinien zu bestimmten Aspekten der Verordnung, etwa zu Hochrisiko-KI zu entwickeln und bereitzustellen hat. Als Hochrisiko-KI-System dürften nach Ansicht des HDE nur Anwendungen gelten, die auch tatsächlich ein erhebliches und verstärktes Risiko für die Gesundheit, die Sicherheit oder ein nicht leicht umkehrbares Risiko für die Grundrechte darstellen.

Computer Vision ist die KI-Technologie, mit der der kassenlose Supermarkt betrieben wird. KI wird auch genutzt, um anonymisiert die Frequenzen in Geschäften zu analysieren und Produktplatzierungen zu optimieren oder in Form von Chatbots in der Kundenkommunikation. Gerade mit Systemen wie Chat-CPT wird es hier in naher Zukunft weitere Verbesserungen geben. Die Ergebnisse können den Unternehmen helfen, noch zielgenauer auf die Bedürfnisse ihrer Kundinnen und Kunden einzugehen.

Der HDE sieht insgesamt einige der getroffenen Änderungen in der Parlamentsposition positiv, identifiziert aber gleichzeitig noch Nachbesserungsbedarf. So etwa bei der Begriffsdefinition von KI. Hier sei es richtig, dass darin der Begriff der Autonomie als zentraler Bestandteil enthalten ist. Dieser sollte aber selbst auch klar im Rechtstext definiert werden. Zudem sollte die konstante Lernfähigkeit von KI als wichtiges Element ebenfalls in die Definition aufgenommen werden. Damit sei die Abgrenzung zu einfacher Software gewährleistet.

„Eine Überregulierung vonseiten der EU ließe uns auch bei dieser Technologie wieder weit hinter die Unternehmen beispielsweise in den USA zurückfallen. Das darf nicht passieren. Es gibt keinen Grund, naiv mit KI-Anwendungen umzugehen. Auf der anderen Seite darf aber auch nicht ein latentes und unbegründetes Gefühl der Angst die Oberhand gewinnen. Wir brauchen faire und sachlich begründete Regeln für KI“, so Tromp.

Nach der heute erfolgten Festlegung der Parlamentsposition folgen nun die Verhandlungen zwischen Europäischem Rat, EU-Kommission und EU-Parlament im sogenannten Trilog. (HDE)