KI-Verordnung der EU auch für Schweizer Firmen relevant

Prof. Dr. Nadja Braun Binder, Professorin für Öffentliches Recht an der Juristischen Fakultät der Universität Basel, befasst sich intensiv mit dem EU AI Act, dem neuen Gesetz der EU zur Regelung von Künstlicher Intelligenz. In der Schweiz sieht sie keine Notwendigkeit, ein solches einzuführen, jedoch brauche es punktuelle Anpassungen – zum Beispiel zur Verhinderung von Diskriminierung.

Frau Braun Binder, die EU arbeitet zurzeit am AI Act. Es ist das erste umfassende Gesetz zur Künstlichen Intelligenz (KI) einer grossen Regulierungsbehörde und soll im Mai 2024 in Kraft treten. Welche Bedeutung hat diese neue Verordnung für die Schweiz?

Beim EU AI Act gilt das Marktortprinzip. Das bedeutet, dass wenn ein Schweizer Unternehmen etwas entwickelt, das später in der EU angewendet werden soll, es die Vorgaben der neuen europäischen KI-Verordnung berücksichtigen muss. In der Schweiz gilt zwar immer noch das Schweizer Recht. Eine Entwicklung nur für den Schweizer Markt dürfte aber häufig unrealistisch sein.

Ist auch in der Schweiz ein ähnliches Gesetz nötig?

Die EU-Verordnung macht in einem Binnenmarkt-Kontext völlig Sinn. Aus meiner Sicht braucht es in der Schweiz aber kein KI-Gesetz. Wir haben bestehende Gesetze, die bereits Teilaspekte der KI abdecken. Dazu gehört zum Beispiel das Datenschutzgesetz, das immer zum Zug kommt, wenn es um die Bearbeitung von Personendaten geht. Auch das Persönlichkeitsrecht und weitere Grundrechte dürfen nicht verletzt werden, wenn es um den Einsatz von KI durch den Staat geht.

Gibt es in der Schweiz Bereiche, die beim Einsatz von KI noch nicht gesetzlich abgedeckt sind?

Natürlich stellt uns die KI vor neue juristische Herausforderungen. Gesetzliche Bestimmungen müssen sinnvoll und möglichst niederschwellig sein, damit Innovation nicht verhindert wird. Eine Lücke, der wir uns widmen müssen, ist das Problem der Diskriminierung. Denn viele KI-Systeme nutzen Daten, in denen es zum Beispiel eine historisch bedingte Voreingenommenheit gibt. Im Extremfall kann dies zur Diskriminierung führen. In der Schweiz gibt es nur für den Staat ein Diskriminierungsverbot in der Bundesverfassung. Unter Privaten gibt es keinen gleichwertigen Schutz. Nun bietet sich uns die Chance, darüber zu diskutieren, wie ein solcher Schutz etwa in einem allgemeinen Gleichbehandlungsgesetz oder in punktuellen Bestimmungen in bestehenden Gesetzen vorgesehen werden kann. Entsprechende Regelungen müssten aber technologieneutral verfasst werden.

Wie beschäftigen Sie sich in Ihrer Forschung mit der KI-Verordnung der EU?

In der Forschungsstelle für Digitalisierung in Staat und Verwaltung (e-PIAF) sind wir daran, die Bestimmungen zu den Hochrisikosystemen der KI-Verordnung zu kommentieren. Dazu zählen unter anderem die KI-Anwendung in der robotergestützten Chirurgie oder autonome Fahrzeuge. In einem anderen Forschungsprojekt befassen wir uns mit der Transparenz bzw. Nachvollziehbarkeit des Einsatzes von KI in der öffentlichen Verwaltung. Wir gehen der Frage nach, wie ein verbindliches Register für den staatlichen KI-Einsatz ausgestaltet sein müsste, oder untersuchen, welchen Anforderungen eine Begründung von KI-basierten Verfügungen genügen muss.

Wozu tendiert Ihre Einschätzung?

Transparenz ist kein Selbstzweck. Um Nachvollziehbarkeit und damit auch Kontrolle sicherzustellen, braucht es nicht möglichst viele Informationen, sondern Angaben, die aussagekräftig und verständlich sind. Wenn ich als Privatperson eine Verfügung erhalte wie zum Beispiel die Steuerveranlagung oder den Entscheid über ein Baugesuch, dann muss ich das Resultat verstehen können. Die Behörde muss mir aber nicht das ganze KI-System erklären, das sie eingesetzt hat. Wichtig für mich ist zu erfahren, welche Gründe für die Entscheidung ausschlaggebend waren.

Was fasziniert Sie an der Digitalisierung und der KI?

Das Faszinierende ist für mich, dass ständig neue Fragestellungen auftreten. Das macht für mich generell Wissenschaft aus. Immer wenn ich eine Frage beantwortet habe, ergeben sich daraus mindestens drei weitere, wir sind nie ganz am Ziel. Ich kam vor über 20 Jahren über das Thema der politischen Rechte und die elektronische Stimmabgabe zum Forschungsthema Digitalisierung in Staat und Verwaltung, und es hat mich seitdem nie mehr losgelassen.