EU-Verordnung soll Datennutzung für KI-Reallabore erleichtern

Um Systeme Künstlicher Intelligenz (KI) entwickeln und erproben zu können, benötigen Forschende umfangreiche Datensätze, anhand derer sie die KI trainieren können. Das Problem: Daten dürfen aus Datenschutzgründen nur zweckgebunden verwendet werden – und zwar für genau den Zweck, für den sie ursprünglich erhoben wurden.

In einem Vorschlag für eine KI-Verordnung entwirft die Europäischen Kommission eine Lösungsmöglichkeit: KI-Reallabore. Diese sollen es Forschenden ermöglichen, für die Erprobung von KI-Systemen Daten zu nutzen, die für andere Zwecke erhoben wurden. Wir erläutern Inhalt und Hintergrund der vorgeschlagenen Verordnung: 

Erster Schritt: Rat spricht sich für innovationsfreundlichen Rechtsrahmen und Ermittlung von Regelungen für Experimentierklauseln aus

Am 16.11.2020 nahm der Rat der Europäischen Union seine Schlussfolgerungen zu Reallaboren und Experimentierklauseln als Instrumente für einen innovationsfreundlichen, zukunftssicheren und resilienten Rechtsrahmen zur Bewältigung disruptiver Herausforderungen im digitalen Zeitalter an.

In den Schlussfolgerungen lässt der Rat erkennen, dass er dem Innovationsprinzip eine wichtige Rolle zuschreibt. Flexibilität und Experimentieren sind für den Rat wichtige Elemente für einen agilen, innovationsfreundlichen, zukunftssicheren, evidenzbasierten und resilienten Rechtsrahmen, wodurch die europäischen Prioritäten und die wirtschaftliche Entwicklung vorangebracht werden können. Der Rat fordert die Kommission insbesondere auf, Politikbereiche und Regelungen zu ermitteln, in denen zusätzliche Experimentierklauseln zur Förderung von Innovationen und zur Weiterentwicklung der Regulierung etabliert werden können.

Zweiter Schritt: Europäische Kommission schlägt Regelung zu KI-Reallaboren vor

Der von der Europäischen Kommission vorgelegte Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) sieht u. a. „Maßnahmen zur Innovationsförderung“ vor.

Künstliche Intelligenz (KI) eröffnet in Bereichen wie der Bilderkennung, Sprachassistenz oder autonomem Verkehr große Chancen für neue technische Anwendungen, digitale Geschäftsmodelle und praktische Erleichterungen im Alltagsleben. Die sich rasch entwickelnde Technologie bedarf auch eines innovationsfreundlichen, zukunftssicheren Rechtsrahmens, neuartiger Formen der Regulierungsaufsicht sowie eines sicheren Raums für die Erprobung.

Dies alles bieten Reallabore. Sie sollen Innovationen im Bereich KI fördern, indem eine kontrollierte Versuchs- und Erprobungsumgebung für die Entwicklungsphase und die dem Inverkehrbringen vorgelagerte Phase geschaffen wird. Darüber hinaus sollen sie die Rechtssicherheit für Innovatoren sowie die Aufsicht und das Verständnis der zuständigen Behörden verbessern und den Marktzugang beschleunigen, unter anderem, indem Hindernisse für kleine und mittlere Unternehmen (KMU) und Start-up-Unternehmen abgebaut werden.

Konkret sieht der Verordnungsvorschlag in Artikel 53 vor, dass KI-Reallabore von den zuständigen Behörden eingerichtet werden, die eine kontrollierte Umgebung bieten, um die Entwicklung, Erprobung und Validierung innovativer KI-Systeme für einen begrenzten Zeitraum zu erleichtern. Die Vorschrift sieht auch eine sog. „Notbremse“ vor. Falls sich erhebliche Risiken für die Gesundheit und Sicherheit und die Grundrechte nicht minimieren lassen, wird der Erprobungsprozess ausgesetzt. Der Erkenntnisgewinn aus den KI-Reallaboren soll im Europäischen Ausschusses für Künstliche Intelligenz zusammengetragen werden.
Die Modalitäten und Bedingungen für den Betrieb der KI-Reallabore, einschließlich Genehmigungskriterien und Verfahren für die Beantragung, Auswahl, Beteiligung und für den Ausstieg aus dem Reallabor, sowie die Rechte und Pflichten der Beteiligten werden in Durchführungsrechtsakten festgelegt werden.

(1)  KI-Reallabore, die von den zuständigen Behörden eines oder mehrerer Mitgliedstaaten oder vom Europäischen Datenschutzbeauftragten eingerichtet werden, bieten eine kontrollierte Umgebung, um die Entwicklung, Erprobung und Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem spezifischen Plan zu erleichtern. Dies geschieht unter direkter Aufsicht und Anleitung der zuständigen Behörden, um die Einhaltung der Anforderungen dieser Verordnung und gegebenenfalls anderer Rechtsvorschriften der Union und der Mitgliedstaaten, die innerhalb des Reallabors beaufsichtigt wird, sicherzustellen.

(2) Soweit die innovativen KI-Systeme personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer nationaler Behörden oder zuständiger Behörden unterstehen, die den Zugang zu Daten gewähren oder unterstützen, sorgen die Mitgliedstaaten dafür, dass die nationalen Datenschutzbehörden und diese anderen nationalen Behörden in den Betrieb des KI-Reallabors einbezogen werden.

(3) Die KI-Reallabore lassen die Aufsichts- und Abhilfebefugnisse der zuständigen Behörden unberührt. Alle erheblichen Risiken für die Gesundheit und Sicherheit und die Grundrechte, die bei der Entwicklung und Erprobung solcher Systeme festgestellt werden, führen zur sofortigen Risikominderung oder, falls dies nicht möglich ist, zur Aussetzung des Entwicklungs- und Erprobungsprozesses bis eine solche Risikominderung erfolgt ist.

(4) Die am KI-Reallabor Beteiligten bleiben nach geltendem Recht der Union und der Mitgliedstaaten für Schäden haftbar, die Dritten infolge der Erprobung im Reallabor entstehen.

(5) Die zuständigen Behörden der Mitgliedstaaten, die KI-Reallabore eingerichtet haben, koordinieren ihre Tätigkeiten und arbeiten im Rahmen des Europäischen Ausschusses für e-Intelligenz zusammen. Sie übermitteln dem Ausschuss und der Kommission jährliche Berichte über die Ergebnisse der Umsetzung dieser Systeme, einschließlich bewährter Verfahren, gewonnener Erkenntnisse und Empfehlungen zu deren Aufbau, sowie gegebenenfalls über die Anwendung dieser Verordnung und anderer Rechtsvorschriften der Union, die innerhalb des Reallabors kontrolliert werden.

(6) Die Modalitäten und Bedingungen für den Betrieb der KI-Reallabore, einschließlich Genehmigungskriterien und Verfahren für die Beantragung, Auswahl, Beteiligung und für den Ausstieg aus dem Reallabor, sowie die Rechte und Pflichten der Beteiligten werden in Durchführungsrechtsakten festgelegt. Diese Durchführungsrechtsakte werden gemäß dem in Artikel 74 Absatz 2 genannten Prüfverfahren erlassen.

Artikel 54 regelt die Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor.
Danach dürfen rechtmäßig für andere Zwecke erhobene Daten zur Entwicklung und Erprobung bestimmter innovativer KI-Systeme im Reallabor unter bestimmten Bedingungen verarbeitet werden. Gerade im Bereich der Entwicklung Künstlicher Intelligenz besteht ein hoher Bedarf an Daten. Diese liegen auch vor. Doch dürfen vorhandene Daten bislang nicht ohne Weiteres für das Anlernen der KI genutzt werden, da die Datenschutzgrundverordnung vorsieht, dass Daten grundsätzlich nur für den Zweck genutzt werden dürfen, für die sie erhoben wurden (Zweckbindungsgrundsatz aus Artikel 5 Abs. 1 lit. b) DS-GVO).

Die neue Regelung ermöglicht für die Erprobung von Anwendungen mit Künstlicher Intelligenz einen vereinfachten Rückgriff auf personenbezogene Daten. Damit wird der Grundsatz der Zweckbindung aus der DS-GVO zugunsten der Entwicklung effizienter KI-Systeme in Bezug auf die tatsächlichen Anforderungen an Forschung und Entwicklung fortentwickelt und damit im Sinne der Wettbewerbsfähigkeit geöffnet. Voraussetzung ist, dass die innovativen KI-Systeme entwickelt werden, um einem erheblichen öffentlichen Interesse zu dienen (wie z. B. der Gesundheit, der Sicherheit oder dem Umweltschutz).

Artikel 55 enthält besondere, erleichternde Maßnahmen für Kleinanbieter und Kleinnutzer.

(1)Im KI-Reallabor dürfen personenbezogene Daten, die rechtmäßig für andere Zwecke erhoben wurden, zur Entwicklung und Erprobung bestimmter innovativer KI-Systeme im Reallabor unter folgenden Bedingungen verarbeitet werden:

a) die innovativen KI-Systeme werden entwickelt, um ein erhebliches öffentliches Interesse in einem oder mehreren der folgenden Bereiche zu wahren:

i) Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit unter der Kontrolle und Verantwortung der zuständigen Behörden, wobei die Verarbeitung auf der Grundlage des Rechts der Mitgliedstaaten oder des Unionsrechts erfolgt,

ii) öffentliche Sicherheit und öffentliche Gesundheit, einschließlich Verhütung, Bekämpfung und Behandlung von Krankheiten,

iii) hohes Umweltschutzniveau und Verbesserung der Umweltqualität;

b) die verarbeiteten Daten sind für die Erfüllung einer oder mehrerer der in Titel III Kapitel 2 genannten Anforderungen erforderlich, soweit diese Anforderungen durch die Verarbeitung anonymisierter, synthetischer oder sonstiger nicht personenbezogener Daten nicht wirksam erfüllt werden können;

c) es bestehen wirksame Überwachungsmechanismen, um festzustellen, ob während der Erprobung im Reallabor hohe Risiken für die Grundrechte der betroffenen Personen auftreten können, sowie Reaktionsmechanismen, um diese Risiken umgehend zu mindern und erforderlichenfalls die Verarbeitung zu beenden;

d) personenbezogene Daten, die im Rahmen des Reallabors verarbeitet werden sollen, befinden sich in einer funktional getrennten, isolierten und geschützten Datenverarbeitungsumgebung unter der Kontrolle der Beteiligten, und nur befugte Personen haben Zugriff auf diese Daten;

e) es erfolgt keine Übermittlung oder Übertragung verarbeiteter personenbezogener Daten an Dritte und auch kein anderweitiger Zugriff Dritter auf diese Daten;

f) eine Verarbeitung personenbezogener Daten im Rahmen des Reallabors führt zu keinen Maßnahmen oder Entscheidungen, die Auswirkungen auf die betroffenen Personen haben;

g) personenbezogene Daten, die im Rahmen des Reallabors verarbeitet wurden, werden gelöscht, sobald die Beteiligung an dem Reallabor beendet wird oder das Ende der Speicherfrist für die personenbezogenen Daten erreicht ist;

h) die Protokolle der Verarbeitung personenbezogener Daten im Rahmen des Reallabors werden für die Dauer der Beteiligung am Reallabor und noch 1 Jahr nach deren Beendigung ausschließlich zu dem Zweck und nur so lange aufbewahrt, wie dies zur Erfüllung der Rechenschafts- und Dokumentationspflichten nach diesem Artikel oder anderen anwendbaren Rechtsvorschriften der Union oder der Mitgliedstaaten erforderlich ist;

i)eine vollständige und detaillierte Beschreibung des Prozesses und der Gründe für das Trainieren, Testen und Validieren des KI-Systems wird zusammen mit den Testergebnissen als Teil der technischen Dokumentation gemäß Anhang IV aufbewahrt;

j) eine kurze Zusammenfassung des im KI-Reallabor entwickelten KI-Projekts, seiner Ziele und erwarteten Ergebnisse wird auf der Website der zuständigen Behörden veröffentlicht.

(2) Absatz 1 lässt die Rechtsvorschriften der Union oder der Mitgliedstaaten, die eine Verarbeitung für andere als die in diesen Rechtsvorschriften ausdrücklich genannten Zwecke ausschließen, unberührt.

(1) Die Mitgliedstaaten ergreifen folgende Maßnahmen:

a) Gewährung eines vorrangigen Zugangs zu den KI-Reallaboren für Kleinanbieter und Start-up-Unternehmen, soweit sie die  entsprechenden Voraussetzungen erfüllen;

b) Durchführung besonderer Sensibilisierungsmaßnahmen für die Anwendung dieser Verordnung, die auf die Bedürfnisse der Kleinanbieter und Kleinnutzer ausgerichtet sind;

c) gegebenenfalls Einrichtung eines eigenen Kanals für die Kommunikation mit Kleinanbietern, Kleinnutzern und anderen Innovatoren, um Orientierungen zu geben und Fragen zur Durchführung dieser Verordnung zu beantworten.

(2) Bei der Festsetzung der Gebühren für die Konformitätsbewertung gemäß Artikel 43 werden die besonderen Interessen und Bedürfnisse von Kleinanbietern berücksichtigt, indem diese Gebühren proportional zu ihrer Größe und der Größe
ihres Marktes gesenkt werden.

Die neue Regelung bietet die Chance, in Europa im Rahmen von sandboxes/Reallaboren KI-Systeme mit europäischen, qualitativ hochwertigen personenbezogenen Daten zu trainieren, und wirkt sich damit positiv auf die Souveränität Europas aus, indem unter Beachtung der hier geltenden Werte, ethischen Normen und Sicherheitsstandards an einer führenden Rolle der EU auf dem Gebiet der KI gearbeitet wird, weg von einer digitalen Abhängigkeit von den USA und China.  

Wie geht es weiter?

Nachdem die Kommission nun ihren Vorschlag unterbreitet hat, wird der Rat der Europäischen Union (bestehend aus Minister aus jedem EU-Land, je nach behandeltem Politikbereich) seinen Standpunkt festlegen und auch das Europäische Parlament zu dem Vorschlag Stellung nehmen. Eine Positionierung des Rates und des Parlaments wird bis Ende 2022 erwartet. Danach folgt der Trilog der gesetzgebenden Institutionen der Europäischen Union (Europäische Kommission, Rat der Europäischen Union und Europäisches Parlament), in dem Änderungsvorschläge besprochen werden.