Die Pläne von OpenAI laut Sam Altman
19/06/2023
KI-Tools für die Gründung eines Unternehmens : Zeit und Geld sparen
19/06/2023
Stanford-Forscher haben untersucht, inwieweit Anbieter von Basismodellen wie OpenAI und Google das vorgeschlagene EU-Gesetz über KI einhalten, das die weltweit erste umfassende Verordnung zur Regelung von KI sein wird. Die Untersuchung zeigt, dass die großen Anbieter von Basismodellen die Anforderungen des Entwurfs des KI-Gesetzes größtenteils nicht erfüllen. Dazu gehört die Beschreibung der Verwendung von urheberrechtlich geschützten Trainingsdaten, der verwendeten Hardware und der beim Training erzeugten Emissionen sowie der Art und Weise, wie sie Modelle bewerten und testen. Die Forscher betonen, dass Transparenz oberste Priorität haben sollte, um die Anbieter von Stiftungsmodellen zur Verantwortung zu ziehen, und dass die Einhaltung der Vorschriften davon abhängt, inwieweit sie ihre Modelle öffentlich zugänglich machen. Sie schlagen außerdem vor, dass die politischen Entscheidungsträger Maßnahmen ergreifen sollten, um sicherzustellen, dass dieser Allzwecktechnologie eine angemessene Transparenz zugrunde liegt. Das Center for Research on Foundation Models arbeitet daran, die Transparenz der Anbieter von Stiftungsmodellen zu bewerten und zu verbessern. Zu den Maßnahmen gehören eine ganzheitliche Bewertung, die Dokumentation des Ökosystems, die Entwicklung von Normen, politische Briefs und politische Empfehlungen.
https://crfm.stanford.edu/2023/06/15/eu-ai-act.html
Halten sich die Anbieter von Grundlagenmodellen an das EU-KI-Gesetz ?
Das vorgeschlagene EU-KI-Gesetz soll die umfassendste Regelung für künstliche Intelligenz in der Welt sein. Es legt explizite Verpflichtungen für verschiedene Akteure fest, darunter auch Anbieter von Stiftungsmodellen wie OpenAI und Google. Angesichts ihres immensen Einflusses auf die Entwicklung und den Einsatz von KI-Modellen ist es von entscheidender Bedeutung zu prüfen, ob diese Anbieter die geplanten Anforderungen des KI-Gesetzes erfüllen.
Dieser Artikel untersucht die Einhaltung des vorgeschlagenen EU-KI-Gesetzes durch die Anbieter von Basismodellen und konzentriert sich dabei auf die Transparenz in Bezug auf Daten, Berechnungen und den Einsatz ihrer Modelle. Obwohl die meisten Anbieter die Anforderungen des Gesetzentwurfs derzeit nicht erfüllen, sollten die politischen Entscheidungsträger der Transparenz in diesem Bereich Vorrang einräumen. In diesem Artikel wird argumentiert, dass die Einhaltung des KI-Gesetzes einen positiven Wandel im Ökosystem der Stiftungsmodelle bewirken wird, indem die Rechenschaftspflicht verbessert und ethische Praktiken gefördert werden. Darüber hinaus arbeitet das Center for Research on Foundation Models daran, die Transparenz zu verbessern und politische Empfehlungen für einen verantwortungsvolleren Einsatz von KI-Technologie zu geben.
Was ist das EU-KI-Gesetz ?
Das EU-KI-Gesetz ist ein Rechtsrahmen, der die Entwicklung, den Einsatz und die Nutzung von Technologien der künstlichen Intelligenz (KI) in der Europäischen Union regelt. Es gilt als die weltweit erste umfassende Verordnung zur Regelung von KI und enthält ausdrückliche Verpflichtungen für Anbieter von Gründungsmodellen wie OpenAI und Google. Die Verabschiedung und Durchsetzung dieser Verordnung wird erhebliche Auswirkungen auf die Akteure der Branche weltweit haben.
Der Einsatz von künstlicher Intelligenz in der EU wird durch das KI-Gesetz geregelt, das weltweit erste umfassende KI-Gesetz. Erfahren Sie, wie es Sie schützen wird.
Europäisches Parlament
Das EU-KI-Gesetz hat das Potenzial, aufgrund seines breiten Anwendungsbereichs und seiner ehrgeizigen Ziele globale Standards für die KI-Governance zu prägen. Durch die Festlegung klarer Regeln für Datenschutz, Transparenz, Rechenschaftspflicht und menschliche Kontrolle soll sichergestellt werden, dass KI-Technologien in einer Weise entwickelt und eingesetzt werden, die mit den gesellschaftlichen Werten in Einklang steht. Die Umsetzung dieser Anforderungen kann jedoch einige Herausforderungen für die Akteure der Branche mit sich bringen, da sie sich in komplexen rechtlichen Rahmenbedingungen in verschiedenen Ländern zurechtfinden müssen.
Debatte im Europäischen Parlament zum KI-Gesetz
Video Transkript
Florian Bauer hat es eben schon erwähnt er hat die Debatte zur Abstimmung über das Regelwerk das weltweit erste Regelwerk für künstliche Intelligenz begonnen es haben schon gesprochen für die Kommission Margarete westerger sie ist EU-Wettbewerbskommissarin und im Moment spricht noch Thierry Britton der EU-Kommissar für Binnenmarkt und Dienstleistungen und danach wird es dann losgehen mit der tatsächlichen Debatte da werden also die Abgeordneten des EU-Parlaments ihre Standpunkte zu dem Vorschlag der Kommission darlegen können für morgen ist dann bereits die Abstimmung geplant ablegen dass wir keine Einmischung in diesen lehrerkratischen Prozess Tunes dulden werden weiter entscheiden äh von Privatunternehmen oder internationale Organisation ich freue mich dass die rechtssitzer gemeinsame Fortschritte Zeitungen werden das Parlament wird ja morgen entscheiden über sein Standpunkt und dann können wir unverzüglich die trilogge aufnehmen mit Unterstützung der Kommission sämtlichen Dienststellen gehen gerne zur Verfügung stehen bis der Erreichung einer Einigung danke schön jetzt bekommt Frau soll es späte Susanne das Wort mit einer Abgeordnete aus Spanien von den Liberalen vino Präsidentin Herr Kommissar wir stehen hier wirklich vor einer geschichtliche wichtigen Gesetze Ergebung wir haben da eine Technologie die wirklich viele Vorteile bringen kann aber die auch ganz klar Risiken birgte für die Grundrechte für die Sicherheit oder was viele Informationen angeht und deshalb begrüße ich auch den Fokus dieser Gesetzgebung denn da geht es um Technologie und Nutzung also wir verurteilen nicht die KI sondern wir gehen die Risiken an für Europa ist es nicht der mögliche zum Beispiel diese Technologie missbräuchlich zu nutzen und es geht hier lediglich darum oder die ähm das kann nur genutzte werden wenn es seine gerichtlich ist ähm Verfahren dafür gibt also wie zum Beispiel was ähm die Umwelt angeht den Verkehr da brauchen wir all diese Anwendung wir brauchen ein flexible Gesetze Ergebung die die Innovation zuläste die für die Unternehmen eine Sicherheit der bietet und natürlich auch die spektakulären Fortschritte möglich gemacht wir haben das ja auch bei JET GPT gesehen wo wir gesehen dass wir entsprechende Transparenz auch brauchen heute eher in Europa werden wir eine wichtigen Schritt machen diese Gesetzgebung wird den Bürgern helfen um die Technologie zu nutzen und wir werden uns dann auch an die vorderste Front stellen können bei der k.ija für den Verkehr von Verkehrsausschuss vielen Dank herr Präsident Frau Kommissarin Kommissar Kolleginnen und Kollegen Berichterstatter es freut mich hier zusammen zu arbeiten mit ihnen es geht hier darum zu einem globalhaupt zu werden für Innovation wir wollen das Potenzial fairer zugänglicher transparent vertrauenswürdiger KI für die Bürgerinnen und Bürger zur Verfügung zu stellen wir müssen einen wichtigen Mittelweg finden die Investitionen der technologische Fortschritt muss gefördert werden aber wir brauchen ein risikogestütztes Regelwerk auf der Grundlage der europäischen Werte und Grundrechte wir müssen immer weiter versuchen die Lebensqualität zu verbessern wir müssen einen menschenzentriertes Modell fördern wo der Mensch immer noch am Drücker ist und wir müssen sicherstellen dass die KI inklusive Mobilität im Verkehr mit fördern kann das lässt sich nur erreichen wenn wir sicherstellen dass unsere Arbeitskräfte ausreichend ausgebildet sind um das auch mit abzudecken wir müssen aufbauen auf Verantwortung klarer Haftung wir müssen eine Vertrauenskultur schaffen für die Verbrauch aber auch die Investoren und der Optik der Technologie muss erleichtert werden das kann das Leben der europäischen Bürgerinnen und Bürger vereinfachten das kann kritische Infrastruktur Stärken helfen wie auch im Bereich Gesundheit und Verkehr findet zunächst einmal für die EVP und Kolleginnen und Kollegen das ist der erste regelungsansatz für kiu das ist eine der dringende Frage auch Klimawandel und schwere Krankheit werden davon berührt und wir wollen jetzt dafür die Voraussetzungen nehmen Parlament schaffen das wäre eine Ansatz auch für eine globale Lösung gerade für neue Folge von KI auch generative KI wir sollten zumindest eine Führungsrolle übernehmen damit Sie verantwortungsbewusst ethisch richtig eingesetzt werden und Innovation und Wachstum fördern können wir wollen aufgeschlossen sein wir sind bereit mit Partnern weltweit über kii zu verwandeln dadurch haben wir auch die Definition an die OECD Vorgabe angepasst wir wollen Risiko gestürzt Vorgehen hochrissige KI muss Sicherheit und Transparenz erfüllen gefährliche KI kann verboten werden dadurch wollen wir die Innovation in Europa fördern wir wollen da geschützte erprobungsräume die sogenannte Sandkästen und wir wollen damit auch die Wertschöpfung in der EU fördern wir haben uns auf eine Technologie eingelassen die sich schnell weiterentwickelt und wir müssen wir wirklich eine sichere Grundlage schaffen um Vertrauenswürdigkeit und Transparenz zu gewährleisten das Mindestmaß ist die Transparenz es muss sicher sein was von Menschen erstellt wurde und was nicht und bei diesen sprachmodellen LLM müssen wir darauf achten wie diese Modelle entwickelt und ähm trainiert werden das ist Rechte zum in der die Öffentlichkeit des die öffentliches Vertrauen geschaffen wird gleichzeitig Aufgeschlossenheit und Transparenz gewährleistet Dankeschön der nächste Redner der jetzt ans Punkt kommt ist Peter vitanov Mitglied der sozial Demokraten im Europäischen Parlament aus Bulgarien Kommissare alle Kollegen haben von den Vorteil gesprochen ich werde es nicht wiederholen ich glaube auch dass wir durch diese Gesetzgebung die Balance finden zwischen Schutz der Grundrechte und der Rechtsstaatlichkeit und auch Förderung der Innovation ich muss aber einige Sorgen Besorgnis hier anbringen einige Kollegen der EVP haben schon Änderungsanträge eingerichtet zur biometrischen Erkennung und dadurch würde etwas verbesserte werden was wir im kolibabe Ausschuss schon abgesprochen haben und auch die Verbote würden dadurch bedeutungslos werden ich erkenne oder ich ich weiß noch von dieser Geschichte von diesem Pentagon System wo Menschen in der verifiziert werden sollten aber niemand wurde identifiziert man hat da ein Tricks genutzte einige haben das Saltos gemacht oder haben andere Tricks angewandter die KI wurde sie oder konnte sie nicht erkennen weil sie nicht darauf trainiert worden war eine solche Verhaltensweise zu erkennen wir ähm also man soll dadurch Verbrecher empfangen können aber mir ist der klar dass derjenigen die ki-systeme vermeiden wollen die werden immer einen Weg finden und es werden immer die unschuldigen darunter leiden also es ist nicht die Frage ob KI äh da wirklich diskriminierende Ergebnisse zeigen wissen schon dass das der Fall ist wir sehen auch diese Bestätigung bei den Daten von verschiedenen nose die uns eingereichte wurden wir haben auch bei der Liebe Dienste Reise von nach Washington das gesehen und vom hohenkommissar für Menschenrechte haben wir das gehört also KI ist nicht nur dann gefährlich wenn sie von Autokraten genutzte wird wenn eine Technologie fehlerhaft ist dann ist sie auf jeden Fall immer fehlerhaft egal zu welchem Zwecke genutzt wird das Potenzial von künstlicher Intelligenz ist so groß wenn ja Harn eine deutsche Abgeordnete von den Liberalen Bildung Arbeit oder Gesundheit und deswegen ist es so wichtig dass wir mit dem ai Act heute die Grundlage legen wollen welche Art der Anwendung von künstlicher Intelligenz wollen wir in einer liberalen Demokratie haben denn Chancen und Risiko liegt immer in der Anwendung Gesichtserkennung super praktisch um mein Handy zu entsperren aber die metrische Gesichtserkennung zu Überwachung im öffentlichen Raum liebe Kollegen das kennen wir aus China das hat in einer Europäischen Union nicht zu suchen wir müssen solchen Gefahren ein klaren Regel vorschieben und gleichzeitig Innovation made in Europe fördern dafür stärken wir zum Beispiel experimentieren in real Laboren deshalb haben wir uns entschieden für Allzweck KI und generative KI wie tschechische GPT auf Qualitätsstandard zu setzen und eben nicht auf Verbote oder eine Hochrisiko Einstufung denn wir dürfen beim weder Fantasien von Überwachung noch von Überregulierung Folgen unser Ziel muss es sein Bürgerrechte zu stärken Wirtschaft und Innovation zu beflügeln damit wir die Europäische Union zum Hotspot für Fortschritt und künstliche Intelligenz machen können vielen Dank [Applaus] [Musik] wie soll die Zukunft unserer Gesellschaft aussehen was wollen wir können die Computer darüber entscheiden was gut oder schlecht ist und während des abhängig von der Mitgliedschaft in einem bestimmten Sportverein vom Wohnort oder gehen wir davon aus dass grundsätzlich alle gut sind und alle eine Chance bekommen werden müssen werden jetzt in Zukunft alle Europäerinnen und europäischer Tag und Nacht durch Kameras verfolgt oder wollen wir eine Gesellschaft wo man sich frei auf der Straße bewegen kann die künstliche Intelligenz setzt voraus dass wir die Weichen stellen wir sind als Vertreter der Bevölkerung mit Regeln dafür verantwortlich ansonsten geben wir die Zukunft in die Hand der Großkonzerne im Namen der technischen Innovation also ich finde wir müssen die künstliche Intelligenz in die richtige Richtung bringen damit sie uns hilft und wir müssen Risiken für die Menschenrechte weitestgehend ausschließen nach hunderten Stunden am Verhandlungstisch bin ich stolz darauf dass das Europäische Parlament jetzt Entscheidung gefällt hat und morgen äh das Recht auf Information und Erklärung bekräftigen wird in der Abstimmung und damit nachvollziehbar ist man Algorithmen eingesetzt werden und gerade bei Risiko behaftet hat ai also wie werden die Daten erfasst wie werden die Systeme weiter Gebilde was man einbringt in das ai-system das kommt auch dabei heraus das gilt auch für diskriminierende Daten und wer sollten also selbst Regulierung bei Jetski bitte es nicht ausreichend ablehnen wir brauchen Rahmenvorgaben für Systeme wie Jet GPT wir wollen nicht ethische Technologien wie zum Beispiel gefühlserkennung oder in echtzeitige Gesichtserkennung vermeiden also wir wollen zwischen dem Überwachungsstaat China oder der technologische Zuversicht der USA unseren eigenen europäischen verlässlichen vertraubaren Weg gehen damit die Technologie im Dienst der Menschen steht und nicht umgekehrt danke schön drin ja aber Zivilisation viele Herausforderungen an gehen machte vieles möglich in vielen Bereichen des Lebens und der Wirtschaft aber wie jedes Medikament Politiker alle das kann auch dieses neue einige Risiken wirken wir müssen auch sehen dass wir auf der einen Seite diese Technologie weiterentwickeln wir müssen aber auch die Risiken berücksichtigen es wird vermutlich mehr Vorteile als Nachteile geben deshalb brauchen wir aber auch eine gute Regulierung auf europäischer Seite wir brauchen aber auch eine gute Partnerschaften damit wir KI entwickeln können die auch ethisch ist für unsere Fraktion für die ekar ist der das wichtigste sicherzustellen das ist eine gute Ausgleiche gibt zwischen diesen neuen Anwendungen für die Unternehmen vor allem für KMU und andere als Start-Ups das ist aber gleichzeitig auch einen guten Schutz für die Bürger und für die Verbraucher gibt ich möchte allen berichterstatt dann danken die sich hier eingebrachte haben ich denke auch meine Mitarbeitern Experten die an diesem Verhandlungen teilgenommen haben die künstliche Intelligenz ist bereits an unserer Seite wir brauchen also dringend diese neue Verordnung damit wir sie gut kontrollieren und verstehen können und ich hoffe dass wir morgen das auch weitere eine weitere Schritt gegangen wird viel die beiden führen zu künstlicher Intelligenz ist eine die schwere Fragen aufhört ethische Dilemmata aber es kann kein Zweifel daran bestehen dass die Technologie unglaublich gut geeignet ist den Alltag der Menschen zu verbessern große Teile dessen zu machen was hier im Alltag geschieht auf der anderen Seite sieht man aber auch potenzielle Fallstricke die äußerst problematisch sein können gerade im Bezug auf den Schutz von Minderheiten auch Sorge für sogenannten die Pfälzer sind ganz reelle gefahren und deshalb brauchen wir eine vernünftige stützte der Regulierung ein Regelwerk das fortgesetzt wird und zwar positiv gestimmt auf europäischer Ebene müssen wir auf jeden Fall einen vernünftigen Kurs finden für ein Regelwerk für KI und ich finde es schade dass wir historisch gesehen zu wenig Schutz hatten bei der für die Meinungsfreiheit bei den Regelwerken die wir in schaffen haben sehr oft hat man eher die Technik Giganten im Auge gehabt und hat dann eine selbsttensur von den erwartet und das war dann eine seltsamer Blick auf Verbraucherschutz und demokratierechte in den Plattform um dies hier geht und wir haben eine große eine reelle Sorge wenn es hier um Regelwerke geht gegenüber Technik geganden dann müssen wir immer darauf schauen dass wir die Grundrechte geschützt werden darunter auch die Meinungsfreiheit das muss gelingen und selbstverständlich gilt das auch für diesen neuen Bereich vielen dank der Vizepräsident des Europäischen Parlaments die meteoros Papa dimolis hat nun die nächste Rednerin aufgerufen Katharina kornescha von den Linken innen und Kollegen falls das Gesetz über künstliche Intelligenz angenommen wird wäre das erste Regelwerk das künstliche intelligenzregel das ist wirklich ein ehrgeiziges Ziel wenn die Europäische Union die erste in der Welt ist bei diesen Technologien und ihre Regelung deshalb sollte es nicht nur ehrgeizig sein dass wir die ersten sind aber vor allem auch ob diese Regel ehrgeizig sind und wirklich unseren Bürgern dienen und ihrem Schutze zum Schutz ihre Grundrechte und ihre Gesundheit der Texte der der aus der Verhandlung der Ausschüsse hervorgegangen ist leider der ist leider nicht ehrgeizig genug bei der Bestimmung des Zugangs einer Person zur Bildung bei der Beurteilung von Stellen Bewerbern wird es wirklich ein hohes Risiko darstellen wenn diese Intelligenz genutzt werden diese Nutzungsarten werden nicht als Hochrisiko erreiche eingestuft werden also es wird wirklich sehr Risiko reich sein für unsere Arbeitnehmer in dem Text sind diese Anwendungen jedoch nicht geregelt nicht genug und auch die Überwachung von Arbeitnehmer am Arbeitsplatz durch künstliche Intelligenz ohne ihre Zustimmung das ist wirklich gefährlich das ist eine unternehmensdystopie woher der Bewertung von unseren Arbeitnehmern der Bewegung von unseren Arbeitgeber der Arbeit nehmen verfolgt wird das ist nicht in Ordnung wir müssen den Schutz von unseren Bürgern an erster Stelle haben wir haben dazu Änderungsanträge vorgelegt fast diese jedoch nicht angenommen werden ist das für mich nicht möglich diesen Vorschlag zu unterstützen vielen Dank damit ist Ihr Aussprache also verschiedene Änderungsanträge wurden jetzt schon angesprochen einmal eingebracht von der EVP und als Reaktion darauf auch von der Fraktion der Linken vielen Dank ich denke das hast du gewisse Risiken Bedrohungen haben Seiten der künstlichen Intelligenz es hatte eine Studenten gegeben der hatte gefragt ob er da wählen müssen zwischen seinem Überleben und dem Überleben der KI und er selbst hätte gerne lieber selbst überlebt also wer wird zum Beispiel verantwortlich sein weil bei einem Unfall durch k.i ähm wenn KI zum Beispiel jemanden tötet wer ist da die Verantwortung übernehmen können da wirklich auch sehen dass die künstliche Intelligenz etwas in 30 Minuten lernen kann wofür ein Kind vier Jahre braucht und es gibt natürlich auch Gefahren durch die Fake wir müssen wirklich auch den Finger zeigen der Wissenschaftler hier berücksichtigen was die Risiken des KI angeht das ist interessant diese Bereich aber auch mit riesigen verbunden vielen Dank Herr Präsident des sehr wichtig für uns alle Dank allen Bericht der Stadt an und Schattenbereich der Stadt an für die Arbeit an diesen Menschen zentrierten Ansatz niemand möchte die Vorteile von künstliche intelligenten Abrede stellen unsere Wirtschaft kann wohl haben da werden und unsere Gesellschaft vielfältig aber KI muss sicher und vertrauenswürdig bleiben und du musst ethisch und moralisch richtig genutzt werden die Grundrechte der Bürgerinnen und Bürger müssen gewährt bleiben es geht aber nicht nur um den Schutz der Bürgerinnen und Bürger vor KI sondern auch um die Nutzung der KI und Bürgerinnen und Bürger zu schützen wenn ein Kind vermisst ist dann kann jede Sekunde entscheidend sein also viele verschwundene Kinder sterben in den ersten Stunden nach Meldung das Verschwinden und deswegen müssen derartige Tragödien mit Hilfe von KI auch vermieden werden können glaube wir brauchen eine sehr realistischen Ansatz der Kommission zur Entwurf war sehr ausgewogen mit zielgerichteten Ausnahmeregeln für die Anwendungen der Technologie unser Änderungsantrag der EVP geht in diese Richtung also zielgerichte der Ausnahmeregeln zur Verhinderung von Terrorangriffen gegen kriminelle zum Schutz von Kindern ich bitte um diesen ausgewogenen zielgerichteten Einsatz bei der Ausnahmen danke schön das Wort hat Herr kassiert da geht es um die Gesichtserkennung einer der Streitpunkte im Europäischen Parlament der nächste Redner von den Sozialdemokraten wird das vermutlich anders sehen Blanco über Jahre hinweg also ich war auch 2020 berichterstatte in diesem Sonderausschuss zu einer anderen gesetzegebung und natürlich ist das auch der Arbeiter der Kommission zu verdanken und in verschiedenen verschiedenen berichterstanden in den letzten Jahren es geht hier wirklich auch um eine Botschaft das man auch wirklich Ruhe bewahren kann dass diese Arbeit auch zur Gesetzgebung geführt hatte die Probleme lösen kann bei der Nutzung von KI und dass wir gleichzeitig auch optimistisches sind das der Mensch im Mittelpunkt der steht und das ist da auch einen Ausgleiche gibt zwischen den Vorteilen der KI und den Risiken also jeder macht da seinen eigenen Weg das macht uns auch entsprechend auch reifer wir können auch ein Beispiel sein für andere Länder wissen wirklich das Beste Europa und das ist die Botschaft die wir nach außen senden möchten dass wir die Grundrechte schützen wollen und dass wir aber auch gleichzeitig die Technologie vorantreiben möchten eigentlich war es eine blaue Karte für den Vorredner ich weiß nicht warum das noch angezeigt wird also danke für Ihre Rede also Karen Melchior kommt jetzt eine dänische Politikerin aus der Fraktion der Liberalen von Riu nachdem es da ein Blut hat Missverständnis gab neue Kollegen Liebe Margarete wir haben es geschafft nach über einem Jahr Verhandlungen ist dieser Text jetzt endlich im Plenum angelangt das Ergebnis ist ja ausgewogen es geht um technologische Innovation es geht um Schutz der Menschenrecht und es geht um vertrauensschaffung in die KI das waren die drei schlüsselansätze und Ziele im Ausschuss wir wollten sicherstellen dass die Entwickler von Open Source die hinter der KI Revolution stehen auch diese Arbeit machen können wir wollen sicherstellen dass die Anwender auch ein Recht auf eine Erklärung haben denn die Bürger sollen ja den Systemen Vertrauen deshalb müssen sie die Entscheidung verstehen die da getroffen werden und wir müssen sicherstellen dass die BürgerInnen Bürger ein Recht auf Rechtsbehelf haben denn die Entscheidung von KI dürfen nie endgültig sein und all das ist eingeflossen in den endgültigen Text das ist toll aber morgen bei der Abstimmung da stehen noch einige Entscheidungen an wir müssen biometrische massenüberwachung verbieten die Polizei hat schon effiziente Werkzeuge anhand ohne gegen unsere Grundrechte zu verstoßen es darf keine Verhalten Überwachung Kontrolle geben durch Erkennungssysteme deshalb fordere ich die Kollegen dringend auf diese gefährlichen Praktiken müssen morgen verboten werden wir müssen abstimmen für eine vertrauenswürdige KI zu Unterstützung unserer menschlichen Welt vielen dank vielen Dank auch an die Kommission für diese Arbeit in diesem Bereich wunderschön e lagozinski von den Grünen und vielen Dank an die berichterstata danke für Ehrlichkeit Verlässlichkeit und Vertrauen in der Zusammenarbeit wir haben einen guten Kompromiss geschaffen und diesen müssen wir respektieren und das sage ich an die Adresse der EVP Kolleginnen und Kollegen respektieren und nicht konterkarieren Ehrlichkeit Verlässlichkeit und Vertrauen das sind auch die dreieckpunkte dieser Regulierung KI in Europa braucht das Vertrauen der Verbraucherinnen und Verbraucher unternehmer brauchen Verlässlichkeit sie brauchen verlässlichkeiten verlässliche Leitlinien um Nachhaltigkeit und innovatives Wachstum zu sichern aber als Europas Gesetzgeber als Europas Gesetzgeber müssen wir Mut und Ehrlichkeit beweisen und sagen wo Grundrechte gefährdet sind wo Diskriminierung anfängt wo Umweltschäden drohen da ziehen wir die Grenze deswegen schieben wir Techniken den Riegel vor die behaupten sie können erkennen ob Manfred Weber glücklich oder sauer ist die vorgeben die sexuelle Orientierung von allen die hier sitzen anhand ihrer Mimik oder ihrem Verhalten festzustellen und ja wir wollen keine massenüberwachung mit KI wir sind nicht chines Volkskongress wir sind nicht russische Duma wir sind Europäisches Parlament und wir wirken in einem Raum der Freiheit und Demokratie die meisten Anwendungen das ist wichtig zu sagen sind von dieser Regelung nicht betroffen und das ist auch gut so zwischen Technologie Pessimismus und Technologie Optimismus wählen wir die richtige Balance Technologie Realismus die Balance in diesem Paket ist richtig wir haben diesen Weg zusammen beschritten und wir gehen diesen Weg in die Zukunft gemeinsam weiter vielen Dank vielen herzlichen Glückwunsch der Appell an die Kollegen der EVP die Gesichtserkennung in öffentlichen Räumen unter bestimmten Ausnahmefällen zu lassen wollen danke schön Herr flugresident es wird eine Welle künstliche Intelligenz über Europa hinweg schwappen das wird wahrscheinlich die größte Revolution des Jahrhunderts unsere Lebensweise wird sich grundsätzlich verändert ich glaube wir sind uns alle eigentlich dass wir eine freie Gesellschaft bleiben wäre wollen und die Grundrechte gewahrt sein müssen die Europäische Union hat viel vorgeschrieben was ich nicht mitgetragen kann aber hier bin ich dafür wenn wir nicht wollen dass die Sturmflut KI und uns ertrinkt dann müssen wir ihr entsprechende dem er entgegensetzen also biometrische Kontrolle öffentlichen Raum und in Echtzeit oder im Nachhinein möchte ich ausschließen der Rad möchte das in Ausnahmefällen zulassen aber das kann auch immer ein Hintertürchen sein und deswegen bin ich dagegen angefangen an bei Terroristen oder vermissten Kinder oder Schwerverbrechern und dann wird es erweitert auf andere verdachtsgruppen und dann schrittweise werden wir alle direkt von KI überwacht ich hoffe dass Sie damit nicht einverstanden sind also diese flutfälle wird sowieso über Europa hinweg schwappen aber wir können zumindest ein Deich bauen um uns davon zu schützen Philipp Olivier aus Frankreich von der Fraktion der identitären also vom rechten Spektrum jetzt an redepunkt das ist alles auf dem Weg und natürlich muss die EU da regulieren diese normative Antwort ist aber nicht ausreichend und die Spezialisten ähm haben voraus gesagt dass bis 2029 ja die Maschine die Menschen über ähm konnte an ihrer senden überholen werden und das die intelligenzte immer nur weiter zu annimmt also die cyber-verteidigung ist dabei auch schon wichtig also wir haben schon auch einen Verzug in dieser Hinsicht und vielleicht werden wir da zum Kontinente 2 Klasse werden also was wirtschaftliche angeht die Verteidigung und auch das für politische letztendlich wir werden digital ein Dritte Welt Land sein oder dritte weltländer sein wir werden Produkte und Dienstleistungen mit großem Mehrwert importieren müssen und diese Aufschub den können wir fast auch nicht mehr einholen wir brauchen KI für die das Internet der Dinge für autonome Fahrzeuge für die Verteidigung die eu-muster da schnell agieren aber wird sie das auch schaffen wenn wir dann auch Ideologie des negativen Wachstums der Grünen auf ergreifen also werden wir da im nächsten Jahrhundert tatsächlich auch noch gelten können wir haben dann letztendlich auch die Idee oder die Vorstellung von der Entwicklung aufgegeben weil wir auch die Macht aufgegeben haben vielen Dank Pina Vizepräsidentin des Europäischen Parlaments hat in der Zwischenzeit hier übernommen hat angekündigt jetzt Cornelia Ernst von den Linken Industrialisierung KI kann die Welt besser machen oder die Gräben vertiefen zwischen Kontinenten und Menschen KI hat keine Moral die haben wir Menschen im Guten wie im Schlechten und weil das so ist haben wir kein Recht auf Naivität wenn es um KI geht Fluch und Segen liegen nah beieinander und KI zum Segen für Menschen und Umwelt zu entwickeln braucht es zwingend klare strikte Regulierungen vorsorgeprinzipien sonst wird KI zum Spielball der mächtigen denn schon jetzt werden ki-systeme eingesetzt um im öffentlichen Raum zu überwachen zu identifizieren unsere Kriminalität war Wahrscheinlichkeit vorauszusagen mittels KI kommt es dann zu Schlussfolgerungen die unser Leben beeinträchtigen Zugang zur sozialhilfebildung Beschäftigung all das ist möglich und ohne mutige Regulierung und darum geht es mutige Regulierung werden ki-systeme die bestehenden gesellschaftlichen Schäden durch massenüberwachung die ist ja schon gibt und strukturelle Diskriminierung eher verschärfen deshalb brauchen wir auch Verbote und zwar klare Verbote zum Beispiel ein vollständiges Verbot jeglicher gesichts-erkennungstechnologien nicht nur in Echtzeit sondern auch im Nachhinein und noch was wir werden keine Regulierung zustimmen die dazu beiträgt Menschenrechtsverletzungen an den EU-Außengrenzen zu perfektionieren vielen Dank vielen Dank das wollte halt Frau todt bitteschön Dankeschön frau Präsidentin für die heute heutige Debatte habe ich für die Debatte die künstliche Intelligenz gegeben mir eine Rede zu halten mit Reimen ähm k.u sollte ohne Fehler entwickelt werden wir brauchen ethische Leitfäden und Regeln um sicherzustellen dass KI als Tour genutzt wird für den Vorteil einer Bürger und die Gesellschafter und nicht nur für den Profite oder für besitze KI ähm Verordnung wird diesen Rahmen stecken um sicherzustellen dass KI auch die rechte alle Europäer schützt und das KI präzise entwickelt wird also deshalb sollten wir den ai actor auch unterstützen und sicherstellen dass KI mit einer klaren Vision entwickelt wird wir sollten diese Gelegenheit beim schöpfe Pack geben um einen positiven Auswirkungen dazu haben damit KI auch verantwortlich entwickelt wird vielen Dank für Ihre Aufmerksamkeit liebe Kollegen und Kollegen wir sollten zusammenarbeiten um die richtige ki-dimension zu schaffen aber dahinter vielen Dank jetzt erhält Herr Schwab das Wort Andreas Schwab aus Deutschland CDU Frau Vizepräsidentin liebe Kolleginnen und Kollegen zunächst mal gilt ein großes Dankeschön an all diejenigen die einen wirklich ausnehmend guten Kompromiss für das Gesetz über künstliche Intelligenz erarbeitet haben denn es kommt natürlich darauf an dass wir mit diesem weltweiten Meilenstein in die Europäische Union setzen kann sicherstellen dass die Regeln die wir in Europa schaffen einheitlich gelten für alle in Europa und nicht einem Wettlauf zwischen 27 Mitgliedstaaten schon innerhalb der Europäischen Union ausgesetzt sind hier schafft der Vorschlag des Europäischen Parlaments eine sehr sehr gute Grundlage auch für die Verhandlungen mit dem Rad und ich hoffe dass es uns gelingt diesen Ansatz der Vollharmonisierung durchzusetzen zum zweiten liebe Kolleginnen und Kollegen war mir immer besonders wichtig dass wir versuchen eine doppelregulierung in innovativen Industrien wie beispielsweise der Medizintechnik zu vermeiden natürlich wird in der Medizintechnik viel künstliche Intelligenz eingesetzt aber die dortigen Anwendungen sind bereits durch die jeweiligen fachregulierungen ausschließlich und abschließend geklärt hier müssen Doppel Regulierung vermieden werden und auch das ist gelungen und zum dritten verstehe ich natürlich das Anliegen von vielen Kollegen die Ausgangssituation für die Verhandlungen mit dem Rad schon jetzt in eine bestimmte Richtung zu drängen die EVP-Fraktion hat immer gesagt dass es bestimmte politische Überlegungen gibt die viele unserer Mitglieder für wichtig sind finden Länder in den Terrorismus eine große Rolle gespielt hat haben einfach eine bestimmte nationale Identität ist hier zu respektieren geht deswegen ist es gut dass es entsprechende Möglichkeiten zur Abstimmung gibt herzlichen Dank es gibt eine blaue Karte für sie ja gerne bitte schneller ja Herr Kollege eine Frage finden Sie es in Ordnung ihrem eigenen Berichterstatter in den Rücken zu fallen beiden berichterstatterinnen und zweitens erkennen Sie die Fälle wo in Russland mit Hilfe der Gesichtserkennung mitten auf den Straßen Menschen praktisch aus den metros aus den Straßen weggezerrt worden sind und verhaftet worden sind nur weil sie am öffentlichen im öffentlichen Raum mit ihrem Gesicht unterwegs waren erkannt wurden und aus politischen Gründen danach auch zur Verantwortung gezogen wurden in einem repressiven Staat und ist das nicht eine schiefe Ebene auf die wir uns hier begeben denn das waren auch Gesetze kriminalgesetze Strafrecht was auch dort angewendet wurde so wie sie das hier möchten vielen Dank Herr Kollege lagodinski das sind sehr sehr wichtiger Punkt die ivp-fraktion steht ganz eindeutig dazu dass die unmittelbare Totalüberwachung durch künstliche Intelligenz verboten bleiben muss genauso wie es im Gesetzgebungsverfahren vorgeschlagen ist es gibt für uns nur zwei ausnahmetratbestände für die wir eine getrennte Abstimmung beantragt haben das war auch schon bei der ausschussabstimmung so deswegen wollen wir auch niemand in den Rücken fallen zwar von Anfang an klar dass es eine Vielzahl an Kollegen übrigens weit über die EVP-Fraktion hinaus gibt die bei diesen zwei Fragen bei vermissten Kindern und bei Terrorismus einfach einen Lösung suchen die die Schnelligkeit ist Eingreifens von AI schneller wünschen als der Gesetzgebungsvorschlag des vorsieht und ich glaube das ist deswegen gut ist dass wir darüber diskutieren deswegen ist es gut dass wir uns aber auch austauschen und ich glaube es ist auch gut dass wir darüber morgen abstimmen und dann werden wir sehen wie die Mehrheit im Europäischen Parlament sind aber eins ist klar wir wollen nicht werden die Russland und wir wollen nicht werden wie China herzlichen Dank [Applaus] also es wurde erwähnt morgen gibt es ja im Europäischen Parlament die Abstimmung über den Kommissionsvorschlag und das wird genau an dieser geforderten Ausnahme für die Gesichtserkennung hängen ob dieser Vorschlag angenommen wird bislang war man davon ausgegangen inzwischen bestätigt sich doch der Eindruck dass das auch ein wenig knapp werden könnte sich darauf stützen es gibt Regeln für Rechtsstaatlichkeit Schutz der Privatsphäre Umwelt und so weiter aber jetzt hören wir überall macht etwas denn die Leute fangen an ja im Alltag auch ki-lösung zu sehen und unser Ausschluss hat ja den Weg geebnet für eine ausgewogene Verordnung nach einer zweijährigen Arbeit hier im Parlament ist es schon gelungen den Vorschlag der Kommission zu verbessern also wir wollen keine vorausschauende Polizeiarbeit wir wollen auch kein Punktesystem zur Bewertung der Bürger und Bürger werden und es ist gut dass auch die EVP dies ablehnt für private Unternehmen wollen Sie wirklich dass das am Arbeitsplatz oder im Schule ihrer Kinder angewandt wird das Parlament will das nicht ich habe in Washington immer wieder gehört will hinken so stark hinter der EU hinterher und ich glaube ausdrücklich an den brüssel-effekt also das heißt dass man ins international folgt und wir hoffen einfach dass wir auch für die weltweite Gesellschaft durch die k.o etwas Gutes tun können vielen Dank wir hören jetzt Frau kathain und bitteschön aber was hat aus Finnland von den Liberalen der Optimierung von Logistikketten oder im Bereich des intelligenten Verkehrs die rasante Entwicklung und den neuen Einsatzmöglichkeiten haben auch deutlich gemacht wie wichtig eine Regulierung ist um sicherzustellen dass ki-etisch und sicher eingesetzt werden kann insbesondere dann wenn wir zum Beispiel von der Gesichtserkennung sprechen ich freue mich besonders dass das Parlament mit seinem standbook klare Regeln für die KI schafft und Innovation und Forschung stark unterstützt ganz besonders bei den knus damit sie zum Beispiel in verschiedenen Tester testen sich beteiligen können das ist sehr wichtig zum Beispiel für die Innovation und Produktentwicklung es ist auch gut dass die Bedeutung der regionalen lokalen Behörden berücksichtigte so kann man die regionale Vitalität Stärkung und deshalb müssen diese Akteure eng in die Prozesse eingebunden werden dies ist eine historische Gesetzesinitiative die die EU in die Lage versetzen wird bei der Regulierung von KI weltweit eine Vorreiterrolle einzunehmen jetzt am Rednerpult Patrick Breyer wird geführt in der Fraktion der Grünen Hintergrund aus der Piraten Quartal ist deren Spitzenkandidat ist der 2019 ins Europäische Parlament eingezogen alle bösen befreien könnten wenn sie uns nur zuflüstern könnten wer wann mit wem wohin geht oder wer sich ungewöhnlich verhält in der Realität wurde mit biometrischer massenüberwachung noch kein einziger Terrorist gefunden kein einziger Anschlag verhindert stattdessen unzählige Festnahmen unschuldiger bis zu 99% falsch Verdächtigung ihre vermeintlichen ausnahmen sind Augenwischerei ständig sind doch tausende durch Richter Beschluss gesucht sie öffnen die Büchse der Pandora und führen uns in eine dystopische Zukunft eines misstrauischen hightech-überwachungsstatus nach chinesischem Vorbild sie geben autoritären Regierungen der Gegenwart und der Zukunft eine nie dagewesene unterdrückungswaffe in die Hand und unter ständiger Überwachung sind wir nicht mehr frei automatisierte verhaltensüberwachung ung zerstört Freiheit Vielfalt Protest wir wollen nicht in einer totalen angepassten Konsumgesellschaft von Duckmäusern leben die bloß nicht auffallen wollen lassen Sie uns Europa eine Zukunft frei von biometrischer massenüberwachung sichern und unseren Kindern eine Zukunft in Freiheit und in Vielfalt [Applaus] vielen Dank das war Freiheit und Vielfalt der nächste Redner Adam aus Polen wir hinten schon hinterher Präsident liebe Kommissarin KI veränderte unsere Welt und das geht sehr schnell voran es ist wirkliche zentral für unsere Alltagsleben für unsere wirtschafte geworden und es ist klar dass diese Technologie auch großes Potenzial hat aber Risiken wird unsere erste horizontale Gesetzgebung zu KI ähm führt ein zum unter anderem klare Garantien gegen Hochrisiko KI und manipulative Praktiken meine Fraktion hatte sich außer gesprochen für einen gesamte Rahmen mit anderen [Musik] Gesetzgebung wie DSL und GPA und auch die regulativen Cent Boxen für KMU und Startups damit sie bei der Innovation und beim Testen unterstützt werden kann in Mitglied starte ich hier begrüße dass diese zwei Verbesserungen Teil der abschließenden Kompromisse es sind und das zeigt dass wir auch engagierte sind dabei die Innovation zu fördern ich glaube dass der KI dass die ki-gesetzgebung in der aktuellen Form auch unserer starkes Engagement für die öffentlichen Interessen er zeigt und auch den Fortschritt bei KI fördert vielen dank vielen Dank bitteschön die Präsidentin holt ihren Landsmann anspult Alessandro Panzer von identitären aus Italien Frau Kommissarin wirkte Kollegin Kolleginnen auch heftig kritisiert worden und es geht darum hat das Parlament den richtigen Kurs gefunden auch in dem Wissen dass wir in der Lage sein müssen die notwendigen auch wirtschaftlichen Ressourcen zur Verfügung stellen um hier auch auf Augenhöhe mit der USA mit den USA zu bleiben wir brauchen ein sicheres Instrument das bietet dann auch große Chancen hat aber auch große destruktive Kraft und sehr viele auch sehr hochrangige Personen haben ihre Zweifel geäußert auch Elon Musk und Vertreter von Open eye um auch hinzuweisen auf die Probleme dieser Ressourcen und es kann sein dass diese Technologie dazu führt dass Millionen von Arbeitsplätzen verloren gehen dass Menschen auf der Strecke bleiben hier nur zwei Gedanken zu erstens Vorsicht man darf hier nicht sich von der normativen Bulimie überwältigen lassen die wir oft herrscht dann oft werden unsere Unternehmen entmutigt weil sie immer stärker belastet werden gerade der Mittelstand und zweitens wir dürfen keine Furcht dafür haben ähm KI zu verwenden auch zu Verhinderung von internationalen Straftaten wie Terrorismus man kann hier sicherlich Instrumen zu entwickeln um diese Technologie sicher anzuwenden nicht nur im Sinne einer Verbesserung unseres Lebens sondern auch für Sicherheit vielen Dank das Wort erhält Frau Biene und wir bleiben in Italien die fraktionslose Abgeordnete Linien die Universität man kann jetzt einen deichausschütten um in aufzustehen aber dann wird er ihn vielleicht durchbrechen jetzt geht um die europäische Antwort eine Reaktion die sehr wichtig ist aber er ist der Beginn des Umgangs mit dieser Herausforderung es geht ja auch um die richtige Anwendung der Bestimmungen und gleichzeitig auch Spielraum für die Wettbewerbsfähigkeit der europäischen Unternehmen es gibt hier keine neutrale künstliche Intelligenz ist ja eine Schöpfung des Menschen deswegen müssen auch die Menschen eingreifen können um Fehler korrigieren zu können aber das ist jetzt eine Umwälzung die uns bevorsteht und deswegen müssen wir auch sozial und kulturelle uns absichern zum Beispiel was die Folgen am Arbeitsplatz angeht und vielleicht wenn Arbeitsplätze weg wäre ein Grundeinkommen vorsehen mehr Investitionen in zeitversicherheit damit das ganze nicht wie ein kartenschloss in sich zusammenfällt Dankeschön frau Präsidentin Frau Kommissarin heute ist er ein Tag an dem wir uns beglückwünschen können zu dieser Initiative wir müssen realistische sein es wird keine Pausen geben bei der Entwicklung der künstlichen Intelligenz also es geht hier wirklich um eine Umwälzung die größte Umwälzung die unsere Zivilisation erlebte hatte in diesem Jahrhundert wir müssen da konstruktiv sein und optimistische bleiben und nicht nur die Risiken sehen wir müssen auch die Gelegenheiten berücksichtigen also das ist etwas was nicht mehr umzukehren ist also das ist aber auch keine Dystopie sondern es ist eine neue Ära von Möglichkeiten wo wir wirklich auch ähm federführende sein können in der EU und wir müssen bei dieser Gesetzgebung Sicherheit bieten wir müssen Innovation fördern und auch Vertrauen schaffen und ich denke dass diese Gesetzgebung diese Forderungen erfüllt und jedes Mal wenn man sich natürlich auch zur Rechte Sorgen machte der was die Sicherheit angeht da wird immer China ins Feld geführt als letztes Argument in dieser der Bette also niemand möchte hier China oder Russland erfolgen es geht hier um einen europäischen Rechtsstaat und natürlich gibt es auch Besorgnisse von Bürgern und es geht um ganz spezifische Ausnahmen bei der Nutzung dieser Möglichkeiten und Technologien vielen Dank EVP noch mal die Ausnahmen für die Gesichtserkennung verteidigt der nächste Redner von den Liberalen Review Vizepräsidentin Frau westtage liebe Kollegen die künstliche intelligentesten Intelligenz ist ein Instrumente die das in vielen Bereichen helfen kann und deshalb ist es auch wichtig dass wir die Entwicklung fördern und dass wir sicherstellen dass es genutzte dass sie nicht Technologie nutzt wird für das Wohlergehen der Menschen und auch mit ihnen einhergehte die Bereiche wo es Probleme ergeben könnte was zum Beispiel die den Schutz der Grundrechte angeht brauchen wir eine Ausgleiche zwischen der Weiterentwicklung und auch dem Respekt der Grundrechte und im Moment ist Europa was die Entwicklung angeht und die Fortschritte schon ins Hintertreffen geraten wir brauchen keine Beschränkungen wo das Nichte notwendig ist also was die Vorteile der KI angeht das sollten alle Bürger nutzen können wir müssen es sicherstellen dass auch die Bildung sich an diese neuen Herausforderungen an passt in allen Staaten in allen Regionen und das niemand zurückgelassen wird vielen dank vielen Dank Alexa die nächste Rednerin stellvertretende Vorsitzender der Fraktion die Grünen im europäischen Parlament Hälfte aller KI-Forscher innen sagte auf einen entsprechende Umfrage 2022 es gäbe eine 10-prozentige Wahrscheinlichkeit KI könne zum Aussterben der Menschheit führen wer von ihnen würde bei einer solchen Wahrscheinlichkeit eines Absturzes noch in ein Flugzeug steigen wenige wahrscheinlich und genau deswegen gibt es Regeln für Flugsicherheit damit wir diese Technologie sicher nutzen können und genau das machen wir auch für künstliche Intelligenz und dabei sind nicht nur einzelne hochrisikoanwendungen wichtig sondern auch gerade die Verfahren die sicherstellen dass wir große generative Modelle wie zum Beispiel Chet gbt sicher nutzen können und sicher auch für unsere Demokratie denn was zum Beispiel droht sind generell in großen Stile generierte Desinformationen die gemeinsam mit die Fakes unsere Informationslandschaft Fluten könnte in kurzer Zeit kann man große Mengen von irreführenden Inhalten erstellen die in sozialen Netzwerken wiederum durch die Algorithmen schneller verbreitet werden als journalistische qualitätsinformation und dieses Risiko müsste auch angehen können denn ohne Fakten keine Demokratie diese Demokratie wollen wir schützen und dafür tun wir einen wichtigen ersten Schritt mit der neuen europäischen ki-gesetzgebung vielen Dank das Wort erhält Herr fidanza bitteschön vielen Dank Frau Präsidentin Frau Kommissarin ja und vielleicht ist die EU da zu stark vorangebracht in Bezug auf die KI die in den nächsten Monaten Jahren auf uns zukommen wird aber wir sprechen heute über normative Details und deshalb ist wichtig ein Prinzip festzuhalten eine technologische Revolution kann auch in den Dienst des Menschen gestellt werden deshalb ist es wichtig hier ein Regelwerk zu konzipieren dass sie das nicht alle Strukturen die das gleiche Risiko aufweisen es geht um geistiges Eigentum Privatsphäre Verbraucherschutz Schutz der Meinungsfreiheit die sicherheit darf nie gefährdet werden es ist grundlegend wichtig dass man hier natürlich sieht dass wir Innovationen und auch Wettbewerbsfähigkeit brauchen für unsere Industrie mit Arbeitsplätzen aber wir öffnen jetzt Fenster hin zu zukünftigen Entwicklungen und hier muss man auch andere große in der Welt sehen die in der gleichen Zeit schneller vorankommen als vielen Dank Frau Donato bitte präsidente frau Präsidentin Frau Kommissarin liebe Kolleginnen Kollegen die erste Verordnung zur künstlichen Intelligenz ist jetzt in Europa aufgelegt werden es werden positive Ergebnisse und negative mögliche Auswirkungen berücksichtigen also wir haben jetzt durch die Berichterstattung Kompromissänderungsanträge noch weitere Schutzvorkehrungen für die Europäerinnen oder Europäer Einkehr wie wir müssen auch bei Verstößen entsprechend ahnen können er darf die Entwicklung der KI nicht außer Kontrolle geraten insofern also mehr als tausend Sachverständige und Unternehmer um Elon muskam das ja schon angeraten ein Moratorium einzulegen seitdem wir bekommen schnell wirksame Regeln um die riesigen für Gesundheit und Menschenrechte möglichst gering zu halten danke schön ich danke Ihnen für die EVP jetzt am redepult aber Kokalari aus Schweden vielen Dank Frau Präsidentin zu reduzieren und Krebse zu bekämpfen also das sind Beispiele wo Entwicklung in KI die Welt der revolutionieren könnte mehr Möglichkeiten mehr Chancen und das bedeutet auch mehr Verantwortung und die Welt schaut auf Europa und deshalb ist es wichtig dass die EU und das diese neue einzigartige Gesetzgebung auch gute funktioniert sowohl was die Digitalisierung betrifft aber auch um Sicherheit zu schaffen für unsere Bürger ich möchte also unsere Kollegen ermutigen mit Ja zu stimmen damit die Polizei auch KI einsetzen kann um Terroristen zu stoppen und Kinder zu vermisst die Kinder zu finden wir müssen unsere Kinder schützen wir sollten nicht der Terroristen schützen denn die Digitalisierung ist der bereits da wir werden nicht zulassen dass die der chinesische Staat da die Regeln festlegte für die Zukunft das ist da Europa der dass die Regeln festlegen sollte für die Digitalisierung die viel zu Präsidenten gerade gehört sie ist auch eine der vizepräsidentinnen des Europäischen Parlaments schenken kann das kann helfen bei der Krebsbekämpfung man kann Dinge schneller umsetzen ja wir können damit auch Verbrechen wie Terrorismus bekämpfen aber man muss immer sehen KI ist eine Chance kein Risiko eine Chance auf eine bessere Zukunft ja wir müssen es als Werkzeug sehen das verwendet werden kann für um Gutes zu erreichen es kann aber auch missbraucht werden es ist nur ein Werkzeug ich kann ja mit dem Hammer auf den Finger hauen das heißt aber nicht dass wir alle Hämmer verbieten müssen und keine Häuser mehr bauen sollten ich kann mir mit dem Hammer auf den Finger hauen das heißt aber nicht dass wir jetzt keine sicheren Werkzeuge mehr entwickeln dürfen für die Zukunft ich stimme hinzu wer brauchen Leitlinien um sicherzustellen dass wir dieses Werkzeug Weise anwendet aber Innovation zu verbieten das geht viel zu weit keine Technologie ist ohne Risiko wir haben die Stromversorgung Fahrzeuge und so weiter entwickelt auch da mussten wir Risiken eingehen aber KI wie andere Technologien werden für eine bessere Zukunft sorgen und ich will dass ich das in Europa auch entwickelt vielen Dank danke schön jetzt guck bitte Intelligenz ist der erste weltweit Wissenschaftler haben schon gewisse Risiken genannt die dadurch entstehen können es wird dir vorgewarnt dass immer leistungsfähige digitalen Maschinen eingesetzt werden könnten die nicht voll kontrolliert werden könnten ein offener Brief wurde übrigens jüngste Zeit veröffentlicht mit hunderten von Unterzeichnern aus Universitäten und aus Unternehmen dort steht das künstliche Intelligenz tatsächlich als große Bedrohung für die Menschheit betrachtet wird diese Rechtsakt sollte unsere Sicherheit gewährleisten und die Grundrechte für Bürgerinnen und Bürger schützen die Verwendung von künstliche Intelligenz wird verboten zum Beispiel zur biometrischen Identifikation oder für Biome für für Manipulationen oder für polizeiaktivitäten und so weiter das wird Transparenz vorausgesetzt und deswegen sind diese Vorschriften sehr wichtig und ich hoffe natürlich dass ähnliche Vorschriften in anderen Ländern kommen die wir können die Kontrolle über unsere Zivilisation nicht verließen Präsidentin verehrte Kolleginnen die künstliche Intelligenz ist eine Chance die wir durch den technischen Fortschritte bekommen aber gleichzeitig könnte es ja ein Risiko sein für die Menschen die künstliche Intelligenz muss deswegen in Europa anthropozentrisch betrachtet werden ausgehend vom Menschen Grundrechte werde der Union müssen geschützt bleiben wir müssen daran arbeiten Innovation und Unternehmen zu unterstützen gleichzeitig muss aber Rechtssicherheit in allen Mitgliedstaaten gegeben sein die Regulierung des Sektors für private und staatliche Kräfte man musste sich als einem die Verbesserung unseres Lebens muss aber auch der Schutz der Rechte und deswegen ist es wichtig dass wir keine Gesichtserkennung bekommen und andere Instrumente die diskriminierend eingesetzt werden können ich möchte mich beide durch der studieren bedanken und ich hoffe dass wir nicht den Sirenen nachgeben die am Ende ein riskante Gesetzgebung wollen wir brauchen ein digitalen Binnenmarkt und integriert ist und ein Rechtsrahmen der Innovation und Unternehmertum unterstützt und gleichzeitig die Grundrechte sicher danke schön danke schön jetzt aber die EVP danke schön frau Präsidentin Frau Vizepräsidentin die Ankunft des Internets hat unser Leben auf den Kopf gestellt und wir müssen uns anpassen und das Potenzial voll auszuschöpfen und das bringt auch Risiken mit sich mit Hilfe der künstlichen Intelligenz erleben wir Veränderungen in unserem Alltag und wir stehen vor vielen Herausforderungen aber mit Einnahme dieses neuen Gesetzes kommen wir zu einer verantwortungsbewussten künstlichen Intelligenz auf Grundlage der europäischen Werte und der europäischen lebenswerte es geht um Transparenz es geht um Schutz der Privatsphäre als Grundwerte wir stellen auch die Europäische Union im Hinblick auf den weltweiten Wettbewerb besser auf wir müssen besonders an die KMU denken und sie ausstatten damit sie der im digitalen Wettlauf den Wettbewerb weltweit die Stirn bieten können wir brauchen Vertrauen deshalb gibt es drei Herausforderungen Transparenz Schutz der Privatsphäre und Wettbewerbsfähigkeit wir können natürlich die Chancen aber auch die Risiken nur mit Rechtssicherheit werden wir in der Lage sein das gesamte Potenzial der künstlichen Intelligenz auszuschöpfen und anzuwenden in unserem Leben und zu unserem nutzen [Applaus] frau Präsidentin Frau Vizepräsidentin meine Damen und Herren die Europäische Union wird diese Woche eine wesentlichen Schritt machen wir sind in der Tat die erste Institution der erste Kontinent auf der Welt der Regeln fest liegt für die künstliche Intelligenz dieser Text ist ambitioniert und das Ergebnis von intensiver Arbeit der Kommission des Parlaments und er wurde aktualisiert um einzugehen auf neue Entwicklungen wie Chat gptember für unterschiedliche Akteure durch die Klassifizierung von Risiken wir müssen den Bürger eine garantieren dass Sie Ihre Rechte achten und ihr Vertrauen verdienen das ist eine Revolution und dadurch müssen wir uns gerade zu philosophische Fragen über die Zukunft unserer Gesellschaft stellen als Humanistin bitte ich dass wir dies immer im Rahmen der künstlichen Intelligenz beachten wir müssen diese Werkzeuge nutzen innovativ tätig zu sein und Beschäftigung zu schaffen und nicht zu zerstören wir brauchen schnell einen Rahmen für das kreative Schaffen denn die stützt sich auf die Urheberrechte Richtlinie damit die Maschine niemals das ersetzt was den Menschen ausmacht und damit die Urheberrechte geachtet werden vielen Dank ein Rahmen ist gefordert aber wie er genau soll dieser Rahmen gefüllt werden da ist man hier doch unterschiedlicher Meinung Carlo Ressler jetzt aus Kroatien für die EVP neue industrielle Revolution künstliche Intelligenz funktioniert in unglaublicher Geschwindigkeit keine menschliche Aktivität wird davon unbeeinflusst bleiben als Technologie kannte wie jeder andere für gute und für schlechte Zwecke eingesetzt werden für medizinische Zwecke für weniger und unter Toner Arbeitsprozesse aber auch für Schreckenszenarien wie eine Massenkontrolle oder Systeme die in der sozialen Kontrolle dienen und deswegen brauchen wir klare Regeln damit wir in der Lage sind alle Vorteile zu nutzen aber die riesigen minimieren wir brauchen Schutzklauseln Sicherheiten und das Vorsicht Prinzip muss behalten die biometrische Erkennung und Gesichtserkennung das geht nicht also wir suchen ja nach verschwundenen Kindern zum Beispiel da brauchen die Gesichtserkennung wir brauchen natürlich rechts Sicherheit in Europa wir brauchen Innovation und Wettbewerbsfähigkeit dieses Dokument kann es das ermöglichen und insofern möchte ich allen meine Glückwünsche aussprechen die an dieser Arbeit mitgewirkt haben haben es war mir eine Freude und ich hoffe dass gemeinsam mit dem Rad in guter Rahmen erreicht wird Raphaela bitte und noch eine Politikerin der Liberalen Samira Raphaela aus den Niederlanden jetzt ein neues Gesetz vorstellen können das sieht gut aus uns gegenüber der Welt gegenüber und wir sollten mit gutem Beispiel vorangehen wir sollten uns aber auch vergegenwärtigen das künstliche Intelligenz sehr oft mit Menschenrechten zu tun hat das heißt uns geht es immer und das menschliche Maß das müssen wir schützen soziale ökonomische Menschenrechte beinhalten auch das künstliche Intelligenz Menschen ausschließen kann diskriminieren kann aber auch sehr viel Gutes bewirken für die Innovation brauchen für Effizienz für Geschwindigkeit brauchen wir ebenfalls geht um den Arbeitsmarkt das Bildungssystem unsere Sicherheitsdienste die mit k.i werden arbeiten müssen gute gut was wir brauchen eine gute Seite aber es gibt auch die menschliche Seite die humane Seite die wir unbedingt mitdenken müssen und ich glaube das Gesetz ist ein guter Schritt das richtige Richtung und deshalb mein Kompliment an alle Beteiligten sorgen wir dafür dass wir garantieren können dass das Gesetz auch angehalten wird dass es immer wieder aktualisiert wird und dass das menschenliche Maßen aus den Augen verloren wird Dankeschön am Rednerpult Abgeordneter aus Polen von der Familie Intelligenz Potenzial wenn man sie selbst überlassen lässt kann sie aber auch geben mit sich bringen aus diesem Grund ist ein Klara Rechtsrahmen notwendig der die Risiken bei der Nutzung der KI identifiziert und Verpflichtungen festlegt dieses Risikos es freut mich dass die Europäische Union weltweit führend ist bei einer derartigen Rechtssetzung denn nur so kann diese Technologie mit Vertrauen genutzt werden so wie mit rechts Gewissheit ich bin überzeugt davon dass wir das Potenzial der künstlichen Intelligenz heranziehen sollten für wesentliche Dinge wie Bekämpfung von terroristischen Anschlägen oder auch zum Aufspüren von vermissten Kindern wir müssen jedoch ebenfalls Grundrechte und Bürgerrechte gewährleisten und wir brauchen zunächst ein unabhängiges Dienst Regulation aus Frankreich Identifikation die rechte möchte dass diese Technologie in bestimmten Fällen eingesetzt werden kann damit verschwundene Kinder da müsste Kinder gefunden werden können die Linke möchte das nicht möchte keine Gesichtserkennung aber hier geht’s doch es geht darum dass Straftäter festgenommen werden können Ideologie wichtiger wird als Sicherheitsfragen wenn grundsätzliche Haltungen wichtiger werden als Notsituation dann spricht das Ende über die Konsequenz für bestimmte Fraktionen hier im Europäischen Parlament das müssen die mal erklären vor den Wäldern das ist doch ein hohes Gut der Schutz der Menschen hier in Europa da muss doch jeder seiner Verantwortung gerecht werden Dankeschön gibt es eine blaue Karte von [Musik] anfangsbaren Tag aber wir haben schon ein bisschen Verspätung sie hat bereits Glück hat die Glück hat eingesetzt also kommt sie nicht dran danke schön frau Präsidentin die KI ist ganz entscheidend für die Innovation und das Wachstum aber um sie zu entwickeln muss ein wesentliches Element gewährleistet sein davon ist heute hier auf die Rede gewesen nämlich das Vertrauen wenn die Menschen kein Vertrauen in KI haben wird KI nicht sein dieses Potenzial ausschöpfen können wir sind die der ersten Institution die versucht ein Gesetz zu kreieren über künstliche Intelligenz wo alles genommen beachtet werden soll es geht um das Verbot es geht um hochrisikosysteme es geht um Schadenersatz kollektiven Schadenersatz aber Sicherheit muss auch gewährleistet sein deshalb muss dieses Gesetz sehr effiziente Instrumente haben um zum Beispiel ein terroristischen Anschlag zu vereiteln um verschwundene Menschen zu finden oder aber um überall da einzugreifen wo das Leben der Bürgerinnen und Bürger bedroht ist das heißt man braucht eine gerichtliche Genehmigung dafür und eine zeitliche Befristung können Europa zeichnet sich aus durch zentrale Werte das sind die Grundrechte der Menschen und das ist das grundgrundprinzipe dieses gesetzesübergang danke [Applaus] sehr geehrte Frau Präsident aus Österreich Angelika winzig im vergangenen Jahr wurde der Umsatz im Bereich künstlicher Intelligenz auf 433 Milliarden US-Dollar geschätzt KI hat nicht nur in der Wirtschaft sondern schon längst im Privatleben Einzug gefunden diese Entwicklungen Bergen große Chancen aber auch Risiken die wir beherrschen müssen und in einer Demokratie auch beherrschen können wichtig ist mir natürlich Rechtssicherheit für Entwickler und Unternehmer und als schärder SMI wünsche ich mir natürlich auch Unterstützung für SMS und Startups damit Sie in diesem Bereich auch erfolgreiche Business Cases entwickeln können die Runde der Abgeordneten aus dem Europäischen Parlament jetzt kommt das sogenannte Cache diy-verfahren also wieder spontan Redebeiträge es geht los angemeldet die sie nicht bekommen hat dann kommt jetzt das Wort vielen Dank Frau Präsident die Entwicklung der künstlichen Intelligenz birgt sowohl fantastische Möglichkeiten als auch schwere Herausforderungen aus diesem Grund brauchen wir eine kluge Gesetzgebung auf EU-Ebene und die Möglichkeiten nutzen zu können aber das ist keine kluge Gesetzgebung wenn es darum geht die Möglichkeit zu verhindern KI zu nutzen um die Sicherheit in Europa zu erhöhen die Linke im Europäischen Parlament will aktiv verhindern dass die KI herangezogen werden kann zum Beispiel gegen terroristische Anschläge oder Kindesentführungen es ist offensichtlich dass die KI ein wesentliches Potenzial birgt um Leben zu retten und das ist die Möglichkeit die wir nutzen wollen die Linke stoppt zudem die Möglichkeit die Grenzüberwachung zu erhöhen um die Migration nach Europa besser zu kontrollieren das ist keine kluge ki-gesetzgebung und ich hoffe da hat es die Vorschläge morgen nicht durchgehen vielen Dank frau Präsidentin ich habe die letzten eineinhalb Stunden hier vor allem von der linken Seite viele Argumente gehört die vor allem Angst machen und das ist irgendwie schade aber es war auch irgendwie immer schon so wenn es um Digitalisierung ging ja die KI wird unser Leben mindestens genauso verändern wie es der Computer gemacht hat es ist nur nicht so sichtbar es ist nur nicht so spürbar wie in den letzten 20 30 Jahren und der Grund dafür ist dass künstliche Intelligenz erst dann zur vollen Stärke kommt wenn Automatisierung und Schnittstellen dazu kommen und weil es nicht zu sichtbar ist weil diese Stärke nicht so spürbar ist als zu der Zeit wo wir mechanischen Lochkarten Maschinen beim Rechnen zugesehen haben müssen gerade wir hier in dem Haus noch genauer drauf schauen und das tun wir mit diesem Rechtsakt meine Devise lautet keine Angst vor künstliche Intelligenz aber hochrisikogebiete regulieren und ich bin davon überzeugt beides ist möglich vielen Dank danke schön die KI fast sehr viele Chancen es ist wichtig dass wir ein Rechtsraum schaffen der Investitionen in die AI und unterstützt gleichzeitig müssen wir die riesigen auch gut erkennen es ist gut dass Europa jetzt weltweite die erste der erste Kontinent ist der hier Vorschriften lässt wofür darf man die KI verwenden und zu welchen Zielen die Methode ist nach Risiken eingeteilt und das ist glaube ich ganz wichtige man kann zum Beispiel niedrig Risiken identifizieren und so weiter aber wenn die KI Entscheidungen fällt zum Beispiel über Kredite oder über Bildungsentscheidungen das ist wichtig dass diese Systeme dann auch geprüft werden und überwacht werden gleichzeitig ist es begründete dass lki dann verboten wird wenn es um Massenkontrolle geht meine Ausnahmen will man anscheinend von FVP aus einführen also ich denke es ist wichtig dass in schwierigen Fällen natürlich die Gesundheit der Menschen geschützt bleibt also ein außerordentlichen Situationen geht die Gesundheit der Menschen vor da muss dann in Echtzeit tatsächlich auch die Gesichtserkennung möglich sein das ist begründet und ich denke das für diese Änderung einer eine Mehrheit gefunden werden sollte also ich denke das ist gute Musik keine nutzen aber es ist wichtig dass das auf Wertebasis geschieht das ist wichtig dass dafür dann ausgebildet wird danke schön ja also müssen sich an die eine nötige Redezeit haben also wenn das nicht passiert dann dann gerät das aus den Fugen ja also jetzt diese Technologie sein für die öffentliche Politik wir müssen ihre Verhalten Muster analysieren für das Online Glücksspiel wir müssen Gesundheitsversorgung verbessern wir müssen auch den Schulabbruch verbessern alles mögliche das sind europäische Projekte die auch in Portugal entwickelt werden und das kann man alles mit der KI machen aber wir müssen riesigen vermeiden und auch Diskriminierung vermeiden zum Beispiel dass er hier läuft jetzt noch das catchen DIY aus danach wird margarinetete westhager noch mal sprechen und die Debatte beenden ich denke es ist ein relativ klares Bild entstanden es gibt insgesamt eine große Zustimmung zum Vorschlag der EU-Kommission allerdings einen größeren Zankapfel es geht um Ausnahmen bei der Gesichtserkennung die die hauptsächlich die Mitglieder der EVP-Fraktion bestehen das wird also morgen bei der ab Stimmung sicher noch einmal spannend werden an dieser Stelle geben wir ab aus dem Europäischen Parlament in Straßburg zurück nach Bonn zu meinem Kollegen Stefan Kulle und ich sage ganz herzlich Danke Schön Claudia Davis und grüße Sie meine Damen und Herren auch ganz herzlich wir gehen nämlich von dem einen Parlament in das andere nämlich in den Bundestag und da lassen lässt uns eine Nachricht auf horchen aber nicht wirklich überraschend die Koalition
Insgesamt stellt das EU-KI-Gesetz einen bedeutenden Fortschritt bei der Regulierung des Verhaltens von Anbietern von Basismodellen auf globaler Ebene dar. Die Verabschiedung dieses Gesetzes wird das Ökosystem der KI-Modelle positiv verändern, indem es die Transparenz und Rechenschaftspflicht der Akteure in der Branche verbessert und gleichzeitig die Risiken im Zusammenhang mit der böswilligen Nutzung oder unbeabsichtigten Schäden durch diese leistungsstarken Technologien verringert. Die Einhaltung aller 22 Anforderungen des Gesetzes könnte sich jedoch für einige Anbieter als schwierig erweisen, da sie in unserer Rubrik zur Bewertung ihres Konformitätsniveaus schlechte Noten erhalten.
Anforderungen für Anbieter von Stiftungsmodellen
Die Anforderungen, die an die Anbieter von Foundation Models im KI-Ökosystem gerichtet sind, wurden identifiziert, kategorisiert und auf die Einhaltung von 12 ausgewählten Anforderungen aus der vorgeschlagenen EU-Verordnung geprüft. Diese Anforderungen beziehen sich auf Datenressourcen, Rechenressourcen, das Modell selbst oder Einführungspraktiken. Die Anbieter von Stiftungsmodellen wurden anhand einer von den Forschern entwickelten Rubrik auf die Einhaltung dieser Anforderungen geprüft.
Die Bewertung ergab, dass die Anbieter von Stiftungsmodellen Schwierigkeiten haben, mehrere wichtige Aspekte der vorgeschlagenen EU-Verordnung einzuhalten. Insbesondere die Einhaltung des Urheberrechts wurde bei vielen Anbietern bemängelt, die urheberrechtlich geschützte Daten ohne angemessene Offenlegung oder Genehmigung verwenden. Auch bei der Energieeffizienz erhielten viele Organisationen schlechte Noten, weil sie uneinheitlich berichten und es an Strategien zur Risikominderung fehlt. Außerdem gibt es Bedenken hinsichtlich der Transparenz von Datenquellen und ‑nutzung.
Um diese Probleme zu lösen und die Einhaltung der vorgeschlagenen Verordnung zu gewährleisten, müssen die Anbieter von Stiftungsmodellen Maßnahmen ergreifen, um ihr Verhalten in allen 22 Anforderungen des EU-KI-Gesetzes zu verbessern. Dies erfordert mehr Transparenz in Bezug auf Datenquellen und ‑nutzung sowie eine bessere Überwachung der Energienutzung und die Umsetzung von Strategien zur Risikominderung. Die politischen Entscheidungsträger können auch dazu beitragen, dass in diesem sich schnell entwickelnden Technologiesektor eine angemessene Transparenz gewährleistet ist, indem sie Branchenstandards festlegen, die ethisches Verhalten bei den Anbietern von Stiftungsmodellen fördern.
Bewertung der Compliance
Die Bewertung der Einhaltung der vorgeschlagenen EU-Verordnung durch die Anbieter von Stiftungsmodellen zeigt erhebliche Herausforderungen in Bereichen wie Urheberrecht, Energieeffizienz und Transparenz. Das Center for Research on Foundation Models hat zehn große Anbieter und ihre Vorzeigemodelle anhand von zwölf Anforderungen aus dem Entwurf des vom Europäischen Parlament verabschiedeten AI-Gesetzes bewertet. Die Bewertung ergab, dass die meisten Anbieter von Basismodellen viele der Anforderungen des Gesetzes nicht erfüllen, insbesondere die Anforderungen in Bezug auf Daten- und Rechenressourcen, Risikominderung und Bewertung/Tests.
Eine der größten Herausforderungen, die bei der Bewertung festgestellt wurden, ist die Transparenz. Die Anbieter von Stiftungsmodellen legen nur selten angemessene Informationen über ihre Datenquellen, Rechenressourcen oder Einsatzpraktiken offen. Dieser Mangel an Transparenz hat schwerwiegende ethische Folgen, da er die Rechenschaftspflicht und die Aufsicht über diese leistungsstarken Technologien einschränkt. Um dieses Problem anzugehen, sollten die politischen Entscheidungsträger Transparenzanforderungen in den KI-Vorschriften Priorität einräumen und sicherstellen, dass sie angemessen durchgesetzt werden. Außerdem sollten die Anbieter von Stiftungsmodellen Maßnahmen ergreifen, um gemeinsam Branchenstandards zur Verbesserung der Transparenz festzulegen.
Insgesamt wird die Verabschiedung und Durchsetzung des EU-KI-Gesetzes einen positiven Wandel im Ökosystem der Stiftungsmodelle bewirken, indem einige der dringendsten ethischen Probleme angegangen werden. Um dieses Ziel zu erreichen, müssen die Anbieter von Stiftungsmodellen die Anforderungen in Bezug auf Urheberrecht, Energieeffizienz, Risikominderung und Bewertung/Tests besser einhalten. Egal wie schwierig die Einhaltung aufgrund technischer Beschränkungen oder anderer Faktoren auch sein mag, es müssen Lösungen gefunden werden, die sicherstellen, dass diese Technologien ethisch und verantwortungsbewusst zum Wohle der Gesellschaft als Ganzes entwickelt werden.
Bereiche für Verbesserungen
Eine bessere Einhaltung der Transparenzanforderungen in den KI-Vorschriften ist von entscheidender Bedeutung, um ethische Bedenken hinsichtlich der begrenzten Rechenschaftspflicht und Aufsicht über die Gründungsmodelle auszuräumen. Die Autoren der Studie stellten fest, dass es bei den Anbietern von Stiftungsmodellen Verbesserungsmöglichkeiten gibt, insbesondere bei der Einhaltung von Urheberrechtsgesetzen, Energieeffizienz und Risikominderungsmaßnahmen. Vor allem in diesen Bereichen erhielten viele Organisationen schlechte Noten.
Zur weiteren Veranschaulichung dieses Punktes ist im Folgenden eine Tabelle aufgeführt, in der die Ergebnisse von 10 Anbietern von Stiftungsmodellen in Bezug auf die Einhaltung der 12 in der Studie bewerteten Anforderungen zusammengefasst sind :
| Stiftungsmodell-Anbieter | Compliance Score (von 5) |
|---|---|
| OpenAI | 3.7 |
| Google | 3.6 |
| Microsoft | 3.1 |
| Facebook | 2.9 |
| IBM | 2.8 |
| Amazon Web Services | 2.0 |
| Tencent | 1.9 |
| Baidu | 1.4 |
| Intel | Nicht zutreffend |
| NVIDIA | Nicht zutreffend |
Wie aus der Tabelle hervorgeht, waren die Werte für die Einhaltung der Standards bei allen in der Studie untersuchten Anbietern von Stiftungsmodellen generell niedrig.
Die Autoren argumentieren, dass die Verbesserung der Einhaltung von Transparenzstandards sowohl für die Anbieter von Stiftungsmodellen als auch für die politischen Entscheidungsträger eine Priorität sein sollte, um eine angemessene Aufsicht und Rechenschaftspflicht für diese leistungsstarken KI-Tools zu gewährleisten. Dazu gehört nicht nur die bessere Einhaltung bestehender Vorschriften wie des EU-KI-Gesetzes, sondern auch die gemeinsame Festlegung von Branchenstandards, die eine größere Transparenz und einen verantwortungsvollen Einsatz von Stiftungsmodellen im Allgemeinen fördern. Darüber hinaus müssen Fragen der Energieeffizienz und der Risikominderung geklärt werden, um potenzielle Schäden im Zusammenhang mit diesen Technologien zu mindern und gleichzeitig ihren produktiven Einsatz für gemeinnützige Zwecke und kommerzielle Anwendungen zu ermöglichen.
Häufig gestellte Fragen
Welche Beispiele gibt es für große Anbieter von Stiftungsmodellen, die im Hinblick auf die Einhaltung des EU-KI-Gesetzes geprüft wurden ?
Die Ergebnisse der Bewertung deuten auf mögliche Verstöße gegen die Anforderungen des EU-KI-Gesetzes durch große Anbieter von Stiftungsmodellen wie OpenAI und Google hin. Die Auswirkungen auf die Branche sind beträchtlich, da die Einhaltung der Standards für Urheberrecht, Energie, Risikominderung und Bewertung/Tests mangelhaft ist.
Wie legen die Anbieter von Basismodellen in der Regel Informationen über ihre Modelle und Einsatzpraktiken offen ?
Anbieter von Basismodellen legen Informationen über ihre Modelle und Einsatzpraktiken nur unzureichend offen, trotz der ethischen Erwägungen und Maßnahmen zur Rechenschaftspflicht, die im KI-Gesetz der EU vorgeschrieben sind. Um einen verantwortungsvollen Umgang mit dieser Technologie zu gewährleisten, muss die Transparenz der Modelle verbessert werden.
Welches sind die wichtigsten Anforderungen des EU-KI-Gesetzes, die in der Bewertung der Autoren nicht berücksichtigt wurden ?
Die Autoren haben einige der wichtigsten Anforderungen des EU-KI-Gesetzes nicht berücksichtigt, einschließlich derer, die sich auf menschliche Aufsicht, Transparenz und Rechenschaftspflicht beziehen. Die Herausforderungen bei der Umsetzung und ethische Erwägungen müssen berücksichtigt werden, um eine wirksame Einhaltung zu gewährleisten.
Was ist der Zweck des Zentrums für Forschung über Stiftungsmodelle ?
Das Zentrum für die Erforschung von Stiftungsmodellen soll die gemeinschaftliche Forschung erleichtern, Normen entwickeln und politische Empfehlungen aussprechen. Es konzentriert sich auf ethische Überlegungen wie die Transparenz von Modellen, die Dokumentation von Ökosystemen und die ganzheitliche Bewertung von Stiftungsmodellen.
Wie könnte das EU-KI-Gesetz einen Präzedenzfall für die KI-Regulierung auf der ganzen Welt schaffen ?
Das EU-KI-Gesetz hat das Potenzial, einen globalen Präzedenzfall für die Regulierung von KI zu schaffen, indem es ethische Überlegungen festlegt und regulatorische Herausforderungen angeht. Seine Umsetzung wird erhebliche Auswirkungen auf das Ökosystem der Stiftungsmodelle haben und könnte die Transparenz und Rechenschaftspflicht der Anbieter weltweit fördern.
Fazit
Das vorgeschlagene EU-KI-Gesetz wird die weltweit erste umfassende Regulierung von KI sein, die explizite Verpflichtungen für Foundation Model-Anbieter wie OpenAI und Google vorsieht. Allerdings halten sich die großen Anbieter derzeit nicht an den Entwurf des KI-Gesetzes, und es fehlt an Transparenz in Bezug auf die Daten, die Berechnungen und den Einsatz ihrer Modelle. Um einen positiven Wandel im Ökosystem der Stiftungsmodelle herbeizuführen, sollten politische Entscheidungsträger/innen der Transparenz Vorrang einräumen und die Einhaltung des KI-Gesetzes sicherstellen.
Das Center for Research on Foundation Models arbeitet an der Verbesserung der Transparenz in diesem Bereich, indem es politische Empfehlungen ausspricht. Die Anbieter von Stiftungsmodellen müssen unbedingt einen proaktiven Ansatz zur Einhaltung von Vorschriften wie dem KI-Gesetz wählen. Dies kommt nicht nur der Gesellschaft insgesamt zugute, sondern führt auch zu einem größeren Vertrauen in diese Technologien und ihre möglichen Anwendungen. Für die Zukunft ist es wichtig, dass die Regulierungsbehörden die Einhaltung der Vorschriften durch die Anbieter von Stiftungsmodellen weiterhin überwachen und die notwendigen Anpassungen vornehmen, um eine ethische und verantwortungsvolle Nutzung dieser Technologien zu fördern.
