Italien verbietet ChatGPT: Datenschutzbedenken bei KI-Chatbot

Italien ist das erste westliche Land, das den fortschrittlichen Chatbot ChatGPT blockiert. Die italienische Datenschutzbehörde äußerte Bedenken hinsichtlich des Modells, das von der US-amerikanischen Firma OpenAI entwickelt und von Microsoft unterstützt wurde.

Sofortige Untersuchung und Verbot von OpenAI

Die Regulierungsbehörde hat angekündigt, OpenAI “mit sofortiger Wirkung” zu verbieten und zu untersuchen. OpenAI teilte der BBC mit, dass es die Datenschutzgesetze einhalte.

Millionen von Nutzern seit der Einführung im November 2022

Seit der Einführung von ChatGPT im November 2022 haben Millionen von Menschen den Chatbot genutzt. Es kann Fragen mit natürlicher, menschenähnlicher Sprache beantworten und Schreibstile imitieren, basierend auf dem Internetstand von 2021.

Microsofts milliardenschwere Investitionen

Microsoft hat Milliarden von Dollar in ChatGPT investiert und es letzte Woche in Bing integriert. Das Unternehmen plant, die Technologie auch in seine Office-Anwendungen wie Word, Excel, PowerPoint und Outlook zu integrieren.

Datenschutzbedenken und mögliche Risiken der künstlichen Intelligenz (KI)

Es gibt Bedenken hinsichtlich der möglichen Risiken von KI, einschließlich der Bedrohung von Arbeitsplätzen und der Verbreitung von Fehlinformationen und Voreingenommenheit. Früher in dieser Woche forderten wichtige Akteure der Technologiebranche, einschließlich Elon Musk, dass solche KI-Systeme ausgesetzt werden sollten, weil die Entwicklung außer Kontrolle gerate.

Untersuchung der Einhaltung der DSGVO

Die italienische Datenschutzbehörde wird nicht nur ChatGPT blockieren, sondern auch untersuchen, ob es mit der Datenschutz-Grundverordnung (DSGVO) konform ist. Die DSGVO regelt, wie wir personenbezogene Daten verwenden, verarbeiten und speichern können.

Datenverletzung im März

Die Behörde gab am 20. März bekannt, dass die App einen Datenverstoß erlitten habe, bei dem Nutzerkonversationen und Zahlungsinformationen betroffen waren. Sie sagte, es gebe keine rechtliche Grundlage, um “die massenhafte Sammlung und Speicherung von personenbezogenen Daten zum Zweck des ‘Trainings’ der zugrunde liegenden Algorithmen des Betriebs der Plattform” zu rechtfertigen.

Schutz von Minderjährigen

Da es keine Möglichkeit gibt, das Alter der Benutzer zu überprüfen, “exponiert die App Minderjährige absolut ungeeigneten Antworten gegenüber, die ihrem Entwicklungs- und Bewusstseinsgrad nicht entsprechen”, so die Behörde.

Googles Bard nur für ausgewählte Nutzer über 18 Jahre verfügbar

Bard, Googles konkurrierender KI-Chatbot, ist jetzt verfügbar, aber nur für bestimmte Nutzer über 18 Jahren – aufgrund der gleichen Bedenken.

Frist von 20 Tagen für OpenAI

Die italienische Datenschutzbehörde gab OpenAI 20 Tage Zeit, um darzulegen, wie es die Bedenken der Behörde angehen werde. Andernfalls droht eine Geldstrafe von 20 Millionen Euro oder bis zu 4% des Jahresumsatzes.

Zusammenarbeit mit anderen EU-Datenschutzbehörden

Die irische Datenschutzkommission teilte der BBC mit, dass sie die Grundlage für das Vorgehen der italienischen Regulierungsbehörde verstehen wolle und “mit allen EU-Datenschutzbehörden” im Zusammenhang mit dem Verbot zusammenarbeiten werde.

Stellungnahme der britischen Datenschutzbehörde

Die Information Commissioner’s Office (ICO), Großbritanniens unabhängige Datenschutzbehörde, teilte der BBC mit, dass sie AI-Entwicklungen “unterstützen” werde, aber auch bereit sei, “Nichteinhaltung” von Datenschutzgesetzen zu bekämpfen.

Bedeutung der Einhaltung von Vorschriften für Unternehmen in Europa

Dan Morgan von SecurityScorecard, einem Anbieter von Cybersicherheitsbewertungen, betonte, dass das Verbot die Bedeutung der regulatorischen Compliance für Unternehmen, die in Europa tätig sind, zeige. “Unternehmen müssen den Schutz personenbezogener Daten priorisieren und die strengen Datenschutzvorschriften der EU einhalten – die Einhaltung von Vorschriften ist keine optionale Zusatzleistung.”

Forderung nach Untersuchung von ChatGPT und ähnlichen Chatbots

Die Verbraucherschutzorganisation BEUC forderte EU- und nationale Behörden – einschließlich Datenschutzbehörden – auf, ChatGPT und ähnliche Chatbots zu untersuchen, nachdem in den USA eine Beschwerde eingereicht wurde.

Mangelnde Regulierung der KI

Obwohl die EU derzeit an der weltweit ersten Gesetzgebung zur KI arbeitet, befürchtet BEUC, dass es Jahre dauern könnte, bis das KI-Gesetz in Kraft tritt, und Verbraucher einem Risiko durch eine unzureichend regulierte Technologie ausgesetzt bleiben.

Warnung vor den Gefahren der KI

Ursula Pachl, stellvertretende Generalsekretärin von BEUC, warnte, dass die Gesellschaft “derzeit nicht ausreichend vor den Schäden geschützt ist, die KI verursachen kann”. “Es gibt ernsthafte Bedenken darüber, wie ChatGPT und ähnliche Chatbots Menschen täuschen und manipulieren könnten. Diese KI-Systeme benötigen mehr öffentliche Kontrolle, und die öffentlichen Behörden müssen die Kontrolle über sie zurückgewinnen”, sagte sie.

ChatGPT bereits in mehreren Ländern blockiert

ChatGPT ist bereits in einigen Ländern blockiert, darunter China, Iran, Nordkorea und Russland. OpenAI teilte der BBC mit, dass es ChatGPT für Nutzer in Italien auf Anfrage der italienischen Datenschutzbehörde, dem Garante, deaktiviert habe.

OpenAI betont Einhaltung der Datenschutzgesetze

“Wir sind dem Schutz der Privatsphäre der Menschen verpflichtet und glauben, dass wir die DSGVO und andere Datenschutzgesetze einhalten”, schrieb OpenAI. Die Organisation betonte, dass sie daran arbeite, personenbezogene Daten in der Ausbildung von KI-Systemen wie ChatGPT zu reduzieren, da sie wolle, dass ihre KI-Systeme “die Welt lernen, nicht private Einzelpersonen.

Zusammenarbeit mit der italienischen Datenschutzbehörde

OpenAI äußerte die Bereitschaft, eng mit dem Garante zusammenzuarbeiten und aufzuklären, wie ihre Systeme entwickelt und verwendet werden. OpenAI hofft, ChatGPT bald wieder in Italien verfügbar machen zu können.