Definition und Funktionsweise von KI
Schon die Definition des Begriffes der Künstliche Intelligenz (KI) ist nicht einheitlich und wirkt vielleicht auch deshalb auf viele Menschen beängstigend. Es ist interessant zu lesen, wie sich die KI gemäß ChatGPT selbst definiert: „KI bezieht sich auf Systeme oder Maschinen, die menschliche Intelligenz nachahmen, um Aufgaben zu erfüllen und aus Erfahrungen zu lernen. Diese Systeme verwenden Algorithmen und Datenverarbeitungstechniken, um Muster zu erkennen, Probleme zu lösen und Entscheidungen zu treffen.“ Auf der Homepage des Europäischen Parlaments ist dazu folgender prägnanter Satz eingestellt: „Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren.“ Die große Frage in den nächsten Jahren wird sein, ob es beim Imitieren bleibt und welche Rolle der Mensch oder gar der Schutz von Verbraucherinnen und Verbraucher dabei spielt.
Doch wie funktioniert eigentlich die KI?
KI-Systeme arbeiten auf der Grundlage von Algorithmen, die in großen Datensätzen Muster erkennen. Diese Algorithmen werden häufig in neuronalen Netzwerken strukturiert, die den menschlichen Gehirnstrukturen nachempfunden sind. KI lernt durch "Training" mit großen Datenmengen, die es dem System ermöglichen, Vorhersagen oder Entscheidungen zu treffen. Ein zentrales Problem bei KI-Systemen ist die Qualität, die Herkunft und die Auswahl der Datensätze, die zur Schulung verwendet werden. Datensätze können unbewusste Vorurteile enthalten, die zu diskriminierenden Ergebnissen führen können. Im Personalwesen ist es beispielsweise vorgekommen, dass bei einem Online-Händler der Algorithmus das Merkmal „männlich“ einseitig für ein positives Einstellungskriterium aufgrund von bisher eingestellten Mitarbeitern hielt. Das führte dazu, dass überwiegend Männer eingestellt wurden und Frauen allein wegen ihres Geschlechts weniger Bewerbungschancen hatten.
Gesetzliche Regulierung durch die Europäische Union
Als Teil ihrer Digitalstrategie hat die EU im Frühjahr 2024 ein weltweit bisher einmaliges KI-Gesetz erlassen, das erstmals Regulierungen auf den Weg gebracht hat, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. Das Gesetz („AI-Act“ oder „KI-Verordnung“, Verordnung (EU) 2024/1689) ist ein rechtliches Rahmenwerk, das KI-Anwendungen in vier Risikogruppen kategorisiert:
- KI Anwendungen, die ein unannehmbares Risiko darstellen sind verboten.
Dazu gehören z. B. das Soziale Scoring oder die biometrische Identifizierung und Kategorisierung natürlicher Personen. Weiter sind auch Anwendungen zur Erkennung von Emotionen am Arbeitsplatz oder in der Schule verboten. Ausnahmen können für Strafverfolgungszwecke zugelassen werden. - KI Anwendungen mit hohem Risiko müssen in einer EU-Datenbank registriert werden.
Dazu gehören KI Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen. So fallen darunter KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen, KI-Technologien in kritische Infrastrukturen (z. B. autonomes Fahren im Verkehr), KI-basierte medizinische Software (z. B. in der robotergestützten Chirurgie) und KI-Systeme für die Personaleinstellung. - KI Anwendungen mit begrenztem Risiko unterliegen definierten Transparenzanforderungen und dem EU-Urheberrecht.
Dazu gehören Chatbots oder ChatGPT und auch KI-generierte Bilder und Videos. Transparenzanforderungen beinhalten die Offenlegung, dass der Inhalt entweder durch KI erzeugt oder mit Hilfe von KI verändert wurde. Bilder, Audio- oder Videodateien (z. B. Deepfakes) müssen eindeutig als KI-generiert gekennzeichnet werden, damit die Nutzer wissen, wenn sie auf solche Inhalte stoßen. - KI Anwendungen mit minimalem Risiko bleiben unreguliert.
Die große Mehrheit der KI-Systeme fällt nach Einschätzung der EU-Kommission in diesen Bereich z. B. Spamfilter und KI-gestützte Videospiele.
Das Gesetz ist zum 1. August 2024 in Kraft getreten und wird 24 Monate später in vollem Umfang anwendbar sein. Einige Teile, wie z. B. das Verbot von KI-Systemen, die unannehmbare Risiken darstellen, werden sechs Monate nach Inkrafttreten gelten. In der Übergangszeit gilt der sog. KI-Pakt, der KI-Entwickler dazu auffordert, die wichtigsten Verpflichtungen der KI-Verordnung schon vor Ablauf der gesetzlichen Fristen freiwillig einzuhalten.
In Deutschland wird im Rahmen der Umsetzung in nationales Recht insbesondere zu entscheiden sein, welche Aufsichtsbehörde auf Bundesebene benannt wird. Die Aufgaben der nationalen KI-Aufsicht umfassen im Wesentlichen drei Punkte: Kontrolle von Hochrisiko-KI-Systemen, Marktüberwachung und Anlaufstelle für KI-Anbieter. Neben den nationalen Aufsichtsbehörden gibt es in der Europäischen Kommission ein zentrales europäisches KI-Büro („AI Office“) mit Experten aus allen EU-Staaten, die Verstöße sanktionieren können. Das KI-Büro ist in der Generaldirektion für Kommunikationsnetze, Inhalte und Technologie (GD CNECT) der Europäischen Kommission angesiedelt.
Verbraucherrelevante Anwendungsbereiche
Wie wirkt sich KI schon jetzt im Alltag aus? Viele Verbraucherinnen und Verbraucher nutzen KI-Elemente, ohne dass es ihnen bewusst ist. Im Folgenden sind einige Beispiele aufgezeigt:
- Reisen:
KI-basierte Systeme, wie GPS und Reiseplanungs-Apps, haben das Reisen revolutioniert, indem sie personalisierte Empfehlungen und Echtzeit-Updates bieten. Verbraucherinnen und Verbraucher sollten jedoch auf Datenschutzbedenken achten, da solche Apps oft umfangreiche persönliche Daten sammeln. - Social Media:
Algorithmen bestimmen, welche Inhalte Nutzern angezeigt werden, was wiederum die Meinungsbildung und den sozialen Austausch beeinflusst. Es besteht dabei das Risiko der Verbreitung von Desinformation und die Gefahr der Bildung von Filterblasen. - Literatur, Kunst und Musik:
KI kann Werke in Literatur, Kunst und Musik erstellen, was urheberrechtliche Herausforderungen mit sich bringt. Es ist oft unklar, wem die Rechte an solchen Werken gehören, insbesondere, wenn sie durch KI generiert wurden. - Finanzen und Versicherungen:
Finanzdienstleister nutzen KI zur Bewertung der Kreditwürdigkeit und zur Betrugserkennung. Verbraucherinnen und Verbraucher sollten jedoch wachsam sein, da fehlerhafte Algorithmen zu ungenauen Bewertungen und unberechtigtem Ausschluss von Finanzdienstleistungen führen können. - Gesundheitsanwendungen:
Sogenannte „Wearables“, z. B. Fitnessarmbänder, Ringe oder Smartwatches überwachen Gesundheitsdaten und bieten personalisierte Empfehlungen. Sie stellen jedoch auch ein erhebliches Risiko für den Datenschutz dar, da sensible Gesundheitsdaten gesammelt und analysiert werden. - Medizin:
In der Medizin wird KI zur Diagnose und Behandlung von Krankheiten eingesetzt, was zu genaueren und schnelleren Diagnosen, z. B. bei der Früherkennung von Krebs, führen kann. Es besteht jedoch die Gefahr von Fehldiagnosen aufgrund unzureichender Datenqualität. - Berufsalltag:
KI-Anwendungen können den Arbeitsalltag effizienter gestalten, indem sie wiederholende Aufgaben automatisieren. So können Assistenzsysteme bei der täglichen Arbeit, wie etwa bei der Texterstellung entlasten und unterstützen. Ein Beispiel dafür ist die neue „F13“, ein KI-System, das die Mitarbeiter der Landesverwaltung unterstützt. Baden-Württemberg nimmt damit eine Vorreiterrolle bei der Digitalisierung und Modernisierung der Verwaltung ein. - Bildung:
Im Bereich von Schule, Hochschule und Weiterbildung können KI-Anwendungen passgenaue Bildungsangebote, z. B. beim Lernen von Fremdsprachen, schaffen. Auf der anderen Seite ist die Gefahr von Prüfungsbetrug durch KI-generierte Texte sehr hoch.
Was ist aus Verbrauchersicht zu tun?
Ziel aus Sicht von Verbraucherinnen und Verbraucher muss sein, dass KI-Systeme vertrauenswürdig gestaltet werden, indem sie transparente Algorithmen, faire Datensätze und klare Haftungsregelungen umfassen. Verbraucherinnen und Verbraucher sollten wissen, wie ihre Daten verwendet werden und welche Rechte sie haben. Verbraucherinnen und Verbraucher sollten die Kontrolle über ihre Daten behalten und sicherstellen können, dass ihre Privatsphäre geschützt wird. Dies erfordert klare gesetzliche Regelungen und die Einhaltung strenger Datenschutzstandards.
Zusammenfassend bietet die KI sowohl Chancen als auch Risiken. Ein ausgewogener Ansatz, der Innovation fördert und gleichzeitig Verbraucherrechte schützt, ist entscheidend für die nachhaltige Entwicklung dieser Technologie. Damit verbunden sind neben rechtlichen auch ethische Fragestellungen (z. B. die Verwendung von KI in militärischen Auseinandersetzungen), die über den Verbraucherschutz hinaus in Politik und Gesellschaft diskutiert und demokratisch legitimierten Regelungen zugeführt werden müssen.
Weitere Informationen zum Thema KI:
VERBRAUCHERTAG BADEN-WÜRTTEMBERG 2024
am 23. Oktober 2024 von 15:30 – 19:30 Uhr
in der Staatsgalerie Stuttgart
Melden Sie sich jetzt an!
Programm und Anmeldung unter www.verbrauchertag-bw.de
