Pops Verbraucherschützer gehen davon aus, dass sich die Gesellschaft dank KI „radikal“ verändern wird. Beim alltäglichen Konsum bestehe beispielsweise die „Gefahr von Manipulation, Betrug oder Diskriminierung durch Algorithmen“, sagte er.

Was genau sind die Risiken – Übersicht:

Bilderkennungssystem mit künstlicher Intelligenz

KI-gesteuerte Gesichtserkennung und Emotionen können beispielsweise in der Finanz- und Versicherungsbranche ein Problem darstellen. „Anhand eines solchen Modells kann man erkennen, ob ich lüge oder nicht, etwa ob ich einen Schaden an meinem Auto beschreiben sollte“, erklärt Pop, ein Verbraucherschützer. Das Problem sei, dass Apps zur Emotionsanalyse „oft unausgereift“ seien. „Die Daten werden falsch interpretiert und führen dann zu Annahmen über Personen, die ungenau sind und zu fehlerhaften Ergebnissen führen können.“

>> Lesen Sie auch: Warum KI-Unternehmen strengere Gesetze fordern und die Politik nicht funktioniert

Produktbewertungen von KI-Robotern

Verbraucher erwarten, dass Online-Produktbewertungen nützliche Informationen für ihre eigene Kaufentscheidung liefern. Allerdings können diese Bewertungen auch gekauft oder gefälscht werden. Pop sprach von einem „systematischen Risiko“ für Verbraucher, wenn KI-Roboter in größerem Umfang eingesetzt würden.

Dann würden rechtliche Fragen an Relevanz gewinnen, sagen Verbraucherschützer. „Wer ist wirklich verantwortlich für gefälschte oder gar gefälschte Produktbewertungen, die etwas suggerieren, was nicht der Wahrheit entspricht?“ Fragen wie diese sollten im Reglement geklärt werden.

Online-Preise mit Hilfe von KI

Die Frustration der Verbraucher beginnt, wenn sich die Preise für dasselbe Produkt erheblich unterscheiden. Dies wird auch als „dynamische Preisgestaltung“ bezeichnet. Ausschlaggebend hierfür ist die Analyse KI-basierter Faktoren wie Nachfrage, Angebot oder Wettbewerb. „Es kann manipulativ oder sogar betrügerisch sein“, sagt Pop, ein Verbraucherschützer.

Was erlaubt ist und was nicht, muss laut Pop klar definiert sein, damit Verbraucher nicht auf der Strecke bleiben. „Das Beste ist, bei der Preisgestaltung so transparent wie möglich zu sein, damit die Nutzer verstehen, wie sich KI auf die Preise auswirkt“, sagte er.

Preisvergleich

Auch hier kommen Algorithmen zum Einsatz. Verbraucherschützer gehen gegen Vergleichsportale vor, wenn aus ihrer Sicht kein objektiver Preisvergleich vorliegt. Auf die Zuverlässigkeit des Portals müsse man sich verlassen können, betonte Pop. Deshalb steht auch hier Transparenz auf der Agenda.

„Es gilt zu verstehen, wie diese Plattformen ihre Empfehlungen formulieren und welche Auswirkungen beispielsweise Provisionszahlungen von Produktanbietern auf die angezeigten Bewertungen haben“, sagte der VZBV-Chef.

Personalisierte Werbung

Solche Anzeigen, die bereits heute mithilfe von Cookies erstellt werden können, werden in Zukunft mit KI gezielter ausgerichtet. „Damit steigt das Manipulationsrisiko“, glaubt Pop, etwa wenn das System anhand des Suchverlaufs feststellt, dass jemand in einer bestimmten Situation möglicherweise besonders gefährdet ist.

Dies kann beispielsweise der Fall sein, wenn die Person eine Behandlung wegen Gedächtnisproblemen in Anspruch nimmt. Dann bekomme er vielleicht plötzlich ein Angebot zu einem ähnlichen Gesundheitsthema, erklärt Pop.

Wie können Verbraucher vor Risiken im Zusammenhang mit KI geschützt werden?

Für KI-Systembetreiber seien „starke Verbraucherrechte“ nötig, sagte Pop. „Es sollte ein Recht auf Berichtigung und Löschung geben, damit sich Betroffene gegen falsche oder manipulierte Meldungen durch KI wehren können.“

Auch das Thema KI solle „in den Anhang der europäischen Richtlinie zum kollektiven Rechtsschutz aufgenommen werden“, forderten Verbraucherschützer. „Dann haben wir die Möglichkeit, im Namen des geschädigten Verbrauchers eine Sammelklage gegen bestimmte Anbieter einzureichen und Schadensersatz zu verlangen.“

>> Lesen Sie auch: Wenn KI zum Betrüger wird – diese Tipps müssen Sie kennen

Der Chef der Agency for Leap Innovations (SprinD), Rafael Laguna de la Vera, lehnt die Regeln ab, die zu Technologieverboten führen. „Es macht uns dümmer und damit hilfloser“, sagte er dem Handelsblatt. Er schlug vor, dass die Ergebnisse der KI anhand ihrer Ergebnisse beurteilt werden können und ob sie unsere Werte und Gesetze respektieren.

Pop plädiert in diesem Zusammenhang für die Einrichtung einer KI-Kontrollbehörde. „Wir müssen darüber diskutieren, wie die Regeln, Risiken und Probleme der KI zu bewerten sind und welche Schlussfolgerungen daraus zu ziehen sind“, sagte er. „Zur Überwachung der Einhaltung gesetzlicher Vorschriften können neben der nationalen Aufsicht auch europäische Behörden hilfreich sein.“ Dies muss schnell entschieden werden. Denn es ist auch wichtig für die gesellschaftliche Akzeptanz dieser neuen Technologie.

Nochmal: Die Ängste der Deutschen angesichts künstlicher Intelligenz