Verbraucherschutz schlägt Alarm: Wer haftet, wenn die KI falsch bucht?
- Die Politik mahnt klare Regeln für KI-Assistenten auch für den Online-Handel an. (Symbolbild)
- Foto: Sina Schuldt/dpa
- hochgeladen von Cornelia Bauer
Stuttgart. KI-Agenten sollen im Alltag helfen, aber nach dem Willen von Verbraucherschutzministerin Theresa Schopper nicht eigenständig über Geld oder Verträge entscheiden. In Stuttgart mahnte die Grünen-Politikerin deshalb schnelle und verbindliche Regeln auf EU-Ebene an.
Gemeint sind digitale Assistenten, die beim Einkaufen, Buchen oder Organisieren Aufgaben übernehmen. Nach Schoppers Vorstellung muss dabei klar bleiben, dass der Mensch die Kontrolle behält. „Es muss Haltelinien und Leitplanken geben, dass der Mensch der Herr des Verfahrens bleibt“, sagte sie.
Preisgrenzen und klare Kennzeichnung gefordert
Schopper fordert, dass Verbraucher selbst festlegen können, wie viel Geld ein KI-Agent höchstens ausgeben darf. Außerdem müssten KI-Entscheidungen klar gekennzeichnet werden. Der Agent dürfe weder manipulieren noch selbst manipulierbar sein.
Problematisch kann es aus Sicht des Verbraucherschutzministeriums werden, wenn ein Agent Aufgaben falsch versteht, ein Preislimit überschreitet oder eine kostenpflichtige Buchung auslöst, die so nicht gewollt war. Auch versteckte Anweisungen in Webseiten, Dokumenten oder E-Mails könnten riskant sein. Der Agent könnte solche Inhalte als Auftrag deuten und etwa Daten weiterleiten, Nachrichten versenden oder Bestellungen auslösen.
Ministerium warnt vor Kontrollverlust
Damit KI-Agenten selbstständig handeln können, benötigen sie oft Zugriff auf E-Mails, Kalender, Dateien, Kundenkonten oder Zahlungsdienste. Nach Angaben des Ministeriums steigt mit diesen Rechten auch das Risiko von Datenmissbrauch, Fehlentscheidungen und Kontrollverlust.
Schopper verlangt deshalb auch einen eindeutig erkennbaren Button für kostenpflichtige Schritte. So solle klar sichtbar sein, wann eine zahlungspflichtige Aktion ausgelöst wird. dpa/red
Autor:Cornelia Bauer aus Speyer |
|
| Cornelia Bauer auf Facebook | |