Neue Studie aus Stuttgart: Viele vertrauen KI zu stark
- Aus Sicht der Wissenschaftler ist es ein Problem, dass die KI oft unbemerkt beeinflusst.(Symbolbild)
- Foto: Philip Dulian/dpa
- hochgeladen von Cornelia Bauer
Stuttgart. Künstliche Intelligenz gibt immer häufiger Antworten auf Alltagsfragen. Eine Studie zeigt jedoch, dass Menschen Empfehlungen von KI oft falsch einschätzen. Forschende der Universität Hohenheim beobachten zwei gegensätzliche Reaktionen.
Laien neigen laut Wirtschaftsethiker Matthias Uhl dazu, KI bei persönlichen oder moralischen Fragen zu stark zu vertrauen. Chatbots könnten Meinungen stärker beeinflussen als vielen Nutzern bewusst ist. „Dabei unterschätzen sie häufig, wie stark die Antworten die eigene Meinungsbildung beeinflussen können“, sagt Uhl.
Fachleute reagieren dagegen oft zu skeptisch. Besonders in der Medizin könne KI bereits sehr leistungsfähig sein. Bei der Auswertung von Röntgenbildern oder MRT Aufnahmen sei sie inzwischen häufig genauer als Menschen.
Wissenschaftler testen Chatbots mit Rückfragen
Das Forschungsteam erprobt deshalb neue Ansätze für den Umgang mit KI. Im privaten Bereich sollen Chatbots nicht sofort Antworten liefern. Stattdessen stellen sie nach der sogenannten sokratischen Methode gezielte Rückfragen. Ziel ist es, dass Nutzer ihre eigenen Werte und Entscheidungen stärker reflektieren.
Ein Experiment mit Anhängern der US Parteien Republikaner und Demokraten zeigte laut den Forschern einen Effekt. Nach Gesprächen mit solchen Chatbots verhielten sich die Teilnehmer messbar fairer.
Für Fachbereiche wie die Medizin arbeitet das Team im Projekt „Ethyde“ an transparenteren KI Systemen. Die Programme sollen ihre Diagnose erklären und angeben, wie sicher sie sich sind. Erste Prototypen wollen die Forscher bis Ende 2027 auf medizinischen Kongressen vorstellen. dpa/red
Autor:Cornelia Bauer aus Speyer |
|
| Cornelia Bauer auf Facebook | |