KI kann sehr nützlich sein, wenn man sie richtig verwendet und weiß, wie sie funktioniert. Sie hat aber auch ihre Tücken. Eine davon ist die Autoritätsillusion, die sie erzeugt. Sie antwortet immer logisch, strukturiert, präzise und ohne Zögern. Das wirkt dann wie Kompetenz. Sie ist immer freundlich, wirkt nie genervt, stellt geduldig Rückfragen und klingt analytisch und sachlich. Das erzeugt eine Beziehungsillusion. Aber eine KI, oder genauer gesagt ein LLM, ist weder eine fachliche Autorität noch ein freundlicher Berater, sondern ein statistischer Textgenerator.
Jetzt lese ich hier also einen Beitrag, wo jemand beschreibt, dass er über Monate mit ChatGPT, wahrscheinlich der frei zugänglichen Version, aus finanzieller Sicht betrachtet, intime Gespräche führt. Er gibt dabei seine komplette Vermögenssituation preis (so habe ich es zumindest verstanden) und lässt sich in eine Art "KI-Beratungsbeziehung" hineinziehen, die weder sicher noch fachlich belastbar ist.
Was zuerst auffällt, ist das Datenschutzrisiko. Kostenlose KI-Modelle speichern die Eingaben, um sie zu analysieren und zur Optimierung zu nutzen, Wer also dort seine Vermögenssituation eingibt, gibt sie praktisch an die Öffentlichkeit.
Eine KI kann man gut verwenden, um sich Begriffe erklären zu lassen oder Szenarien durchzurechnen. Was sie aber nicht kann, ist z.B. eine Risikotragfähigkeit zu bestimmen oder Anlageziele zu bewerten. In diesem Zusammenhang ist wichtig zu verstehen, dass eine KI plausible, aber manchmal falsche Antworten erzeugt. Sprachmodelle sind darauf optimiert, überzeugend zu klingen, nicht darauf, richtig zu sein. Gerade im Finanzbereich kann das gefährlich werden.
Im Übrigen kann eine KI schon aus rein rechtlichen Gründen keine Finanzberatung leisten. Daher ist schon der Titel dieses Threads abwegig.