Vorsicht vor KI-Fakten - Beispiel Kleinbetragsrente

    Wenn man bei Google (Safari, iPhone) nach „Kleinbetragsrente“ sucht, stellt die neulich in Betrieb genommene Künstliche „Intelligenz“ folgende Info bereit:

    Zitat

    Wenn die monatliche Rente so niedrig wäre, dass sie sich nicht lohnt, kann eine vollständige Auszahlung des gesamten Guthabens als Einmalbetrag erfolgen. In diesem Fall müssen Sie jedoch die staatlichen Zulagen und Steuervorteile zurückzahlen, die Sie während der Ansparphase erhalten haben.

    Auf der entsprechenden Seite der Deutschen Rentenversicherung steht korrekt:

    Zitat

    Wenn Ihr angespartes Kapital so niedrig ist, dass sich eine monatliche lebenslange Auszahlung nicht lohnt, können Sie sich die gesamte Riester-Rente auf einmal auszahlen lassen, ohne Steuervorteil oder Zulagen zurückzahlen zu müssen.

    Ob Riester oder nicht – uns stehen abenteuerliche Zeiten bevor.

    Genau dieses Problem hatte ich hier neulich auch schon thematisiert.

    Da wird teilweise ein unglaublicher Schwachsinn verbreitet.

    Offenbar ist das mit der künstlichen Intelligenz in Fachfragen eher gefährlich.

    Ich hatte das Thema wegen einer Dame im Yoga-Kurs, die mit ihren 2-3 Kindern noch etwa sechs Jahre lang in einem neuen Riestervertrag genau diese Regelung ausnutzen möchte.

    Aber wie gesagt, die künstliche Intelligenz hat immer noch solche Lücken. Verblüffend.

    Die künstliche Intelligenz kann natürlich innerhalb von 1 Sekunde ausrechnen, dass Achim Weiss 756 l Wasser beim Duschen in drei Wochen verbraucht, während er einen Gast beherbergt.

    Der Gast allerdings in dieser 15.120 l.

    Auch, dass die Mehrkosten etwa 500 € betragen würden, kann die künstliche Intelligenz sofort ausrechnen.

    Wenn es dann aber um komplizierte Rechtsfragen des Sozialrechts und um Steuern geht würde ich die Finger davon lassen.

    Das ist das Gefährliche an diesen sogenannten KIs. Sie geben sehr(!) häufig falsche Dinge von sich, die viele allerdings automatisch als richtig ansehen, weil das ja "ChatGPT" gesagt hat.

    Was mir bei diesen Silizium-Labertaschen aufgefallen ist, dass, wenn sie Blödsinn reden, weil man das z.B. bei technischen Dingen schnell verifizieren kann und sie darauf hinweist, dann z.B. die Antwort kommt: "Ja, du hat recht. Diese Funktion gibt es nur in Windows 10, nicht in Windows 11. Hier ist der korrekte Befehl." Da fragt man sich doch, warum man erst eine falsche Antwort bekommt, obwohl die sog. KI die richtige doch kennt. Das kommt so gefühlt in 50% der Fälle vor.

    Was in vielen Fällen höchstens nervig ist, kann bei gesundheitlichen Fragen schnell gefährlich werden, wenn Dr. Google, dessen Empfehlungen man vielleicht nur bedingt glaubt, durch den allwissenden Mediziner Dr. ChatGPT ersetzt wird. Und wer mal richtig die Segnungen von KI kennenlernen will, mag mal versuchen, Amazon telefonisch zu erreichen. Da kommt man sich vor wie in einer Dystopie.

    Zitat von Thebat

    Kleinbetragsrente als Frage ohne Kontext und genaue Anweisungen einstellen. Glückwunsch, du bist ein Meister des zielführenden Prompts.

    Wer es nicht kann, der sollte es lassen oder üben.

    Das war kein Prompt, das war eine Google-Suche, steht doch da. Soli ich es wiederholen oder beherrscht du am Ende sinnentnehmendes Lesen?

    Deshalb überspringe ich den KI-Teil bei Google-Suchen beim Lesen. Klar ist es verlockend, wenn einem (vermeintlich) die Essenz vieler Suchtreffer aufbereitet in einer hübschen Zusammenfassung präsentiert wird. Aber oft ist es eben schlicht falsch.

    Zitat von 12345

    Deshalb überspringe ich den KI-Teil bei Google-Suchen beim Lesen. Klar ist es verlockend, wenn einem (vermeintlich) die Essenz vieler Suchtreffer aufbereitet in einer hübschen Zusammenfassung präsentiert wird. Aber oft ist es eben schlicht falsch.

    Ja, ich auch, deshalb ja mein Eintrag. Ich befürchte, dass da bei Weitem nicht alle so besonnen sind wie wir.

    Das hilft aber oft auch nicht.

    Viele normale Webseiten/Treffer sind doch auch nur noch KI-generierter Quatsch. Selbst in Foren Posten Menschen die Auswürfe von KI ohne das auch nur zu kennzeichnen.


    Ich teile die Einschätzung mit den abenteuerlichen Zeiten. 🫠

    Wenn ich Stichworte eingeben will, dann muss ich selber die Quellen einsehen und für mich bewerten. Wenn ich KI verwenden will, dann gehe ich über Google AI Studio und verwende korrekte Prompts.

    Alles andere ist eine Lösung für Faule, bei der man mangels genügend Kontext momentan ganz einfach keine guten Ergebnisse erwarten kann.

    Zitat von Thebat

    Wenn ich Stichworte eingeben will, dann muss ich selber die Quellen einsehen und für mich bewerten. Wenn ich KI verwenden will, dann gehe ich über Google AI Studio und verwende korrekte Prompts.

    Alles andere ist eine Lösung für Faule, bei der man mangels genügend Kontext momentan ganz einfach keine guten Ergebnisse erwarten kann.

    Aber das weiß doch Otto Normalgoogler nicht …

    Finanztip auf Instagram: Warum KI nicht deine Finanzen regeln sollte

    Finanztip auf Instagram: "📲 KI begegnet uns im Alltag immer häufiger. 🤖 Mit KI-Chatbots können wir sogar interagieren und bekommen im Nu Antworten auf all unsere Fragen.  Das Problem: Den Ergebnissen kannst Du – vor allem bei sensiblen Themen wie Deinen…
    606 likes, 17 comments - finanztip am July 3, 2025: "📲 KI begegnet uns im Alltag immer häufiger. 🤖 Mit KI-Chatbots können wir sogar interagieren und bekommen…
    www.instagram.com
    Zitat von sam51

    Und wer mal richtig die Segnungen von KI kennenlernen will, mag mal versuchen, Amazon telefonisch zu erreichen. Da kommt man sich vor wie in einer Dystopie.

    Das ist schon seit längerem fast überall so, wobei es durch KI gerade eher wieder etwas erträglicher wird. Die Lösungen die derzeit meistens verwendet werden, haben mit modernen LLMs noch wenig zu tun. Das ist Mäßige Spracherkennung kombiniert mit einem Verzeichnis vorgegebener Fragen/Antworten.

    Bei den wirklich "guten" hab ich teilweise erst nach 30-40 Sekunden begriffen, dass ich überhaupt mit einer KI rede.

    Zitat von 12345

    Deshalb überspringe ich den KI-Teil bei Google-Suchen beim Lesen.

    Mach ich auch meistens. Hängt aber auch davon ab, dass ich in der Regel mit Stichworten Google und das passt nicht gut zu LLMs.

    Google Suche ist ohne komplexere Eingaben (beschränkung auf bestimmte Seiten, Zeiträume etc) aber eh weitestgehend kaputt. Zu fast allen Themen kommt jede Menge SEO optimierter generischer Unfug.

    Zitat von Pfennigbaron

    Finanztip auf Instagram: Warum KI nicht deine Finanzen regeln sollte

    Da hätte ich gerne mal die Quelle zu gesehen. Hat die jemand?

    "Finanzen regeln" ist ja auch ein relativ weiter Begriff. Haben wir da eine Excel-Liste mit unseren monatlichen Ausgaben oder geht es darum in welchem Anteil wir welchen ETF besparen? Wollen wir Bilanzen von Unternehmen analysieren und Wettbewerber vergleichen?

    Zudem ist o4-mini da auch ne komische Wahl. Hat bei "Finanzthemen" jetzt nicht unbedingt gute Werte in den Standardtests.

    Zitat von Trader42

    Mach ich auch meistens. Hängt aber auch davon ab, dass ich in der Regel mit Stichworten Google und das passt nicht gut zu LLMs.

    Genau das war ja meine Ausgangslage. Ich habe „Kleinbetragsrente“ gegoogelt, um was Allgemeines nachzugucken, und beim Überfliegen des KI-Ergebnisses habe ich sofort den Fehler gesehen. Ich bin dem Link zur angegebenen Quelle gefolgt, wo es aber richtig stand. Schräg.

    Zitat von fabioso

    Ich habe „Kleinbetragsrente“ gegoogelt, um was Allgemeines nachzugucken, und beim Überfliegen des KI-Ergebnisses habe ich sofort den Fehler gesehen. Ich bin dem Link zur angegebenen Quelle gefolgt, wo es aber richtig stand. Schräg.

    Ich hatte gestern einen sinngemäß gleichen Fall. Ich war mir einer Sache unsicher und habe die KI gefragt, die mir im Brustton der Überzeugung geantwortet hat. Gewohnheitsmäßig habe ich die angegebenen Quellen besucht und dort genau das Gegenteil dessen gefunden, was die KI aus der Quelle extrahiert hatte.

    Spaßeshalber habe ich nachfragt: "Ahem - in der Quelle steht das aber genau andersherum!" woraufhin die KI ausweichend reagiert hat, sich sehr für meine Recherche bedankt hat und dann im Brustton der Überzeugung nun das Gegenteil von oben vertreten hat.

    Die KI ist ein Hilfsmittel; mit ihrer Hilfe recherchiert man schneller als auf eigene Faust, aber man muß in jedem Fall nachschauen, ob es stimmt, was sie einem verkündet.