In dem Artikel werden einige kritische Punkte thematisiert. Der relevanteste:
Das Problem ist: Die Antworten der KI sind nicht verlässlich. "Nutzer müssen mit fachlichen Fehlern, verkürzten Darstellungen oder auch falschen Quellenangaben rechnen", so Nauhauser. "Diese lassen sich aber nur erkennen, wenn bereits eigenes Grundwissen vorhanden ist." Genau das fehle aber vielen.
Auch wie eine KI zu ihren Vorschlägen kommt, ist nicht immer klar. Aber eine Begründung sei wichtig, um die KI-Entscheidungen kritisch zu prüfen und hinterfragen zu können, sagt Yann Stoffel. "Die KI kann Sachen erfinden und sie kann immer noch schlecht unterscheiden, ob sie Informationen oder Meinungen verarbeitet."