Ich denke, man muss hier zwei verschiedene Dinge unterscheiden. Auf der einen Seite die Angst, dass es sich bei dem KI-Hype um eine Blase handelt, deren Platzen zu einem Börsencrash führt. Auf der anderen Seite die Angst, KI könnte die Weltherrschaft übernehmen oder die Menschheit auslöschen.
Ob KI als Geschäftsmodell funktionieren wird, weiß ich nicht. Allerdings werden die führenden KI-Unternehmen OpenAI und Anthropic von den großen Playern wie Amazon, Microsoft usw. mit Milliardenbeträgen unterstützt. Diese Unternehmen sind in der Vergangenheit nicht durch katastrophale Fehlentscheidungen aufgefallen und stehen heute nicht ohne Grund an der Spitze. Zu den Börsencrashes 2000 und 2008 sehe ich jetzt keine Parallele. Der dotcom-Crash wurde verursacht, weil alle plötzlich in völlig substanzlose Unternehmen investierten. Als dann klar wurde, dass das alles nur Luftnummern waren, kam es zum Crash. Zum Crash 2008 kam es durch den realitätsfernen Wunsch der US-Regierung, dass möglichst viele Amerikaner Hauseigentum haben sollten. Das führte in der Folge zu den toxischen Verbriefungen, die von den Rating-Agenturen mit AAA bewertet wurden.
Im Falle des KI-Hypes könnte ich mir vorstellen, dass ein disruptives Ereignis die Produktion von Hardware für längere Zeit stört. Fällt TSMC in Taiwan aus, wird es für einige Jahre keine der für KI benötigten Chips mehr geben. Das könnte ein echter Showstopper werden.
Auf der rein wirtschaftlichen Seite werden immer wieder die Open Weights Modelle, insbesondere aus China genannt. Aus eigener Erfahrung kann ich sagen, dass diese nicht im Entferntesten mit den Frontier-Modellen von OpenAI und Anthropic zu vergleichen sind. Für einfache Anwendungen sind sie einigermaßen brauchbar, für anspruchsvolle Workflows, die wirklich die Produktivität steigern, allerdings unbrauchbar. Davon abgesehen, wer will schon seine Daten in eine chinesische Cloud schicken?
Auch die immer wieder von den Medien hochgeschriebene Variante, Modelle lokal laufen zu lassen, ist mit Vorsicht zu genießen. Meldungen wie "Claude Opus jetzt auf dem Laptop laufen lassen." sind natürlich Unfug. Für bestimmte Unternehmen kann es z.B. aus Compliance-Gründen notwendig sein, eine KI lokal zu betreiben. Auch RAG-Systeme sind prädestiniert für eine lokale Anwendung. Ansonsten muss ein Unternehmen schon sehr genau rechnen, wie sich TCO einer lokalen KI gegenüber den Kosten für einen Cloud-Service verhält.
Eine gänzliche andere Frage ist, ob wir demnächst mit Skynet und Agent Smith rechnen müssen. Da die wenigsten verstehen, wie eine KI funktioniert, haben die Medien es natürlich einfach, hier Ängste zu schüren. Wenn man dann allerdings liest: "Autonome Agenten organisieren sich und greifen Unternehmen an.", fasst man sich an den Kopf. Da denkt man ja sofort an Agent Smith. Wenn man allerdings weiß, dass diese Agenten nicht anderes sind als ziemlich dumme Programme, die ohne Verbindung zum LLM völlig nutzlos sind und gar nichts tun können, relativiert sich der Gehalt solcher Meldungen. Bei den bisher immer wieder genannten Fällen handelt es sich schlicht um schlampige Auslegungen der Testumgebung.
Auch ist es technisch nicht möglich, dass sich eine KI selbst weiterentwickelt und plötzlich ein Bewusstsein entsteht. Meldungen dieser Art sind reine Spekulation und entbehren jeder Grundlage. Was allerdings ernst zu nehmen ist, sind die Möglichkeiten, die sich Cyber-Kriminellen durch Nutzung von KI bieten. Vor einigen Tagen wurde bekannt, dass eine große Menge Kreditkartendaten von US-amerikanischen Unternehmen gestohlen wurde. Dazu haben die Täter Open Source Agentensoftware verwendet und den Service von Open Router, um die Sicherheitsvorkehrungen der KI-Provider wie Anthropic zumindest abzuschwächen. Im nächsten Schritt darf man damit rechnen, dass hier keine Cloud-KI mehr zum Einsatz kommt, sondern lokal betriebene Modelle. Für solche Angriffe braucht man keine Frontier-Modelle, da reicht ein halbwegs leistungsfähiges Open Weights Modell. Damit sind solche Angreifer kaum noch aufzuhalten. Die aktuell kritisierten KI-Unternehmen können da noch so viele Sicherheitsebenen einziehen, sie sind hier außen vor. Das Problem ist hier das Wort "open".
Jetzt ist nämlich genau die Situation eingetreten, die wir seit Jahren bei Spam haben. Eine Spam-Mail milliardenfach zu versenden, kostet weder relevante Arbeitszeit noch Geld. Wenn dann nur ein Bruchteil der Empfänger darauf hereinfällt, sind es dennoch viele Tausend. Ein sehr lohnendes Geschäft für den Spammer. Bei Cyber-Angriffen war es früher sehr zeitaufwendig, solche Attacken zu fahren. Man konnte zwar auch tool-gestützt Tausende Systeme scannen, aber die vielversprechenden dann anzugreifen, war viel Arbeit. Das ist mit KI jetzt anders. Diese Arbeit erledigt eine KI in Minuten. Daraus entsteht folgende Lage: die Kosten der Verteidigung sind gigantisch gegenüber den Kosten für einen Angriff. Es gibt Hunderte Millionen Server im Internet. Wenn davon, vorsichtig geschätzt, nur 1% ein lohnendes Ziel darstellen, sind dies schon mehrere Millionen. Der Tisch für die Angreifer ist also reichlich gedeckt. Und um die Beute zu Geld zu machen, gibt es schon lange ein perfektes Mittel: Kryptowährungen.
Und natürlich kann auch eine KI nicht erahnen, was hinter der Buchung "REWE 50 EUR" wirklich steckt.
