Warum KI von der Cloud auf lokale Hardware verlagert wird

Cloud-KI wird nicht verschwinden. Die größten Modelle erfordern nach wie vor riesige Rechenzentren, spezielle Beschleuniger, Speicher mit hoher Bandbreite, Strom, Kühlung und eine technische Infrastruktur, die sich nur wenige Unternehmen leisten können. Für das Training von Spitzenmodellen spielt die Cloud weiterhin eine zentrale Rolle.

Der Wandel vollzieht sich an anderer Stelle: bei der Inferenz. Sobald ein Modell trainiert wurde, stellt sich die Frage, wo es ausgeführt werden soll. Sollten alle Eingabeaufforderungen, Dokumente, Bilder, Kundenanfragen oder internen Arbeitsabläufe an einen Remote-Server gesendet werden? Oder sollte ein größerer Teil dieser Verarbeitung auf dem Gerät, im Büro, in einem privaten Rechenzentrum oder am Netzwerkrand erfolgen?

Genau hier wird AMDs Strategie für lokale und verteilte KI-Hardware besonders interessant. AMD positioniert Produkte wie Ryzen-KI-Prozessoren, Ryzen-AI-Max-Plattformen und Instinct-Beschleuniger im Rahmen eines umfassenderen Konzepts: KI-Workloads werden nicht alle an einem Ort ausgeführt. Einige werden in Hyperscale-Cloud-Umgebungen verbleiben. Andere werden in die Unternehmensinfrastruktur verlagert. Wieder andere werden direkt auf PCs, Workstations und Edge-Geräten ausgeführt.

Das Ergebnis ist kein klarer Wettstreit zwischen Cloud-KI und lokaler KI. Es handelt sich vielmehr um eine praxisorientierte Neuausrichtung der Infrastruktur.

Die Cloud hat das erste KI-Problem gelöst

Die erste Welle der Einführung generativer KI wurde aus gutem Grund von der Cloud vorangetrieben. Unternehmen wollten Zugang zu leistungsstarken Modellen, ohne dafür Hardware kaufen, spezialisierte Infrastrukturteams einstellen oder komplexe Bereitstellungen verwalten zu müssen. Dank der Cloud-Plattformen schien KI sofort verfügbar zu sein. Ein Unternehmen konnte über APIs und gehostete Plattformen Chatbots, Dokumentenautomatisierung, Programmierassistenten, Bildgenerierung oder Analysetools testen.

Dieses Modell hat nach wie vor klare Vorteile. Es ist skalierbar, flexibel und einfacher zu implementieren. Es ermöglicht Unternehmen den Zugriff auf die neuesten Modelle, ohne dass sie sich um die Verwaltung der zugrunde liegenden Hardware kümmern müssen. Für kleinere Teams ist die Cloud nach wie vor der schnellste Weg, um zu experimentieren.

Die Cloud bringt jedoch auch Kompromisse mit sich. Jede Anfrage muss übertragen werden. Jedes sensible Dokument kann die Umgebung des Unternehmens verlassen. Jede Abfrage erhöht die Nutzungskosten. Jede Abhängigkeit von einem externen Anbieter wirft Fragen hinsichtlich Verfügbarkeit, Preisgestaltung und Kontrolle auf. Diese Probleme treten umso deutlicher zutage, je mehr sich die KI vom Experimentierstadium in den täglichen Betrieb verlagert.

Ein Unternehmen mag eine Abhängigkeit von der Cloud für den gelegentlichen Einsatz von KI in Kauf nehmen. Komplizierter wird es jedoch, wenn KI in den Kundensupport, die rechtliche Prüfung, die Softwareentwicklung, die Risikoüberwachung, industrielle Systeme oder interne Wissensworkflows eingebettet ist. Ab diesem Punkt gewinnen Latenz, Datenschutz, Kostenvorhersehbarkeit und Governance ebenso an Bedeutung wie die Leistungsfähigkeit der Modelle.

Inferenz unterliegt anderen wirtschaftlichen Gesetzmäßigkeiten

Das Trainieren eines fortgeschrittenen Modells ist kapitalintensiv und rechenintensiv. Es erfordert riesige Cluster und eine hochspezialisierte Infrastruktur. Bei der Inferenz verhält es sich anders. Inferenz ist die wiederholte Anwendung des Modells: Fragen stellen, Antworten generieren, Dokumente zusammenfassen, Bilder klassifizieren, Mitarbeiter unterstützen oder Agenten steuern.

Mit steigender Nutzung können Inferenzvorgänge auf subtile Weise kostspielig werden. Eine einzelne Abfrage mag zwar nicht viel kosten, doch Millionen von Abfragen über Mitarbeiter, Kunden, Arbeitsabläufe und Anwendungen hinweg können das finanzielle Bild verändern. Für Unternehmen, die KI in großem Maßstab einsetzen, stellt sich die Frage, ob jede Interaktion über einen externen Cloud-Dienst abgerechnet werden sollte.

Dies ist ein Grund, warum lokale Hardware zunehmend Beachtung findet. Die lokale Ausführung kleinerer oder optimierter Modelle kann bei bestimmten Workloads die wiederkehrenden Cloud-Kosten senken. Außerdem kann sie Anwendungsfälle unterstützen, bei denen eine sofortige Reaktion entscheidend ist, wie beispielsweise kundenorientierte Tools, industrielle Überwachung, Geräte im Gesundheitswesen, Robotik, Callcenter, Cybersicherheitssysteme oder persönliche KI-Assistenten.

Die Entwicklerunterlagen von AMD zu den Ryzen-AI-Prozessoren weisen in diese Richtung und enthalten Beispiele für hybride lokale LLM-Implementierungen, die darauf ausgelegt sind, Kennzahlen wie die „Time-to-First-Token“ und die „Tokens pro Sekunde“ durch den gemeinsamen Einsatz von NPU und GPU zu verbessern. AMD hat GAIA zudem als eine Open-Source-Anwendung für generative KI beschrieben, die dafür konzipiert ist, lokale, private LLMs auf Windows-PCs auszuführen, die für Ryzen-AI-Hardware optimiert sind.

Der entscheidende Punkt ist nicht, dass jedes Unternehmen plötzlich seine eigenen großen Sprachmodelle lokal betreiben wird. Die meisten werden dies nicht tun. Der Punkt ist vielmehr, dass sich nun mehr KI-Anwendungsfälle sinnvoll zwischen Cloud und lokaler Infrastruktur aufteilen lassen.

Datenschutz ist ein stärkeres Argument als Geschwindigkeit

Die Latenz spielt zwar eine Rolle, doch der Datenschutz könnte der überzeugendere Grund für lokale KI sein.

Viele KI-Workflows beinhalten sensible Daten: Verträge, Finanzunterlagen, Kundenkorrespondenz, Quellcode, interne Strategien, medizinische Informationen, regulierte Dokumente oder personenbezogene Daten. Selbst wenn Cloud-Anbieter ein hohes Maß an Sicherheit bieten, ziehen es manche Unternehmen vor, bestimmte Verarbeitungsschritte näher an ihrer eigenen Umgebung durchzuführen.

Dies ist insbesondere in regulierten Branchen, im öffentlichen Sektor, im Verteidigungsbereich, im Gesundheitswesen, im Finanzsektor sowie in allen Organisationen mit strengen Vertraulichkeitsverpflichtungen von Bedeutung. Ein lokal installiertes KI-System kann die Menge der extern übermittelten Daten reduzieren. Außerdem kann es die Governance vereinfachen, da die Organisation eine klarere Kontrolle darüber hat, wo sich die Daten befinden, wer darauf zugreifen darf und wie lange sie aufbewahrt werden.

Das bedeutet jedoch nicht, dass lokale KI automatisch sicherer ist. Auch lokale Implementierungen erfordern weiterhin Sicherheitsmaßnahmen, Überwachung, Zugriffskontrollen, Patches und Modell-Governance. Ein schlecht verwaltetes lokales System kann eigene Risiken mit sich bringen. Für bestimmte Anwendungsfälle ist die Möglichkeit, Daten direkt auf dem Gerät oder innerhalb einer kontrollierten Infrastruktur zu verarbeiten, jedoch ein erheblicher Vorteil.

Genau hier kann sich das „Cloud-First“-KI-Modell als weniger geeignet erweisen. Je vertraulicher der Arbeitsablauf ist, desto attraktiver wird eine lokale oder private Infrastruktur.

Die Chancen für AMD liegen nicht nur in Rechenzentren

AMD wird häufig im Zusammenhang mit KI-Beschleunigern für groß angelegte Infrastrukturen diskutiert. Die Serien Instinct MI300 und MI350 spielen in dieser Debatte um Rechenzentren eine Rolle, wobei das Unternehmen die MI350-Serie als speziell für generative KI, Hochleistungsrechnen, Training und Hochgeschwindigkeits-Inferenz konzipiert präsentiert. Laut AMD nutzt die MI350-Serie die CDNA-4-Architektur und ist auf moderne KI-Infrastrukturen ausgerichtet.

Bei der lokalen KI sieht die Sache jedoch anders aus. Hier geht es darum, nützliche KI-Leistung nicht nur in große Servercluster, sondern auch in PCs, Workstations und Edge-Geräte zu integrieren. AMD hat die Plattformen „Ryzen AI Halo“ und „Ryzen AI Max PRO“ für lokale, agentenbasierte KI-PCs und Workstations beworben und positioniert sie für Unternehmensabläufe, bei denen Hardware und KI-Software zusammengeführt werden.

Das ist von Bedeutung, da der Einsatz von KI zunehmend dezentraler wird. Mitarbeiter wünschen sich möglicherweise KI-Assistenten, die mit lokalen Dateien arbeiten können. Entwickler möchten vielleicht Unterstützung beim Programmieren, ohne sensible Repositorys außerhalb des Unternehmens zu übertragen. Designer, Analysten und Ingenieure wünschen sich möglicherweise KI-Leistung auf Workstation-Niveau. Industriebetreiber benötigen möglicherweise KI in unmittelbarer Nähe zu Maschinen und Sensoren. Außendienstteams benötigen möglicherweise Systeme, die auch bei eingeschränkter Konnektivität funktionieren.

In solchen Situationen stellt lokale Hardware keinen Rückschritt gegenüber der Cloud dar. Sie ist vielmehr besser auf die Betriebsumgebung abgestimmt.

Kleinere Modelle verändern die Berechnung

Vor einigen Jahren schien es für die meisten Unternehmen noch unrealistisch, nützliche generative KI lokal einzusetzen. Große Modelle waren zu ressourcenintensiv, die Hardware bot zu wenig Leistung und die Benutzererfahrung ließ zu wünschen übrig.

Das hat sich geändert. Kleinere Modelle wurden verbessert. Durch die Quantisierung hat sich der Speicherbedarf verringert. Hardware-Beschleuniger sind leichter zugänglich geworden. Entwickler lernen, wie sie lokale und Cloud-Modelle in praktischen Arbeitsabläufen kombinieren können. Jüngste Forschungsergebnisse zum Einsatz von LLM am Netzwerkrand haben zudem aufgezeigt, warum lokale Inferenz in Umgebungen, in denen Datenschutz, Latenz und Konnektivität eine wichtige Rolle spielen, zunehmend praktikabel wird.

Das bedeutet jedoch nicht, dass lokale Modelle immer mit den besten Cloud-Modellen mithalten können. Oft ist dies nicht der Fall. Die größten gehosteten Modelle sind bei komplexen Schlussfolgerungen, umfassendem Wissen, Programmieraufgaben und multimodalen Aufgaben möglicherweise immer noch leistungsfähiger als kleinere lokale Systeme. Viele Anwendungsfälle in der Wirtschaft erfordern jedoch nicht das leistungsstärkste verfügbare Modell. Sie benötigen ein Modell, das gut genug ist – schnell, datenschutzkonform, erschwinglich und zuverlässig.

Diese Unterscheidung ist wichtig. Der KI-Markt hat sich jahrelang auf die Leistungsfähigkeit der Modelle konzentriert. In der nächsten Phase wird der Fokus stärker auf der Eignung liegen. Ein Rechtsteam, das interne Richtlinien zusammenfasst, benötigt möglicherweise nicht für jede Aufgabe ein Modell auf dem neuesten Stand der Technik. Eine Produktionsstätte, die Anlagen überwacht, benötigt möglicherweise eher eine geringe Latenz als umfassende allgemeine Intelligenz. Ein Kundenservice-Workflow erfordert möglicherweise Geschwindigkeit, Kostenkontrolle und Datenschutz. Ein Feldgerät muss möglicherweise offline arbeiten.

Lokale Hardware wird dann attraktiv, wenn das beste Modell nicht das leistungsstärkste, sondern das am besten geeignete ist.

Bei hohen Arbeitslasten hat die Cloud nach wie vor die Nase vorn

Die Vorteile lokaler KI sollten nicht überbewertet werden. Viele KI-Anwendungen werden weiterhin cloudbasiert sein, da die Cloud nach wie vor die praktischste Umgebung für groß angelegtes Training, komplexe Inferenz, schnelle Skalierung und den Zugriff auf modernste Modelle darstellt.

Unternehmen müssen zudem den betrieblichen Aufwand berücksichtigen. Der Kauf lokaler Hardware ist nur der Anfang. Sie benötigen Mitarbeiter, die diese verwalten, Modelle aktualisieren, Sicherheitsmaßnahmen umsetzen, die Leistung messen und Systeme in bestehende Arbeitsabläufe integrieren können. Cloud-Anbieter nehmen ihnen einen Großteil dieses Aufwands ab.

Hinzu kommt das Thema Flexibilität. KI-Hardware veraltet schnell. Modelle ändern sich. Die Arbeitslasten entwickeln sich weiter. Ein Unternehmen, das stark in lokale Infrastruktur investiert, muss sicher sein können, dass die Hardware lange genug nutzbar bleibt, um die Investitionskosten zu rechtfertigen. Cloud-Dienste bieten mehr Flexibilität, auch wenn sie bei großem Umfang kostspielig werden können.

Aus diesem Grund ist ein hybrider Ansatz die bessere Lösung. Die Cloud wird weiterhin die anspruchsvollsten und elastischsten Workloads bewältigen. Lokale Hardware wird einen wachsenden Anteil an Workflows übernehmen, bei denen Datenschutz, Latenz, wiederkehrende Kosten oder die Konnektivität einen reinen Cloud-Einsatz weniger attraktiv machen.

Die entscheidende Frage für Unternehmen ist, wo die einzelnen Workloads hingehören

Für Unternehmen sollte die Entscheidung nicht bei AMD, Nvidia, Microsoft, Amazon, Google oder einem anderen Anbieter ansetzen. Sie sollte bei der jeweiligen Arbeitslast ansetzen.

Ein Unternehmen sollte sich fragen, welche Aufgaben das KI-System erfüllen soll, welche Daten es verarbeiten wird, wie schnell es reagieren muss, wie oft es ausgeführt wird, welche Modellqualität erforderlich ist und welche Risiken entstehen, wenn das System auf einen externen Dienst angewiesen ist.

Ein Marketingentwurf mit geringem Risiko eignet sich möglicherweise hervorragend für ein Cloud-Tool. Eine sensible rechtliche Prüfung erfordert möglicherweise eine private Infrastruktur. Ein Kundensupport-Bot kann sowohl lokal aufgerufen als auch in der Cloud generiert werden. Ein Fabriküberwachungssystem benötigt möglicherweise Edge-Verarbeitung, da Verzögerungen oder Verbindungsausfälle inakzeptabel sind. Ein Softwareentwicklungsteam wünscht sich möglicherweise lokale Programmierunterstützung für proprietäre Repositorys.

Sobald man sich ein Bild von der Arbeitslast gemacht hat, wird die Wahl der Infrastruktur klarer.

Auch hier könnte das breitere Portfolio von AMD eine Rolle spielen. Das Unternehmen verkauft nicht nur eine Art von KI-Chip. Es versucht, verschiedene Marktsegmente zu bedienen: Beschleuniger für Rechenzentren, CPUs, adaptives Computing, KI-PCs, Workstations und Edge-Anwendungen. AMD selbst beschreibt sein KI-Portfolio als eine Palette von CPU-, GPU- und adaptiven Computing-Lösungen für unterschiedliche Anwendungsanforderungen.

Diese Bandbreite ist von Nutzen, da die KI-Infrastruktur zunehmend fragmentierter wird. Es wird kein einheitliches Bereitstellungsmodell geben.

Was dies für die KI-Strategie bedeutet

Der Aufstieg lokaler KI-Hardware verändert die Art und Weise, wie Unternehmen ihre KI-Planung angehen sollten. Anstatt davon auszugehen, dass jedes KI-Tool ein Cloud-Abonnement ist, benötigen sie eine Infrastrukturübersicht.

In welchen Arbeitsabläufen kann KI in der öffentlichen Cloud sicher eingesetzt werden? In welchen ist eine private Cloud erforderlich? Welche sollten auf lokalen Servern ausgeführt werden? Welche können auf den Geräten der Mitarbeiter ausgeführt werden? Welche erfordern Edge-Hardware? Welche Modelle sind lokal ausreichend, und welche erfordern tatsächlich hochmoderne Rechenleistung?

Dies ist nicht nur eine IT-Entscheidung. Sie wirkt sich auf Compliance, Beschaffung, Cybersicherheit, Finanzen, den operativen Betrieb und die Benutzererfahrung aus. Ein Unternehmen, das sich in allen Bereichen für Cloud-KI entscheidet, gewinnt zwar an Geschwindigkeit, verliert aber möglicherweise die Kostenkontrolle. Ein Unternehmen, das sich in allen Bereichen für lokale KI entscheidet, gewinnt zwar an Kontrolle, schafft aber möglicherweise Komplexität. Die bessere Strategie besteht darin, eine wohlüberlegte Entscheidung zu treffen.

Das Gleiche gilt für Investoren, die den Markt für KI-Hardware im Blick haben. Die Chance besteht nicht einfach darin, dass Cloud-KI an Bedeutung verliert und lokale Hardware die Oberhand gewinnt. Die Chance liegt vielmehr darin, dass die Anzahl der KI-Workloads zunimmt und unterschiedliche Workloads unterschiedliche Infrastrukturen erfordern. Das schafft Spielraum für Unternehmen, die effiziente Hardware für verschiedene Umgebungen bereitstellen können.

Die Rolle von AMD bei diesem Wandel wird nicht nur von Leistungsbenchmarks abhängen, sondern auch von der Softwareunterstützung, der Akzeptanz bei Entwicklern, dem Vertrauen der Unternehmen, der Lieferkapazität und davon, wie gut sich die Hardware in reale KI-Workflows einfügt. Bei der KI-Infrastruktur kommt es auf die reine Leistung an. Auch die Benutzerfreundlichkeit und das Ökosystem spielen eine wichtige Rolle.

Die Richtung lautet: Hybrid

Die wahrscheinlichste Zukunft ist nicht eine, in der die Cloud-KI verliert und die lokale KI gewinnt. Es ist eine Zukunft, in der KI dezentraler wird.

Groß Modelle werden weiterhin in großen Rechenzentren trainiert und bereitgestellt. Unternehmen werden für sensible oder datenintensive Arbeitsabläufe eine eigene Infrastruktur betreiben. PCs und Workstations werden mehr KI-Aufgaben lokal bewältigen. Edge-Geräte werden Daten in unmittelbarer Nähe zu Sensoren, Maschinen und Nutzern verarbeiten. Cloud-Dienste werden weiterhin Skalierbarkeit und Zugang zu den neuesten Modellen bieten, aber sie werden nicht mehr die Standardlösung für jede KI-Aufgabe sein.

Deshalb ist AMDs Vorstoß im Bereich lokaler Hardware von großer Bedeutung. Er spiegelt einen praktischen Wandel auf dem Markt wider. Unternehmen wollen KI-Fähigkeiten nicht mehr nur als Remote-Dienst nutzen. Sie möchten einen Teil davon unter ihrer eigenen Kontrolle haben, in der Nähe ihrer eigenen Daten und in ihre eigenen Arbeitsabläufe integriert.

Cloud-KI verliert nicht an Boden in dem Sinne, dass sie überholt wäre. Sie verliert vielmehr ihre Exklusivität. In der ersten Phase der generativen KI war die Cloud der natürliche Schwerpunkt. In der nächsten Phase wird dieser Schwerpunkt stärker verteilt sein.

Unternehmen, die dies frühzeitig erkennen, werden nicht fragen, ob Cloud- oder lokale KI generell besser ist. Sie werden sich vielmehr fragen, welche Umgebung für die jeweilige Aufgabe die richtige ist. Genau darin liegt der eigentliche Vorteil der Infrastruktur.