Edge AI auf dem Vormarsch: Warum künstliche Intelligenz immer häufiger lokal stattfindet

AI oder zu Deutsch KI ist in aller Munde, das steht längst außer Frage. Ob ChatGPT, Googles Gemini oder auch Grok von xAI – die modernen und äußerst fortschrittlichen Sprachmodelle der verschiedenen AI-Technologiekonzerne können mittlerweile von überall aus angesteuert werden, wie zum Beispiel mittels eines einfachen Internetbrowsers oder einer extra für die KI geschriebenen Software. Doch statt KI-Algorithmen in externen Rechenzentren über Clouds abzurufen, setzen mehr und mehr Anbieter auf Edge AI und damit auf lokale Lösungen.

Was ist Edge AI und welche Vorteile hat es für seine Nutzer?

Edge AI beschreibt einen Anwendungsbereich von künstlicher Intelligenz direkt auf den Endgeräten, anstatt extern, über zum Beispiel eine Cloud. Das bedeutet konkret, dass die Berechnungen der künstlichen Intelligenz nicht extern abgerufen werden, wie dies bislang im Verbund mit den großen und bekannten Sprachmodellen von OpenAI und Co. üblich ist, sondern vielmehr direkt lokal stattfinden. Von Vorteil ist das allen voran bei sicherheits- und latenzkritischen Anwendungen. Je mehr Ebenen zwischen einer Anfrage an die KI und dem letztendlichen Output der KI liegen, desto mehr Verzögerung entsteht. Diese Art von Verzögerung, auch wenn sie von uns als Menschen kaum direkt wahrnehmbar ist, kann zum Beispiel bei Fitnesstrackern, Smartwatches oder auch bei der Verwendung von medizinischen Geräten zum Problem werden. Finden die KI-Berechnungen allerdings lokal und damit direkt auf dem Chip statt, ist nahezu keine Latenz vorhanden, abgesehen von hardwareseitiger Latenz.

Edge AI benötigt spezielle Hardware, allen voran CPUs mit „Neural Processing Units“

Eine hardwareseitige, lokale Implementierung von KI hat also in zahlreichen Anwendungsbereichen viele Vorteile. Doch damit KI überhaupt lokal und insbesondere auf sehr kleinen Endgeräten laufen kann, müssen spezielle Prozessoren zum Einsatz kommen, die über einen gesonderten Rechenbereich auf dem Chip verfügen. Diese „Bereiche“ hören auch auf den Namen „Neural Processing Units“ und verstehen sich im Wesentlichen als dedizierte KI-Kerne, die speziell für Inferenzaufgaben optimiert wurden. Das steigert die Effizienz erheblich und sorgt dafür, dass selbst fortschrittliche und äußerst komplexe neuronale Netze auf lokaler Hardware ressourcenschonend laufen können. Mittlerweile entwickeln immer mehr Hardwareproduzenten, darunter auch Intel und AMD, CPUs mit spezieller KI-Recheneinheit. CPUs mit entsprechender KI-Technologie finden sich dabei hauptsächlich im mobilen Bereich wieder, wenngleich die entsprechende Technologie auch mehr und mehr im Desktop-Bereich Einzug hält.

Hat die Verwendung von Edge AI Vorteile im Bereich des Datenschutzes?

Die Frage aus der Unterüberschrift können wir kurz und knapp mit einem klaren Ja beantworten! Sobald KI lokal betrieben wird und man als Nutzer dafür nicht mehr auf externe Clouds zurückgreifen muss, umgeht man gleich mehrere datenschutzrelevante Risiken auf einmal. Abhängig davon, inwieweit das jeweilige Endgerät mit dem Internet kommuniziert, bestehen zwar auch bei der Verwendung von Edge AI weiterhin gewisse Sicherheitsrisiken, allerdings lassen sich die KI-Modelle mittels dieser Technologie theoretisch sogar gänzlich offline betreiben. Die Berechnungen selbst finden schließlich lokal und damit direkt auf dem Chip statt. Von Vorteil ist das nicht zuletzt auch im Umgang mit sensiblen Daten, wie Gesundheitsdaten, Kamerabildern oder biometrischen Informationen – allesamt Bereiche, in denen KI ebenfalls immer mehr Einzug hält.