# Frag einen Techspert: Was ist Inferenz?

> Google-Experten erklären KI-Inferenz in einem ausführlichen Interview über Mustererkennung, Modelltypen, Vorhersagen, Klassifizierung, Evaluierung, Datenschutz, AI Overviews, agentische Systeme und Effizienz.

Source: https://ailoot.ai/blog/de/ask-a-techspert-what-is-inference/
Canonical: https://ailoot.ai/blog/de/ask-a-techspert-what-is-inference/
Language: de
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100059
Revision: sha256-254df0eaf38db999d0dc0d52da58a3f33e9e8b1c8aad21f46bf40b3975262abf


Inferenz ist ein wichtiger Teil dessen, was KI leistungsfähiger macht. In diesem Interview mit einem Google Techspert erklären zwei Google-Experten, was Inferenz ist und wie sie KI-Systemen dabei hilft, nützliche Ergebnisse zu erzeugen.

Im April stellte Google Ironwood vor, seine Tensor Processing Unit (TPU) der siebten Generation, die für generative KI-Inferenz entwickelt wurde. TPUs sind Chips, die KI-Systeme antreiben, und für Google nichts Neues. Diese Generation wurde jedoch dafür entwickelt, KI-Systemen dabei zu helfen, über bloße Reaktionsfähigkeit hinauszugehen und proaktiv zu werden. Inferenz ist der Prozess, der es KI-Systemen ermöglicht, Modelle zu nutzen, um wissensbasierte Ergebnisse zu erzeugen.

**Ich weiß, was das Wort Inferenz bedeutet — dass man auf Grundlage der Informationen, die man bekommt, zu irgendeinem Schluss kommen kann. Bedeutet es in irgendeiner Weise dasselbe, wenn wir über KI sprechen?**

**Google-Experte:** So ungefähr, ja. Das ist eine Vereinfachung, aber ich denke, am einfachsten lässt sich Inferenz als Mustererkennung verstehen. Im weitesten Sinne fragen wir, wenn wir über generative KI und Inferenz sprechen: Können KI-Modelle Muster erkennen, um vorherzusagen, was du möchtest? Wenn ich zum Beispiel „Erdnussbutter und ____“ sagen und ein amerikanisches Publikum bitten würde, die Lücke zu füllen, würden die Leute wahrscheinlich „Marmelade“ sagen. Das ist ein gutes Beispiel für Inferenz bei Sprachmustern. KI-Inferenz kann das, aber sie kann noch viel mehr.

**Google-Experte:** Inferenz ist allgemein die Art und Weise, wie wir das Modell tatsächlich nutzen, um etwas Nützliches zu tun. Zuerst müssen wir das Modell trainieren: Ein KI-Modell enthält Modellparameter, Modellarchitektur und Konfiguration, also den Code, den es zur Ausführung von Aufgaben benötigt — und all diese Dinge zusammen ermöglichen seine Funktion. Inferenz macht es also möglich, all das tatsächlich zu nutzen.

**Welche Arten von KI-Modellen nutzen Inferenz?**

**Google-Experte:** Deep-Learning-KI wie Sprachmodelle, Bildgenerierungsmodelle und Audiomodelle nutzt Inferenz, weil sie Vorhersagen darüber treffen, was auf Grundlage der Muster in früheren Daten „passieren“ wird, aus denen sie gelernt haben.

**Google-Experte:** Auch Empfehlungsmodelle nutzen Inferenz.

**Was ist ein Beispiel für ein Empfehlungsmodell?**

**Google-Experte:** Die meisten Anzeigenmodelle sind Empfehlungsmodelle, ebenso das Modell, das dir YouTube-Videos empfiehlt. Das ist „traditionelle“ KI (manchmal auch „klassische“ KI genannt) — keine generative KI wie LLMs und Modelle zur Bild- oder Videogenerierung —, die schon seit Langem Inferenz nutzt.

**Inferenz ist also nichts Neues für KI, sondern sie ist einfach besser geworden, weil KI leistungsfähiger geworden ist?**

**Google-Experte:** Ja. Und Inferenz ermöglicht KI-Modellen nicht nur Vorhersagen. Sie können damit auch klassifizieren. Das Modell kann Dinge anhand dessen kennzeichnen, was es gelernt hat. Hier ist ein bekanntes Beispiel: Vor vielen Jahren gab Google einem KI-Modell ein Bild und fragte, ob es darin eine Katze erkennen könne. Mithilfe von Daten — und Inferenz — konnte es selbst lernen, was eine Katze ist und wie sie aussieht, und die Katze korrekt erkennen.

**Daran erinnere ich mich!**

**Google-Experte:** Das war ein Beispiel für ein Modell, das Inferenz nutzte.

**Google-Experte:** Erinnerst du dich noch daran, dass vor ein paar Jahren über KI-generierte Bilder gesprochen wurde, die die Gesetze der Physik praktisch ignorierten? Hände zum Beispiel wurden oft nicht korrekt dargestellt. Heutige Modelle machen das viel besser. Unter anderem sind sie besser darin, Physik und Texturen abzubilden. Dasselbe gilt für Textübersetzungen. Früher war Sprachübersetzung zum Beispiel statistisch. Sie war brauchbar, aber nicht ganz richtig und ganz sicher nicht dialogorientiert. Die statistische Übersetzung führte uns jedoch zur Übersetzung mit generativer KI, die heute viele Menschen gerne nutzen, sogar in ihren Produkten für Kunden. Wir verwenden weiterhin den Prozess namens Inferenz, aber die zugrunde liegende KI und unsere Rechenkapazität haben sich dramatisch verbessert.

**Kann man messen, wie gut Inferenz funktioniert?**

**Google-Experte:** Das können wir messen, wenn wir auswerten, wie gut ein Modell bestimmte Aufgaben bewältigt. Außerdem nutzen wir Inferenz, um Modelle zu evaluieren und zu trainieren, damit sie besser werden. Während wir das Modell trainieren, führen wir also fortlaufend Inferenz aus, um gleichzeitig die Modellqualität zu verbessern.

**Und durch solche Trainingsverfahren werden die Inferenzwerte laut Branchen-Benchmarks immer besser, würde ich denken.**

**Google-Experte:** Ja. Aber es stellt sich auch die Frage der menschlichen Wahrnehmung — wie sehr haben wir alle bemerkt, dass sich diese Dinge verbessern? Im Allgemeinen ziemlich deutlich. Ein weiterer Punkt, der uns bei Google bei der Arbeit an Inferenz wirklich wichtig ist, ist der Datenschutz: Wir achten genau darauf, welche Daten wir speichern müssen, damit diese Funktionen arbeiten.

**Was sind Beispiele für Google-KI, bei denen wir verbesserte Inferenz sehen können?**

**Google-Experte:** Einer der besten Anwendungsfälle für Inferenz bei Google sind [AI Overviews](https://blog.google/products/search/ai-overview-expansion-may-2025-update/). Du gibst eine Suchanfrage in Search ein, und ein sehr komplexes System verteilt sie an eine Reihe von Modellen, um Ergebnisse zu erhalten. Es nutzt Inferenz, um deine Anfrage zu verstehen und zu erkennen, welche Antwort du möchtest. Am Ende fasst es seine Erkenntnisse zu etwas sehr Nützlichem zusammen. Inferenz ist auch für viele der [agentischen Entwicklungen bei Google](https://blog.google/products/search/google-search-ai-mode-update/#agentic-capabilities) entscheidend. Mit Agenten kannst du ein KI-Modell nicht nur bitten, auf Grundlage seiner Inferenz Informationen bereitzustellen, sondern es auch Dinge für dich erledigen lassen. Das ist gewissermaßen eine Erweiterung dessen, wie wir Inferenz bisher verstanden haben.

**Inferenz kann also Daten oder Wissen immer besser nutzen, um Antworten zu geben und sogar Maßnahmen zu ergreifen. Wie verändert sie sich noch?**

**Google-Experte:** Eine besonders wichtige Sache sind die Kosten. Wir versuchen, Inferenz so erschwinglich wie möglich zu machen. Nehmen wir an, wir wollen eine kleinere, erschwinglichere Version von Gemini verfügbar machen. Dann würden wir an der Inferenz des Modells arbeiten, um Möglichkeiten zu finden, das Berechnungsparadigma oder den Code, aus dem das Modell besteht, zu verändern, ohne die Semantik oder die Hauptaufgabe zu verändern, die es erfüllen soll, und so die Kosten zu senken. Im Grunde geht es darum, eine kleinere und effizientere Version des Modells zu entwickeln, damit mehr Menschen auf seine Fähigkeiten zugreifen können.

**Wie senken wir die Kosten?**

**Google-Experte:** Eine Möglichkeit ist, die Hardware zu optimieren. Deshalb bringt Google Ironwood in diesem Jahr auf den Markt. Die TPU ist durch ihr Inference-First-Design für Inferenz optimiert: Sie bietet mehr Rechenleistung und Speicher und ist auf bestimmte Zahlentypen ausgelegt. Auf der Softwareseite verbessert Google seine Compiler und Frameworks. Langfristig soll KI-Inferenz effizienter werden: bessere Qualität bei geringerem Ressourcenbedarf und niedrigeren Kosten, damit sie hilfreich sein kann.

Entdecke die Ailoot-API-Dokumentation unter [ailoot.ai/docs](https://ailoot.ai/docs/).


## Ailoot · Das Unternehmen und sein Projektportfolio

Ailoot baut auf bewährte Betriebserfahrung, einen großen Kundenstamm, stabilen Service und kontinuierliche KPI-Kontrolle.

Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe.

Ailoot nutzt diese Betriebserfahrung für den API-Zugang zu KI-Funktionen in Kundenprodukten, Agenten, Anwendungen und Automatisierungen.
