Technologien

Synthetische Daten und Simulation

Die meisten festgefahrenen KI-Projekte scheitern nicht am Modell. Sie sind durch die Daten blockiert: Die interessanten Fälle sind selten, die Annotation kostet mehr als das Budget, der Sensor oder die Umgebung existiert noch nicht, oder die Daten dürfen das Haus aus rechtlichen Gründen nicht verlassen.

Ansätze
Gerendert · Generativ · World Models
Ground Truth
Exakt durch Konstruktion
Lücke gemessen durch
Synthetisch trainieren, real testen
Erster Schritt
Zweiwöchige Bewertung
Der Engpass

Selten ist die Architektur der Engpass. Es sind die Daten.

Synthetische Daten sind die übliche Antwort, und sie ist gut, wenn der Generator in der Physik oder der Struktur der Aufgabe verankert ist und die Lücke zur Realität gemessen wird. Sie ist schlecht, wenn das Ergebnis nur plausibel aussieht. Plausibel ist nicht dasselbe wie korrekt, und ein Modell, das auf plausiblen Daten trainiert wird, lernt die Artefakte des Generators statt dessen, was es eigentlich lernen sollte.

01

Die interessanten Fälle sind selten

Das Ereignis, das Ihr Modell am dringendsten erkennen muss, ist zweimal vorgekommen. Keine Datenerhebung wird Ihnen zehntausend Beispiele davon liefern.

02

Die Annotation kostet mehr als das Budget

Expertenannotation auf Spezialdaten ist langsam und teuer, und die Menschen, die dafür qualifiziert sind, können Sie am wenigsten von ihrer übrigen Arbeit abziehen.

03

Die Daten existieren nicht oder dürfen nicht genutzt werden

Sie spezifizieren ein System um einen Sensor, der noch in Entwicklung ist, oder für eine Umgebung, die nie gebaut wurde. Es gibt also kein Archiv, auf das Sie zurückgreifen könnten. Oder die Daten existieren, aber Datenschutz, Exportkontrolle oder Geheimhaltung verhindern, dass sie je eine Trainings-Pipeline erreichen.

Einordnung

Was synthetische Daten lösen und was nicht

Sie lösen kein schlecht definiertes Problem, und sie machen echte Daten nicht überflüssig. Sie führen eine Domänenlücke ein. Diese ist eine technische Größe, die gemessen werden muss, kein Risiko, das man beiseiteschiebt. Halten Sie vom ersten Tag des Programms an ein echtes, zurückgehaltenes Validierungsset vor.

Dieselbe Fabrikszene als echtes Foto mit drei spärlichen Annotationsboxen und als synthetisches Rendering mit dichten Segmentierungsmasken
Annotationskosten
Die Ground Truth kommt exakt und kostenlos aus dem Generator, nicht als bestmögliche Deutung eines mehrdeutigen Pixels durch einen Annotator.
Seltene Klassen
Sie können zehntausend Beispiele des Ereignisses erzeugen, das zweimal vorgekommen ist, in genau der Verteilung, die der Trainingslauf braucht.
Abdeckung
Beleuchtung, Geometrie, Wetter, Verschleiß und Sensorkonfiguration lassen sich systematisch variieren, statt darauf zu hoffen, dass die Datenerhebung sie zufällig enthielt.
Daten, die nicht geteilt werden dürfen
Nichts im Datensatz stammt von einem Kunden, einem Patienten, einer Produktionslinie oder aus einer eingeschränkten Erhebung. Er unterliegt deshalb anderen Regeln.
Methode

Drei Ansätze für unterschiedliche Zwecke

Die meisten ernsthaften Programme kombinieren sie am Ende. Physik oder Rendering liefert das Signal, generative Methoden erweitern die Störvariation darum herum, und ein gelerntes Modell schließt den Regelkreis.

  1. Eine Roboterzelle, im Viewport einer Simulation gerendert, zur Hälfte fotorealistisch und zur Hälfte als Drahtgitter
    01

    Gerenderte und physikalisch simulierte Daten

    Ein Renderer oder ein Solver erzeugt die Beobachtung: Game Engines und Robotiksimulatoren für Szenen und Interaktion, CAD-basiertes Rendering für Teile und Baugruppen, spezialisierte Solver, wo eine bestimmte Sensorphysik reproduziert und nicht nur angenähert werden muss. Der Vorteil ist nicht der Realismus. Der Vorteil ist, dass jedes denkbare Label mit dem Bild herauskommt: pixelgenaue Segmentierung, Tiefe, Oberflächennormalen, 3D-Pose, Verdeckungsmarker, Materialzuordnung. Das richtige Werkzeug, wenn das Label von Physik oder Geometrie abhängt und wenn Sie Parameter steuern müssen, statt zu nehmen, was die Realität zufällig hervorgebracht hat.

  2. Fünf generativ veränderte Varianten desselben Fotos einer Schweißnaht: Rost, Blendlicht, Staub, Farbe und ein Kratzer
    02

    Generative Augmentierung

    Diffusionsmodelle und verwandte Verfahren erweitern Erscheinungsbild, Hintergrund und Stil kostengünstig und können Variation per Inpainting in echte Bilder einfügen, die Sie bereits haben. Nützlich für Störvariation. Die Grenze ist klar: Hängt das korrekte Label von Physik ab, die dem Generator nie beigebracht wurde, ist ein überzeugendes Bild mit falschem Label schlechter als gar kein Bild.

  3. Ein Filmstreifen vorhergesagter künftiger Bilder einer Lagerhalle, während sich ein Roboter vorwärtsbewegt
    03

    World Models

    Ein gelernter Simulator, der die nächste Beobachtung abhängig von Zustand und Aktion vorhersagt. In ihm können Sie handeln, statt nur Stichproben daraus zu ziehen. Gut geeignet für Policy-Pretraining, Exploration und eine breite Szenarioabdeckung, mit Einschränkungen, die beachtet werden müssen.

Ein mobiler Roboter in einer simulierten Lagerhalle mit drei auseinanderlaufenden vorhergesagten Pfaden und angedeuteten künftigen Positionen entlang jedes Pfads
World Models

Ein World Model ist ein gelernter Simulator: Sie können darin handeln, nicht nur Stichproben daraus ziehen.

Das ist aus drei Gründen wichtig. Policies lassen sich im geschlossenen Regelkreis trainieren und, noch wichtiger, evaluieren, ohne Hardware in the Loop und ohne physische Testzelle. Kontrafaktische Rollouts werden möglich: Sie können fragen, was passiert wäre, wenn der Bediener oder die Steuerung anders gehandelt hätte, auch in Situationen, die niemand an echten Anlagen ausprobieren will. Und die Szenarioabdeckung ist nicht mehr darauf beschränkt, was sich der Autor eines geskripteten Simulators ausgedacht hat.

Die ehrlichen Einschränkungen sind ebenso wichtig. Ein World Model eignet sich gut für Policy-Pretraining, Exploration und eine breite Szenarioabdeckung. Es ist kein Sicherheitsnachweis, und wo physikalische Korrektheit das Abnahmekriterium ist, bleibt eine validierte Physiksimulation die Referenz.

Geeignet für
Policy-Pretraining Evaluierung im geschlossenen Regelkreis Kontrafaktische Rollouts Szenarioabdeckung
Ehrliche Einschränkungen
Gelernte Dynamik driftet über lange Zeithorizonte
Physikalische Konsistenz ist durch das Trainingsziel nicht garantiert
Das Modell übernimmt jeden Bias aus seinen Trainingsdaten
Kein Sicherheitsnachweis
Wo Korrektheit das Kriterium ist, bleibt validierte Physik die Referenz

Computer Vision

Wo sich synthetische Daten meist zuerst auszahlen

Bewährt hat sich meist folgendes Muster: Pretraining auf einem großen synthetischen Datensatz, Fine-Tuning auf einem kleinen, sorgfältig ausgewählten realen Datensatz, und der reale Datensatz bleibt für eine ehrliche Evaluierung reserviert.

Ein gerendertes Gussgehäuse mit einem Haarriss, daneben die pixelgenaue Maske des Risses

Seltene Fehler und seltene Ereignisse

Die Klassen, die Sie am dringendsten erkennen müssen, sind die mit den wenigsten Beispielen. Genau dort stößt ein Ansatz, der auf Datenerhebung beruht, an seine Grenzen. Ein Generator erzeugt sie in großer Zahl, jedes Beispiel mit seinem Label, während die wenigen echten Beispiele für den Test zurückgehalten werden.

Vorteile:

Masse für Fehler, die Sie kaum je gesehen haben
Das Label entsteht zusammen mit dem Bild
Echte Beispiele bleiben für die Evaluierung reserviert
Ein Raster desselben gefrästen Teils, gerendert unter vielen unterschiedlichen Beleuchtungs-, Hintergrund-, Oberflächen- und Kamerabedingungen

Systematische Abdeckung von Störfaktoren

Beleuchtung, Pose, Verdeckung, Oberflächengüte, Objektiv, Hintergrund und Sensoreigenschaften werden gezielt variiert, statt auf sie zu hoffen. Das unterscheidet in der Regel ein Modell, das eine neue Produktionslinie übersteht, von einem, das es nicht tut.

Vorteile:

Bedingungen gezielt variiert
Robust gegenüber neuer Linie oder Kamera
Abdeckung, die Sie belegen können, statt sie zu erhoffen
Eine gerenderte Roboterzelle neben ihrer Segmentierungsmaske und ihrer Tiefenkarte

Pixelgenaue Ground Truth

Segmentierung, Tiefe und Pose in Mengen, die manuelle Annotation nicht erreicht, und mit einer Genauigkeit, die Annotation nicht erreichen kann.

Vorteile:

Bedingungen gezielt variiert
Robust gegenüber neuer Linie oder Kamera
Abdeckung, die Sie belegen können, statt sie zu erhoffen
Ein gerenderter Krankenhausflur mit gesichtslosen Puppenfiguren, jede von einer farbigen Segmentierungsmaske umrandet

Datenschutz und Vertraulichkeit

Wo Gesichter, Personen, Patientendaten oder Innenansichten von Anlagen überhaupt nicht für das Training genutzt werden dürfen. Gerenderte Personen und Umgebungen geben einem Detektionsmodell, was es braucht, ohne dass eine echte Person oder ein echter Standort in den Daten auftaucht.

Vorteile:

Keine echte Person im Trainingsdatensatz
Nutzbar, wo echte Daten eingeschränkt sind
Szenen, gebaut für genau den Fall, den Sie brauchen
Ein Raster prozedural generierter Formulare, Tabellen, Diagramme und technischer Zeichnungen, deren Felder jeweils als Ground-Truth-Boxen markiert sind
Vision-Language-Modelle

Besonders wirkungsvoll für VLMs, weil das Label Text ist und Sie Inhalt und Antwort gleichzeitig erzeugen.

Dokumente, Formulare, Tabellen, Diagramme, technische Zeichnungen und Benutzeroberflächen lassen sich prozedural generieren: Layout aufbauen, rendern und aus derselben Struktur die Fragen samt korrekten Antworten ausgeben. Das Modell sieht ein Bild und eine Frage, und die Ground Truth ist exakt durch Konstruktion statt durch Annotation. Grounding und räumliches Schließen profitieren auf dieselbe Weise: Bounding Boxes, referenzierende Ausdrücke, Anzahlen und relative Positionen sind bekannt, weil die Szene konstruiert und nicht erschlossen wurde.

Domänenspezifische Instruktionsdaten sind der dritte Fall. Für industrielle, technische und regulierte Inhalte gibt es in öffentlichen Korpora oft nichts Brauchbares. Aufgabenspezifische Beispiele zu generieren ist dann der einzige realistische Weg zu ausreichender Abdeckung.

Eine Warnung. Generierter Text und generiertes Layout tragen die Vorlagen ihres Generators in sich, und Modelle passen sich schneller an Vorlagen über als an Bilder. Variieren Sie die Generatoren selbst, nicht nur die Parameter innerhalb eines Generators, und validieren Sie von Anfang an gegen echte Dokumente.

Prozedural generiert
Dokumente & Formulare Tabellen & Diagramme Technische Zeichnungen Benutzeroberflächen
Exakt durch Konstruktion
Fragen und korrekte Antworten
Bounding Boxes
Referenzierende Ausdrücke
Anzahlen und relative Positionen
Domänenspezifische Instruktionsdaten

Die Domänenlücke, sichtbar gemacht

Kamerafoto derselben zwölf Teile auf dem Förderband mit Staub, Bearbeitungsspuren, Glanzlichtern und Sensorrauschen
Real · Kamera
Gerendertes Simulationsbild von zwölf Teilen auf einem Förderband mit gleichmäßiger Beleuchtung und sauberen Oberflächen
Synthetisch · Gerendert
≡

Beide Bilder zeigen dieselben zwölf Teile aus derselben Kameraposition. Links ein gerendertes Bild aus einer Simulations-Pipeline: gleichmäßige Beleuchtung, saubere Oberflächen und ein kostenloses Label für jedes Pixel. Rechts dieselbe Szene durch eine echte Kamera: Staub auf dem Band, Bearbeitungsspuren, ungleichmäßige Glanzlichter, Schärfentiefe, Sensorrauschen, ein leicht verrutschtes Teil. Alles, was sich beim Ziehen des Schiebereglers verändert, ist die Domänenlücke. Sie ist eine technische Größe, die an echten, zurückgehaltenen Daten gemessen wird, kein Risiko, über das man debattiert. Ziehen Sie den Schieberegler, um das gerenderte mit dem echten Bild zu vergleichen.

Sim-to-Real

Sim-to-Real ist das eigentliche technische Problem

Den Generator zu bauen ist die sichtbare Hälfte. Diese Fragen entscheiden, ob das Programm funktioniert.

01

Was randomisieren wir, und wie weit? Die falschen Parameter zu randomisieren verschwendet Rechenleistung, zu wenig Randomisierung macht das Modell fragil.

02

Wie ist das Mischungsverhältnis zwischen synthetischen und realen Daten, und wann überprüfen wir es, wenn der reale Datensatz wächst?

03

Wie messen wir die Lücke direkt, also durch Training auf synthetischen Daten und Evaluierung auf realen, zurückgehaltenen Daten, statt die Bilder anzusehen und zu beurteilen, ob sie überzeugend wirken?

04

Wann ist der Generator gut genug? Ab einem gewissen Punkt verbessert mehr Detailtreue die nachgelagerte Genauigkeit nicht mehr. Diese Frage lässt sich früh empirisch beantworten, statt ein Jahr lang darüber zu streiten.

Das echte Kamerabild, an dem das synthetisch trainierte Modell evaluiert wird
Die Kennzahl, die zählt
Synthetisch trainiert, real evaluiert. Jede andere Zahl ist ein Stellvertreter.
Evaluierung

Ein Generator liefert Ihnen kontrollierte Testsets

Dieselbe Szene bei Nebel und bei klarem Himmel. Derselbe Fehler in fünf Schweregraden. Dasselbe Dokument in zwölf Layouts. So entsteht eine Regressions-Suite, die zeigt, woran ein Modell scheitert. Das ist weit aufschlussreicher als eine einzelne aggregierte Genauigkeitszahl.

  1. Vier Renderings derselben Palette, jeweils mit einer veränderten und markierten Bedingung
    01

    Kontrollierte Variation

    Ein Faktor wird nach dem anderen verändert. Ein Genauigkeitsverlust verweist dann auf eine Ursache, statt eine Frage aufzuwerfen.

  2. Ein Kratzer, gerendert in fünf zunehmenden Schweregraden über einer Skala von Grün nach Rot
    02

    Abgestufter Schweregrad

    Derselbe Fehler oder dieselbe Beeinträchtigung in fünf Stufen. Aus einer Bestanden-oder-nicht-Zahl wird so eine Kurve, mit der Sie arbeiten können.

  3. Ein Raster einer Regressions-Suite mit Testfällen gegen Modellversionen, neue Fehlschläge in der jüngsten Spalte
    03

    Eine echte Regressions-Suite

    Bei jeder Modelländerung erneut ausführbar. So bemerken Sie eine schleichende Verschlechterung selbst, statt dass ein Kunde sie meldet.

Synthetische Daten sind für die Evaluierung oft wertvoller als für das Training. Und genau diesen Teil lassen die meisten Teams aus.

Zweiwöchige Bewertung

So sieht ein erstes Projekt aus

Wir klären, ob synthetische Daten der richtige Hebel für Ihr Problem sind. Wenn eine bessere Annotation eines realen Datensatzes günstiger ist, sagen wir Ihnen das.

1

Ist das der richtige Hebel?

Ob synthetische Daten Ihren tatsächlichen Engpass adressieren oder ob das Problem an einer Stelle liegt, die ein Generator nie erreichen wird.

2

Welche Detailtreue verlangt die Aufgabe?

Die nachgelagerte Aufgabe setzt den Maßstab, nicht der Generator. Wir klären, wie viel Detailtreue das Modell wirklich braucht, bevor irgendjemand anfängt, einen Generator zu bauen.

3

Welcher der drei Ansätze passt?

Gerendert und physikalisch simuliert, generative Augmentierung, ein World Model oder die Kombination, die das Problem tatsächlich verlangt.

4

Spezifikation und Validierungsstrategie

Eine Kostenschätzung dafür, diese Detailtreue zu erreichen, und, falls synthetische Daten die richtige Antwort sind, eine Spezifikation für den Generator samt zugehöriger Validierungsstrategie.

Strategie- & Architektur-Review vereinbaren

Sagen Sie uns, was Ihr Modell noch nicht lernen kann.

Wenn der Engpass bei den Daten liegt und nicht bei der Architektur, sagen wir Ihnen, ob ein Generator der günstigste Weg ist und was nötig wäre, um dem Ergebnis zu vertrauen.

Strategie- & Architektur-Review vereinbaren
nAIxt Technologies GmbH
Am Forst 2
82166 Gräfelfing, Deutschland
+49 89 54196515
info@naixt-technologies.de