Databricks – Quelldaten mit Lakeflow kontrolliert übernehmen
Kursüberblick
Entwickeln Sie einen Datenimport, der neue, geänderte und verspätete Datensätze nachvollziehbar verarbeitet. Sie verbinden Lakeflow Connect, Pipelines und Jobs mit Qualitätsprüfungen und einer begründeten Behandlung von Schemaänderungen.
Dauer: 3 Tage.
Ihre Lernziele
Lakeflow-Komponenten passend zum Datenimport kombinieren.
Änderungsdaten mit nachvollziehbarer Reihenfolge und Wiederholbarkeit verarbeiten.
Qualitäts- und Schemafehler kontrolliert behandeln.
Inhalte im Detail
Quelltypen und verfügbare Lakeflow-Connect-Integrationen nach Aktualität und Änderungsverfahren auswählen.
Dateieingang mit Auto Loader oder vereinbartem Connector gegen unvollständige Lieferungen absichern.
Lakeflow-Pipelines mit Streaming Tables und materialisierten Sichten für einen kleinen Datenweg gestalten.
AUTO CDC, Reihenfolge und fachliche Schlüssel bei Änderungsdaten und Löschmeldungen berücksichtigen.
Qualitätsbedingungen, Quarantänedaten und kontrollierte Schemaentwicklung in den Datenfluss integrieren.
Lakeflow Jobs, Wiederaufnahme und Betriebsmetriken mit dokumentierten Abhängigkeiten verbinden.
Praktische Übungen
Übernehmen Sie einen synthetischen Erstbestand und nachfolgende Änderungen und prüfen Sie den Endzustand gegen eine unabhängige Solltabelle.
Spielen Sie verspätete und doppelte Änderungen ein und begründen Sie anhand fachlicher Schlüssel die korrekte Verarbeitung.
Bearbeiten Sie einen unerwarteten Schemawechsel und dokumentieren Sie, welche Daten akzeptiert, ausgesondert oder erneut eingelesen werden.
Zielgruppe
Data Engineers und Integrationsentwickler.
Voraussetzungen
Python, SQL und erste Databricks-Erfahrung.
Software und Übungsumgebung
Getrennter Databricks-Workspace mit Unity Catalog, synthetischen Datensätzen und begrenztem Cloudbudget. Cloudanbieter, Region, Runtime und benötigte Funktionen werden vorab festgelegt; Vorschaufunktionen sind kein vorausgesetzter Bestandteil. Quellconnector und gegebenenfalls zusätzliche Berechtigungen werden vorab abgestimmt.
Teilnahmebestätigung
Sie erhalten eine Teilnahmebestätigung von SCN.
Einordnung des Seminars
Aufbaukurs für Teilnehmende mit praktischer Erfahrung in den genannten Voraussetzungen.
Ansprechpartner
Ihre Berater für das Training Databricks – Quelldaten mit Lakeflow kontrolliert übernehmen
Wir bieten Ihnen Seminare mit einem hohen Praxisbezug an. Die Inhalte und Übungen sind auf Ihre täglichen Aufgaben im Unternehmen ausgerichtet und verzichten vollständig auf Werbehinweise anderer Produkte des Softwareherstellers.
Alle Trainings bei uns sind herstellerunabhängig. Dies ermöglicht es uns kritische Betrachtungen zu den Produkten selbst und Vergleiche zu Wettbewerbern des Herstellers im Seminar anzubieten. Die Kursinhalte sind eigene Inhalte und aus den praktischen Erfahrungen unserer Trainer in Projekten abgeleitet.
Selbstverständlich können die Inhalte bei Firmenseminaren individuell an Ihre Bedürfnisse angepasst werden. Bitte sprechen Sie uns einfach an.
Buchung
Das Seminar wurde auf die Merkliste gesetzt
Das von Ihnen gewählte Seminar wurde bereits auf die Merkliste gesetzt
Bitte wählen Sie einen freien Termin aus
Bitte geben Sie Ihren Wunschtermin im Format tt.mm.jjjj ein
Bitte wählen Sie einen freien Termin aus
Bitte geben Sie den gewünschten Termin im Format tt.mm.jjjj der Schulung ein