Pular para conteúdo

controle de fluxo

nós de controle definem quando, como e por qual caminho a execução do pipeline avança — desde o disparo (agendamento, webhook), passando por bifurcações condicionais, até a validação e a gravação final no lakehouse.


nós disponíveis

categoria o que faz
webhook trigger disparo inicia o pipeline por uma chamada http externa (post), expondo o corpo da requisição como tabela
branch roteamento divide a execução em dois caminhos (verdadeiro/falso) conforme uma condição
split roteamento divide os registros em múltiplos segmentos nomeados para tratamento diferenciado
merge consolidação une os dados de múltiplos nós upstream em um único dataset
join consolidação cruza dois nós por uma chave comum (inner/left/right/full)
iterador repetição executa um sub-fluxo para cada item de uma lista (loop)
coletor repetição agrega os resultados de múltiplas iterações do iterador em um único dataset
sql transformação livre executa sql arbitrário sobre os dados de um ou mais nós do pipeline
schema cast qualidade / tipagem infere e tipifica colunas antes da camada bronze
quality gate qualidade valida regras de qualidade e bloqueia o pipeline se falharem, sem persistir dado
lakehouse writer persistência grava o resultado do pipeline em qualquer lakehouse do workspace
staging (renomeado) nome antigo do quality gate — mantido apenas por compatibilidade

como escolher

  • precisa iniciar o pipeline por um evento externo (em vez de agendamento)? use webhook trigger.
  • o fluxo precisa seguir caminhos diferentes conforme uma condição? use branch (dois caminhos) ou split (múltiplos segmentos nomeados).
  • precisa repetir uma sequência de nós para cada item de uma lista? combine iterador + coletor.
  • a lógica é mais fácil de expressar em sql puro do que em nós lowcode? use sql.
  • os dados precisam ser tipificados antes de entrar na camada bronze? use schema cast.
  • precisa barrar o pipeline se os dados não atenderem a critérios de qualidade? use quality gate.
  • é hora de persistir o resultado no lakehouse? todo pipeline termina em um lakehouse writer.

fluxo típico completo

[webhook trigger ou agendamento]
[fonte(s) de dados]
[branch / split]  (opcional — roteamento condicional)
[fábrica: transformações]
[schema cast]  (opcional — antes da camada bronze)
[quality gate]  (bloqueia se a qualidade falhar)
[lakehouse writer]  (grava na camada bronze/silver/gold)
[notificação por e-mail]  (opcional — avisa a equipe do resultado)