Pular para conteúdo

armazenamento

esta página explica como os dados do lakehouse são fisicamente organizados, do ponto de vista de quem administra a plataforma — sem entrar em detalhes de infraestrutura interna, que não são relevantes (nem configuráveis) para o cliente.

formato aberto

todos os dados gravados no lakehouse usam Parquet, um formato de arquivo colunar aberto, mantido pela comunidade e suportado por praticamente qualquer ferramenta de dados do mercado (motores de consulta, plataformas de bi, notebooks de análise, etc.).

essa escolha é deliberada: significa que os dados da sua empresa nunca ficam presos a um formato proprietário. se em algum momento vocês quiserem processar esses dados fora da datablixt, os arquivos Parquet continuam perfeitamente legíveis por qualquer outra ferramenta compatível.

compatibilidade com object storage S3

o armazenamento interno da datablixt segue o padrão de object storage compatível com S3 — o mesmo modelo de armazenamento usado pelos principais provedores de nuvem do mercado. isso traz duas vantagens práticas:

  • escalabilidade: o armazenamento cresce conforme o volume de dados, sem necessidade de provisionar capacidade manualmente;
  • portabilidade de conceito: se sua empresa já usa buckets S3 ou compatíveis como fonte externa de dados (por exemplo, arquivos que chegam de um parceiro), o mesmo padrão de acesso é usado nos conectores de origem — não é preciso aprender um modelo de armazenamento diferente.

S3/MinIO como fonte externa do cliente

é possível conectar um bucket S3 (ou compatível, como um MinIO que sua empresa já opere) como fonte de dados em um workflow — isso é diferente do armazenamento interno do lakehouse, que é gerenciado inteiramente pela datablixt e não requer nenhuma configuração de infraestrutura por parte do cliente.

organização automática

cada lakehouse tem sua própria área isolada dentro do armazenamento, e dentro dela cada tabela fica em seu próprio diretório — o que garante que:

  • tabelas de lakehouses diferentes nunca se misturam, mesmo dentro do mesmo workspace;
  • apagar uma tabela ou um lakehouse remove exatamente os arquivos daquele escopo, sem afetar o restante;
  • o particionamento dos arquivos é gerenciado automaticamente pela plataforma — você não precisa (nem consegue) configurar manualmente como os arquivos são divididos fisicamente.

compressão

os arquivos Parquet gravados pela plataforma já vêm comprimidos automaticamente, reduzindo o espaço de armazenamento ocupado e acelerando a leitura pelo catálogo e pelos workflows — sem nenhuma configuração adicional necessária.

por que isso importa para o negócio

o cliente nunca precisa se preocupar em dimensionar, provisionar ou operar a infraestrutura de armazenamento por trás do lakehouse — isso é responsabilidade da plataforma. o que importa para o cliente é que os dados ficam em formato aberto, organizados automaticamente, e sempre disponíveis para consulta pelo catálogo ou download direto.