Plataformas de dados

Uma plataforma moldada pelas suas perguntas.

Reúna registros dos seus sistemas em modelos de dados que sua equipe possa consultar e manter. Projetamos warehouses e lakehouses conforme as perguntas, as permissões e as cargas de trabalho que a plataforma precisa atender.

O que construímos

  • Projeto de warehouses e lakehouses para a infraestrutura acordada
  • Modelos de dados com fontes, cálculos e definições de negócio documentados
  • Regras de acesso e responsáveis pelos conjuntos de dados e pelas métricas
  • Ajustes de consultas, políticas de armazenamento e testes de carga com estimativas de custo

Provas

Oxford Economics

Até 2019, tínhamos trabalhado com a Oxford Economics por sete anos. Reconstruímos o site, o portal de clientes e as ferramentas de publicação para que os economistas pudessem enviar relatórios e os assinantes encontrá-los.

Ler o caso

Envio360

Para a Envio360, construímos uma arquitetura multi-tenant e trabalhamos no envio de dados de TMS para planejar cargas. Era software de otimização anterior à era dos LLMs.

Ler o caso
Arquitetura multi-tenant · Dados de TMS
As decisões de arquitetura e de design que a sophilabs tomou no início compensaram muito.
Arvindra SehmiCIO, Oxford Economics

Quando os times nos procuram

  • Sistemas diferentes mostram números distintos para a mesma métrica
  • Analistas precisam de ajuda da engenharia para acessar ou combinar dados
  • Os custos de armazenamento ou de consultas estão difíceis de explicar

Definir o que cada número significa

Por exemplo, um relatório de receita pode agrupar faturas pela data de emissão e outro contar os pagamentos recebidos. Revisamos as fontes, as fórmulas e os filtros por trás dos números para identificar as definições de que cada equipe precisa.

Documentamos as definições acordadas e seus responsáveis e construímos os modelos e as permissões a partir delas. Escolhemos as ferramentas de armazenamento e consulta conforme os dados, as cargas de trabalho, os custos e as pessoas que vão manter a plataforma.

Como construímos

  1. Identificar perguntas e fontes

    levantar as decisões, os registros e os acessos necessários

  2. Definir o modelo de dados

    documentar cálculos, relações e responsáveis

  3. Construir e testar a plataforma

    verificar consultas, permissões, desempenho e custo

  4. Preparar a operação

    documentar a manutenção, os responsáveis e a revisão de mudanças

O que a plataforma precisa atender

Perguntas do negócio

Escolher os relatórios, as análises e as aplicações do primeiro escopo. Verificar se os dados de origem estão disponíveis e definir como conferir as respostas.

Definições documentadas

Registrar a fórmula, a fonte, os filtros e o responsável por cada métrica. Quando as equipes precisarem de visões diferentes, explicitar essas diferenças no modelo e nos relatórios.

Infraestrutura e custo

Revisar as consultas, o armazenamento, a retenção dos dados e o uso previsto. Testar opções como particionamento ou cache conforme a carga de trabalho e comparar seus custos operacionais.

Mudanças no modelo

Revisar como uma nova pergunta afeta as fontes, os esquemas, os relatórios e as permissões. Planejar a migração e os testes necessários; algumas solicitações vão exigir mais dados ou desenvolvimento.

As entregas incluem os modelos, as definições, as permissões e a documentação operacional do escopo acordado.

Funciona bem com

Perguntas frequentes

  • Warehouse ou lakehouse?

    Comparamos os formatos de dados, as consultas, a frequência de atualização, a infraestrutura existente e os custos operacionais. Esses requisitos orientam a escolha.

  • Migrar ou reconstruir?

    Revisamos o que a plataforma atual atende e o que o trabalho proposto exige. O plano pode manter componentes, migrar algumas cargas de trabalho ou substituir partes que já não atendem aos requisitos.

  • Qual fornecedor devemos escolher?

    Comparamos integrações, controles de acesso, desempenho, preços e ferramentas que sua equipe possa manter. A recomendação segue esses requisitos.

  • Isso é um pré-requisito para IA?

    Depende do caso de uso de IA. Revisamos os registros, documentos, permissões e a frequência de atualização de que ele precisa. Algumas tarefas podem usar as fontes existentes; outras precisam de preparação ou mudanças na plataforma. Definimos esse trabalho a partir da tarefa escolhida.

  • Quanto tempo até vermos algo?

    Estimamos o primeiro escopo utilizável depois de revisar as perguntas, fontes, acessos e integrações. O plano identifica dependências, critérios de aceitação e ordem de entrega. O prazo depende do que encontrarmos nessa revisão.

  • Quem a opera depois de construída?

    Acordamos com sua equipe os responsáveis e a transferência da operação, incluindo documentação, acessos, monitoramento e manutenção. Se quiser que continuemos desenvolvendo ou operando a plataforma, definimos o escopo e o preço desse trabalho.

  • E se nossas perguntas ainda estiverem mudando?

    Começamos pelas perguntas que podem ser definidas agora e documentamos as premissas. Diante de novas necessidades, revisamos seu efeito sobre o modelo, as fontes, as permissões e o custo antes de acordar as próximas mudanças.

O que sua equipe precisa encontrar nos dados?