Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

cria a views de dados historicos no dataset monitoramento #258

Merged
merged 46 commits into from
Jan 16, 2025
Merged
Show file tree
Hide file tree
Changes from 35 commits
Commits
Show all changes
46 commits
Select commit Hold shift + click to select a range
f2493ad
cria a view sumario_servico_dia_pagamento_historico
vtr363 Oct 3, 2024
287f92a
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 3, 2024
19b7eaa
atualiza changelog
vtr363 Oct 3, 2024
5f6aa0d
substituição de datas por variaveis
vtr363 Oct 4, 2024
97f1889
move sumario_servico_dia_pagamento_historico para o dataset monitoram…
vtr363 Oct 4, 2024
ef0ec98
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 4, 2024
35b8cf2
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 4, 2024
970fbd7
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 6, 2024
666dc2a
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 7, 2024
2144caf
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 8, 2024
d55d1d6
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 9, 2024
530f759
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 9, 2024
3339ab6
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 9, 2024
f9ecd2a
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 9, 2024
17351d4
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 10, 2024
b9db3ce
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 16, 2024
7384ed9
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 16, 2024
5b1d0a4
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 16, 2024
72b5b72
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 17, 2024
5bdd44c
cria modelo sumario_servico_dia_tipo_viagem_historico
vtr363 Oct 21, 2024
b69c809
[pre-commit.ci] auto fixes from pre-commit.com hooks
pre-commit-ci[bot] Oct 21, 2024
5bc27a8
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 21, 2024
586678d
cria modelo monitoramento_viagem_transacao
vtr363 Oct 22, 2024
ca67485
[pre-commit.ci] auto fixes from pre-commit.com hooks
pre-commit-ci[bot] Oct 22, 2024
f6bf921
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 22, 2024
64f1919
Merge branch 'main' into view-subsidio-historico
vtr363 Oct 22, 2024
b1d9a7d
atualiza changelog e corrig referencias dos modelos
vtr363 Oct 22, 2024
6a3df51
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 22, 2024
4905aff
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 22, 2024
a6005a0
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 22, 2024
9b4c661
Corrige tolerancia a partir da primeira viagem
vtr363 Oct 23, 2024
5e227d6
corrige para iniciar 1 seg apos a ultima viagem
vtr363 Oct 23, 2024
eba1490
Refatora viagem_com_tolerancia
vtr363 Oct 23, 2024
68f0119
corrige cte chegada_anterior
vtr363 Oct 23, 2024
596aec5
altera modelos de view para incremental
vtr363 Dec 9, 2024
f2b8f4d
altera materialização das tabelas historicas
vtr363 Dec 27, 2024
5a70d2e
corrige referencias
vtr363 Dec 27, 2024
f9f8920
atualiza changelog e adiciona labels
vtr363 Jan 6, 2025
dd0c0df
adiciona label em viagem_completa e atualiza changelog
vtr363 Jan 6, 2025
82029e4
Merge branch 'main' into view-subsidio-historico
vtr363 Jan 8, 2025
9c861d0
adiciona materialização de tabelas historicas ao selector
vtr363 Jan 8, 2025
2de0a71
move modelos ephemeral para staging e altera modelo mnitoramento_serv…
vtr363 Jan 10, 2025
0ebe90a
[pre-commit.ci] auto fixes from pre-commit.com hooks
pre-commit-ci[bot] Jan 10, 2025
e83adcf
Merge branch 'main' into view-subsidio-historico
mergify[bot] Jan 16, 2025
609c472
adiciona data a variavel DATA_SUBSIDIO_V9A_INICIO
vtr363 Jan 16, 2025
582f919
[pre-commit.ci] auto fixes from pre-commit.com hooks
pre-commit-ci[bot] Jan 16, 2025
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
2 changes: 2 additions & 0 deletions queries/dbt_project.yml
Original file line number Diff line number Diff line change
Expand Up @@ -123,6 +123,8 @@ vars:
DATA_SUBSIDIO_V8_INICIO: "2024-07-20"
# Feature Apuração por faixa horária
DATA_SUBSIDIO_V9_INICIO: "2024-08-16"
# Feature desconsideração de km não vistoriado e não licenciado
DATA_SUBSIDIO_V10_INICIO: "2024-09-01"
# valor_subsidio: "`rj-smtr-dev.projeto_subsidio_sppo.valor_subsidio`"

# Recursos #
Expand Down
Original file line number Diff line number Diff line change
@@ -0,0 +1,100 @@
{{
config(
materialized="incremental",
partition_by={"field": "data", "data_type": "date", "granularity": "day"},
incremental_strategy="insert_overwrite",
)
}}
WITH
pre_faixa_horaria AS (
SELECT
data,
tipo_dia,
consorcio,
servico,
vista,
viagens,
km_apurada,
km_planejada,
perc_km_planejada,
valor_subsidio_pago,
valor_penalidade
FROM
{{ ref('sumario_servico_dia_historico')}}
-- `rj-smtr.dashboard_subsidio_sppo.sumario_servico_dia_historico`
WHERE
data < DATE("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
{% if is_incremental() %}
AND data BETWEEN DATE("{{ var("start_date") }}")
AND DATE_ADD(DATE("{{ var("end_date") }}"), INTERVAL 1 DAY)
{% endif %} ),
planejada AS (
SELECT
DISTINCT data,
consorcio,
servico,
vista
FROM
{{ ref('viagem_planejada')}}
-- `rj-smtr.projeto_subsidio_sppo.viagem_planejada`
WHERE
data >= DATE("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
AND (id_tipo_trajeto = 0
OR id_tipo_trajeto IS NULL)
AND FORMAT_TIME("%T", TIME(faixa_horaria_inicio)) != "00:00:00" ),
pagamento AS (
SELECT
data,
tipo_dia,
consorcio,
servico,
vista,
viagens_dia AS viagens,
CASE
WHEN data >= DATE("{{ var("DATA_SUBSIDIO_V10_INICIO") }}") THEN COALESCE(km_apurada_registrado_com_ar_inoperante,0) + COALESCE(km_apurada_autuado_ar_inoperante,0) + COALESCE(km_apurada_autuado_seguranca,0) + COALESCE(km_apurada_autuado_limpezaequipamento,0) + COALESCE(km_apurada_licenciado_sem_ar_n_autuado,0) + COALESCE(km_apurada_licenciado_com_ar_n_autuado,0) + COALESCE(km_apurada_sem_transacao, 0)
ELSE COALESCE(km_apurada_registrado_com_ar_inoperante,0) + COALESCE(km_apurada_autuado_ar_inoperante,0) + COALESCE(km_apurada_autuado_seguranca,0) + COALESCE(km_apurada_autuado_limpezaequipamento,0) + COALESCE(km_apurada_licenciado_sem_ar_n_autuado,0) + COALESCE(km_apurada_licenciado_com_ar_n_autuado,0) + COALESCE(km_apurada_sem_transacao, 0) + COALESCE(km_apurada_n_vistoriado, 0) + COALESCE(km_apurada_n_licenciado, 0)
END
AS km_apurada,
km_planejada_dia AS km_planejada,
valor_a_pagar AS valor_subsidio_pago,
valor_penalidade
FROM
{{ ref('subsidio_sumario_servico_dia_pagamento')}} AS sdp
-- `rj-smtr.dashboard_subsidio_sppo_v2.sumario_servico_dia_pagamento`
LEFT JOIN
planejada AS P
USING
(data,
servico,
consorcio)
WHERE
data >= DATE("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
{% if is_incremental() %}
AND data BETWEEN DATE("{{ var("start_date") }}")
AND DATE_ADD(DATE("{{ var("end_date") }}"), INTERVAL 1 DAY)
{% endif %}
),
pos_faixa_horaria AS (
SELECT
data,
tipo_dia,
consorcio,
servico,
vista,
viagens,
km_apurada,
km_planejada,
100*km_apurada/km_planejada AS perc_km_planejada,
valor_subsidio_pago,
valor_penalidade
FROM
pagamento )
SELECT
*
FROM
pre_faixa_horaria
UNION ALL
SELECT
*
FROM
pos_faixa_horaria
Original file line number Diff line number Diff line change
@@ -0,0 +1,53 @@
{{
config(
materialized="incremental",
partition_by={"field": "data", "data_type": "date", "granularity": "day"},
incremental_strategy="insert_overwrite",
)
}}
with
pre_faixa_horaria as (
select
data,
tipo_dia,
consorcio,
servico,
tipo_viagem,
indicador_ar_condicionado,
viagens,
km_apurada
from {{ ref("sumario_servico_tipo_viagem_dia") }}
-- `rj-smtr.dashboard_subsidio_sppo.sumario_servico_tipo_viagem_dia`
where data < date("{{ var(" data_subsidio_v9_inicio ") }}")
{% if is_incremental() %}
AND data BETWEEN DATE("{{ var("start_date") }}")
AND DATE_ADD(DATE("{{ var("end_date") }}"), INTERVAL 1 DAY)
{% endif %}
),
pos_faixa_horaria as (
select
data,
tipo_dia,
consorcio,
servico,
tipo_viagem,
indicador_ar_condicionado,
sum(viagens_faixa) as viagens,
sum(km_apurada_faixa) as km_apurada
from {{ ref("subsidio_faixa_servico_dia_tipo_viagem") }}
-- `rj-smtr.financeiro.subsidio_faixa_servico_dia_tipo_viagem`
where
data >= date("{{ var(" data_subsidio_v9_inicio ") }}")
and tipo_viagem != "Sem viagem apurada"
{% if is_incremental() %}
AND data BETWEEN DATE("{{ var("start_date") }}")
AND DATE_ADD(DATE("{{ var("end_date") }}"), INTERVAL 1 DAY)
{% endif %}
group by
data, tipo_dia, consorcio, servico, tipo_viagem, indicador_ar_condicionado
)
select *
from pre_faixa_horaria
union all
select *
from pos_faixa_horaria
8 changes: 7 additions & 1 deletion queries/models/monitoramento/CHANGELOG.md
Original file line number Diff line number Diff line change
@@ -1,6 +1,12 @@
# Changelog - monitoramento

## [1.0.1] - 2024-10-22

### Adicionado

- Cria modelos `sumario_servico_dia_pagamento_historico`, `sumario_servico_dia_tipo_viagem_historico` e `monitoramento_viagem_transacao` (https://github.com/prefeitura-rio/pipelines_rj_smtr/pull/258)

## [1.0.0] - 2024-10-21

### Adicionado
- Cria modelos para tratamento de viagens informadas: `staging_viagem_informada_rioonibus.sql` e `viagem_informada_monitoramento.sql` (https://github.com/prefeitura-rio/pipelines_rj_smtr/pull/276)
- Cria modelos para tratamento de viagens informadas: `staging_viagem_informada_rioonibus.sql` e `viagem_informada_monitoramento.sql` (https://github.com/prefeitura-rio/pipelines_rj_smtr/pull/276)
Loading
Loading