Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

cria a views de dados historicos no dataset monitoramento #258

Merged
merged 46 commits into from
Jan 16, 2025
Merged
Show file tree
Hide file tree
Changes from 44 commits
Commits
Show all changes
46 commits
Select commit Hold shift + click to select a range
f2493ad
cria a view sumario_servico_dia_pagamento_historico
vtr363 Oct 3, 2024
287f92a
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 3, 2024
19b7eaa
atualiza changelog
vtr363 Oct 3, 2024
5f6aa0d
substituição de datas por variaveis
vtr363 Oct 4, 2024
97f1889
move sumario_servico_dia_pagamento_historico para o dataset monitoram…
vtr363 Oct 4, 2024
ef0ec98
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 4, 2024
35b8cf2
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 4, 2024
970fbd7
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 6, 2024
666dc2a
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 7, 2024
2144caf
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 8, 2024
d55d1d6
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 9, 2024
530f759
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 9, 2024
3339ab6
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 9, 2024
f9ecd2a
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 9, 2024
17351d4
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 10, 2024
b9db3ce
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 16, 2024
7384ed9
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 16, 2024
5b1d0a4
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 16, 2024
72b5b72
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 17, 2024
5bdd44c
cria modelo sumario_servico_dia_tipo_viagem_historico
vtr363 Oct 21, 2024
b69c809
[pre-commit.ci] auto fixes from pre-commit.com hooks
pre-commit-ci[bot] Oct 21, 2024
5bc27a8
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 21, 2024
586678d
cria modelo monitoramento_viagem_transacao
vtr363 Oct 22, 2024
ca67485
[pre-commit.ci] auto fixes from pre-commit.com hooks
pre-commit-ci[bot] Oct 22, 2024
f6bf921
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 22, 2024
64f1919
Merge branch 'main' into view-subsidio-historico
vtr363 Oct 22, 2024
b1d9a7d
atualiza changelog e corrig referencias dos modelos
vtr363 Oct 22, 2024
6a3df51
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 22, 2024
4905aff
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 22, 2024
a6005a0
Merge branch 'main' into view-subsidio-historico
mergify[bot] Oct 22, 2024
9b4c661
Corrige tolerancia a partir da primeira viagem
vtr363 Oct 23, 2024
5e227d6
corrige para iniciar 1 seg apos a ultima viagem
vtr363 Oct 23, 2024
eba1490
Refatora viagem_com_tolerancia
vtr363 Oct 23, 2024
68f0119
corrige cte chegada_anterior
vtr363 Oct 23, 2024
596aec5
altera modelos de view para incremental
vtr363 Dec 9, 2024
f2b8f4d
altera materialização das tabelas historicas
vtr363 Dec 27, 2024
5a70d2e
corrige referencias
vtr363 Dec 27, 2024
f9f8920
atualiza changelog e adiciona labels
vtr363 Jan 6, 2025
dd0c0df
adiciona label em viagem_completa e atualiza changelog
vtr363 Jan 6, 2025
82029e4
Merge branch 'main' into view-subsidio-historico
vtr363 Jan 8, 2025
9c861d0
adiciona materialização de tabelas historicas ao selector
vtr363 Jan 8, 2025
2de0a71
move modelos ephemeral para staging e altera modelo mnitoramento_serv…
vtr363 Jan 10, 2025
0ebe90a
[pre-commit.ci] auto fixes from pre-commit.com hooks
pre-commit-ci[bot] Jan 10, 2025
e83adcf
Merge branch 'main' into view-subsidio-historico
mergify[bot] Jan 16, 2025
609c472
adiciona data a variavel DATA_SUBSIDIO_V9A_INICIO
vtr363 Jan 16, 2025
582f919
[pre-commit.ci] auto fixes from pre-commit.com hooks
pre-commit-ci[bot] Jan 16, 2025
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
3 changes: 3 additions & 0 deletions queries/dbt_project.yml
Original file line number Diff line number Diff line change
Expand Up @@ -126,13 +126,16 @@ vars:
DATA_SUBSIDIO_V8_INICIO: "2024-07-20"
# Feature Apuração por faixa horária
DATA_SUBSIDIO_V9_INICIO: "2024-08-16"
# Feature desconsideração de km não vistoriado e não licenciado
DATA_SUBSIDIO_V9A_INICIO: "2024-09-01"
# Feature Apuração por novas faixas horárias (RESOLUÇÃO SMTR 3777/2024)
DATA_SUBSIDIO_V10_INICIO: "2024-11-01"
# Feature Apuração por novas faixas horárias (RESOLUÇÃO SMTR 3777/2024) - Feed (GTFS)
DATA_SUBSIDIO_V11_INICIO: "2024-11-06"
# Parâmetro 110 km/h + alterações de regras do modelo `viagem_transacao.sql`
DATA_SUBSIDIO_V12_INICIO: "2024-11-16"


# Recursos #
recurso_staging: "rj-smtr-staging.projeto_subsidio_sppo_staging.recurso"
recurso_prazo: "rj-smtr.projeto_subsidio_sppo.recurso_prazo"
Expand Down
11 changes: 10 additions & 1 deletion queries/models/monitoramento/CHANGELOG.md
Original file line number Diff line number Diff line change
@@ -1,5 +1,14 @@
# Changelog - monitoramento


## [1.2.2] - 2025-01-08

### Adicionado

- Cria modelos `sumario_servico_dia_pagamento_historico.sql` e `sumario_servico_dia_tipo_viagem_historico.sql` (https://github.com/prefeitura-rio/pipelines_rj_smtr/pull/258)

- Adicionado o label `dashboard` aos modelos `sumario_servico_dia_pagamento_historico.sql` e `sumario_servico_dia_tipo_viagem_historico.sql` (https://github.com/prefeitura-rio/pipelines_rj_smtr/pull/258)

## [1.2.1] - 2025-01-03

### Adicionado
Expand Down Expand Up @@ -31,4 +40,4 @@
## [1.0.0] - 2024-10-21

### Adicionado
- Cria modelos para tratamento de viagens informadas: `staging_viagem_informada_rioonibus.sql` e `viagem_informada_monitoramento.sql` (https://github.com/prefeitura-rio/pipelines_rj_smtr/pull/276)
- Cria modelos para tratamento de viagens informadas: `staging_viagem_informada_rioonibus.sql` e `viagem_informada_monitoramento.sql` (https://github.com/prefeitura-rio/pipelines_rj_smtr/pull/276)
Original file line number Diff line number Diff line change
@@ -0,0 +1,18 @@
{{
config(
materialized="incremental",
partition_by={"field": "data", "data_type": "date", "granularity": "day"},
incremental_strategy="insert_overwrite",
alias="sumario_servico_dia_historico",
labels={'dashboard':'yes'}
)
}}
select *
from {{ ref("monitoramento_servico_dia") }}
where
data < date("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
union all
select *
from {{ ref("monitoramento_servico_dia_v2") }}
where
data >= date("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
Original file line number Diff line number Diff line change
@@ -0,0 +1,20 @@
{{
config(
materialized="incremental",
partition_by={"field": "data", "data_type": "date", "granularity": "day"},
incremental_strategy="insert_overwrite",
alias="sumario_servico_dia_tipo_viagem_historico",
labels={'dashboard':'yes'}
)
}}

select *
from {{ ref("monitoramento_servico_dia_tipo_viagem") }}
where
data < date("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
union all
select *
from {{ ref("monitoramento_servico_dia_tipo_viagem_v2") }}
where
data >= date("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
and tipo_viagem != "Sem viagem apurada"
22 changes: 22 additions & 0 deletions queries/models/monitoramento/staging/monitoramento_servico_dia.sql
Original file line number Diff line number Diff line change
@@ -0,0 +1,22 @@
{{ config(materialized="ephemeral") }}

select
data,
tipo_dia,
consorcio,
servico,
vista,
viagens,
km_apurada,
km_planejada,
perc_km_planejada,
valor_subsidio_pago,
valor_penalidade
from {{ ref("sumario_servico_dia_historico") }}
-- `rj-smtr.dashboard_subsidio_sppo.sumario_servico_dia_historico`
where
data < DATE("{{ var("DATA_SUBSIDIO_V9_INICIO") }}") --noqa
{% if is_incremental() %}
AND data BETWEEN DATE("{{ var("start_date") }}")
AND DATE_ADD(DATE("{{ var("end_date") }}"), INTERVAL 1 DAY)
{% endif %}
Original file line number Diff line number Diff line change
@@ -0,0 +1,20 @@
{{ config(materialized="ephemeral") }}

select
data,
tipo_dia,
consorcio,
servico,
tipo_viagem,
indicador_ar_condicionado,
viagens,
km_apurada
from {{ ref("sumario_servico_tipo_viagem_dia") }}
-- `rj-smtr.dashboard_subsidio_sppo.sumario_servico_tipo_viagem_dia`
where
data < date("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
{% if is_incremental() %}
and data between date("{{ var("start_date") }}") and date_add(
date("{{ var("end_date") }}"), interval 1 day
)
{% endif %}
Original file line number Diff line number Diff line change
@@ -0,0 +1,22 @@
{{ config(materialized="ephemeral") }}

select
data,
tipo_dia,
consorcio,
servico,
tipo_viagem,
indicador_ar_condicionado,
sum(viagens_faixa) as viagens,
sum(km_apurada_faixa) as km_apurada
from {{ ref("subsidio_faixa_servico_dia_tipo_viagem") }}
-- `rj-smtr.financeiro.subsidio_faixa_servico_dia_tipo_viagem`
where
data >= date("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
and tipo_viagem != "Sem viagem apurada"
{% if is_incremental() %}
and data between date("{{ var("start_date") }}") and date_add(
date("{{ var("end_date") }}"), interval 1 day
)
{% endif %}
group by data, tipo_dia, consorcio, servico, tipo_viagem, indicador_ar_condicionado
Original file line number Diff line number Diff line change
@@ -0,0 +1,84 @@
{{ config(materialized="ephemeral") }}

with
valores_subsidio AS (
SELECT
data,
sdp.tipo_dia,
sdp.consorcio,
servico,
sdp.viagens_dia,
SUM(
CASE
WHEN data >= DATE("2024-09-01")
AND tipo_viagem NOT IN ("Não licenciado", "Não vistoriado")
THEN km_apurada_faixa
WHEN data < DATE("2024-09-01")
eng-rodrigocunha marked this conversation as resolved.
Show resolved Hide resolved
THEN km_apurada_faixa
ELSE 0
END
) AS km_apurada,
km_planejada_dia,
valor_a_pagar,
valor_penalidade
FROM
{{ ref("subsidio_sumario_servico_dia_pagamento") }} as sdp
-- rj-smtr.financeiro.subsidio_sumario_servico_dia_pagamento
left join {{ ref("subsidio_faixa_servico_dia_tipo_viagem") }} as sdtv
using (data, servico)
WHERE
data BETWEEN DATE("{{ var("start_date") }}")
AND DATE("{{ var("end_date") }}")
group by data,
tipo_dia,
consorcio,
servico,
viagens_dia,
km_planejada_dia,
valor_a_pagar,
valor_penalidade
),
planejada as (
select distinct data, consorcio, servico, vista
from {{ ref("viagem_planejada") }}
-- `rj-smtr.projeto_subsidio_sppo.viagem_planejada`
where
data >= date("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
and (id_tipo_trajeto = 0 or id_tipo_trajeto is null)
and format_time("%T", time(faixa_horaria_inicio)) != "00:00:00"
),
pagamento as (
select
data,
tipo_dia,
consorcio,
servico,
vista,
viagens_dia as viagens,
km_apurada,
km_planejada_dia as km_planejada,
valor_a_pagar as valor_subsidio_pago,
valor_penalidade
from valores_subsidio as sdp
left join planejada as p using (data, servico, consorcio)
where
data >= date("{{ var("DATA_SUBSIDIO_V9_INICIO") }}")
{% if is_incremental() %}
and data between date("{{ var("start_date") }}") and date_add(
date("{{ var("end_date") }}"), interval 1 day
)
{% endif %}
)
select
data,
tipo_dia,
consorcio,
servico,
vista,
viagens,
km_apurada,
km_planejada,
ROUND(100 * km_apurada / km_planejada, 2) as perc_km_planejada,
valor_subsidio_pago,
valor_penalidade
from pagamento
6 changes: 6 additions & 0 deletions queries/models/projeto_subsidio_sppo/CHANGELOG.md
Original file line number Diff line number Diff line change
@@ -1,5 +1,11 @@
# Changelog - projeto_subsidio_sppo

## [9.1.5] - 2025-01-08

### Adicionado

- Adicionado label `dashboard` ao modelo `viagem_completa.sql` (https://github.com/prefeitura-rio/pipelines_rj_smtr/pull/258)

## [9.1.4] - 2025-01-06

### Adicionado
Expand Down
3 changes: 2 additions & 1 deletion queries/models/projeto_subsidio_sppo/viagem_completa.sql
Original file line number Diff line number Diff line change
Expand Up @@ -8,7 +8,8 @@ config(
"granularity":"day"
},
unique_key=['id_viagem'],
incremental_strategy='insert_overwrite'
incremental_strategy='insert_overwrite',
labels = {'dashboard': 'yes'}
)
}}

Expand Down
15 changes: 11 additions & 4 deletions queries/selectors.yml
Original file line number Diff line number Diff line change
Expand Up @@ -9,6 +9,10 @@ selectors:
value: viagem_transacao
- method: path
value: models/dashboard_subsidio_sppo
- method: fqn
value: monitoramento_sumario_servico_dia_historico
- method: fqn
value: monitoramento_sumario_servico_dia_tipo_viagem_historico

- name: apuracao_subsidio_v9
description: Apuração com faixa horária
Expand All @@ -24,8 +28,6 @@ selectors:
value: models/financeiro
- method: path
value: models/dashboard_subsidio_sppo_v2
- method: fqn
value: monitoramento_viagem_transacao

- name: viagem_informada
description: Materialização da tabela de viagens informadas
Expand Down Expand Up @@ -92,5 +94,10 @@ selectors:
- name: monitoramento_subsidio
description: Materialização das tabelas utilizadas nos dashboards do subsidio
definition:
method: fqn
value: monitoramento_viagem_transacao
union:
- method: fqn
value: monitoramento_viagem_transacao
- method: fqn
value: monitoramento_sumario_servico_dia_historico
- method: fqn
value: monitoramento_sumario_servico_dia_tipo_viagem_historico
Loading