Skip to content

Commit

Permalink
create_yaml_file strip name and description
Browse files Browse the repository at this point in the history
  • Loading branch information
aspeddro committed Jun 21, 2024
1 parent b0be672 commit 175e634
Show file tree
Hide file tree
Showing 2 changed files with 12 additions and 11 deletions.
11 changes: 6 additions & 5 deletions src/databasers_utils/create_yaml_file.py
Original file line number Diff line number Diff line change
@@ -1,5 +1,6 @@
import os
import re
import pandas as pd
import ruamel.yaml as yaml
from typing import Optional, Union
from .utils import get_model_directory, read_architecture_table
Expand Down Expand Up @@ -157,7 +158,7 @@ def create_yaml_file(
unique_keys_copy = unique_keys.copy()
architecture_df = read_architecture_table(url)
architecture_df.dropna(subset=["bigquery_type"], inplace=True)
architecture_df = architecture_df[
architecture_df: pd.DataFrame = architecture_df[ # type: ignore
~architecture_df["bigquery_type"].apply(
lambda x: any(word in x.lower() for word in exclude)
)
Expand Down Expand Up @@ -191,10 +192,10 @@ def create_yaml_file(

for _, row in architecture_df.iterrows():
column = yaml.comments.CommentedMap()
column["name"] = row["name"]
column["description"] = row["description"]
directory_column = row["directory_column"]
if len(directory_column.strip()) != 0:
column["name"] = row["name"].strip()
column["description"] = row["description"].strip()
directory_column = row["directory_column"].strip()
if len(directory_column) != 0:
tests = []
tests = create_relationships(directory_column)
column["tests"] = tests
Expand Down
12 changes: 6 additions & 6 deletions tests/models/br_ibge_pib/schema.yml
Original file line number Diff line number Diff line change
Expand Up @@ -69,14 +69,14 @@ models:
description: Índice de Gini da distribuição do produto interno bruto a preços
correntes
- name: gini_va
description: 'Índice de Gini da distribuição do valor adicionado bruto a preços
correntes da agropecuária '
description: Índice de Gini da distribuição do valor adicionado bruto a preços
correntes da agropecuária
- name: gini_va_agro
description: 'Índice de Gini da distribuição do valor adicionado bruto a preços
correntes da agropecuária '
description: Índice de Gini da distribuição do valor adicionado bruto a preços
correntes da agropecuária
- name: gini_va_industria
description: 'Índice de Gini da distribuição do valor adicionado bruto a preços
correntes da indústria '
description: Índice de Gini da distribuição do valor adicionado bruto a preços
correntes da indústria
- name: gini_va_servicos
description: Índice de Gini da distribuição do valor adicionado bruto a preços
correntes dos serviços, exclusive administração, defesa, educação e saúde
Expand Down

0 comments on commit 175e634

Please sign in to comment.