Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Add rs_sao_francisco_de_paula spider #1140

Merged
merged 1 commit into from
May 8, 2024
Merged

Conversation

ddevdan
Copy link
Collaborator

@ddevdan ddevdan commented May 8, 2024

#1088
AO ABRIR uma Pull Request de um novo raspador (spider), marque com um X cada um dos items da checklist abaixo. Caso algum item não seja marcado, JUSTIFIQUE o motivo.

Layout do site publicador de diários oficiais

Marque apenas um dos itens a seguir:

  • O layout não se parece com nenhum caso da lista de layouts padrão
  • É um layout padrão e esta PR adiciona a spider base do padrão ao projeto junto com alguns municípios que fazem parte do padrão.
  • É um layout padrão e todos os municípios adicionados usam a classe de spider base adequada para o padrão.

Código da(s) spider(s)

  • O(s) raspador(es) adicionado(s) tem os atributos de classe exigidos.
  • O(s) raspador(es) adicionado(s) cria(m) objetos do tipo Gazette coletando todos os metadados necessários.
  • O atributo de classe start_date foi preenchido com a data da edição de diário oficial mais antiga disponível no site.
  • Explicitar o atributo de classe end_date não se fez necessário.
  • Não utilizo custom_settings em meu raspador.

Testes

  • Uma coleta-teste da última edição foi feita. O arquivo de .log deste teste está anexado na PR.
  • Uma coleta-teste por intervalo arbitrário foi feita. Os arquivos de .loge .csv deste teste estão anexados na PR.
  • Uma coleta-teste completa foi feita. Os arquivos de .log e .csv deste teste estão anexados na PR.

Verificações

  • Eu experimentei abrir alguns arquivos de diários oficiais coletados pelo meu raspador e verifiquei eles conforme a documentação não encontrando problemas.
  • Eu verifiquei os arquivos .csv gerados pela minha coleta conforme a documentação não encontrando problemas.
  • Eu verifiquei os arquivos de .log gerados pela minha coleta conforme a documentação não encontrando problemas.

Descrição

<Descreva o seu Pull Request informando a issue (caso exista) que está sendo solucionada ou uma descrição do código apresentado>

  • Adicionar spider da cidade São Francisco de Paula - RS
  • Issue#1088

Com intervalos entre 01/05/2024 - 07/05/2024:
output-interval-rs_sao_francisco_de_paula.csv
log-interval-rs_sao_francisco_de_paula.txt

full_rs_sao_francisco_de_paula.csv
full_rs_sao_francisco_de_paula.txt

Última edição 07/05/2024:
ultima-edicao-rs_sao_francisco_de_paula.csv
ultima-edicao-rs_sao_francisco_de_paula.txt

Co-authored-by: Miho Yamawaki <[email protected]>
Co-authored-by: Pedro Costa <[email protected]>
Co-authored-by: José Carlos Menezes <[email protected]>
Co-authored-by: Lélis <[email protected]>
Co-authored-by: Gabriel Nunes <[email protected]>
Co-authored-by: augdiebold <[email protected]>
Copy link
Member

@trevineju trevineju left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Boa, @ddevdan!

@trevineju trevineju merged commit 55a6201 into okfn-brasil:main May 8, 2024
1 check passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
Development

Successfully merging this pull request may close these issues.

2 participants