gutoportelaa/dom-pi-corpus-2025

Corpus DOM-PI 2025 — Diário Oficial dos Municípios do Piauí

Texto integral das publicações de 2025 do Diário Oficial dos Municípios do Piauí (DOM-PI), extraído de PDFs por OCR/parsing e organizado por Território de Desenvolvimento e município. Config default (split train): 80.788 documentos · ~178 milhões de tokens · 12 territórios · pt-BR.

Full text of the 2025 official gazettes of the municipalities of Piauí (Brazil), OCR/parsed from PDFs, organized by development territory and municipality.

Configurações (configs)

Config	Split	Conteúdo
default	train	80.788 docs deduplicados (exato + quase-duplicatas), longos fatiados em atos, com limpeza v2 (boilerplate removido). Pré-treino.
curated	train	70.826 docs Tier A+B (prosa aproveitável; exclui tabela fiscal achatada). Base para SFT/instruction.
raw	raw	82.514 docs (mesmo pós-processamento) sem remover quase-duplicatas, com cluster_id/is_near_dup para auditoria ou dedup própria.
extraido	train	77.598 docs de texto OCR BRUTO (pré-limpeza) + proveniência (extrator, paginas). Para quem quer rodar a própria limpeza/extração.

PDFs-fonte (66 GB): repositório companheiro gutoportelaa/dom-pi-pdfs-2025, organizado por território. Use o extraido ou os PDFs para reproduzir a extração.

from datasets import load_dataset
ds  = load_dataset("gutoportelaa/dom-pi-corpus-2025", split="train")                 # default (pré-treino)
cur = load_dataset("gutoportelaa/dom-pi-corpus-2025", "curated", split="train")      # Tier A+B (SFT)
raw = load_dataset("gutoportelaa/dom-pi-corpus-2025", "raw", split="raw")            # tudo + flags de near-dup
ext = load_dataset("gutoportelaa/dom-pi-corpus-2025", "extraido", split="train")     # OCR bruto (limpeza própria)
ds = ds.filter(lambda r: r["territorio"] == "cocais")       # filtrar por território

Esquema

Cada linha é um ato/página publicado (portaria, decreto, licitação, lei, etc.).

Coluna	Descrição
id	MD5 do conteúdo normalizado (chave de dedup)
territorio	Território de Desenvolvimento (slug)
municipio	nome oficial canonizado (176 valores; DESCONHECIDO quando irrecuperável)
tipo_ato	Portaria, Decreto, Licitação, Lei, LRF, Edital, Contrato…
ano	ano de publicação (2025)
data_publicacao	DD/MM/AAAA (maioria) ou 2025 (sem data precisa)
n_tokens	estimativa (~`n_chars/4`)
tamanho_classe	normal (≤8k tok) · longo (8k–32k) · mega (>32k, doc único não-fatiável)
quality_tier	A prosa limpa · B média · C tabela fiscal achatada/ruído (re-extração)
texto	texto limpo (limpeza v2: boilerplate/cabeçalho/assinatura removidos)
cluster_id, is_near_dup	(só no config raw) grupo de quase-duplicatas

Processamento de qualidade (D-1 / D-2)

• Deduplicação exata por hash de conteúdo normalizado (pré/pós-limpeza, cross-território).
• Quase-duplicatas (D-1): MinHash + LSH (Jaccard ≥ 0.85) agrupa near-dups (variações de OCR/rodapé); o train mantém 1 canônico por cluster — 1.726 redundantes removidos. O raw preserva todos com cluster_id.
• Documentos longos (D-2): docs > 8k tokens que são compilações de vários atos são fatiados em atos atômicos (fronteira = título de ato: PORTARIA/DECRETO/LEI/… Nº), preservando tabelas. Documentos únicos longos (orçamento, planilha, uma lei) ficam intactos e marcados tamanho_classe. Distribuição: normal 80.275 · longo 1.769 · mega 470.

Estatísticas (config default)

Por território:

Território	docs
cocais	12.246
mangabeiras	10.033
teresina	9.583
vale_do_rio_guaribas	7.627
carnaubais	7.578
chapada_vale_do_rio_itaim	7.493
serra_da_capivara	7.417
tabuleiros_alto_parnaiba	6.165
vale_dos_rios_piaui_e_itaueiras	4.920
vale_do_caninde	3.786
planice_litoran	2.489
entre_rios	1.047
vale_do_sambito	404

Tipos de ato mais comuns: Portaria (21.682), LRF (13.074), Decreto (12.364), Licitação (8.755), Lei (8.153), Edital (6.082), Contrato (4.643), Resolução (1.192).

Limitações conhecidas

• Cobertura: Teresina e Parnaíba não estão incluídas (diários próprios). 12 dos 13 Territórios.
• OCR: há ruído residual (cabeçalhos/assinaturas) em parte das páginas escaneadas.
• Datas: maioria com DD/MM/AAAA; uma fração tem apenas o ano (2025).
• Município: canonizado para a forma oficial; DESCONHECIDO (~3%) para PDFs multi-município ou OCR irrecuperável.
• Quase-duplicatas: o train remove near-dups por similaridade; quase-duplicatas abaixo do limiar podem persistir.

Fonte, licença e atribuição

• Fonte: Diário Oficial dos Municípios do Piauí — publicações oficiais de 2025.
• Licença: CC-BY-4.0. Atribua à fonte (DOM-PI / municípios do Piauí).
• Os textos são atos oficiais públicos; este dataset é uma compilação derivada para pesquisa/PLN.