Junho de 2006 - pea.ufba.br · PDF filemonitoramento e avaliação mantido e...
Transcript of Junho de 2006 - pea.ufba.br · PDF filemonitoramento e avaliação mantido e...
Bahia. Secretaria de PlanejamentoSistemática de monitoramento e avaliação em programas
e projetos governamentais. Salvador: SEPLAN/SGA, 2005.66p. il.
1. Programa governamental – Sistematização. 2.Metodologia. 3. Técnica de trabalho. I. Título.
CDU: 001.81(061)
Junho de 2006
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS4
Governador do Estado da BahiaPaulo Ganem Souto
Secretaria do PlanejamentoArmando Avena
Secretaria da Agricultura, Irrigação e Reforma AgráriaPedro Barbosa de Deus
Secretaria de Combate a Pobreza e Desigualdades SociaisPe. Clodoveo Piaza S. J.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 5
APR
ESEN
TAÇÃ
O○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
APRESENTAÇÃO
Investir na institucionalização do processo de monitoramento e avaliação (M&A)
constitui um imperativo básico para a conquista da excelência dos serviços prestados
pelo Estado. O Governo da Bahia encontra-se engajado nesse movimento internacio-
nal e com a criação da Superintendência de Gestão e Avaliação (SGA), no âmbito da
Secretaria do Planejamento (Seplan), manifestou a vontade política de disseminar a
cultura da avaliação nas Secretarias e órgãos do Estado, responsáveis pelo planejamen-
to e operacionalização das políticas públicas.
O documento que se apresenta, constitui um referencial para ser utilizado como
catalisador dos diversos instrumentos e práticas de monitoramento e avaliação utiliza-
dos pelos diferentes órgãos gestores da administração pública estadual e está contem-
plado no Programa de Monitoramento e Avaliação, desenvolvido pela Seplan/SGA,
tendo como um dos objetivos a criação de mecanismos essenciais para a gestão eficaz
de programas e projetos estratégicos de Governo.
A Sistemática de Monitoramento e Avaliação é, portanto, uma das ferramentas
que deverá ser utilizada para a medição do grau de eficácia, efetividade e eficiência das
intervenções do Estado na sociedade.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS6
Oferece ainda aos clientes da avaliação, um mapa dos caminhos a serem persegui-
dos, subsidiando a tomada de decisão para o aperfeiçoamento do programa ou do
projeto ao longo de sua execução, com a descrição da seqüência de eventos relaciona-
dos, conectando o problema ou a oportunidade diagnosticada, com os resultados es-
perados. A ferramenta permite visualizar e compreender como os investimentos rea-
lizados na geração de produtos (bens ou serviços) podem contribuir para alcançar os
objetivos planejados, servindo de base para a criação de procedimentos e processos
de monitoramento e avaliação. O resultado esperado será a criação de um sistema de
monitoramento e avaliação mantido e alimentado por todas as Secretarias do Estado,
constituindo um poderoso instrumento de planejamento.
Espera-se que esta semente encontre um terreno fértil para sua germinação, pro-
duzindo bons frutos: a melhoria do nível de excelência dos serviços públicos.
Armando AvenaSECRETARIA DO PLANEJAMENTO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS
APR
ESEN
TAÇÃ
O
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 7
SUM
ÁRIO
09 O processo de criação da sistemática
11 A linguagem do monitoramento e avaliação
15 Aspectos conceituais
17 O processo em 12 passos
19 PASSO 1: Definição do programa ou projeto a ser avaliado
20 PASSO 2: Formação de equipe mista de avaliação eelaboração do plano de trabalho
22 PASSO 3: Identificação e entrevista com os potenciais clientesda avaliação
26 PASSO 4: Elaboração do Modelo Lógico de Gestão e Análisede Avaliabilidade do Programa
28 PASSO 5: Análise de Avaliabilidade
29 PASSO 6: Definição do escopo da avaliação
32 PASSO 7: Análise dos instrumentos e registros já disponíveisdo Programa
33 PASSO 8: Definição dos indicadores de monitoramento eavaliação a serem utilizados
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
SUMÁRIO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS8
37 PASSO 9: Definição e criação dos instrumentos para coleta de dados
40 PASSO 10: Coleta dos dados
42 PASSO 11: Tabulação e análise dos dados coletados
46 PASSO 12: Elaboração e disseminação do Relatório de Avaliação
47 Estrutura modelo do relatório de avaliação
48 Conclusão
49 Glossário
53 Referências Bibliográficas
Anexos
54 ANEXO I – Modelo Lógico de Gestão do Programa Cabra Forte
59 ANEXO II – Questionário para levantamento de informações
62 ANEXO III – Instrumento usado para análise dos dados coletados sobre oPrograma Cabra Forte
SUM
ÁRIO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 9
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
O PROCESSO DE CRIAÇÃO DA SISTEMÁTICA
A construção da Sistemática de Monitoramento e Avaliação em Programas e Projetos Go-vernamentais teve como principio básico a premissa de que o processo avaliativo de políticaspúblicas permite aperfeiçoar a gestão das ações desenvolvidas por um governo para atender demodo eficiente e eficaz as demandas da sociedade e constitui uma ferramenta estratégica quepermite conhecer, entender, decidir e planejar de modo aprimorado com o aprendizado do pas-sado e do presente.
O Programa de Monitoramento e Avaliação que vem sendo conduzido pela Secretaria doPlanejamento, através da Superintendência de Gestão e Avaliação, busca assegurar a eficácia daspolíticas públicas, seus planos, programas, projetos e atividades e o bom uso dos recursos sobresponsabilidade das organizações. O Programa está estruturado em quatro estratégias que secomplementam e vêm gerando um conjunto diversificado de processos e produtos.
A estratégia de formação visa sensibilizar e capacitar servidores estaduais para atuarem emmonitoramento e avaliação de programas e projetos governamentais e a divulgação de experiên-cias exitosas. A estratégia de informação tem por objetivo produzir, analisar e veicular informa-ções confiáveis e tempestivas para subsidiar a tomada de decisão, a correção de procedimentose a retroalimentação do processo de planejamento. Na estratégia de articulação/comunicaçãoestá sendo implementado um trabalho em parceria com as Secretarias e órgãos estaduais, visandoaperfeiçoar o formato e o fluxo das informações das ações de Governo. Por fim, a estratégia dePlanejamento, visa estimular boas práticas de planejamento focadas em resultado e resulta naconstrução das matrizes lógicas, onde estão explicitados os objetivos, atividades, produtos, re-sultados e impactos, com a definição dos respectivos indicadores para cada secretaria. A imple-mentação destas estratégias já apresenta melhorias na qualidade da programação, execução, mo-nitoramento e avaliação das ações governamentais, contribuindo para uma maior racionalizaçãono ciclo de gestão do Estado.O
PR
OC
ES
SO
DE
CR
IAÇ
ÃO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS10
A construção e implementação de uma sistemática de monitoramento e avaliação emprogramas e projetos governamentais é um dos componentes do Programa de M&A e apre-senta-se como um pré-requisito básico para o aperfeiçoamento do processo de gestão epara a criação das condições da retroalimentação da programação de Governo.
Um outro determinante para a elaboração deste documento foi o compromisso empreencher uma lacuna na gestão pública estadual, face à inexistência de uma cultura avaliativae de uma sistemática que oriente metodologicamente o processo de monitoramento e ava-liação para a otimização na utilização dos recursos públicos e na maximização dos resultados.
O documento foi construído por uma equipe composta por representantes de diversasSecretarias, envolvidas na implementação do Programa selecionado, denominada Matricial, lide-rada pela Seplan/SGA, contando ainda com o apoio da Fundação Luis Eduardo Magalhães (FLEM).
A adoção desta Sistemática possibilitou, de um lado, produzir e testar metodologias einstrumentos de M&A capazes de medir o grau de eficiência, eficácia e efetividade das inter-venções governamentais e, de outro lado, capacitar técnicos da SGA e demais Secretarias eentidades responsáveis pela concepção e implementação do Programa Cabra Forte, progra-ma escolhido para testar a ferramenta da Sistemática.
Resultado de um trabalho prático e participativo, a partir de discussões e contribuiçõesde diversos profissionais do setor público estadual, em oficinas e reuniões, foi possibilitadoum aprendizado consistente sobre o assunto e a construção dos passos da metodologia. Aelaboração do Modelo Lógico de Gestão de Programas e Projetos Governamentais (MLGP),é um dos passos mais importantes para a utilização desta Sistemática, na medida que possi-bilita o compartilhamento de informações sobre o real funcionamento de uma intervençãogovernamental, através da explicitação das atividades planejadas e dos resultados esperados,demonstrando as premissas e os objetivos do programa a ser monitorado e avaliado.
É importante registrar que este documento constitui-se em um primeiro esforço de constru-ção metodológica para nortear as práticas de M&A no Estado, contribuindo para a disseminação dosaspectos teóricos e processuais na gestão dos programas e projetos governamentais.
O P
RO
CE
SS
O D
E C
RIA
ÇÃ
O
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 11
A L
ING
UA
GE
M D
OM
ON
ITO
RA
ME
NT
O E
AVA
LIA
ÇÃ
O A LINGUAGEM DO
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
MONITORAMENTO E AVALIAÇÃO
Apesar da crescente disseminação de trabalhos de monitoramento e avaliação
em instituições públicas e privadas do Brasil e do mundo, ainda encontramos muito
dissenso sobre alguns dos seus principais conceitos. Assim, torna-se imprescindível na
elaboração de qualquer sistemática de monitoramento e avaliação, uma definição pré-
via dos conceitos a serem adotados ao longo do trabalho.
No início deste projeto foi realizada uma oficina de Alinhamento Conceitual onde
foram apresentadas definições dos termos “monitoramento” e “avaliação” adotados
por organizações nacionais e internacionais. A partir de uma síntese dessas definições,
foi elaborado o quadro abaixo que ressalta as diferenças entre os dois instrumentos:
Foram também analisados diferentes tipos de avaliação e seus objetivos, ficando
então definido que a Sistemática aqui apresentada será instrumento para a realização
de avaliações com as seguintes características:
Interna (Internal Evaluation) – conduzida por membros das organizações as-
sociadas ao programa, projeto ou objeto que está sendo avaliado.
Monitoramento AvaliaçãoAtividade de gestão interna e contínua. Atividade interna ou externa.Acontece durante a implementação Pode acontecer antes, durante ou depois dado programa ou projeto. implementação de um programa ou projeto.Compara o que está sendo realizado Com base em dados levantados pelocom o que foi planejado. monitoramento e outras fontes, julga o
desempenho de um projeto de acordo comcritérios pré-estabelecidos, tais como: eficácia, efi-ciência, efetividade, sustentabilidade, dentre outros.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS12
Formativa (Formative Evaluation) – utilizada durante a implementação de um
programa ou projeto, para fornecer informações que permitam o seu aprimo-
ramento. Avaliações Formativas são usadas para dar um retorno às equipes
técnicas sobre os componentes do programa/projeto que estão funcionando
e aqueles que precisam ser modificados.
De Programas ou Projetos (Program Evaluation) – utilizada para determinar se
os objetivos, formato e resultados do programa ou projeto estão adequados, as-
sim como seu grau de eficiência, eficácia e efetividade na aplicação dos recursos.
Dentro do ciclo governamental de criação e execução de políticas e programas,
esta Sistemática visa à realização de avaliações de processo e resultados de programas
em fase de implementação, conforme demonstrado na figura a seguir:
Formato Estratégicoda Política
Formulação do Programa
Início daoperacionalização Implementação
Reformulação,expansão,redução,
encerramento
Avaliação dasnecessidades/
questõesprioritárias
Avaliaçãoprévia
Avaliação deprocesso
Avaliação deresultados
Avaliaçãofinal
A Avaliação no Ciclo das Políticas Públicas A L
ING
UA
GE
M D
OM
ON
ITO
RA
ME
NT
O E
AVA
LIA
ÇÃ
O
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 13
Avaliações de processo e resultados podem acontecer simultaneamente,
complementando-se na função de orientar as equipes gestoras para maior compre-
ensão do programa, seu funcionamento e seus resultados junto ao público-alvo.
A avaliação de processo visa determinar o grau em que o programa está ope-
rando conforme planejado. Este tipo de avaliação tem como objetivo entender o
funcionamento do programa – a partir da análise do que ele faz e de quem são seus
beneficiários – para, assim, aprimorar suas ações. A avaliação de processo também
ajuda na identificação dos elementos essenciais para o melhor desempenho do pro-
grama em termos de produtos, resultados e impactos. Em geral, responde a pergun-
tas em duas categorias – cobertura e processo.
Cobertura: analisa o alcance do programa e as características dos
beneficiários.
Processo: analisa a consistência do programa e a qualidade de sua im-
plementação.
Exemplos de Perguntas Avaliativas de Processo
Quanto à cobertura:
Quais são as principais características dos participantes?
Estamos atendendo quem deveríamos atender?
Em qual proporção estamos conseguindo atender aqueles que nos procuram?
Quanto ao processo de implementação do programa:
As atividades estão acontecendo conforme planejado?
Quais são os pontos fortes e fracos das estratégias e atividades do programa?
Como os diferentes atores percebem o programa?A L
ING
UA
GE
M D
OM
ON
ITO
RA
ME
NT
O E
AVA
LIA
ÇÃ
O
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS14
A avaliação de resultados analisa em que grau o programa vem produzindo os
benefícios e transformações a que se propõe. As atividades de um programa produzem
três tipos de resultado: produtos (outputs), resultados (outcomes) e impactos (impact).
Atividades: procedimentos do programa que são mobilizados visando à ob-
tenção dos efeitos desejados (como o treinamento de produtores, perfuração
de poços, etc.).
Produtos: efeitos imediatos de cada atividade do programa (como o número
de pessoas capacitadas, aulas dadas, materiais produzidos, etc.).
Resultados: impactos de curto prazo, resultado direto do programa nos seus
beneficiários (normalmente referem-se a mudanças de conhecimento, habili-
dades, comportamento e valores).
Impactos: benefícios e transformações de médio e longo prazo para os parti-
cipantes e beneficiários indiretos do programa (suas famílias e comunidades).
Exemplos de Perguntas Avaliativas de Resultado
Quanto aos produtos:
Estamos fazendo o que dissemos que íamos fazer?
As metas estão sendo cumpridas? Se não, por que não?
Quanto aos resultados:
Estamos fazendo a diferença que planejamos fazer?
Que efeitos o programa tem sobre os beneficiários diretos e indiretos?
Quanto aos impactos:
O programa causou os impactos esperados?
Que grandes transformações o programa provocou na vida de seus beneficiários?A
LIN
GU
AG
EM
DO
MO
NIT
OR
AM
EN
TO
E A
VALI
AÇ
ÃO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 15
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
ASPECTOS CONCEITUAIS
A metodologia utilizada nesta Sistemática de Monitoramento e Avaliação baseia-
se em alguns conceitos, princípios e práticas mundialmente adotados por instituições e
profissionais da área.
Três foram os principais princípios norteadores deste trabalho:
1. A avaliação deve ser um instru-
mento de gestão, desde a sua
elaboração até o futuro uso de
seus resultados.
2. O valor da avaliação está na sua
utilidade, na sua capacidade de
atender às necessidades de infor-
mação de seus usuários.
3. O processo de avaliação deve ser
construído e implementado de
maneira compartilhada pelos
avaliadores com a equipe técni-
ca executora do programa.
Estes princípios baseiam-se
em conceitos de Michael Quinn
Patton, ex-presidente da Associação
Americana de Avaliação (American
Evaluation Association). Em sua obra
“Avaliação com Foco na Utilização”
(Utilization-focused Evaluation), Patton
reforça a idéia de que “avaliações
deveriam ser julgadas pela sua
utilidade e real uso”. Visando garantir
esta utilidade, Patton defende a prévia
identificação e engajamento dos
usuários da avaliação, pois, segundo
ele, “é mais provável que os
potenciais clientes da avaliação a
utilizem se eles compreenderem e se
apropriarem do processo de avaliação
e seus resultados”2.2 Patton, Michael Quinn. (1997). Utilization-focused evaluation: thenew century text. Londres: Sage Publications.A
SPE
CTO
S CO
NCE
ITU
AIS
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS16
OBJETIVOS
A Sistemática de Monitoramento e
Avaliação tem como objetivos:
1. Proporcionar avaliações periódi-
cas do desempenho dos progra-
mas, instrumentalizando as equi-
pes do Governo na gestão de
recursos e obtenção de resulta-
dos mais efetivos.
2. Incorporar a atividade de moni-
toramento e avaliação como um
instrumento de rotina em pro-
gramas governamentais.
Para estar apta a coordenar
as atividades, a equipe Matricial deve
ser capacitada em temas como:
Os mitos sobre avaliação;
Os principais conceitos e tipos de
avaliação;
A lógica e os valores da avaliação;
A avaliação com foco na utilização
– seus passos e desafios;
Os princípios da avaliação
participativa;
A relação entre políticas,
programas e projetos;
A análise de avaliabilidade;
O modelo lógico de gestão do
programa – sua função e seus
componentes.
AS
PE
CTO
CO
NCE
ITU
AIS
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 17
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS18
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
O PROCESSO EM 12 PASSOSO PROCESSO EM 12 PASSOSO PROCESSO EM 12 PASSOSO PROCESSO EM 12 PASSOSO PROCESSO EM 12 PASSOS
A Sistemática de Monitoramento e Avaliação é uma metodologia
para ser aplicada em programas e projetos estratégicos do Governo3. Ela permite
a obtenção periódica de informações sobre o desempenho das ações governa-
mentais, propiciando o aprimoramento da sua execução, subsidiando a tomada de
decisão quanto a novos projetos e parcerias e, assim, resultando na melhoria da
gestão nos níveis estratégico, tático e operacional.
Para facilitar a aplicação desta Sistemática, foram definidos 12 passos a partir da
experiência-piloto vivida com o Programa Cabra Forte.
3 A Sistemática aqui apresentada pode ser aplicada tanto a programas quanto aprojetos governamentais. Neste roteiro, o termo “programa” é usado de maneirageneralizada, representando programas e projetos. O
PR
OC
ES
SO
EM
12
PA
SS
OS
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 19
PASSO 1: Definição do programa ou○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
projeto a ser avaliado
O processo de avaliação de um programa é complexo e exige bastan-
te dedicação não só dos avaliadores, mas também da equipe gestora. Por isso, a deci-
são de avaliar determinado programa deve ser tomada a partir do comprometimento
de todos os envolvidos na sua execução.
A definição de critérios técnicos para auxiliar na decisão de qual programa
deverá ser avaliado, ajuda no estabelecimento das diretrizes do trabalho e alinha o
entendimento de todos os participantes sobre a importância do estudo avaliativo a
ser desenvolvido.
Entre os critérios que podem ser adotados na seleção de programas a serem
avaliados estão:
Prioridade do tema: grau de importância do tema foco do programa.
Clareza de foco: grau de clareza dos objetivos do programa.
Visibilidade: grau de visibilidade do programa para a população da Bahia.
Interesse dos gestores e responsáveis institucionais em avaliar: grau de inte-
resse em avaliar o programa.
Concordância: grau de entendimento entre os gestores envolvidos quanto aos
objetivos, metas e resultados.
Conhecimento: existência de informações que permitam o acompanhamento
da execução física e financeira.
Volume de recursos orçamentários: recursos orçamentários disponíveis para
o programa.PA
SS
O
1
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS20
PASSO 2: Formação de equipe mista de avaliação○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
e elaboração do plano de trabalho
A metodologia adotada nesta Sistemática prevê a formação de uma equipe
mista de avaliação, formada por avaliadores da própria unidade gestora do programa a
ser avaliado, equipe técnica do programa e, se necessário, consultores externos contra-
tados. A Seplan dará o apoio em todo o processo de avaliação quanto aos procedimen-
tos, normas e nas atividades relativas ao planejamento, articulação e gestão da informa-
ção. No caso de avaliação de programas multisetoriais, todas as Secretarias e Órgãos
envolvidos na execução do programa
deverão estar representados na equi-
pe mista de avaliação. Desta forma,
garante-se que todas as perspectivas
setoriais serão consideradas no estudo.
A primeira tarefa a ser execu-
tada pela equipe mista de avaliação
é a elaboração do plano de trabalho
para a aplicação da Sistemática de
Monitoramento e Avaliação no pro-
grama escolhido. A partir de infor-
mações do programa a ser avaliado
e da disponibilidade de recursos (hu-
manos, financeiros e de tempo) a
equipe deverá detalhar as etapas
apresentadas neste roteiro, definin-
do prazos e responsáveis.
Principais Funções da Equipe
Mista de Avaliação:
Articular o processo avaliativo com os
interesses e necessidades dos potenci-
ais clientes da avaliação;
Participar da elaboração do Modelo
Lógico de Gestão do Programa e da
definição do escopo da avaliação;
Coletar, analisar e sistematizar as
informações sobre o desempenho do
programa para garantir seu contínuo
monitoramento;
Elaborar relatórios de avaliação do
programa com recomendações para
seu aprimoramento. PA
SS
O 2
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 21
PL
AN
O D
E T
RA
BA
LH
O
PLANO DE TRABALHO
12. Elaboração e disseminação do Relatório de Avaliação
11. Tabulação e análise dos dados coletados
10. Coleta de dados
9. Criação dos instrumentos para coleta de dados
8. Definição dos indicadores de M&A
7. Análise de instrumentos de M&A e registros existentes
6. Definição do escopo de avaliação
5. Análise das expectativas dos clientes de avaliação
4. Elaboração do Modelo Lógico de Gestão
3. Entrevista com potenciais clientes de avaliação
2. Formação da equipe mista de avaliação
1. Definição do programa a ser avaliado
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS22
PA
SS
O
3PASSO 3: Identificação e entrevista com os○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
potenciais clientes da avaliação
Os potenciais clientes de uma avaliação são as pessoas e grupos
que são afetados pelos seus resultados, estão em posição de tomar decisões
sobre a avaliação, e pretendem usar as informações sobre o processo e os resul-
tados da avaliação para definir futuras ações.
A equipe de avaliação deverá definir no início dos trabalhos quem são os potenci-
ais clientes da avaliação e entrevistá-los para conhecer suas expectativas e necessida-
des de informação que o estudo avaliativo deverá atender.
PROGRAMA CABRA FORTE
Potencias clientes da avaliação entrevistados: Secretários da Agricultu-
ra, de Combate à Pobreza e do Planejamento; Representantes das Superinten-
dências da Seplan; Gestor do Programa Cabra Forte; Representantes das unida-
des envolvidas: Empresa Baiana de Desenvolvimento Agrícola S.A. (EBDA), Com-
panhia de Engenharia Rural da Bahia (CERB), Companhia de Desenvolvimento e
Ação Regional (CAR) e Superintendência de Articulação e Programas Especiais da
Secretaria de Combate à Pobreza e às Desigualdades Sociais (SPE/Secomp).
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 23
MODELO DE QUESTIONÁRIO A SER APLICADO COMOS CLIENTES DA AVALIAÇÃO.
Com relação à avaliação do programa:
1. Quais são as suas expectativas sobre o processo e os resultados desta
avaliação?
2. Como esta avaliação poderia contribuir para o aperfeiçoamento deste projeto?
3. Quais perguntas você gostaria que fossem respondidas por esta avaliação?
4. De que maneira as respostas a essas perguntas ajudariam no seu trabalho?
5. Quais decisões os resultados da avaliação poderiam influenciar?
6. Que dados e informações são necessários para esta tomada de decisão?
7. Quem deveria estar envolvido no processo de avaliação para orientá-lo
quanto às suas expectativas?
8. Como nós poderemos saber no futuro se esta avaliação foi útil?
9. Outras informações e comentários?
Dados do Responsável
Nome:
Cargo:
Telefone:
PA
SS
O
3
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS24
As informações coletadas junto aos potenciais clientes da avaliação deverão ser
tabuladas e analisadas de maneira a orientar a definição do escopo da avaliação a ser
realizada. Este processo de tabulação e análise deverá ser feito em três etapas:
1. Despersonalização das informações.
2. Tabulação por categoria de análise.
3. Priorização das expectativas e perguntas de avaliação.
PROGRAMA CABRA FORTEExpectativas dos Clientes sobre a Avaliação
Quanto ao processo:
Que utilize procedimentos de avaliação adequados às características do
Programa;
Que apure os resultados com qualidade e eficiência;
Que identifique a necessidade de um eficiente banco de dados para controle
e monitoramento do Programa;
Que torne possível o monitoramento das ações do Programa de uma forma
que seja facilmente exeqüível;
Que crie um instrumento de fácil execução.
Quanto aos produtos:
Que possibilite a criação de banco de dados;
Que gere informações sobre a eficiência, eficácia e efetividade do Programa;
Que possibilite análise das transformações provocadas pelo Programa no
seu público-alvo (resultados);P
AS
SO
3
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 25
Que evidencie os resultados (positivos ou não) das intervenções, e se os
investimentos realizados atendem às necessidades e expectativas dos pe-
quenos criadores de caprinos e ovinos;
Que demonstre se o Programa está alcançando os objetivos preconizados,
ou seja, a melhoria da qualidade de vida da população e da região;
Que analise até que ponto o Programa atende às necessidades dos beneficiários;
Que analise o desempenho do Programa.
Quanto aos resultados:
Que possibilite maior registro e disseminação para conscientização das equi-
pes sobre os trabalhos que estão sendo realizados;
Que possibilite a transparência, eficiência e eficácia dos recursos aplicados
nos projetos do Governo;
Que as equipes internalizem os conceitos de avaliação e passem a vê-los
como instrumentos de gestão, para o aprimoramento e reconhecimento
de seus esforços;
Que possibilite a melhoria do fluxo de informações entre as equipes de trabalho;
Que tenha continuidade no processo de avaliação da ação governamental;
Que tenha continuidade para que a metodologia seja preservada e se tenha
registro de séries históricas.
Quanto ao futuro uso:
Que sirva de subsídio para o planejamento estadual e para a tomada de
decisões quanto a novos financiamentos e parcerias;
Que leve à correção dos desvios identificados e subsidie outros programas.PA
SS
O
3
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS26
PA
SS
O
4○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
PASSO 4: Elaboração do Modelo Lógico de Gestão
O Modelo Lógico de Gestão do Programa (MGLP) é um instru-
mento visual e sistêmico de apresentação e compartilhamento de informações so-
bre os recursos alocados em um programa, as atividades previstas, os produtos e as
mudanças que se esperam alcançar no curto, médio e longo prazo. De forma sim-
ples, o MLGP retrata um programa conforme ele vem sendo executado, facilitando
a comunicação sobre o seu propósito fundamental e tornando-se um ponto de refe-
rência para todos os envolvidos na sua implementação. É importante sinalizar que
apenas as atividades prioritárias para o desenvolvimento do programa deverão ser
incluídas no Modelo Lógico de Gestão.
Oficinas deverão ser realizadas com os principais responsáveis pela execução do
programa a ser avaliado, para construção conjunta do MLGP.
Apresenta-se a seguir a sugestão da estrutura do Modelo Lógico de Gestão a ser
adotado nesta Sistemática, e sua lógica de leitura.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 27
PA
SS
O
4
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS28
PA
SS
O
5○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
PASSO 5: Análise de avaliabilidade
A análise de avaliabilidade tem por objetivos buscar informações sobre o
formato do programa, explorar sua realidade e ajudar a conhecer sua estrutura, antes
que seja feita a avaliação de seus resultados. Ela ajuda a definir se o programa pode ser
efetivamente avaliado e se sua avaliação contribuiria para melhorar seu desempenho.
Sendo uma espécie de “pré-avaliação”, esta análise traz benefícios como:
prevenir o desperdício de recursos com avaliação;
ajudar os potenciais clientes da avaliação a formularem perguntas avaliativas
importantes e significativas;
facilitar o consenso entre avaliadores e equipe técnica do programa sobre o
objeto e escopo da avaliação a ser realizada, e a metodologia que será adotada.
Realizada com base no Modelo Lógico de Gestão, a análise de avaliabilidade deve
buscar responder a cinco questões básicas:
1. Quais são os principais componentes do programa?
2. Quais são os principais objetivos e metas do programa?
3. As pessoas envolvidas na gestão no programa concordam com seus objetivos?
4. Existe uma conexão lógica entre os objetivos, atividades e resultados
esperados?
5. Quais seriam os melhores indicadores e/ou critérios para avaliar o alcance dos
objetivos?Se não houver consenso sobre o que é oprograma e seus principais componentes, ele
ainda não pode ser avaliado.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 29
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
PASSO 6: Definição do escopo da avaliação
O escopo da avaliação é uma combinação de sua(s) principal(is) finalidade(s)
e do foco que o estudo deverá ter, ou seja, as perguntas avaliativas que deverá respon-
der para cumprir esta finalidade.
Vale destacar que o foco de todo processo avaliativo deve estar na sua utilidade
para os tomadores de decisão e gestores do programa. Para garantir que a avaliação
possa ser um efetivo instrumento gerencial, é fundamental que se tenha clareza sobre
o objeto a ser avaliado e sobre as expectativas dos seus principais usuários, os potenci-
ais clientes da avaliação.
A partir destas expectativas com relação aos produtos, resultados e futuro uso da
avaliação, pode-se definir a(s) sua(s) principal(is) finalidade(s). E então, todo o processo
de definição de indicadores e criação de instrumentos deverá ser realizado de maneira
a garantir o alcance desta(s) finalidade(s).
A definição das perguntas avaliativas deverá ser feita a partir da análise das
perguntas trazidas pelos potenciais clientes sob a ótica dos critérios de avaliação a
serem adotados no estudo.
PA
SS
O
6
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS30
PROGRAMA CABRA FORTEPerguntas Avaliativas sugeridas pelos Clientes de Avaliação
Estamos fazendo o que nos propusemos a fazer (melhoria genética, poços, etc.)?
As metas estão sendo cumpridas quanto a: quantidade de produtores benefici-
ados, sistemas construídos, cisternas, pulmão verde implantados, assistência
técnica disponível e crias distribuídas para melhoria genética do rebanho?
Que resultados estão sendo alcançados em comparação com os previstos?
Os sistemas de abastecimento de água (a partir de poços e barragens) e de
cisternas construídos atendem às necessidades dos grupos de produtores e co-
munidades eleitos como público do Projeto?
Quais os principais componentes do Projeto que contribuem positiva e negati-
vamente para o alcance de seus resultados?
Qual é a diferença que o Projeto está fazendo junto ao seu público-alvo?
(Efetividade)
Os resultados estão sendo positivos para a população beneficiada?
O objetivo do Programa está sendo atingido?
Que ações estamos fazendo para que os produtores efetivamente assumam a
propriedade do processo? (Sustentabilidade)
Qual o custo x benefício do Programa?
Qual o grau de eficiência na alocação de recursos neste Programa?
PA
SS
O
6
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 31
As perguntas avaliativas deverão ser sintetizadas segundo os seguintes crité-
rios de avaliação:
Eficácia – expressa o grau em que o programa realiza o que havia sido pro-
posto, alcançando suas metas e objetivos;
Eficiência – estabelecida pela menor relação custo x beneficio possível para
a realização das atividades e alcance dos objetivos do programa;
Efetividade – o grau em que o programa alcança os resultados e impactos
pretendidos junto ao seu público-alvo.
PROGRAMA CABRA FORTEPerguntas Avaliativas Sintetizadas
1. Qual o grau de alcance das metas e objetivos do Programa?
Análise do grau de eficácia da implantação do Programa até o momento.
2. Qual o custo x benefício das principais estratégias do Programa?
Análise do grau de eficiência a partir do levantamento do total de recursos
aplicados em cada estratégia do Programa e os produtos por ela gerados.
3. Qual é a diferença que o Programa está fazendo junto ao seu público-alvo?
Análise do grau de efetividade do Programa na obtenção de resultados sele-
cionados a partir do Modelo Lógico de Gestão.
PA
SS
O
6
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS32
PA
SS
O 7PASSO 7: Análise dos instrumentos e registros
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
já disponíveis do programa
Parte importante das informações que subsidiam a avaliação de eficácia
e eficiência de um programa vem dos registros administrativos gerados ao longo de sua
execução. A partir do registro sistematizado das atividades, seus principais produtos e
custos, a equipe gestora do programa dispõe de dados para comparar o realizado com o
previsto em determinado período, monitorando, assim, o desempenho do programa.
O levantamento e análise dos registros administrativos antecede e subsidia a mon-
tagem dos instrumentos de monitoramento. Daí a necessidade de registros confiáveis,
tempestivos, úteis e bem estruturados.
Nesta etapa do trabalho deverão ser analisados os modelos de registro das reali-
zações já em uso pela equipe gestora e pelos técnicos, nos vários níveis de execução
do programa. Essa pesquisa fornecerá aos avaliadores importantes informações sobre
falhas ou inadequação dos instrumentos de registro e dos processos de sistematização
dessas informações. A partir do que já existe, de seu funcionamento e uso, os avaliado-
res poderão propor formas de aprimorar o fluxo de informações, de maneira que
permita realizações periódicas de avaliações sobre o desempenho do programa.
Para checagem e complementação das informações é necessário, no entanto,
que se apliquem também outros instrumentos quantitativos e qualitativos junto aos
beneficiários do programa e aos atores intermediários no seu processo de execução.
O diagrama a seguir retra-
ta o fluxo de informações pro-
posto por esta Sistemática de
Monitoramento e Avaliação:
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 33
PASSO 8: Definição dos indicadores de monito-○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
ramento e avaliação a serem utilizados
Indicadores são medidas quan-
titativas e/ou qualitativas que funcio-
nam como um termômetro do pro-
gresso de um programa, indicando os
avanços obtidos em relação aos obje-
tivos e metas traçados. Como o pró-
prio nome sugere, são sinalizadores
que buscam expressar algum aspecto
da realidade, de forma que possamos
observá-lo ou mensurá-lo.
Indicadores de desempenhosão usados para verificar e mensurar os
possíveis impactos, resultados, produtos,
processos e recursos alocados em um
programa, permitindo, assim, seu moni-
toramento e avaliação. A partir do que se
quer avaliar, ou seja, das perguntas
avaliativas e da análise dos principais com-
ponentes do programa apresentados no
seu Modelo Lógico de Gestão, devem ser
definidos os indicadores de desempenho
a serem utilizados para o monitoramen-
to e avaliação do programa.
Características de umbom indicador
Ser válido – que meça o que sesupõe dever ser medido;
Ser confiável – que seja verificável;
Ser relevante – que tenha relevânciaem relação aos objetivos do programa;
Ser sensitivo – que seja sensível àsmudanças da situação que é observada;
Ser aceitável – que seja aceito pelapopulação em estudo e pelosprincipais clientes da avaliação;
Ser específico – que sejaespecificamente adaptado aosobjetivos do programa;
Ser oportuno – que possa ser consti-tuído e reportado em tempo hábil;
Ser tecnicamente viável – que osdados requeridos possam sercoletados e mensuráveis;
Ser custo-efetivo – que os dadosrequeridos possam ser coletados aum custo razoável.P
AS
SO
8
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS34
Nesta etapa, é fundamental que se realize um exercício para a seleção dos indica-
dores a serem utilizados e a definição de seus respectivos descritores. Os descritores
são fundamentais para garantir a uniformidade de conceitos e um entendimento com-
partilhado sobre o que será medido.
O Descritor do Indicador traduz em linguagem simples e objetiva o que está
sendo medido. Seu uso garante o alinhamento de conceitos entre os responsáveis pela
coleta dos dados, dando maior consistência às informações produzidas pela avaliação.
Além disso, deve-se também, definir as principais fontes de informação para a
obtenção dos dados necessários à composição de cada indicador e a periodicidade
com que esta informação pode ser obtida. O quadro a seguir exemplifica como este
exercício pode ser realizado:
PROGRAMA CABRA FORTESíntese do processo de construção dos indicadores
Após a validação do escopo da avaliação com a equipe Matricial, deu-se início o traba-lho de construção conjunta dos indicadores de M&A do Programa. O primeiro passo foidefinir para cada atividade a ser avaliada:
indicadores de produto;
seus descritores (para garantir uniformidade de conceitos com os responsáveispelo fornecimento dos dados);
a periodicidade ideal da coleta dos dados;
as melhores fontes de informação.
PA
SS
O 8
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 35
PROGRAMA CABRA FORTEEste trabalho foi desenvolvido em uma oficina de quatro horas, onde
a equipe Matricial, dividida em grupos por estratégia do Programa e orientada pelos
avaliadores, detalhou o foco da avaliação.
Nessa oficina, foi também realizada uma consulta com a equipe Matricial sobre
o grau de execução das estratégias do Programa, para verificar se o tempo de
implantação de cada atividade, descrita no Modelo Lógico de Gestão, tornava viável
a sua avaliação nas três categorias: eficácia, eficiência e efetividade. A conclusão a
que se chegou, foi que este estudo avaliativo deveria priorizar o levantamento de
dados referentes à eficácia (o que o Programa realizou desde seu início até o mo-
mento atual) e à eficiência do Programa (a relação custo x benefício das atividades).
O planejamento da avaliação de efetividade das ações de um programa depen-
de da análise dos dados relativos ao grau de realização das atividades, sua
espacialização geográfica e o momento de sua execução. Estas informações são
fundamentais para que se estabeleçam os procedimentos metodológicos adequa-
dos para verificar os resultados, ou impactos de curto prazo, no público-alvo.
Apenas como exercício de capacitação da equipe de avaliadores, foram selecio-
nados alguns resultados do Programa – considerados os mais estratégicos – para
comprovar as transformações já realizadas pelo Cabra Forte na vida dos seus bene-
ficiários, para os quais foram definidos indicadores de efetividade.
PA
SS
O 8
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS36
PROGRAMA CABRA FORTE
1.1.1 Perfuração e recuperação depoços tubulares
• Poços instalados• Produtores beneficiados/
Comunidades de abrangência• Produção de água
1. Nº de poços instalados no período
2. Nº de produtores beneficiados/comunidade (grupo de produtores) /município/ pólo
3. Produção potencial de geração deágua disponível por poço instalado /comunidade / município / pólo
4. Produção efetiva de geração deágua disponibilizada por poçoinstalado/ comunidade / município /pólo
1. Nº de Sistemas Simplificados deAbastecimento de Água (SSAA)entregues à comunidade a partir depoços, em condições de oferecerágua em quantidade e qualidadeadequadas para consumo animal.
2. Produtores pertencentes àscomunidades do Programabeneficiados com os novos poçosinstalados.
3. Capacidade potencial de produçãode água dos poços instalados,medida em m³/hora.
4. Capacidade real de produção deágua dos poços instalados, medidapor m³/hora.
1. Mensal
2. Mensal
3. Mensal (dosnovos poçosinstalados)
4. Mensal (dosnovos poçosinstalados).
Técnicos da Cerb
Componentes a Serem Avaliados Indicadores de Desempenho Descritor dos IndicadoresPeriodicidade da
InformaçãoFonte de
Informação
Objetivo Específico: Ampliar e melhorar a oferta de água para os produtores.
Estratégia: 1.1. Disponibilizar ponto de água confiável para grupos de 15 a 20 produtores.
PERGUNTA AVALIATIVA Eficácia: Qual o grau de alcance das metas e objetivos do Programa?
PA
SS
O 8
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 37
PASSO 9: Definição e criação dos instrumentos○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
para coleta de dados
A definição dos instrumentos para a coleta de dados a serem utilizados
no estudo avaliativo depende da escolha do tipo de abordagem que se quer adotar.
Abordagens quantitativas têm a vantagem de permitir mensuração, comparação e
generalização das informações obtidas, no entanto as abordagens qualitativas per-
mitem uma análise mais aprofundada das experiências estudadas.
Os métodos de coleta de dados quantitativos mais comumente utilizados são a
pesquisa de dados disponíveis em sistemas de acompanhamento e monitoramento do
programa, e a aplicação de questionários ou formulários junto aos beneficiários e ato-
res intermediários da sua execução. No caso de abordagens qualitativas, os métodos
de coleta de dados mais usados são entrevistas, grupos focais e observação direta.
Cada instrumento criado deverá ser pré-testado para análise de sua consistência e
clareza, e avaliação da relevância e viabilidade dos dados por ele coletados. Uma simu-
lação da tabulação e análise dos dados coletados no pré-teste também ajuda no apri-
moramento do instrumento antes da sua aplicação generalizada.
O sucesso desta etapa é fundamental para a realização de uma avaliação que per-
mita uma utilização plena de seus resultados. Não basta escolher bons indicadores
teóricos e de aplicações gerais, torna-se imprescindível a relevância, bem como
pertinência ao objeto avaliado e, sobretudo, a operacionalidade, sem implicar em ex-
cessos de utilização de recursos (tempo, recursos financeiros e recursos humanos).
PA
SS
O 9
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS38
PROGRAMA CABRA FORTEO levantamento dos indicadores
Em oficina, produziu-se um levantamento preliminar das informações existen-
tes sobre a eficácia e eficiência do Programa e, a partir destes dados, elaborou-se
uma estratégia para avaliação da efetividade, já que esta última requer a aplicação
de instrumentos qualitativos e uso de técnicas de amostragem, o que só pode ser
definido a partir de informações concretas sobre as realizações do Programa, sua
temporalidade e espacialização.
Foram criados os instrumentos para a coleta dos dados elaborados a partir da
definição das informações necessárias para a alimentação dos Indicadores de Eficá-
cia e Eficiência selecionados para esta avaliação, conforme modelo previamente
estabelecido.
Os instrumentos foram validados pelos membros da equipe Matricial respon-
sáveis por cada estratégia.
Ficou estabelecido que fossem criados formulários para coleta dos dados nos
seguintes períodos:
Consolidado 2003
Consolidado 2004
Mês a mês – de janeiro a abril de 2005
PA
SS
O 9
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 39
PROGRAMA CABRA FORTE
Eficácia:
• Nº poços instalados x nº previsto• Nº de produtores beneficiados x nº previsto• Espacialização dos poços instalados• Espacialização dos produtores beneficiados• Produção potencial de geração de água disponível nos
poços instalados• Produção efetiva de geração de água disponibilizada
nos poços instalados
Eficiência:
• Produção potencial de geração de água x produçãoefetiva de geração de água disponibilizada nos poçosinstalados
• Custo de produção da água com poço x Nº deprodutores atendidos
• Nº de poços instalados no período/ comunidade/município/ pólo.
• Meta de instalação de poços no período/ comunidade/município/ pólo.
• Nº de produtores beneficiados/ comunidade (grupode produtores)/ município/ pólo.
• Meta de produtores a serem beneficiados com poçosno período/ comunidade/ município/ pólo.
• Capacidade potencial de produção de água dospoços instalados (em m³/hora)/ poço/ comunidade/município/ pólo.
• Capacidade real de produção de água dospoços instalados (em m³/hora)/ poço/comunidade/ município/ pólo.
• Custo de instalação dos poços no período/comunidade/ município/ pólo.
1.1.1 Perfuração erecuperação de poçostubulares
COMPONENTES DADOS A SEREM COLETADOS INDICADORES
Exemplo de dados a serem coletados e definição de alguns indicadores
Para uma completa visualização das realizações do Programa, foi acordado com a equipe
Matricial que os dados seriam coletados nos seguintes níveis de desagregação:
por pólo do Programa
por município atendido
por comunidade beneficiada
por grupos de produtores beneficiados
Desta maneira, as informações poderiam ser espacializadas e consolidadas nos diferen-
tes níveis de execução do Programa, permitindo comparações sobre as realizações e
alocações de recursos.
PA
SS
O 9
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS40
PA
SS
O 1
0○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
PASSO 10: Coleta dos dados
O processo de coleta dos dados deve ser planejado a partir da definição
dos instrumentos que serão utilizados, das informações que serão pesquisadas e do
prazo de que se dispõe para a obtenção dessas informações. A característica da popu-
lação-alvo, a característica espacial e os indicadores de desempenho físico-financeiro
são dados relevantes para serem coletados.
As primeiras informações a serem levantadas dizem respeito ao processo de exe-
cução do programa e seus produtos. A partir dos dados sobre as realizações do pro-
grama, obtidos no sistema de monitoramento e de outras fontes de informações, os
avaliadores poderão coletar os indicadores de eficácia e eficiência definidos. Os indica-
dores de eficácia e eficiência são obtidos, freqüentemente, a partir dos registros admi-
nistrativos do próprio programa. Já os indicadores de efetividade, exigem seu levanta-
mento direto junto à população beneficiária ou a registros censitários.
Na coleta de dados com beneficiários do programa, pode-se optar pela pesquisa
com toda a população a ser estudada ou por amostragem. Censos demográficos e
econômicos, relatórios de acompanhamento da execução físico-financeira, relatórios
de avaliações anteriores, artigos ou informações de divulgação, são fontes que podem
ser consultadas para o levantamento das informações.
Nesta etapa, é importante dispor de um banco de dados de registros adminis-
trativos consistente com o MLGP. É necessário também, capacitar os executores
do programa, especialmente os técnicos responsáveis pela obtenção das informa-
ções primárias.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 41
PROGRAMA CABRA FORTEProcesso de coleta de dados
A partir das fontes de informação de cada indicador definidas pela equipe
Matricial, o processo de coleta dos dados foi desenhado, respeitando a estrutura
operacional do Programa Cabra Forte. Como o Programa é uma combinação de
estratégias sob a responsabilidade de várias Secretarias e Órgãos Governamen-
tais, foi definido que cada entidade executora ficaria responsável pelo repasse das
informações referentes à sua parte no Programa. A equipe de avaliadores sinteti-
zou e analisou os dados, validando-os com a equipe Matricial antes da elaboração
do relatório de avaliação.
Os instrumentos de coleta de dados foram enviados aos membros da equipe
Matricial, que ficaram responsáveis por criar os canais adequados para a obtenção
dessas informações nos níveis operacionais do Programa. Ao final do trabalho, o
resultado da avaliação deve retornar aos vários níveis garantindo a disseminação
das informações obtidas, conforme ilustração a seguir:
PA
SS
O 1
0
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS42
PA
SS
O 1
1PASSO 11: Tabulação e análise dos○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
dados coletados
Todos os dados devem ser tabulados, ou seja, organizados de maneira
a facilitar a sua interpretação e análise, tendo em vista as perguntas avaliativas a serem
respondidas. A tabulação e análise dos dados serão decorrentes da sua natureza: quan-
titativos ou qualitativos.
Em uma avaliação, os textos e observações coletados vêm de várias fontes como:
respostas a perguntas abertas de questionários, transcrições de grupos focais ou entre-
vistas, roteiros de observação de casos, ou, ainda, resumos de relatórios e documen-
tos pesquisados.
Tanto as fontes de informações, como as técnicas quantitativas e qualitativas utili-
zadas para a coleta de dados, devem ser combinadas para uma compreensão mais
abrangente do programa. As informações sobre o previsto e o realizado, os principais
produtos entregues aos beneficiários, e a espacialização destas realizações, são dados
importantes para subsidiar a avaliação de desempenho do programa.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 43
PROGRAMA CABRA FORTETabulação e análise dos dados coletados (alguns exemplos)
PA
SS
O 1
1
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS44
PA
SS
O 1
1
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 45
INDICADOR DE EFETIVIDADE(Qual a diferença que o Programa está fazendo no seu público-alvo?)
RESULTADOS ESPERADOSMaior acesso dos produtores a água de qualidade para consumo animal +Dessedentação dos animais.
SITUAÇÃO IDEALProdutores percorrendo no máximo 1.500 metros para obter água para seu rebanho.
INDICADORES DE RESULTADO SELECIONADOSDistância média percorrida pelos produtores para obter água para seu rebanho (emmetros) - antes e depois;Consumo médio de água / cabeça / dia (em litros) x capacidade instalada dos poços;Freqüência com que não obteve a quantidade de água necessária para dessedentar osanimais - antes e depois.
INSTRUMENTO CRIADOQuestionário a ser aplicado por amostragem com produtores beneficiados compoços do Programa.P
AS
SO
11
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS46
PA
SS
O 1
2PASSO 12: Elaboração e disseminação do○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
Relatório de Avaliação
Toda avaliação deve resultar em um
relato claro e objetivo sobre o processo e os re-
sultados obtidos quanto ao desempenho do progra-
ma analisado. Estas informações devem ser disse-
minadas entre os principais clientes da avaliação de
maneira a influenciar futuras decisões quanto ao apri-
moramento do programa ou ao estabelecimento de
novas diretrizes de ação.
A comunicação dos resultados de uma avaliação pode ser feita de forma oral ou
escrita, mas deve sempre ser simples, direta e livre de jargões. A ênfase deve estar nos
importantes resultados obtidos e nas recomendações, sempre com o foco nos princi-
pais clientes da avaliação, suas expectativas e necessidades de informação.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 47
ESTR
UTU
RA
MO
DEL
OESTRUTURA MODELO DO
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
RELATÓRIO DE AVALIAÇÃO
1. Capa – título do relatório, autores, instituições patrocinadoras/ participantes,lugar e data.
2. Índice – capítulos e subcapítulos do relatório.3. Créditos – agradecimento a todas as pessoas e instituições que possibilitaram a
realização do estudo.4. Resumo Executivo – apresentação do estudo incluindo objetivos, metodologia
adotada, principais resultados encontrados, conclusões/ recomendações. Deveter no máximo quatro páginas.
5. Introdução – contexto e antecedentes da avaliação: caracterização do proble-ma, justificativa do estudo, finalidade da avaliação, perguntas avaliativas e circuns-tâncias especiais.
6. Metodologia – desenho da avaliação: coleta e análise dos dados e limitações.Texto curto com maior detalhamento nos anexos (cópias dos instrumentos utili-zados, cálculo de tamanho de amostra, etc.).
7. Resultados – principais resultados encontrados e apresentados em gráficos etabelas com breve análise.
8. Conclusões – síntese dos dados encontrados e apresentados de maneira aresponder às perguntas avaliativas.
9. Recomendações – prescrição do que deve ser feito a partir das conclusõesdo estudo. O nível de detalhamento das recomendações depende da finalidade daavaliação e do perfil dos seus clientes.
10. Referências Bibliográficas – identificação de todo o aporte bibliográficoque norteou a avaliação.
11. Anexos – instrumentos para a coleta dos dados utilizados, procedimentosmetodológicos adotados, dados adicionais obtidos ou com maior desagregação,entre outros documentos relevantes.
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS48
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
CONCLUSÃO
Buscando instrumentalizar as equipes gestoras dos programas e pro-
jetos estratégicos do Governo do Estado da Bahia, a Secretaria do Planejamento e
a Fundação Luis Eduardo Magalhães criaram e testaram uma Sistemática de Moni-
toramento e Avaliação.
Testada no Programa Cabra Forte, programa multisetorial que visa melhorar a
qualidade de vida de 26.000 pequenos produtores rurais e suas famílias, através do
aumento da renda proveniente da ovinocaprinocultura, a Sistemática aqui apresentada
tem o objetivo de ser disseminada entre as equipes das Secretarias e Órgãos Governa-
mentais do Estado.
A partir da compreensão das etapas que levaram a construção desta metodologia
de monitoramento e avaliação, as equipes poderão implantá-la em outros programas e
projetos seguindo o roteiro apresentado neste Guia. Capacitações, orientações e acom-
panhamento periódico deverão ser oferecidos por avaliadores da Seplan aos Órgãos
Gestores, no sentido de garantir a implantação desta Sistemática de forma gradual,
consistente e efetiva.
A disseminação dos conceitos, princípios, processos e instrumentos, permitirá que
técnicos dos níveis estratégico, tático e operacional do Governo estejam constantemen-
te informados sobre o desempenho dos programas e projetos sob sua responsabilidade.
Ao fazer do monitoramento e da avaliação efetivos instrumentos de gestão, o
Governo do Estado da Bahia demonstra sua preocupação com o aprimoramento da
habilidade gerencial de suas equipes, visando aumentar a eficácia, eficiência e efetividade
das suas políticas, programas e projetos.
CON
CLU
SÃO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 49
GL
OS
SÁ
RIO
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
GLOSSÁRIO
Acompanhamento /MonitoramentoExame contínuo ou periódico realizado pela ad-ministração, em todos os níveis hierárquicos, domodo como se está executando um projeto ouatividade. Tem como objetivo prover os gestorese principais stakeholders com regular feedback eindicações do progresso ou possíveis falhas no al-cance dos resultados esperados.O termo acompanhamento freqüentemente temsido associado a um mero registro contábil. En-tretanto, é preciso considerar que o acompanha-mento tem necessariamente que produzir infor-mações úteis para o gerenciamento do projeto ouatividade.
Análise de AvaliabilidadeTem por objetivos buscar informações sobre oformato do programa, explorar sua realidade eajudar a conhecer sua estrutura, antes que sejafeita a avaliação de seus resultados.
Apreciação Prévia (Appraisal)Apreciação global da pertinência, viabilidade esustentabilidade provável de uma intervenção dedesenvolvimento antes que a decisão deimplementação seja tomada.
AtividadesProcedimentos do programa que visam à obten-ção dos efeitos desejados. Do ponto de vista daprogramação orçamentária é um conjunto de ope-rações que se realizam de modo contínuo e que
concorrem para a manutenção e o funcionamentode órgãos e entidades governamentais e para aprestação de serviços públicos utilizados pelapopulação.
AvaliaçãoApreciação sistemática e objetiva do valor oumérito de um projeto, programa ou política, an-tes, durante ou após a intervenção, quanto à suaconcepção, execução e resultados. Tem como pro-pósito determinar a pertinência, eficiência, eficá-cia, efetividade, impacto e sustentabilidade da in-tervenção.
Avaliação de ProcessoVisa determinar o grau em que o programa estáoperando conforme planejado. Este tipo de avali-ação tem como objetivo entender o funcionamen-to do programa – a partir da análise do que ele faze de quem são seus beneficiários – para, assim,aprimorar suas ações. A avaliação de processotambém ajuda na identificação dos elementos es-senciais para o melhor desempenho do programaem termos de produtos, resultados e impactos.Em geral, responde a perguntas em duas categori-as – cobertura e processo.
Avaliação de ResultadosAnalisa em que grau o programa vem produzindoos benefícios e transformações a que se propõe.As atividades de um programa produzem três ti-pos de resultado: produtos (outputs), resultados(outcomes) e impactos (impact).
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS50
Avaliação de Meio Percurso oude Meio TermoTipo de avaliação realizada durante o processode implementação de um programa ou projeto.Seu principal objetivo é avaliar o progresso reali-zado, permitir conclusões iniciais sobre o seugerenciamento e fazer recomendações para a con-tinuidade dos trabalhos. Esta avaliação analisaquestões operacionais relevantes e a performance,extraindo lições aprendidas até aquele momento.
Avaliação de Programa ou ProjetoAvaliação feita para determinar se os objetivos,formato e resultados do programa ou projeto es-tão adequados, assim como o grau de eficiência,eficácia e efetividade na utilização dos recursos.
Avaliação ExternaAvaliação conduzida por um ou mais avaliadoresque não estão diretamente envolvidos na formula-ção, implementação e/ou gerenciamento do obje-to da avaliação. Normalmente é realizada porpessoas de fora da organização envolvida. É tam-bém chamada de avaliação independente.
Avaliação FormativaRefere-se ao processo de execução do programa,servindo para melhorar seu funcionamento. Sãomodalidades complementares a serem utilizadasde acordo com cada situação concreta.
Avaliação InternaAvaliação conduzida por membros de organiza-ções associadas com o programa, projeto ou ob-jeto que está sendo avaliado.
Avaliação Final (Avaliação ex-post)Avaliação de uma intervenção após a sua conclu-são, podendo ser realizada logo após a conclusãoda intervenção ou algum tempo depois. O objeti-vo é identificar os fatores de sucesso ou de fracas-so, apreciar a sustentabilidade dos resultados e osimpactos, e tirar conclusões que possam ser gene-ralizadas para outras intervenções.
Avaliação ParticipativaAvaliação coletiva de um projeto ou programa,realizada pelos stakeholders ou beneficiários. Sãoavaliações reflexivas, pró-ativas, que visam capa-citar os envolvidos no programa e têm como prin-cipal objetivo atender as necessidades de infor-mação dos stakeholders.
Avaliação Prévia (Avaliaçãoex-ante)Avaliação efetuada antes da implementação de umaintervenção.
BeneficiáriosIndivíduos, grupos ou organizações que se benefi-ciam do programa ou projeto direta ou indireta-mente, intencionalmente ou não.
CoberturaAnalisa o alcance do programa e as característi-cas dos beneficiários.
Dados da Linha de Base(Baseline Data)Informação inicial sobre um programa ou seus com-ponentes, coletada antes das atividades serem exe-cutadas. Os dados de linha de base são normal-mente coletados em entrevistas ou observações eusados posteriormente para comparações que de-terminarão mudanças em um programa.
GL
OS
SÁ
RIO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 51
Descritor do IndicadorTraduz em linguagem simples e objetiva o que estásendo medido. Seu uso garante o alinhamento deconceitos entre os responsáveis pela coleta dosdados, dando maior consistência às informaçõesproduzidas pela avaliação.
DesempenhoO grau com que um programa ou projeto éimplementado de forma eficaz, eficiente e efetiva.
EfeitoMudança esperada ou não, direta ou indiretamen-te atribuída a uma intervenção.
EfetividadeO grau em que o programa alcança os resultadose impactos pretendidos junto ao seu público-alvo.
EficáciaExpressa o grau em que o programa realiza oque havia sido proposto, alcançando suas me-tas e objetivos.
EficiênciaEstabelecida pela menor relação custo x benefíciopossível para a realização das atividades e alcan-ce dos objetivos do programa.
Estudos de BaseAnálise que descreve a situação antes do lança-mento de uma intervenção de desenvolvimento, aqual se podem fazer comparações ou apreciar osprogressos.
ImpactoBenefício e transformação de médio e longo pra-zo para os participantes e beneficiários indiretosdo programa (suas famílias e comunidades).
IndicadorMedida quantitativa e/ou qualitativa que funcionacomo um termômetro do progresso de um pro-grama, indicando os avanços obtidos em relaçãoaos objetivos e metas traçados.
Indicador de desempenhoUsado para verificar e mensurar os possíveis im-pactos, resultados, produtos, processos e recur-sos alocados em um programa, permitindo assimseu monitoramento e avaliação.
Modelo Lógico de Gestão dePrograma/ProjetoInstrumento visual e sistêmico de apresentação ecompartilhamento de informações, voltado paraa gestão e avaliação de programas e projetos.Permite analisar as relações causais entre os re-cursos alocados, atividades, produtos, resulta-dos e impactos.
ObjetivoSituação futura desejada com a execução de pro-grama, projeto ou atividade, descrita com conci-são e precisão e sempre mensurável por um indi-cador, que expressa o produto ou resultado espe-rado sobre o público-alvo.
Pressupostos (Hipóteses)Suposições sobre fatores ou riscos que podem terrepercussões na evolução ou no sucesso da inter-venção de desenvolvimento.G
LO
SS
ÁR
IO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS52
ProcessoAnalisa a consistência do programa e a qualidadede sua implementação.
ProdutoEfeito imediato de cada atividade do programa.
ProgramaÉ o instrumento de organização da ação governa-mental com vistas ao enfrentamento de um pro-blema, atendimento a uma demanda ou o aprovei-tamento de uma oportunidade.
ProjetoInstrumento de programação orçamentária paraalcançar o objetivo de um programa, envolven-do um conjunto de operações, limitadas no tem-po, das quais resulta um produto que concorrepara a expansão ou aperfeiçoamento da açãode Governo.
Público-alvoConjunto de pessoas, famílias, comunidades, insti-tuições ou setores que serão atingidos pelo pro-grama.
Recursos (Inputs)Meios financeiros, humanos e materiais usadospara uma intervenção de desenvolvimento.
ResultadoImpacto de curto prazo causado pelo diretamen-te pelo programa nos seus beneficiários (normal-mente referem-se a mudanças de conhecimento,habilidades, comportamento e valores).
Retroalimentação (Feedback)Transmissão das constatações resultantes do pro-cesso de avaliação a todos os que podem tirarlições úteis e pertinentes das mesmas, com o obje-tivo de facilitar a aprendizagem. Isto pode impli-car reunir e difundir as constatações, conclusões,recomendações e lições aprendidas.
StakeholdersGrupos que tem um papel ou interesse nos objeti-vos e implementação de um programa ou projeto.Incluem o público-alvo, os beneficiários diretos,os responsáveis por garantir que os resultadosserão alcançados conforme planejado, e os res-ponsáveis por prestar contas dos recursosalocados nos trabalhos.
SustentabilidadeContinuação dos benefícios resultantes de uma in-tervenção de desenvolvimento mesmo após a suaconclusão. Probabilidade de os benefícios perdu-rarem no longo prazo. Situação em que as vanta-gens líquidas são suscetíveis de resistir aos riscosao longo do tempo.
GL
OS
SÁ
RIO
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 53
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
REFERÊNCIAS BIBLIOGRÁFICAS
Alberta Consultative Health Research Network.(2001-2002) Evaluability Assessment.Disponível em http://www.achrn.org/Evaluability.htm
Buvinich, Manuel Rojas. (1999). Ferramentas paramonitoramento e avaliação de programas eprojetos sociais. Unicef.
Instituto do Banco Mundial. (sem data).Introdução ao Monitoramento & Avaliação:Apostila do Participante.
International Development Research Centre.Identifying the Intended Use(s) of anEvaluation. Abril de 2004. Disponível emwww.idrc.ca
International Development Research Centre.Identifying the Intended User(s) of anEvaluation. Março de 2004. Disponível emwww.idrc.ca
Kayano, Jorge, e Caldas, Eduardo L. (2001).Indicadores para o diálogo. São Paulo:Instituto Pólis; Programa Gestão Pública eCidadania/ EAESP/ FGV.
McNamara, Carter. Basic Guide to ProgramEvaluation. 1999. Disponível em http://www.mapnp.org/library/evaluatn/fnl_
Patton, Michael Quinn. (1997). Utilization-focused evaluation: the new century text.Londres: Sage Publications.
Rodrigues, Maria Cecília Prates. (1998).Avaliação e monitoramento. Texto base paraa disciplina de Monitoramento e Avaliaçãoministrada no âmbito do curso de Gerênciade Programas Sociais, promovido pela FESP/ISAPE/CPG.
United Way of America. (1996). Measuringprogram outcomes: a practical approach.
Valarelli, Leandro Lamas (1999). Indicadores deresultados de projetos sociais. RITS.Disponível em: http://www.rits.org.br/gestao_teste/ge_testes/ge_tmes_jul99.cfm
W.K. Kellogg Foundation. (2001). Logic ModelDevelopment Guide: Using Logic Models toBring Together Planning, Evaluation, &Action.
3 Patton, Michael Quinn. (1997). Utilization-focused evaluation: the new century text.Londres: Sage Publications.
BIB
LIO
GR
ÁF
ICA
S
O documento está disponível em: http://www.rits.org.br/gestao_teste/ge_testes/ge_tmes_jul99.cfm
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS54
Modelo Lógico de Gestão doPrograma Cabra Forte
ANEXO 1
AN
EX
O 1
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 55
AN
EX
O 1
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS56
AN
EX
O 1
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 57
AN
EX
O 1
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS58
Questionário para levantamento de informaçõessobre os resultados da implantação de poços peloPrograma Cabra Forte
ANEXO 2
AN
EX
O 2
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 59
AN
EX
O 2
QUESTIONÁRIO A SER APLICADO COM
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
PRODUTORES DO PROGRAMA
Propriedade:
Proprietário:
1 - Qual a área (em tarefas) da propriedade?
tarefas
2 - Quantas cabeças de ovinos e caprinos existem na propriedade?
Ovinos: cabeças
Caprinos: cabeças
3 - Quantos litros de água por dia são necessários para o consumo do rebanho?
litros
4 - Existe alguma reserva de água na propriedade? Que tipo?
( ) Sim ( ) Não Tipo:
ANTES DA INSTALAÇÃO DOS POÇOS
5 – Qual(is) a(s) alternativa(s) de acesso a água para consumo dos animais?
( ) Reserva própria ( ) Reserva de vizinhos ( ) Açude ou barragem comunitária
( ) Outras. Citar
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS60
AN
EX
O 26 - O produtor tinha como garantir água para o rebanho durante todo o ano?
( ) Sim ( ) Não Por quê ?
7 - Qual a distância que o produtor (ou rebanho) percorria para ter acesso à água?
metros
8 - Em média, quantos meses no ano a água era insuficiente para atender à necessidade do
rebanho? meses
APÓS A INSTALAÇÃO DOS POÇOS
9 - Qual a distância que o produtor (ou rebanho) percorre para ter acesso à água?
metros
10 – Com que frequência a água do poço é insuficiente para atender à necessidade do reba-
nho?
( ) Nunca ( ) Raramente ( ) Frequentemente ( ) Sempre
11 - Qual o grau de facilidade que a instalação do poço trouxe para o acesso à água pelo
rebanho?
( ) Pouca ( ) Regular ( ) Muita
Comente:
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 61
AN
EX
O 3
Instrumento usado para análisedos dados coletados sobre oPrograma Cabra Forte
ANEXO 3
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS62
Secretaria do Planejamento – SeplanSecretaria do Planejamento – SeplanSecretaria do Planejamento – SeplanSecretaria do Planejamento – SeplanSecretaria do Planejamento – SeplanSuperintendência de Gestão e Avaliação - SGASuperintendência de Gestão e Avaliação - SGASuperintendência de Gestão e Avaliação - SGASuperintendência de Gestão e Avaliação - SGASuperintendência de Gestão e Avaliação - SGA
PROGRAMA CABRA FORTE - COLETPROGRAMA CABRA FORTE - COLETPROGRAMA CABRA FORTE - COLETPROGRAMA CABRA FORTE - COLETPROGRAMA CABRA FORTE - COLETA DE INFORMAÇÕESA DE INFORMAÇÕESA DE INFORMAÇÕESA DE INFORMAÇÕESA DE INFORMAÇÕES
Objetivo Específico: Ampliar e melhorar a oferta de água para os produtoresEstratégia: Disponibilizar ponto de água confiável para grupos de 15 a 20 produtoresAAAAAtividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULAREStividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULAREStividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULAREStividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULAREStividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULARESPeríodo: 2003
Programado para o período
Pólo / Município /Comunidade / Grupo
de Produtores
Realizado no período
Total do Programa
Pólo de Remanso
Campo Alegre de Lurdes
Casa Nova
Pilão Arcado
Remanso
Pólo de Jaguarari
Andorinha
Curaçá
Jaguarari
Juazeiro
Monte Santo
Uauá
Pólo de Conceição do Coité
Barrocas
Conceição do Coité
Nova Fátima
Retirolândia
Santaluz
São Domingos
Serrinha
Valente
Nº de poçosa serem
instalados
Nº deprodutores doprograma a
serembeneficiados
Capacidadepotencial deprodução deágua (m³/h)
Nº de Poçosinstalados
Nº deprodutores do
programabeneficiados
Capacidadeefetiva de
produção deágua (m³/h)
Custo deinstalaçãodos poços
(R$)
AN
EX
O 3
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 63
AN
EX
O 3
Secretaria do Planejamento – SeplanSecretaria do Planejamento – SeplanSecretaria do Planejamento – SeplanSecretaria do Planejamento – SeplanSecretaria do Planejamento – SeplanSuperintendência de Gestão e Avaliação - SGASuperintendência de Gestão e Avaliação - SGASuperintendência de Gestão e Avaliação - SGASuperintendência de Gestão e Avaliação - SGASuperintendência de Gestão e Avaliação - SGA
PROGRAMA CABRA FORTE - COLETPROGRAMA CABRA FORTE - COLETPROGRAMA CABRA FORTE - COLETPROGRAMA CABRA FORTE - COLETPROGRAMA CABRA FORTE - COLETA DE INFORMAÇÕESA DE INFORMAÇÕESA DE INFORMAÇÕESA DE INFORMAÇÕESA DE INFORMAÇÕES
Objetivo Específico: Ampliar e melhorar a oferta de água para os produtoresEstratégia: Disponibilizar ponto de água confiável para grupos de 15 a 20 produtoresAAAAAtividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULAREStividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULAREStividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULAREStividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULAREStividade: PERFURAÇÃO E RECUPERAÇÃO DE POÇOS TUBULARESPeríodo:
Programado para o período
Pólo / Município /Comunidade / Grupo
de Produtores
Realizado no período
Nº de poçosinstalados
Nº de poçosinstalados X
previsto
Nº de produtoresbeneficiados
Nº de produtoresbeneficiados
X previsto
Capacidade realde produção de
água XCapacidadepotencial
Custo deinstalação X Nºde produtoresbeneficiados
Conceição do Coité
Nova Fátima
Retirolândia
Valente
Santa Luz
São Domingos
Serrinha
Barrocas
Remanso
Remanso
Casa Nova
C. Alegre de Lourdes
Pilão Arcado
Jaguarari
Jaguarari
Uauá
Juazeiro
Monte Santo
Andorinha
Curaçá
TOTAL GERAL
Qde. % Qde. %
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS64
AN
OTA
ÇÕ
ES
SISTEMÁTICA DE MONITORAMENTO E AVALIAÇÃO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 65
AN
OTA
ÇÕ
ES
SECRETARIA DO PLANEJAMENTO - SEPLAN
SUPERINTENDÊNCIA DE GESTÃO E AVALIAÇÃO - SGASonia Sobral
Diretorias de Monitoramento e AvaliaçãoMaria da Conceição SáMário Sebastião Freitas
COORDENAÇÃO GERAL (FLEM)Lycia Tramujas Vasconcellos Neumann
Equipe de Coordenação:Secretaria do Planejamento / Superintendência de Gestão e Avaliação
Anibal Picanço BentesAntônio Leopoldo MeiraNair Mamede CoutoPalmiro Torres de OliveiraRoberto Sampaio CostaZélia Maria Abreu Góis
Fundação Luis Eduardo MagalhãesViviane Quenia Brito de Jesus
Equipe Matricial:Secretaria da Agricultura, Irrigação e Reforma Agrária
Edilson Bartolomeu - SuperintendenteMaria Suzana Lima de SouzaRenata VieiraRicardo AndradeAntônio Lemos Maia Neto (ADAB)Francisco Benjamin (EBDA)
Secretaria de Combate à Pobreza e às Desigualdades SociaisElisa Cristina Guimarães Pellegrini - SuperintendenteFátima AmaralSoane Maria Minck de MatosTânia XavierZélia Fajardini
Secretaria do PlanejamentoDário Tavares (CAR)
Secretaria da Indústria, Comércio e MineraçãoAna Célia Tanajura (EBAL)
Secretaria do Meio Ambiente e Recursos HídricosJoão Batista Andrade (CERB)
Secretaria da SaúdeMaria Claudia da Costa MontalMaria Lea Rocha Fagundes
Secretaria do Trabalho, Assistência Social e EsporteMarizete Pereira AndradeTerezinha Almeida
FICHA TÉCNICAConsultoria ExternaFundação Luis Eduardo Magalhães - Flem
Redação final de textoTacilla Siqueira
Projeto Gráfico e EditoraçãoAutor Visual Comp. Gráfica Ltda
Fotografias gentilmente cedidas pela Agecom, Arquivo Cacob-Diren-Seinfra, Ascom-Funceb, Ascom-Seagri, Ascom-Secomp,Adenilson Nunes, Alceu Elias, Angeluci Figueiredo, Aristeu Chagas, Jorge Cordeiro, Lázaro Sérgio, Marcos Souza e Roberto Viana