Antecipar, refletir, incluir e responder: a inovação responsável na saúde
Aldemar Araujo Castro
Criação: 10/10/2026
Atualização: 10/10/2026
Palavras: 2627
Tempo de leitura: 13 minutos
Ponte por fazer
o engenheiro escuta o rio
pesa cada passo
Resumo. Este texto examina a inovação responsável a partir de um problema clássico: quando uma tecnologia é nova, é fácil mudá-la, mas não se sabe o que ela fará; quando se sabe, ela já está entranhada. Parte do caso de um algoritmo que subestimou a necessidade de cuidado de pacientes negros, apresenta as quatro dimensões propostas por Stilgoe e colaboradores e um quadro específico para a saúde. Discute os instrumentos que o direito brasileiro já oferece e propõe perguntas práticas para pesquisadores e empreendedores.
Introdução
Imagine um sistema de saúde que deseja oferecer acompanhamento intensivo aos pacientes crônicos de maior risco. Os recursos são limitados, os pacientes são milhões, e a tarefa de escolher quem entra no programa é confiada a um algoritmo. Ele é preciso, bem validado e cumpre exatamente o que foi programado para fazer. Anos depois, pesquisadores descobrem que, para um mesmo escore de risco, pacientes negros estavam substancialmente mais doentes do que pacientes brancos. O algoritmo não havia sido programado para discriminar. Havia sido programado para prever custo, e não doença.
O caso, que examinaremos adiante, condensa o problema que a inovação responsável procura enfrentar. Nenhum dos envolvidos agiu de má-fé. A tecnologia funcionou como prometido. E, ainda assim, o resultado aprofundou uma desigualdade que o sistema de saúde dizia querer reduzir. A falha não estava no código, mas nas perguntas que ninguém fez antes de usá-lo.
Este texto percorre o conceito de inovação responsável, o dilema que lhe dá origem, as dimensões que o organizam e a sua tradução para a saúde. Por fim, examina o que o ordenamento brasileiro já oferece e propõe um roteiro de perguntas para quem pesquisa ou empreende.
O algoritmo que media custo, e não doença
Obermeyer, Powers, Vogeli e Mullainathan (2019) analisaram um algoritmo comercial amplamente usado nos Estados Unidos para identificar pacientes que se beneficiariam de programas de gestão de cuidado de alto risco. Ferramentas desse tipo eram aplicadas, segundo os autores, a centenas de milhões de pessoas por ano. O algoritmo atribuía a cada paciente um escore de risco, e os de escore mais alto eram encaminhados ao programa.
O que os pesquisadores encontraram foi um viés estrutural escondido numa escolha aparentemente técnica. Para treinar o modelo, os desenvolvedores haviam usado os gastos futuros com saúde como medida de necessidade. A escolha parecia razoável: quem é mais doente costuma gastar mais. Mas, nos Estados Unidos, por razões de acesso, renda e discriminação histórica, gasta-se menos com pacientes negros do que com pacientes brancos igualmente doentes. O algoritmo aprendeu essa diferença e a reproduziu. Pacientes negros precisavam estar mais doentes para alcançar o mesmo escore.
Os autores mostraram que corrigir a medida, substituindo custo por indicadores diretos de condição de saúde, aumentaria de forma expressiva a proporção de pacientes negros selecionados para receber ajuda adicional. O problema, portanto, tinha solução técnica. O que faltara fora a pergunta certa no momento certo: o que exatamente estamos medindo, e a quem essa medida pode prejudicar?
O caso é instrutivo por três razões. Primeiro, porque a falha não decorreu de defeito de programação, mas de uma decisão de desenho tomada cedo e esquecida depois. Segundo, porque o algoritmo funcionou durante anos antes de o problema ser identificado, e só foi identificado porque pesquisadores independentes tiveram acesso aos dados. Terceiro, porque mostra que neutralidade técnica não existe quando a tecnologia aprende com um mundo desigual.
O dilema do controle
Em 1980, o pesquisador britânico David Collingridge formulou um problema que se tornou referência obrigatória nos estudos sobre tecnologia e sociedade. No início do desenvolvimento de uma tecnologia, quando ela ainda é maleável e mudá-la custa pouco, não sabemos o suficiente sobre os seus efeitos para saber o que mudar. Quando os efeitos se tornam conhecidos, a tecnologia já está entranhada em infraestruturas, mercados, hábitos e interesses, e mudá-la se tornou caro, lento ou politicamente inviável. É o dilema de Collingridge, também chamado dilema do controle.
Genus e Stirling (2018) releram Collingridge à luz do debate contemporâneo e chamaram atenção para um aspecto frequentemente esquecido. A resposta de Collingridge ao dilema não era apenas tentar prever melhor o futuro, tarefa sempre limitada. Era preservar a capacidade de corrigir: manter opções abertas, evitar compromissos irreversíveis cedo demais, favorecer tecnologias e arranjos que possam ser ajustados quando os erros aparecerem. Os autores também destacaram a atenção de Collingridge ao poder: quem decide sobre a trajetória de uma tecnologia, quem se beneficia e quem arca com os custos.
Essa releitura tem uma consequência prática importante. A inovação responsável não se reduz a uma avaliação de impacto feita uma vez, no início do projeto. Ela exige mecanismos permanentes de vigilância e correção, e exige perguntar, desde o começo, quem terá voz quando for preciso mudar de rumo.
As quatro dimensões
A formulação mais citada de inovação responsável foi proposta por Stilgoe, Owen e Macnaghten (2013), que a definiram como cuidar do futuro por meio de uma gestão coletiva da ciência e da inovação no presente. Os autores organizaram essa ideia em quatro dimensões interligadas.
A antecipação consiste em perguntar sistematicamente “e se?” sobre os efeitos possíveis de uma inovação, desejados ou não, próximos ou distantes. Não se trata de prever o futuro com exatidão, mas de explorar cenários para identificar riscos e oportunidades enquanto ainda há tempo de agir.
A reflexividade consiste em examinar os próprios pressupostos, valores e enquadramentos. Os inovadores perguntam por que estão fazendo o que fazem, que visão de mundo está embutida nas escolhas técnicas e o que estão deixando de ver. No caso do algoritmo, a escolha do custo como medida de necessidade foi uma falha de reflexividade.
A inclusão consiste em abrir o processo a vozes além das dos especialistas e financiadores: usuários, comunidades afetadas, profissionais da linha de frente, cidadãos. A inclusão não é um ritual de consulta; é a incorporação de perspectivas que mudam efetivamente as decisões.
A responsividade consiste na capacidade de mudar de rumo em resposta ao que se aprende pelas outras três dimensões. Sem ela, antecipação, reflexão e inclusão se tornam exercícios retóricos.
Os autores ilustraram as dimensões com um caso concreto do Reino Unido: um projeto de pesquisa em geoengenharia que previa um teste de campo para injetar partículas na atmosfera. O projeto foi submetido a um processo de avaliação por etapas, com critérios de responsabilidade definidos antecipadamente. O teste de campo acabou cancelado, entre outras razões, por questões ligadas a conflitos de interesse e à falta de mecanismos de governança. O episódio mostrou que a inovação responsável pode, sim, levar a decisões de interromper, e que essa possibilidade precisa estar prevista desde o início.
Da ciência na sociedade à ciência com a sociedade
A noção de inovação responsável ganhou força institucional na Europa, especialmente nas políticas de financiamento de pesquisa da União Europeia, sob o nome de pesquisa e inovação responsáveis. Owen, Macnaghten e Stilgoe (2012) descreveram essa trajetória como uma passagem de modelos de relação entre ciência e público.
No modelo de ciência na sociedade, o problema era sobretudo de comunicação: a ciência produzia conhecimento e tecnologia, e cabia explicá-los a um público que, se resistisse, era porque não havia entendido. No modelo de ciência para a sociedade, com a sociedade, a pergunta muda. Não basta que a inovação seja segura e aceita; importa também para que serve, a quem beneficia e quem participa da definição dos seus propósitos.
Os autores destacaram três características dessa mudança. A primeira é a governança democrática dos propósitos da pesquisa, e não apenas dos seus riscos. A segunda é a responsividade institucional, isto é, a capacidade de financiadores, universidades e empresas de ajustar rumos. A terceira é o reconhecimento de que a forma como um problema é enquadrado já contém escolhas de valor.
Para o pesquisador brasileiro, essa discussão pode parecer distante dos editais e dos prazos de relatório. Ela se torna concreta quando se pergunta, por exemplo, se uma tecnologia em desenvolvimento para o diagnóstico de feridas será acessível às unidades básicas de saúde onde a maior parte dos pacientes é atendida, ou se fará sentido apenas em centros de referência com infraestrutura que poucas regiões possuem.
Um quadro para a saúde
A saúde exige uma tradução específica da inovação responsável, porque nela os efeitos de uma tecnologia atravessam pacientes, sistemas públicos e privados, orçamentos e desigualdades. Pacifico Silva, Lehoux, Miller e Denis (2018) propuseram um quadro de inovação responsável em saúde voltado a orientar formuladores de políticas, financiadores e avaliadores.
O quadro organiza os critérios em domínios de valor. O valor para a saúde da população inclui a relevância do problema enfrentado, as questões éticas, legais e sociais envolvidas e o efeito sobre as desigualdades. O valor para o sistema de saúde inclui a participação dos interessados no desenvolvimento, a capacidade de responder a necessidades do sistema e a adequação ao nível de cuidado em que a tecnologia será usada. Há ainda um domínio econômico, centrado na frugalidade, isto é, na entrega de valor com menor uso de recursos; um domínio organizacional, que examina o modelo de negócio; e um domínio ambiental, que considera os efeitos ecológicos ao longo do ciclo de vida.
Esse quadro desloca a avaliação de uma inovação em saúde para além da pergunta clássica sobre eficácia e segurança. Uma tecnologia pode ser eficaz e segura e, ainda assim, ser pouco responsável: se exigir infraestrutura que só existe em grandes centros, se encarecer o cuidado sem ganho proporcional, se aprofundar a distância entre quem tem e quem não tem acesso, ou se depender de um modelo de negócio que a torne inacessível ao sistema público.
O que já existe no direito brasileiro
O Brasil não possui uma lei geral de inovação responsável, mas dispõe de instrumentos que, articulados, cumprem parte dessa função. Conhecê-los ajuda o pesquisador e o empreendedor a perceber que responsabilidade não é apenas uma virtude pessoal; é também um conjunto de deveres jurídicos.
O primeiro conjunto é o da ética em pesquisa com seres humanos. O sistema formado pelos Comitês de Ética em Pesquisa e pela Comissão Nacional de Ética em Pesquisa, regido pela Resolução CNS nº 466/2012 e, mais recentemente, pela Lei nº 14.874/2024, exige avaliação prévia de riscos e benefícios, consentimento informado e proteção de grupos vulneráveis. É, na prática, uma forma institucionalizada de antecipação e inclusão, ainda que limitada à fase de pesquisa.
O segundo é o da proteção de dados. A Lei Geral de Proteção de Dados Pessoais, Lei nº 13.709/2018, classifica os dados de saúde como sensíveis e assegura ao titular, no art. 20, o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem os seus interesses. O dispositivo é diretamente relevante para algoritmos de triagem e priorização como o do caso que abriu este texto.
O terceiro é o da regulação sanitária e da avaliação de tecnologias. A Agência Nacional de Vigilância Sanitária disciplina a regularização de software como dispositivo médico, e a incorporação de tecnologias ao Sistema Único de Saúde passa pela avaliação da Comissão Nacional de Incorporação de Tecnologias no SUS, instituída pela Lei nº 12.401/2011, que considera evidências de eficácia, segurança, custo-efetividade e impacto orçamentário.
Esses instrumentos têm limites. Atuam em momentos específicos, como a aprovação de um protocolo, o registro de um produto ou a decisão de incorporação, e raramente acompanham a tecnologia depois que ela está em uso. Também tendem a avaliar riscos individuais com mais facilidade do que efeitos coletivos, como o aprofundamento de desigualdades. A inovação responsável não substitui esses mecanismos; acrescenta-lhes a preocupação com o percurso inteiro e com a capacidade de corrigir.
Críticas e limites
Seria pouco reflexivo apresentar a inovação responsável sem examinar as críticas que ela recebe. A primeira é a de que pode se tornar burocracia ética: formulários a preencher, seções obrigatórias em propostas de financiamento, declarações genéricas de compromisso que não alteram nenhuma decisão. Quando isso ocorre, a responsabilidade vira ritual, e o ritual pode até servir para legitimar o que já estava decidido.
A segunda crítica é de ordem prática. Pequenas empresas e grupos de pesquisa com poucos recursos alegam que não têm tempo nem pessoal para conduzir exercícios de antecipação ou processos participativos sofisticados. A objeção tem fundamento, mas confunde forma com substância. Uma startup de três pessoas não precisa contratar consultoria para perguntar a cinco pacientes e cinco profissionais da atenção básica se a solução faz sentido para eles. Precisa apenas fazê-lo antes de investir o que não poderá recuperar.
A terceira crítica, mais profunda, vem dos próprios estudiosos do tema. Genus e Stirling (2018) observaram que boa parte da literatura sobre inovação responsável tende a tratar a governança da tecnologia como problema de boa vontade e de procedimento, deixando de lado as assimetrias de poder entre quem desenvolve, quem financia, quem regula e quem é afetado. Uma consulta pública organizada por quem já tem interesse em determinado resultado não equilibra essas assimetrias; pode até reforçá-las.
Há ainda uma tensão com a velocidade. Em áreas como a inteligência artificial, os ciclos de desenvolvimento são tão curtos que a tecnologia chega ao uso antes de qualquer avaliação estruturada. Isso não torna a inovação responsável inútil, mas desloca sua ênfase: quando a antecipação é difícil, cresce a importância do monitoramento depois da implantação e da capacidade de retirar ou corrigir o que se mostrar danoso.
Essas críticas não invalidam o conceito. Indicam as condições para que ele funcione: perguntas feitas cedo, com participação real, atenção ao poder e disposição efetiva para mudar de rumo.
Frugalidade e o caso do sistema público
Entre os critérios do quadro de inovação responsável em saúde, a frugalidade merece atenção especial no contexto brasileiro. Em sistemas universais com orçamento restrito, como o Sistema Único de Saúde, uma tecnologia que entrega benefício marginal a custo muito alto não é apenas ineficiente; ela retira recursos de outras necessidades. A pergunta responsável, nesse cenário, não é somente se a tecnologia funciona, mas se ela funciona onde a maioria é atendida e a um custo que o sistema pode sustentar.
Isso tem consequências para quem desenvolve inovações dentro da universidade pública. Projetar desde o início para a unidade básica de saúde, com conectividade instável, equipe reduzida e pouco tempo por consulta, é diferente de projetar para o hospital de referência e depois tentar adaptar. A primeira escolha pode parecer menos ambiciosa; frequentemente é a mais transformadora.
Perguntas para o projeto
A inovação responsável pode parecer um conjunto de princípios abstratos. Ela se torna útil quando convertida em perguntas que um grupo de pesquisa, uma startup ou um serviço de saúde pode se fazer em cada etapa do projeto. As perguntas abaixo seguem as quatro dimensões e não pretendem esgotar o tema.
Para a antecipação: quais são os usos previstos desta tecnologia, e quais usos não previstos são plausíveis? Quem pode ser prejudicado se ela funcionar exatamente como planejado? O que acontecerá se ela falhar, e quem perceberá a falha?
Para a reflexividade: que pressupostos estão embutidos nas nossas escolhas de desenho, de dados e de medidas? A variável que estamos otimizando corresponde ao que realmente queremos alcançar, ou é apenas a mais fácil de medir? Que interesses, inclusive os nossos, podem estar influenciando essas escolhas?
Para a inclusão: quem será afetado e ainda não foi ouvido? Pacientes, profissionais da atenção básica, gestores de municípios pequenos, comunidades com menor acesso participaram de alguma decisão relevante? A participação mudou alguma coisa, ou apenas legitimou o que já estava decidido?
Para a responsividade: que mecanismos teremos para acompanhar a tecnologia depois de implantada? Que sinais nos fariam rever o rumo, e quem terá autoridade para fazê-lo? Estamos assumindo compromissos irreversíveis antes de saber o suficiente?
Nenhuma dessas perguntas tem resposta definitiva. Seu valor está em ser feita cedo, registrada e retomada ao longo do caminho.
Considerações finais
O dilema de Collingridge não tem solução definitiva: sempre saberemos menos do que gostaríamos quando ainda é fácil mudar, e sempre será mais difícil mudar quando soubermos mais. A inovação responsável não promete eliminar essa tensão. Propõe administrá-la com quatro hábitos: antecipar o que pode dar errado, examinar os próprios pressupostos, ouvir quem será afetado e preservar a capacidade de corrigir o rumo. Na saúde, esses hábitos ganham critérios próprios, que vão da relevância do problema à equidade, da frugalidade ao modelo de negócio.
Para quem pesquisa e empreende, a lição do algoritmo que media custo em vez de doença é desconfortável e necessária. Não basta que uma inovação funcione; é preciso perguntar para quem ela funciona e à custa de quem. Essas perguntas não atrasam a inovação. Atrasam apenas o momento em que descobrimos, tarde demais, que deveríamos tê-las feito.
Fontes
1. Stilgoe J, Owen R, Macnaghten P. Developing a framework for responsible innovation. Res Policy. 2013;42(9):1568-80.
DOI: https://doi.org/10.1016/j.respol.2013.05.008
Disponível em: https://doi.org/10.1016/j.respol.2013.05.008
Comentário: Artigo que propõe a definição mais citada de inovação responsável e a organiza em quatro dimensões: antecipação, reflexividade, inclusão e responsividade. Ilustra o quadro com um projeto britânico de geoengenharia cujo teste de campo foi cancelado. Sustenta a seção central do texto e o roteiro de perguntas.
2. Owen R, Macnaghten P, Stilgoe J. Responsible research and innovation: from science in society to science for society, with society. Sci Public Policy. 2012;39(6):751-60.
DOI: https://doi.org/10.1093/scipol/scs093
Disponível em: https://doi.org/10.1093/scipol/scs093
Comentário: Artigo que descreve a emergência da pesquisa e inovação responsáveis nas políticas europeias e a passagem de modelos de relação entre ciência e sociedade. Destaca a governança democrática dos propósitos da pesquisa e a responsividade institucional, fundamentando a seção sobre ciência com a sociedade.
3. Genus A, Stirling A. Collingridge and the dilemma of control: towards responsible and accountable innovation. Res Policy. 2018;47(1):61-9.
DOI: https://doi.org/10.1016/j.respol.2017.09.012
Disponível em: https://doi.org/10.1016/j.respol.2017.09.012
Comentário: Releitura do dilema de Collingridge que recupera a ênfase do autor na capacidade de correção, na manutenção de opções abertas e nas relações de poder. Mostra que a inovação responsável não pode se limitar à antecipação, base para a seção sobre o dilema do controle.
4. Pacifico Silva H, Lehoux P, Miller FA, Denis JL. Introducing responsible innovation in health: a policy-oriented framework. Health Res Policy Syst. 2018;16:90.
DOI: https://doi.org/10.1186/s12961-018-0362-5
Disponível em: https://doi.org/10.1186/s12961-018-0362-5
Comentário: Proposta de um quadro de inovação responsável em saúde, organizado em domínios de valor que incluem saúde da população, sistema de saúde, economia, organização e ambiente. Oferece critérios como equidade e frugalidade, que sustentam a seção sobre a aplicação do conceito à saúde.
5. Obermeyer Z, Powers B, Vogeli C, Mullainathan S. Dissecting racial bias in an algorithm used to manage the health of populations. Science. 2019;366(6464):447-53.
DOI: https://doi.org/10.1126/science.aax2342
Disponível em: https://doi.org/10.1126/science.aax2342
Comentário: Estudo que identificou viés racial num algoritmo comercial de gestão de saúde populacional, decorrente do uso do custo como medida de necessidade. Mostra que a correção da variável-alvo reduziria substancialmente a desigualdade. É o caso que abre e atravessa o texto.
Pontos para Recordar
- A inovação responsável busca cuidar do futuro por meio da gestão coletiva da ciência e da inovação no presente.
- O dilema de Collingridge mostra que, quando é fácil mudar uma tecnologia, ainda não sabemos o suficiente sobre os seus efeitos.
- Responder ao dilema exige mais do que prever: exige preservar a capacidade de corrigir e atenção a quem detém o poder de decidir.
- As quatro dimensões da inovação responsável são antecipação, reflexividade, inclusão e responsividade.
- Uma tecnologia eficaz e segura ainda pode ser pouco responsável se aprofundar desigualdades ou for inacessível ao sistema público.
- No Brasil, a ética em pesquisa, a proteção de dados, a regulação sanitária e a avaliação de tecnologias cumprem parte dessa função.
- A escolha da variável que um algoritmo otimiza é uma decisão de valor, e não apenas técnica.
Declaração de uso de Inteligência Artificial Generativa
Este texto foi produzido com o auxílio de Claude Opus 5.5, desenvolvida pela Anthropic, utilizado como ferramenta de apoio nas fases de brainstorming, de estruturação do conteúdo e de produção do texto. As imagens foram produzidas com auxílio do ChatGPT da OpenAI. A responsabilidade pela versão final e precisão das informações, pelo pensamento crítico, pela seleção das fontes e pelo conteúdo publicado é integralmente do autor.
Declaração de uso da inteligência humana
Declaro que a elaboração deste trabalho contou com o uso de inteligência humana desde a ideação, passando pela formulação das perguntas, pela escolha dos argumentos, pela interpretação das informações e pelas decisões sobre o que comunicar.
Essa inteligência gerenciou o uso dos recursos tecnológicos, incluindo computadores, internet, processadores eletrônicos de texto, corretores ortográficos, planilhas de dados e aplicativos de criação de desenhos e imagens. Também orquestrou o uso de recursos de inteligência artificial generativa, definindo suas finalidades, orientando as solicitações, avaliando as respostas e decidindo o que incorporar, modificar ou descartar.
Seu uso envolveu curiosidade, memória, experiência, dúvida e julgamento crítico. Reconheço que essa inteligência está sujeita a vieses, cansaço, lacunas de conhecimento e erros, inclusive quando se expressa com segurança. As ferramentas utilizadas apoiaram o processo de criação. A responsabilidade pelo conteúdo que escolhi publicar, por suas implicações e pelas correções necessárias permanece minha.
Declaro, por fim, que o exercício da inteligência humana inclui reconhecer o que não sei, verificar o que afirmo e rever o que penso diante de boas razões. Aliás, a responsabilidade humana pelo que se publica sempre foi essa, mesmo antes da IA generativa. Este texto contou com participação humana consciente, falível e responsável.