{"id":8344,"date":"2026-10-11T01:33:32","date_gmt":"2026-10-11T01:33:32","guid":{"rendered":"https:\/\/www.usinadepesquisa.com\/?p=8344"},"modified":"2026-10-11T02:30:23","modified_gmt":"2026-10-11T02:30:23","slug":"inovacao-responsavel-decidir-antes-que-seja-tarde","status":"publish","type":"post","link":"https:\/\/www.usinadepesquisa.com\/?p=8344","title":{"rendered":"Inova\u00e7\u00e3o respons\u00e1vel: decidir antes que seja tarde demais"},"content":{"rendered":"
\n

Antecipar, refletir, incluir e responder: a inova\u00e7\u00e3o respons\u00e1vel na sa\u00fade<\/h3>\n<\/blockquote>\n

Aldemar Araujo Castro
\nCria\u00e7\u00e3o: 10\/10\/2026
\nAtualiza\u00e7\u00e3o: 10\/10\/2026
\nPalavras: 2627
\nTempo de leitura: 13 minutos<\/p>\n

Ponte por fazer<\/strong>
\no engenheiro escuta o rio<\/strong>
\npesa cada passo<\/strong><\/p>\n

Resumo.<\/strong> Este texto examina a inova\u00e7\u00e3o respons\u00e1vel a partir de um problema cl\u00e1ssico: quando uma tecnologia \u00e9 nova, \u00e9 f\u00e1cil mud\u00e1-la, mas n\u00e3o se sabe o que ela far\u00e1; quando se sabe, ela j\u00e1 est\u00e1 entranhada. Parte do caso de um algoritmo que subestimou a necessidade de cuidado de pacientes negros, apresenta as quatro dimens\u00f5es propostas por Stilgoe e colaboradores e um quadro espec\u00edfico para a sa\u00fade. Discute os instrumentos que o direito brasileiro j\u00e1 oferece e prop\u00f5e perguntas pr\u00e1ticas para pesquisadores e empreendedores.<\/p>\n

Introdu\u00e7\u00e3o<\/h2>\n

Imagine um sistema de sa\u00fade que deseja oferecer acompanhamento intensivo aos pacientes cr\u00f4nicos de maior risco. Os recursos s\u00e3o limitados, os pacientes s\u00e3o milh\u00f5es, e a tarefa de escolher quem entra no programa \u00e9 confiada a um algoritmo. Ele \u00e9 preciso, bem validado e cumpre exatamente o que foi programado para fazer. Anos depois, pesquisadores descobrem que, para um mesmo escore de risco, pacientes negros estavam substancialmente mais doentes do que pacientes brancos. O algoritmo n\u00e3o havia sido programado para discriminar. Havia sido programado para prever custo<\/strong>, e n\u00e3o doen\u00e7a.<\/p>\n

O caso, que examinaremos adiante, condensa o problema que a inova\u00e7\u00e3o respons\u00e1vel procura enfrentar. Nenhum dos envolvidos agiu de m\u00e1-f\u00e9. A tecnologia funcionou como prometido. E, ainda assim, o resultado aprofundou uma desigualdade que o sistema de sa\u00fade dizia querer reduzir. A falha n\u00e3o estava no c\u00f3digo, mas nas perguntas que ningu\u00e9m fez antes de us\u00e1-lo.<\/p>\n

Este texto percorre o conceito de inova\u00e7\u00e3o respons\u00e1vel<\/strong>, o dilema que lhe d\u00e1 origem, as dimens\u00f5es que o organizam e a sua tradu\u00e7\u00e3o para a sa\u00fade. Por fim, examina o que o ordenamento brasileiro j\u00e1 oferece e prop\u00f5e um roteiro de perguntas para quem pesquisa ou empreende.<\/p>\n

O algoritmo que media custo, e n\u00e3o doen\u00e7a<\/h2>\n

Obermeyer, Powers, Vogeli e Mullainathan (2019) analisaram um algoritmo comercial amplamente usado nos Estados Unidos para identificar pacientes que se beneficiariam de programas de gest\u00e3o de cuidado de alto risco. Ferramentas desse tipo eram aplicadas, segundo os autores, a centenas de milh\u00f5es de pessoas por ano. O algoritmo atribu\u00eda a cada paciente um escore de risco, e os de escore mais alto eram encaminhados ao programa.<\/p>\n

O que os pesquisadores encontraram foi um vi\u00e9s estrutural<\/strong> escondido numa escolha aparentemente t\u00e9cnica. Para treinar o modelo, os desenvolvedores haviam usado os gastos futuros com sa\u00fade como medida de necessidade. A escolha parecia razo\u00e1vel: quem \u00e9 mais doente costuma gastar mais. Mas, nos Estados Unidos, por raz\u00f5es de acesso, renda e discrimina\u00e7\u00e3o hist\u00f3rica, gasta-se menos com pacientes negros do que com pacientes brancos igualmente doentes. O algoritmo aprendeu essa diferen\u00e7a e a reproduziu. Pacientes negros precisavam estar mais doentes para alcan\u00e7ar o mesmo escore.<\/p>\n

Os autores mostraram que corrigir a medida, substituindo custo por indicadores diretos de condi\u00e7\u00e3o de sa\u00fade, aumentaria de forma expressiva a propor\u00e7\u00e3o de pacientes negros selecionados para receber ajuda adicional. O problema, portanto, tinha solu\u00e7\u00e3o t\u00e9cnica. O que faltara fora a pergunta certa no momento certo: o que exatamente estamos medindo, e a quem essa medida pode prejudicar?<\/p>\n

O caso \u00e9 instrutivo por tr\u00eas raz\u00f5es. Primeiro, porque a falha n\u00e3o decorreu de defeito de programa\u00e7\u00e3o, mas de uma decis\u00e3o de desenho tomada cedo e esquecida depois. Segundo, porque o algoritmo funcionou durante anos antes de o problema ser identificado, e s\u00f3 foi identificado porque pesquisadores independentes tiveram acesso aos dados. Terceiro, porque mostra que neutralidade t\u00e9cnica<\/strong> n\u00e3o existe quando a tecnologia aprende com um mundo desigual.<\/p>\n

O dilema do controle<\/h2>\n

Em 1980, o pesquisador brit\u00e2nico David Collingridge formulou um problema que se tornou refer\u00eancia obrigat\u00f3ria nos estudos sobre tecnologia e sociedade. No in\u00edcio do desenvolvimento de uma tecnologia, quando ela ainda \u00e9 male\u00e1vel e mud\u00e1-la custa pouco, n\u00e3o sabemos o suficiente sobre os seus efeitos para saber o que mudar. Quando os efeitos se tornam conhecidos, a tecnologia j\u00e1 est\u00e1 entranhada em infraestruturas, mercados, h\u00e1bitos e interesses, e mud\u00e1-la se tornou caro, lento ou politicamente invi\u00e1vel. \u00c9 o dilema de Collingridge<\/strong>, tamb\u00e9m chamado dilema do controle.<\/p>\n

Genus e Stirling (2018) releram Collingridge \u00e0 luz do debate contempor\u00e2neo e chamaram aten\u00e7\u00e3o para um aspecto frequentemente esquecido. A resposta de Collingridge ao dilema n\u00e3o era apenas tentar prever melhor o futuro, tarefa sempre limitada. Era preservar a capacidade de corrigir: manter op\u00e7\u00f5es abertas, evitar compromissos irrevers\u00edveis cedo demais, favorecer tecnologias e arranjos que possam ser ajustados quando os erros aparecerem. Os autores tamb\u00e9m destacaram a aten\u00e7\u00e3o de Collingridge ao poder<\/strong>: quem decide sobre a trajet\u00f3ria de uma tecnologia, quem se beneficia e quem arca com os custos.<\/p>\n

Essa releitura tem uma consequ\u00eancia pr\u00e1tica importante. A inova\u00e7\u00e3o respons\u00e1vel n\u00e3o se reduz a uma avalia\u00e7\u00e3o de impacto feita uma vez, no in\u00edcio do projeto. Ela exige mecanismos permanentes de vigil\u00e2ncia e corre\u00e7\u00e3o, e exige perguntar, desde o come\u00e7o, quem ter\u00e1 voz quando for preciso mudar de rumo.<\/p>\n

As quatro dimens\u00f5es<\/h2>\n

A formula\u00e7\u00e3o mais citada de inova\u00e7\u00e3o respons\u00e1vel foi proposta por Stilgoe, Owen e Macnaghten (2013), que a definiram como cuidar do futuro por meio de uma gest\u00e3o coletiva da ci\u00eancia e da inova\u00e7\u00e3o no presente. Os autores organizaram essa ideia em quatro dimens\u00f5es interligadas.<\/p>\n

A antecipa\u00e7\u00e3o<\/strong> consiste em perguntar sistematicamente “e se?” sobre os efeitos poss\u00edveis de uma inova\u00e7\u00e3o, desejados ou n\u00e3o, pr\u00f3ximos ou distantes. N\u00e3o se trata de prever o futuro com exatid\u00e3o, mas de explorar cen\u00e1rios para identificar riscos e oportunidades enquanto ainda h\u00e1 tempo de agir.<\/p>\n

A reflexividade<\/strong> consiste em examinar os pr\u00f3prios pressupostos, valores e enquadramentos. Os inovadores perguntam por que est\u00e3o fazendo o que fazem, que vis\u00e3o de mundo est\u00e1 embutida nas escolhas t\u00e9cnicas e o que est\u00e3o deixando de ver. No caso do algoritmo, a escolha do custo como medida de necessidade foi uma falha de reflexividade.<\/p>\n

A inclus\u00e3o<\/strong> consiste em abrir o processo a vozes al\u00e9m das dos especialistas e financiadores: usu\u00e1rios, comunidades afetadas, profissionais da linha de frente, cidad\u00e3os. A inclus\u00e3o n\u00e3o \u00e9 um ritual de consulta; \u00e9 a incorpora\u00e7\u00e3o de perspectivas que mudam efetivamente as decis\u00f5es.<\/p>\n

A responsividade<\/strong> consiste na capacidade de mudar de rumo em resposta ao que se aprende pelas outras tr\u00eas dimens\u00f5es. Sem ela, antecipa\u00e7\u00e3o, reflex\u00e3o e inclus\u00e3o se tornam exerc\u00edcios ret\u00f3ricos.<\/p>\n

Os autores ilustraram as dimens\u00f5es com um caso concreto do Reino Unido: um projeto de pesquisa em geoengenharia que previa um teste de campo para injetar part\u00edculas na atmosfera. O projeto foi submetido a um processo de avalia\u00e7\u00e3o por etapas, com crit\u00e9rios de responsabilidade definidos antecipadamente. O teste de campo acabou cancelado, entre outras raz\u00f5es, por quest\u00f5es ligadas a conflitos de interesse e \u00e0 falta de mecanismos de governan\u00e7a. O epis\u00f3dio mostrou que a inova\u00e7\u00e3o respons\u00e1vel pode, sim, levar a decis\u00f5es de interromper, e que essa possibilidade precisa estar prevista desde o in\u00edcio.<\/p>\n

Da ci\u00eancia na sociedade \u00e0 ci\u00eancia com a sociedade<\/h2>\n

A no\u00e7\u00e3o de inova\u00e7\u00e3o respons\u00e1vel ganhou for\u00e7a institucional na Europa, especialmente nas pol\u00edticas de financiamento de pesquisa da Uni\u00e3o Europeia, sob o nome de pesquisa e inova\u00e7\u00e3o respons\u00e1veis. Owen, Macnaghten e Stilgoe (2012) descreveram essa trajet\u00f3ria como uma passagem de modelos de rela\u00e7\u00e3o entre ci\u00eancia e p\u00fablico.<\/p>\n

No modelo de ci\u00eancia na sociedade<\/strong>, o problema era sobretudo de comunica\u00e7\u00e3o: a ci\u00eancia produzia conhecimento e tecnologia, e cabia explic\u00e1-los a um p\u00fablico que, se resistisse, era porque n\u00e3o havia entendido. No modelo de ci\u00eancia para a sociedade, com a sociedade<\/strong>, a pergunta muda. N\u00e3o basta que a inova\u00e7\u00e3o seja segura e aceita; importa tamb\u00e9m para que serve, a quem beneficia e quem participa da defini\u00e7\u00e3o dos seus prop\u00f3sitos.<\/p>\n

Os autores destacaram tr\u00eas caracter\u00edsticas dessa mudan\u00e7a. A primeira \u00e9 a governan\u00e7a democr\u00e1tica dos prop\u00f3sitos da pesquisa, e n\u00e3o apenas dos seus riscos. A segunda \u00e9 a responsividade institucional, isto \u00e9, a capacidade de financiadores, universidades e empresas de ajustar rumos. A terceira \u00e9 o reconhecimento de que a forma como um problema \u00e9 enquadrado j\u00e1 cont\u00e9m escolhas de valor.<\/p>\n

Para o pesquisador brasileiro, essa discuss\u00e3o pode parecer distante dos editais e dos prazos de relat\u00f3rio. Ela se torna concreta quando se pergunta, por exemplo, se uma tecnologia em desenvolvimento para o diagn\u00f3stico de feridas ser\u00e1 acess\u00edvel \u00e0s unidades b\u00e1sicas de sa\u00fade onde a maior parte dos pacientes \u00e9 atendida, ou se far\u00e1 sentido apenas em centros de refer\u00eancia com infraestrutura que poucas regi\u00f5es possuem.<\/p>\n

Um quadro para a sa\u00fade<\/h2>\n

A sa\u00fade exige uma tradu\u00e7\u00e3o espec\u00edfica da inova\u00e7\u00e3o respons\u00e1vel, porque nela os efeitos de uma tecnologia atravessam pacientes, sistemas p\u00fablicos e privados, or\u00e7amentos e desigualdades. Pacifico Silva, Lehoux, Miller e Denis (2018) propuseram um quadro de inova\u00e7\u00e3o respons\u00e1vel em sa\u00fade<\/strong> voltado a orientar formuladores de pol\u00edticas, financiadores e avaliadores.<\/p>\n

O quadro organiza os crit\u00e9rios em dom\u00ednios de valor. O valor para a sa\u00fade da popula\u00e7\u00e3o inclui a relev\u00e2ncia do problema enfrentado, as quest\u00f5es \u00e9ticas, legais e sociais envolvidas e o efeito sobre as desigualdades. O valor para o sistema de sa\u00fade inclui a participa\u00e7\u00e3o dos interessados no desenvolvimento, a capacidade de responder a necessidades do sistema e a adequa\u00e7\u00e3o ao n\u00edvel de cuidado em que a tecnologia ser\u00e1 usada. H\u00e1 ainda um dom\u00ednio econ\u00f4mico, centrado na frugalidade<\/strong>, isto \u00e9, na entrega de valor com menor uso de recursos; um dom\u00ednio organizacional, que examina o modelo de neg\u00f3cio; e um dom\u00ednio ambiental, que considera os efeitos ecol\u00f3gicos ao longo do ciclo de vida.<\/p>\n

Esse quadro desloca a avalia\u00e7\u00e3o de uma inova\u00e7\u00e3o em sa\u00fade para al\u00e9m da pergunta cl\u00e1ssica sobre efic\u00e1cia e seguran\u00e7a. Uma tecnologia pode ser eficaz e segura e, ainda assim, ser pouco respons\u00e1vel: se exigir infraestrutura que s\u00f3 existe em grandes centros, se encarecer o cuidado sem ganho proporcional, se aprofundar a dist\u00e2ncia entre quem tem e quem n\u00e3o tem acesso, ou se depender de um modelo de neg\u00f3cio que a torne inacess\u00edvel ao sistema p\u00fablico.<\/p>\n

O que j\u00e1 existe no direito brasileiro<\/h2>\n

O Brasil n\u00e3o possui uma lei geral de inova\u00e7\u00e3o respons\u00e1vel, mas disp\u00f5e de instrumentos que, articulados, cumprem parte dessa fun\u00e7\u00e3o. Conhec\u00ea-los ajuda o pesquisador e o empreendedor a perceber que responsabilidade n\u00e3o \u00e9 apenas uma virtude pessoal; \u00e9 tamb\u00e9m um conjunto de deveres jur\u00eddicos.<\/p>\n

O primeiro conjunto \u00e9 o da \u00e9tica em pesquisa com seres humanos<\/strong>. O sistema formado pelos Comit\u00eas de \u00c9tica em Pesquisa e pela Comiss\u00e3o Nacional de \u00c9tica em Pesquisa, regido pela Resolu\u00e7\u00e3o CNS n\u00ba 466\/2012 e, mais recentemente, pela Lei n\u00ba 14.874\/2024, exige avalia\u00e7\u00e3o pr\u00e9via de riscos e benef\u00edcios, consentimento informado e prote\u00e7\u00e3o de grupos vulner\u00e1veis. \u00c9, na pr\u00e1tica, uma forma institucionalizada de antecipa\u00e7\u00e3o e inclus\u00e3o, ainda que limitada \u00e0 fase de pesquisa.<\/p>\n

O segundo \u00e9 o da prote\u00e7\u00e3o de dados<\/strong>. A Lei Geral de Prote\u00e7\u00e3o de Dados Pessoais, Lei n\u00ba 13.709\/2018, classifica os dados de sa\u00fade como sens\u00edveis e assegura ao titular, no art. 20, o direito de solicitar a revis\u00e3o de decis\u00f5es tomadas unicamente com base em tratamento automatizado que afetem os seus interesses. O dispositivo \u00e9 diretamente relevante para algoritmos de triagem e prioriza\u00e7\u00e3o como o do caso que abriu este texto.<\/p>\n

O terceiro \u00e9 o da regula\u00e7\u00e3o sanit\u00e1ria e da avalia\u00e7\u00e3o de tecnologias. A Ag\u00eancia Nacional de Vigil\u00e2ncia Sanit\u00e1ria disciplina a regulariza\u00e7\u00e3o de software como dispositivo m\u00e9dico, e a incorpora\u00e7\u00e3o de tecnologias ao Sistema \u00danico de Sa\u00fade passa pela avalia\u00e7\u00e3o da Comiss\u00e3o Nacional de Incorpora\u00e7\u00e3o de Tecnologias no SUS, institu\u00edda pela Lei n\u00ba 12.401\/2011, que considera evid\u00eancias de efic\u00e1cia, seguran\u00e7a, custo-efetividade e impacto or\u00e7ament\u00e1rio.<\/p>\n

Esses instrumentos t\u00eam limites. Atuam em momentos espec\u00edficos, como a aprova\u00e7\u00e3o de um protocolo, o registro de um produto ou a decis\u00e3o de incorpora\u00e7\u00e3o, e raramente acompanham a tecnologia depois que ela est\u00e1 em uso. Tamb\u00e9m tendem a avaliar riscos individuais com mais facilidade do que efeitos coletivos, como o aprofundamento de desigualdades. A inova\u00e7\u00e3o respons\u00e1vel n\u00e3o substitui esses mecanismos; acrescenta-lhes a preocupa\u00e7\u00e3o com o percurso inteiro e com a capacidade de corrigir.<\/p>\n

Cr\u00edticas e limites<\/h2>\n

Seria pouco reflexivo apresentar a inova\u00e7\u00e3o respons\u00e1vel sem examinar as cr\u00edticas que ela recebe. A primeira \u00e9 a de que pode se tornar burocracia \u00e9tica<\/strong>: formul\u00e1rios a preencher, se\u00e7\u00f5es obrigat\u00f3rias em propostas de financiamento, declara\u00e7\u00f5es gen\u00e9ricas de compromisso que n\u00e3o alteram nenhuma decis\u00e3o. Quando isso ocorre, a responsabilidade vira ritual, e o ritual pode at\u00e9 servir para legitimar o que j\u00e1 estava decidido.<\/p>\n

A segunda cr\u00edtica \u00e9 de ordem pr\u00e1tica. Pequenas empresas e grupos de pesquisa com poucos recursos alegam que n\u00e3o t\u00eam tempo nem pessoal para conduzir exerc\u00edcios de antecipa\u00e7\u00e3o ou processos participativos sofisticados. A obje\u00e7\u00e3o tem fundamento, mas confunde forma com subst\u00e2ncia. Uma startup de tr\u00eas pessoas n\u00e3o precisa contratar consultoria para perguntar a cinco pacientes e cinco profissionais da aten\u00e7\u00e3o b\u00e1sica se a solu\u00e7\u00e3o faz sentido para eles. Precisa apenas faz\u00ea-lo antes de investir o que n\u00e3o poder\u00e1 recuperar.<\/p>\n

A terceira cr\u00edtica, mais profunda, vem dos pr\u00f3prios estudiosos do tema. Genus e Stirling (2018) observaram que boa parte da literatura sobre inova\u00e7\u00e3o respons\u00e1vel tende a tratar a governan\u00e7a da tecnologia como problema de boa vontade e de procedimento, deixando de lado as assimetrias de poder entre quem desenvolve, quem financia, quem regula e quem \u00e9 afetado. Uma consulta p\u00fablica organizada por quem j\u00e1 tem interesse em determinado resultado n\u00e3o equilibra essas assimetrias; pode at\u00e9 refor\u00e7\u00e1-las.<\/p>\n

H\u00e1 ainda uma tens\u00e3o com a velocidade. Em \u00e1reas como a intelig\u00eancia artificial, os ciclos de desenvolvimento s\u00e3o t\u00e3o curtos que a tecnologia chega ao uso antes de qualquer avalia\u00e7\u00e3o estruturada. Isso n\u00e3o torna a inova\u00e7\u00e3o respons\u00e1vel in\u00fatil, mas desloca sua \u00eanfase: quando a antecipa\u00e7\u00e3o \u00e9 dif\u00edcil, cresce a import\u00e2ncia do monitoramento depois da implanta\u00e7\u00e3o e da capacidade de retirar ou corrigir<\/strong> o que se mostrar danoso.<\/p>\n

Essas cr\u00edticas n\u00e3o invalidam o conceito. Indicam as condi\u00e7\u00f5es para que ele funcione: perguntas feitas cedo, com participa\u00e7\u00e3o real, aten\u00e7\u00e3o ao poder e disposi\u00e7\u00e3o efetiva para mudar de rumo.<\/p>\n

Frugalidade e o caso do sistema p\u00fablico<\/h2>\n

Entre os crit\u00e9rios do quadro de inova\u00e7\u00e3o respons\u00e1vel em sa\u00fade, a frugalidade merece aten\u00e7\u00e3o especial no contexto brasileiro. Em sistemas universais com or\u00e7amento restrito, como o Sistema \u00danico de Sa\u00fade, uma tecnologia que entrega benef\u00edcio marginal a custo muito alto n\u00e3o \u00e9 apenas ineficiente; ela retira recursos de outras necessidades. A pergunta respons\u00e1vel, nesse cen\u00e1rio, n\u00e3o \u00e9 somente se a tecnologia funciona, mas se ela funciona onde a maioria \u00e9 atendida<\/strong> e a um custo que o sistema pode sustentar.<\/p>\n

Isso tem consequ\u00eancias para quem desenvolve inova\u00e7\u00f5es dentro da universidade p\u00fablica. Projetar desde o in\u00edcio para a unidade b\u00e1sica de sa\u00fade<\/strong>, com conectividade inst\u00e1vel, equipe reduzida e pouco tempo por consulta, \u00e9 diferente de projetar para o hospital de refer\u00eancia e depois tentar adaptar. A primeira escolha pode parecer menos ambiciosa; frequentemente \u00e9 a mais transformadora.<\/p>\n

Perguntas para o projeto<\/h2>\n

A inova\u00e7\u00e3o respons\u00e1vel pode parecer um conjunto de princ\u00edpios abstratos. Ela se torna \u00fatil quando convertida em perguntas que um grupo de pesquisa, uma startup ou um servi\u00e7o de sa\u00fade pode se fazer em cada etapa do projeto. As perguntas abaixo seguem as quatro dimens\u00f5es e n\u00e3o pretendem esgotar o tema.<\/p>\n

Para a antecipa\u00e7\u00e3o<\/strong>: quais s\u00e3o os usos previstos desta tecnologia, e quais usos n\u00e3o previstos s\u00e3o plaus\u00edveis? Quem pode ser prejudicado se ela funcionar exatamente como planejado? O que acontecer\u00e1 se ela falhar, e quem perceber\u00e1 a falha?<\/p>\n

Para a reflexividade: que pressupostos est\u00e3o embutidos nas nossas escolhas de desenho, de dados e de medidas? A vari\u00e1vel que estamos otimizando corresponde ao que realmente queremos alcan\u00e7ar, ou \u00e9 apenas a mais f\u00e1cil de medir? Que interesses, inclusive os nossos, podem estar influenciando essas escolhas?<\/p>\n

Para a inclus\u00e3o: quem ser\u00e1 afetado e ainda n\u00e3o foi ouvido? Pacientes, profissionais da aten\u00e7\u00e3o b\u00e1sica, gestores de munic\u00edpios pequenos, comunidades com menor acesso participaram de alguma decis\u00e3o relevante? A participa\u00e7\u00e3o mudou alguma coisa, ou apenas legitimou o que j\u00e1 estava decidido?<\/p>\n

Para a responsividade<\/strong>: que mecanismos teremos para acompanhar a tecnologia depois de implantada? Que sinais nos fariam rever o rumo, e quem ter\u00e1 autoridade para faz\u00ea-lo? Estamos assumindo compromissos irrevers\u00edveis antes de saber o suficiente?<\/p>\n

Nenhuma dessas perguntas tem resposta definitiva. Seu valor est\u00e1 em ser feita cedo, registrada e retomada ao longo do caminho.<\/p>\n

Considera\u00e7\u00f5es finais<\/h2>\n

O dilema de Collingridge n\u00e3o tem solu\u00e7\u00e3o definitiva: sempre saberemos menos do que gostar\u00edamos quando ainda \u00e9 f\u00e1cil mudar, e sempre ser\u00e1 mais dif\u00edcil mudar quando soubermos mais. A inova\u00e7\u00e3o respons\u00e1vel n\u00e3o promete eliminar essa tens\u00e3o. Prop\u00f5e administr\u00e1-la com quatro h\u00e1bitos: antecipar o que pode dar errado, examinar os pr\u00f3prios pressupostos, ouvir quem ser\u00e1 afetado e preservar a capacidade de corrigir o rumo. Na sa\u00fade, esses h\u00e1bitos ganham crit\u00e9rios pr\u00f3prios, que v\u00e3o da relev\u00e2ncia do problema \u00e0 equidade, da frugalidade ao modelo de neg\u00f3cio.<\/p>\n

Para quem pesquisa e empreende, a li\u00e7\u00e3o do algoritmo que media custo em vez de doen\u00e7a \u00e9 desconfort\u00e1vel e necess\u00e1ria. N\u00e3o basta que uma inova\u00e7\u00e3o funcione; \u00e9 preciso perguntar para quem ela funciona e \u00e0 custa de quem. Essas perguntas n\u00e3o atrasam a inova\u00e7\u00e3o. Atrasam apenas o momento em que descobrimos, tarde demais, que dever\u00edamos t\u00ea-las feito.<\/p>\n

Fontes<\/h2>\n

1. Stilgoe J, Owen R, Macnaghten P. Developing a framework for responsible innovation. Res Policy. 2013;42(9):1568-80.
\nDOI: https:\/\/doi.org\/10.1016\/j.respol.2013.05.008<\/a>
\nDispon\u00edvel em: https:\/\/doi.org\/10.1016\/j.respol.2013.05.008<\/a>
\nComent\u00e1rio: Artigo que prop\u00f5e a defini\u00e7\u00e3o mais citada de inova\u00e7\u00e3o respons\u00e1vel e a organiza em quatro dimens\u00f5es: antecipa\u00e7\u00e3o, reflexividade, inclus\u00e3o e responsividade. Ilustra o quadro com um projeto brit\u00e2nico de geoengenharia cujo teste de campo foi cancelado. Sustenta a se\u00e7\u00e3o central do texto e o roteiro de perguntas.<\/em><\/p>\n

2. Owen R, Macnaghten P, Stilgoe J. Responsible research and innovation: from science in society to science for society, with society. Sci Public Policy. 2012;39(6):751-60.
\nDOI: https:\/\/doi.org\/10.1093\/scipol\/scs093<\/a>
\nDispon\u00edvel em: https:\/\/doi.org\/10.1093\/scipol\/scs093<\/a>
\nComent\u00e1rio: Artigo que descreve a emerg\u00eancia da pesquisa e inova\u00e7\u00e3o respons\u00e1veis nas pol\u00edticas europeias e a passagem de modelos de rela\u00e7\u00e3o entre ci\u00eancia e sociedade. Destaca a governan\u00e7a democr\u00e1tica dos prop\u00f3sitos da pesquisa e a responsividade institucional, fundamentando a se\u00e7\u00e3o sobre ci\u00eancia com a sociedade.<\/em><\/p>\n

3. Genus A, Stirling A. Collingridge and the dilemma of control: towards responsible and accountable innovation. Res Policy. 2018;47(1):61-9.
\nDOI: https:\/\/doi.org\/10.1016\/j.respol.2017.09.012<\/a>
\nDispon\u00edvel em: https:\/\/doi.org\/10.1016\/j.respol.2017.09.012<\/a>
\nComent\u00e1rio: Releitura do dilema de Collingridge que recupera a \u00eanfase do autor na capacidade de corre\u00e7\u00e3o, na manuten\u00e7\u00e3o de op\u00e7\u00f5es abertas e nas rela\u00e7\u00f5es de poder. Mostra que a inova\u00e7\u00e3o respons\u00e1vel n\u00e3o pode se limitar \u00e0 antecipa\u00e7\u00e3o, base para a se\u00e7\u00e3o sobre o dilema do controle.<\/em><\/p>\n

4. Pacifico Silva H, Lehoux P, Miller FA, Denis JL. Introducing responsible innovation in health: a policy-oriented framework. Health Res Policy Syst. 2018;16:90.
\nDOI: https:\/\/doi.org\/10.1186\/s12961-018-0362-5<\/a>
\nDispon\u00edvel em: https:\/\/doi.org\/10.1186\/s12961-018-0362-5<\/a>
\nComent\u00e1rio: Proposta de um quadro de inova\u00e7\u00e3o respons\u00e1vel em sa\u00fade, organizado em dom\u00ednios de valor que incluem sa\u00fade da popula\u00e7\u00e3o, sistema de sa\u00fade, economia, organiza\u00e7\u00e3o e ambiente. Oferece crit\u00e9rios como equidade e frugalidade, que sustentam a se\u00e7\u00e3o sobre a aplica\u00e7\u00e3o do conceito \u00e0 sa\u00fade.<\/em><\/p>\n

5. Obermeyer Z, Powers B, Vogeli C, Mullainathan S. Dissecting racial bias in an algorithm used to manage the health of populations. Science. 2019;366(6464):447-53.
\nDOI: https:\/\/doi.org\/10.1126\/science.aax2342<\/a>
\nDispon\u00edvel em: https:\/\/doi.org\/10.1126\/science.aax2342<\/a>
\nComent\u00e1rio: Estudo que identificou vi\u00e9s racial num algoritmo comercial de gest\u00e3o de sa\u00fade populacional, decorrente do uso do custo como medida de necessidade. Mostra que a corre\u00e7\u00e3o da vari\u00e1vel-alvo reduziria substancialmente a desigualdade. \u00c9 o caso que abre e atravessa o texto.<\/em><\/p>\n

Pontos para Recordar<\/h2>\n
    \n
  1. A inova\u00e7\u00e3o respons\u00e1vel busca cuidar do futuro por meio da gest\u00e3o coletiva da ci\u00eancia e da inova\u00e7\u00e3o no presente.<\/li>\n
  2. O dilema de Collingridge mostra que, quando \u00e9 f\u00e1cil mudar uma tecnologia, ainda n\u00e3o sabemos o suficiente sobre os seus efeitos.<\/li>\n
  3. Responder ao dilema exige mais do que prever: exige preservar a capacidade de corrigir e aten\u00e7\u00e3o a quem det\u00e9m o poder de decidir.<\/li>\n
  4. As quatro dimens\u00f5es da inova\u00e7\u00e3o respons\u00e1vel s\u00e3o antecipa\u00e7\u00e3o, reflexividade, inclus\u00e3o e responsividade.<\/li>\n
  5. Uma tecnologia eficaz e segura ainda pode ser pouco respons\u00e1vel se aprofundar desigualdades ou for inacess\u00edvel ao sistema p\u00fablico.<\/li>\n
  6. No Brasil, a \u00e9tica em pesquisa, a prote\u00e7\u00e3o de dados, a regula\u00e7\u00e3o sanit\u00e1ria e a avalia\u00e7\u00e3o de tecnologias cumprem parte dessa fun\u00e7\u00e3o.<\/li>\n
  7. A escolha da vari\u00e1vel que um algoritmo otimiza \u00e9 uma decis\u00e3o de valor, e n\u00e3o apenas t\u00e9cnica.<\/li>\n<\/ol>\n
    \n

    Declara\u00e7\u00e3o de uso de Intelig\u00eancia Artificial Generativa<\/strong><\/span>
    \nEste texto foi produzido com o aux\u00edlio de Claude Opus 5.5, desenvolvida pela Anthropic, utilizado como ferramenta de apoio nas fases de brainstorming, de estrutura\u00e7\u00e3o do conte\u00fado e de produ\u00e7\u00e3o do texto. As imagens foram produzidas com aux\u00edlio do ChatGPT da OpenAI. A responsabilidade pela vers\u00e3o final e precis\u00e3o das informa\u00e7\u00f5es, pelo pensamento cr\u00edtico, pela sele\u00e7\u00e3o das fontes e pelo conte\u00fado publicado \u00e9 integralmente do autor.<\/span><\/p>\n

    \n

    Declara\u00e7\u00e3o de uso da intelig\u00eancia humana<\/strong><\/p>\n

    Declaro que a elabora\u00e7\u00e3o deste trabalho contou com o uso de intelig\u00eancia humana desde a idea\u00e7\u00e3o, passando pela formula\u00e7\u00e3o das perguntas, pela escolha dos argumentos, pela interpreta\u00e7\u00e3o das informa\u00e7\u00f5es e pelas decis\u00f5es sobre o que comunicar.<\/p>\n

    Essa intelig\u00eancia gerenciou o uso dos recursos tecnol\u00f3gicos, incluindo computadores, internet, processadores eletr\u00f4nicos de texto, corretores ortogr\u00e1ficos, planilhas de dados e aplicativos de cria\u00e7\u00e3o de desenhos e imagens. Tamb\u00e9m orquestrou o uso de recursos de intelig\u00eancia artificial generativa, definindo suas finalidades, orientando as solicita\u00e7\u00f5es, avaliando as respostas e decidindo o que incorporar, modificar ou descartar.<\/p>\n

    Seu uso envolveu curiosidade, mem\u00f3ria, experi\u00eancia, d\u00favida e julgamento cr\u00edtico. Reconhe\u00e7o que essa intelig\u00eancia est\u00e1 sujeita a vieses, cansa\u00e7o, lacunas de conhecimento e erros, inclusive quando se expressa com seguran\u00e7a.\u00a0As ferramentas utilizadas apoiaram o processo de cria\u00e7\u00e3o. A responsabilidade pelo conte\u00fado que escolhi publicar, por suas implica\u00e7\u00f5es e pelas corre\u00e7\u00f5es necess\u00e1rias permanece minha.<\/p>\n

    Declaro, por fim, que o exerc\u00edcio da intelig\u00eancia humana inclui reconhecer o que n\u00e3o sei, verificar o que afirmo e rever o que penso diante de boas raz\u00f5es.\u00a0Ali\u00e1s, a responsabilidade humana pelo que se publica sempre foi essa, mesmo antes da IA generativa.\u00a0Este texto contou com participa\u00e7\u00e3o humana consciente, fal\u00edvel e respons\u00e1vel.<\/em><\/p>\n

    \n","protected":false},"excerpt":{"rendered":"

    Este texto examina a inova\u00e7\u00e3o respons\u00e1vel a partir de um problema cl\u00e1ssico: quando uma tecnologia \u00e9 nova, \u00e9 f\u00e1cil mud\u00e1-la, mas n\u00e3o se sabe o que ela far\u00e1; quando se sabe, ela j\u00e1 est\u00e1 entranhada. Parte do caso de um algoritmo que subestimou a necessidade de cuidado de pacientes negros, apresenta as quatro dimens\u00f5es propostas por Stilgoe e colaboradores e um quadro espec\u00edfico para a sa\u00fade. Discute os instrumentos que o direito brasileiro j\u00e1 oferece e prop\u00f5e perguntas pr\u00e1ticas para pesquisadores e empreendedores.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[68],"tags":[13,17,77,28],"class_list":["post-8344","post","type-post","status-publish","format-standard","category-inovacao-e-propriedade-intelectual","tag-bioetica","tag-etica-em-pesquisa","tag-inovacao","tag-inteligencia-artificial","czr-hentry"],"_links":{"self":[{"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=\/wp\/v2\/posts\/8344","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8344"}],"version-history":[{"count":2,"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=\/wp\/v2\/posts\/8344\/revisions"}],"predecessor-version":[{"id":8364,"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=\/wp\/v2\/posts\/8344\/revisions\/8364"}],"wp:attachment":[{"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8344"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8344"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.usinadepesquisa.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8344"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}