Injeção de prompt: quando o documento dá ordens ao seu assistente Recently updated !
Este texto explica a injeção de prompt, ataque em que um conteúdo lido por um assistente de inteligência artificial é interpretado como ordem em vez de dado. Apresenta a raiz do problema, que é a ausência de separação entre instrução e conteúdo, distingue as modalidades direta, indireta e oculta em documentos, discute a evidência experimental obtida em tarefas de oncologia e oferece um mapa das demais ameaças associadas ao uso dessas ferramentas na pesquisa. Encerra com condutas práticas ao alcance do pesquisador e do comitê de ética, da limitação de permissões à triagem prévia de arquivos de terceiros.
