O que é injeção de prompt?

O que é injeção de prompt?
Por Viviane França • Editado por Bruno De Blasi |
A injeção de prompt é uma técnica de ataque que explora vulnerabilidades em sistemas de Inteligência Artificial generativa, especialmente em modelos de linguagem (LLMs). O objetivo é manipular as instruções enviadas à IA para que ela ignore suas regras originais e execute comandos maliciosos como se fossem legítimos.
– 5 formas de se proteger de injeção de prompt em navegadores de IA
– O prompt virou arma: como proteger seus dados dos ataques à IA
A seguir, tire suas dúvidas sobre:
– O que é prompt injection?
– Como o ataque acontece?
– Qual é a diferença entre injeção de prompt e jailbreaking?
– 11 dicas para se proteger de injeções de prompt
O que é prompt injection?
Prompt injection é um tipo de ataque em que o

Fontes

• https://canaltech.com.br/inteligencia-artificial/o-que-e-injecao-de-prompt/