Le "Prompt injection", un tout nouveau type d'attaque qui vise les intelligences artificielles.
- matehau vaea
- 4 sept. 2023
- 1 min de lecture
Publiée le 3 Septembre sur Futura-sciences.
Lien :
Synopsie :
Le "prompte injection" est une attaque qui vise à dissimuler une requête à travers une demande d'exécution sur un IA, ce qui auras pour effet de contourner la sécurité intégrer au LLM "grands modèles de langage". Par exemple, dans le cas où une banque crée un assistant se basant sur l'IA afin d’exécuter les instructions des clients. Il suffirait que le hacker dissimule une requête à travers sa demande de transaction afin que l'assistant l'exécute et envoie de l'argent à son expéditeur sans que la victime ne s'en aperçoive.
Commentaires