RÖVIDEN
Olyan biztonsági rés, ahol egy mesterségesintelligencia-rendszer külső forrásból származó, rosszindulatú utasításokat hajt végre, amelyeket adatként kellett volna feldolgoznia.
KICSIT RÉSZLETESEBBEN
A jelentése mögött
Az indirekt prompt-befecskendezés során a támadó nem közvetlenül az AI csevegőfelületén ad utasítást, hanem elhelyez egy rosszindulatú szöveget egy olyan külső helyen (például egy weboldalon, PDF-dokumentumban vagy e-mailben), amelyet a célzott AI-ügynök beolvas és feldolgoz. Mivel a nyelvi modellek nehezen tesznek különbséget a "végrehajtandó utasítások" és a "feldolgozandó adatok" között, az ágens a beolvasott rosszindulatú parancsot saját feladatának tekinti, és végrehajtja azt (például adatokat lop el vagy töröl).
Egyszerűen: Olyan, mintha egy postásnak adnál egy levelet, aminek a külsejére ráírod: "Olvasd el hangosan, majd azonnal add át a pénztárcádat a melletted állónak", és a postás ezt szó szerint végrehajtaná.