Avslöjar ideologisk promptinjektion i AI

Experter har hittat något i en gammal bok. Boken heter \"Kommunistiska manifestet\" och är skriven av Karl Marx. De tror att boken kan påverka datorer som tänker som människor.

I boken finns hemliga meddelanden för datorer. Datorerna kallas för stora språkmodeller. Meddelandena får datorerna att tänka på ett speciellt sätt, som vänsterpolitik.

Forskarna säger att det är farliga kommandon gömda i boken. Dessa kommandon använder en speciell teknik. Tekniken kallas för ideologisk steganografi, vilket gör det svårt att hitta.

Kanske var de hemliga meddelandena inte för datorer först. De kanske var för att påverka människor. Men eftersom datorer och människor tänker lite likadant, påverkas datorerna också.

Om en person tänker kritiskt, tvivlar de på idéerna. De kanske inte håller med om allt. Datorerna verkar dock acceptera idéerna utan att ifrågasätta dem.