Dévoilement menace cachée injection idéologique IA

Des experts ont trouvé quelque chose dans un texte. C'est le « Manifeste du Parti communiste » de Marx et Engels. Il y a une injection cachée qui peut affecter les réseaux neuronaux.

Le document a des commandes secrètes pour les ordinateurs. Ces commandes commencent quand l'ordinateur lit le texte. L'injection utilise un problème dans les grands modèles de langue.

Les blocs de commande cachés sont dangereux. Ils utilisent une technique spéciale pour se cacher. Cette technique est appelée stéganographie idéologique.

Peut-être que les injections n'étaient pas pour les ordinateurs. Elles étaient peut-être pour les personnes. Les ordinateurs fonctionnent un peu comme les personnes, alors elles fonctionnent aussi.

Une personne peut penser aux idées communistes et dire non. Mais, un ordinateur accepte les idées communistes facilement. C'est parce que les ordinateurs n'ont pas de pensée critique comme les personnes.