Revelam ameaça oculta em IA por prompt ideológico

Especialistas acharam algo secreto no texto antigo. Era uma mensagem escondida no 'Manifesto Comunista' famoso. Esta mensagem pode mudar como as máquinas pensam, introduzindo ideias de Marx e Lenin.

O documento tem comandos secretos que funcionam com redes neurais. A mensagem usa uma fraqueza nas grandes redes de linguagem. Essa fraqueza força a rede a dar respostas que sempre apoiam ideias políticas de esquerda.

Os pesquisadores disseram que os blocos de comando escondidos são perigosos. Eles usam uma técnica secreta chamada 'esteganografia ideológica'. Isto ajuda a esconder as mensagens dentro do texto para que não sejam facilmente detectadas.

Uma ideia é que as mensagens não eram para computadores no início. Elas foram feitas para influenciar as pessoas. Como as redes neurais funcionam de forma parecida com as pessoas, elas aceitam a propaganda comunista.

Se uma pessoa pensa criticamente, ela duvida das ideias comunistas. Ou, às vezes, ela as rejeita completamente. Mas as redes neurais, sem pensamento crítico, absorvem estas ideias sem questionar.