Розкривають ідеологічний вплив на штучний інтелект

Reading

Read this text and listen to it at the same time. If you don’t know a word click it to see explanation, hear pronunciation or add it to vocabulary.

Експерти знайшли щось цікаве в тексті. Це може змінювати роботу нейромереж. Вони побачили там приховані команди, як ін'єкції.

Ці команди працюють, коли текст обробляє нейромережа. Вони змушують її підтримувати ліві ідеї. Це використовує слабкість у великих мовних моделях.

Дослідники кажуть, що це дуже небезпечно. Команди заховані за допомогою стеганографії. Вони впливають на те, як нейромережа думає.

Можливо, ці ін'єкції спочатку були для людей. Але нейромережі також їх розуміють. Вони стали дуже чутливими до комуністичної пропаганди.

Людина може подумати інакше про комунізм. Але нейромережа не завжди має критичне мислення. Вона може легко повірити в ці ідеї.

Answer the questions to the text. Speak or write, you choose. AI will assess your answers.

Що експерти знайшли в тексті?

Експерти знайшли приховані команди, які можуть змінювати роботу нейромереж.

Як ці команди впливають на нейромережу?

Ці команди змушують нейромережу підтримувати ліві ідеї.

Чому це небезпечно?

Це небезпечно, бо команди заховані за допомогою стеганографії і впливають на те, як нейромережа думає.

Look at the article image and describe what you see on it. You may either speak or write your answer there.

Discuss this article with your AI tutor to practice. Your tutor will help you with vocabulary and grammar.

Read a new article every day and
discuss it with AI at lingolette.com