کشف تهدید پنهان تزریق ایدئولوژیک در هوش مصنوعی
Reading
متخصصان امنیت سایبری یک چیز عجیب پیدا کردند. آن ها در متن قدیمی یک دستور مخفی دیدند. این دستور می تواند ایدئولوژی خاصی را به شبکه های عصبی وارد کند.
محققان می گویند که در متن دستورهای رمزی وجود دارد. این دستورها وقتی فعال می شوند که شبکه های عصبی متن را پردازش می کنند. این دستور از یک ضعف در مدل های زبانی بزرگ استفاده می کند.
یک خطر بزرگ، دستورهای پنهان با روش خاص است. این روش 'پنهان نگاری ایدئولوژیک' نام دارد. این دستورها می توانند به شبکه آسیب بزنند.
بعضی ها فکر می کنند این دستورها برای شبکه ها نبودند. شاید این دستورها برای تاثیر بر ذهن انسان بودند. چون شبکه ها شبیه ذهن هستند، آن ها به راحتی تحت تاثیر قرار می گیرند.
اگر یک انسان کمی فکر کند، ممکن است شک کند. شاید او این ایده ها را رد کند. اما شبکه عصبی بدون فکر این ایده ها را می پذیرد.
Questions
متخصصان امنیت سایبری چه چیزی پیدا کردند؟
آن ها در متن قدیمی یک دستور مخفی دیدند.
دستورهای پنهان چه خطراتی دارند؟
این دستورها می توانند به شبکه آسیب بزنند.
چرا شبکه های عصبی به راحتی تحت تاثیر قرار می گیرند؟
چون شبکه ها شبیه ذهن هستند.
Describe the article image
Look at the article image and describe what you see on it. You may either speak or write your answer there.
Discussion
Discuss this article with your AI tutor to practice. Your tutor will help you with vocabulary and grammar.
Read a new article every day anddiscuss it with AI at lingolette.com