هوش مصنوعی امروزی چقدر ایمن است؟ آنچه باید در سال 2026 بدانید!

هوش مصنوعی امروزی چقدر ایمن است؟ آنچه باید در سال 2026 بدانید! چت‌بات‌های هوش مصنوعی مانند ChatGPT یا Gemini در مقایسه با نسخه اولیه خود، به طور فزاینده‌ای ایمن‌تر شده‌اند. اما خطرات واقعی در حال تغییر به سمت عوامل هوش مصنوعی افزونه‌ها و مهارت‌هایی است که می‌توانند از طرف شما عمل کنند. این راهنما به شما نشان می‌دهد که چگونه با عادت‌ها و ابزارهای ساده‌ای که هوش مصنوعی را برای شما ایمن نگه می‌دارند، کنترل خود را حفظ کنید.

نکات کلیدی

بیشتر چت‌بات‌های هوش مصنوعی رایج – مانند ChatGPT، Claude، Copilot، Gemini – برای استفاده در کارهای روزمره بی‌خطر هستند.

این خطر به سمت عوامل هوش مصنوعی و مهارت‌ها و افزونه‌های آنها تغییر یافته است. این افزونه‌های کوچک به عوامل هوش مصنوعی اجازه می‌دهند تا فایل‌ها را دانلود کنند، کد اجرا کنند و بدون نظارت یا رضایت کاربر، اقدامات بالقوه مخرب انجام دهند.

تحقیقات ESET حدود ۸۰۰۰۰۰ مهارت عامل را بین مارس و مه ۲۰۲۶ تجزیه و تحلیل کرد و بیش از ۲۵۰۰۰ مورد مشکوک را یافت که در آنها یک تغییر جزئی می‌توانست یک عامل را مخرب کند.
سه عادتی که از اکثر کاربران محافظت می‌کند: بررسی منبع، محدود کردن مجوزها و استفاده از نرم‌افزار امنیتی که بر فعالیت هوش مصنوعی نظارت می‌کند

آیا عوامل هوش مصنوعی واقعاً ایمن هستند؟

برخلاف چت‌بات‌های سنتی، عامل‌های هوش مصنوعی فقط محتوا تولید یا خلاصه نمی‌کنند. آن‌ها طوری طراحی شده‌اند که به صورت خودکار وظایف را از طرف کاربر خود انجام دهند. حتی اگر عامل ظاهراً ایمن باشد، ممکن است فایل‌های مخرب را دانلود و اجرا کند، اسکریپت‌های ناامن را اجرا کند یا به منابع بالقوه مخرب متصل شود. همه این‌ها می‌تواند در پس‌زمینه و بدون اطلاع یا رضایت شما اتفاق بیفتد.

کاری که عوامل هوش مصنوعی هنگام استفاده شما انجام می‌دهند

در اینجا نحوه تغییر چشم‌انداز هوش مصنوعی را مشاهده می‌کنید.

از چت‌بات‌ها تا عوامل هوش مصنوعی

چت‌بات‌ها طوری طراحی شده‌اند که پرسش‌های پیچیده را به شیوه‌ای واکنشی و با هدایت کاربر درک کنند. عامل‌ها مانند دستیاران شخصی بالفعل عمل می‌کنند و به طور مستقل و فعال برای انجام وظایف پیچیده‌تر کار می‌کنند. این وظایف ممکن است شامل مرور وب، خواندن فایل‌ها و صفحات وب، ورود به حساب‌های شما و در برخی موارد حتی انجام پرداخت‌ها باشد – در حین انجام کار، «استدلال» و «عمل» می‌کنند.

«مهارت هوش مصنوعی» یا «افزونه هوش مصنوعی» چیست؟

مهارت‌های هوش مصنوعی شبیه افزونه‌های مرورگر هستند: بسته‌های کوچکی از دستورالعمل‌ها، داده‌ها، کد، اما گاهی اوقات حتی ابزارهایی که عملکرد عامل هوش مصنوعی شما را گسترش می‌دهند. اما درست مانند برخی از افزونه‌های مرورگر، حتی مهارت‌های هوش مصنوعی نیز می‌توانند در آستانه انجام اقدامات مخرب باشند یا در دام افتاده و غافلگیری‌های ناخوشایندی را پنهان کنند.

خطر در سال ۲۰۲۶ در کجا قرار دارد؟

اگر مشتاق هستید که از هوش مصنوعی استفاده کنید، درک خطرات آن مهم است، زیرا این خطرات آنطور که ممکن است فکر کنید، تئوری نیستند. در اینجا چند مثال آورده شده است:

مهارت‌ها و افزونه‌های مخرب هوش مصنوعی

از مارس ۲۰۲۶، ESET بیش از ۸۰۰۰۰۰ مهارت هوش مصنوعی را اسکن کرد و بیش از ۲۵۰۰۰ مورد مشکوک و بیش از ۲۵۰۰ مورد مخرب را شناسایی کرد. برخی از بارزترین نمونه‌ها برای دانلود بدافزارهای سرقت اطلاعات در دستگاه‌های کاربران با هدف جمع‌آوری اسراری مانند کلیدهای API، رمزهای عبور یا سرقت اطلاعات پرداخت برای برنامه‌های رمزنگاری و بانکی طراحی شده بودند. برخی دیگر حاوی تروجان‌ها (بدافزار پنهان) و درهای پشتی بودند که برای دسترسی مخفیانه مهاجمان به سیستم‌های قربانی طراحی شده بودند.

تحقیقات جداگانه‌ای در اول فوریه، بیش از ۸۰۰ مهارت مخرب را در بازار ClawHub فهرست کرد. این مهارت‌ها همچنین شامل سارقان اطلاعات، بدافزارهای سرقت ارز دیجیتال و پوسته‌های معکوس بودند که هکرها را قادر می‌سازد تا دستگاه‌های قربانیان خود را ربوده و به آنها نفوذ کنند.

افزونه‌های جعلی دستیار هوش مصنوعی مرورگر

هکرها فقط مهارت‌های هوش مصنوعی را هدف قرار نمی‌دهند، بلکه از هوش مصنوعی به عنوان پوششی در تنظیمات از پیش شناخته شده، مانند افزونه‌های مرورگر، نیز استفاده می‌کنند. مایکروسافت یک کمپین بزرگ را کشف کرد که در آن افزونه‌های مضر، دستیارهای هوش مصنوعی قانونی را جعل می‌کردند. آنها برای جمع‌آوری تاریخچه چت کاربران طراحی شده بودند که ممکن است حاوی اطلاعات حساسی مانند اعتبارنامه‌ها باشد. مایکروسافت تنها در این کمپین نزدیک به یک میلیون دانلود را مشاهده کرد.

یکی از جدی‌ترین تهدیدها برای عامل‌های genAI و هوش مصنوعی، ورود سریع (prompt injection) است. این روش به دو صورت عمل می‌کند. ورود مستقیم سریع شامل وارد کردن دستورات توسط مهاجمان به یک LLM برای فریب آن به نادیده گرفتن حفاظ‌های ایمنی داخلی‌اش است. با این حال، ورود غیرمستقیم سریع (prompt injection) برای عامل‌های هوش مصنوعی مرتبط‌تر است. دستورالعمل‌های مخرب در صفحات وب، پست‌ها، کد یا سایر محتواها پنهان هستند. هنگامی که یک عامل با آن محتوا تعامل می‌کند، برای انجام فعالیت‌های مخرب دستکاری می‌شود .

بدافزارها و باج‌افزارهای تولید شده توسط هوش مصنوعی

هوش مصنوعی همچنین می‌تواند برای تولید اسکریپت‌های مخرب یا بخش‌هایی از بدافزار و باج‌افزار به صورت بلادرنگ مورد استفاده قرار گیرد. یکی از اولین باج‌افزارهای این نوع ، PromptLock بود که توسط ESET کشف شد. با این حال، این به معنای دقیق کلمه تهدیدی برای عوامل هوش مصنوعی شما نیست.

چگونه بفهمیم یک عامل یا افزونه هوش مصنوعی ایمن است

برای به حداقل رساندن خطرات امنیتی هوش مصنوعی، موارد زیر را در نظر بگیرید:

چه مجوزهایی درخواست می‌کند؟ نسبت به هر چیزی که به نظر می‌رسد به مجوزهای بیشتری از آنچه که باید نیاز دارد، محتاط باشید.

آیا نویسنده مهارت‌ها/افزونه‌های دیگری را به همراه نقد و بررسی منتشر کرده است؟ این نقدها ممکن است مشکلات امنیتی را برجسته کنند.

آیا مخزن فعال است، به‌روزرسانی‌های اخیر دارد و توسعه‌دهنده‌ای پاسخگو دارد؟ اگر چنین است، نشانه خوبی است که آنها سعی دارند از هرگونه مشکل امنیتی/ایمنی جدید مطلع باشند. با این حال، مراقب باشید که این ۱۰۰٪ قطعی نیست (برای مثال، یک مهاجم ممکن است برای ایجاد اعتماد پاسخگو باشد و بتواند مهارت‌ها را از حالت مخرب به حالت غیر مخرب تغییر دهد).

آیا افزونه در حین نصب نیاز به اجرای اسکریپت‌های ناشناخته یا دسترسی به دامنه‌ها/منابع مشکوک دارد؟ این باید یک هشدار فوری باشد.

آیا مهارت مورد نظر اسکن شده است – مثلاً با ESET AI Skills Checker – و نتیجه چه بوده است؟

آیا نرم‌افزار امنیت سایبری شما (یا ویژگی‌های ESET AI Security در ESET HOME Security ) برای نظارت بر فعالیت هوش مصنوعی تنظیم شده است؟

پس از استقرار، عامل/افزونه خود را زیر نظر داشته باشید تا در صورت تغییر رفتار آن به صورت مخفیانه (و مخرب) از آن جلوگیری کنید.

همیشه نرم‌افزار عامل خود را به‌روز نگه دارید تا در امن‌ترین نسخه باشد.

چگونه ESET شما را از عوامل هوش مصنوعی ناامن محافظت می‌کند

ESET چندین ویژگی دارد که برای محافظت از شما در برابر تهدیدات مرتبط با عامل هوش مصنوعی طراحی شده‌اند. این ویژگی‌ها عبارتند از:

ESET AI Security – محافظت خودکار از دستگاه شما

رفتار را رصد می‌کند و بررسی می‌کند که عامل هوش مصنوعی شما چه چیزهایی را دانلود و به چه چیزهایی متصل می‌شود ( نظارت رفتاری هوش مصنوعی )

فایل‌ها و اجزای مرتبط با هوش مصنوعی را اسکن می‌کند، URLها را بررسی می‌کند و کل زنجیره دانلود را دنبال می‌کند تا حملات چند مرحله‌ای پنهان را شناسایی کند ( AI Agent Security )

هنگام تعامل با مدل‌های زبانی بزرگ مانند ChatGPT، یک لایه محافظتی اضافی اضافه می‌کند. این سرویس، URLهای موجود در پاسخ‌های هوش مصنوعی را بررسی می‌کند و در صورت وجود محتوای فیشینگ،

مخرب یا ناخواسته، به شما هشدار می‌دهد. همچنین اسکریپت‌های تولید شده توسط هوش مصنوعی را اسکن می‌کند تا از اجرای کدهای مضر روی دستگاه شما جلوگیری کند ( امنیت مکالمه هوش مصنوعی ).

با استفاده از ESET LiveGuard به طور خودکار فعالیت‌های مخرب را بدون نیاز به اقدام کاربر مسدود می‌کند.

بررسی‌کننده مهارت‌های هوش مصنوعی ESET – ابزاری رایگان که می‌توانید همین حالا امتحان کنید

اسکن کامل فایل مهارت، شامل هر دستور، اسکریپت، بلوک کد و پیکربندی با یک کلیک

هر URL که به مهارت‌ها ارجاع می‌دهد را با پایگاه‌های داده تهدید ESET و تجزیه و تحلیل بلادرنگ بررسی می‌کند.

مهارت هوش مصنوعی را در یک محیط شبیه‌سازی می‌کند تا ببیند چگونه رفتار می‌کند.

در فناوری ESET گنجانده شده است تا حتی اگر مهارت جدیدی را از طریق Skill Checker اجرا نکرده باشید، تهدیدات را شناسایی کند.

همچنین شما میتوانید با کلیک برروی خرید آنتی ویروس که دارای ⭐️فایر وال, سپر شبکه و وای فای امن ⭐️ قابلیت نصب نرم افزار از سایت رسمی eset.com – آپدیت از سرور اصلی ESET تهیه و خریداری کنید.

توجه: ابزار بررسی مهارت‌های هوش مصنوعی ESET یک ابزار آزمایش و تحلیل است که به‌طور خاص برای بررسی مهارت‌های هوش مصنوعی طراحی شده است. برای محافظت خودکار و همیشه فعال، ویژگی‌های ESET AI Security را که در ESET Home Security واجد شرایط موجود است، انتخاب کنید .

بینش‌های تخصصی ESET

«به جای اینکه با مهارت‌های هوش مصنوعی به عنوان دستورالعمل‌های پیچیده برخورد کنیم، باید با آنها مانند نرم‌افزار رفتار کنیم. کاربران باید به ابزارهای امنیتی قوی – مانند ESET HOME Security – که می‌توانند نشانه‌های رفتارهای بالقوه مضر را اسکن و تشخیص دهند، تکیه کنند. یکی دیگر از زمینه‌های بررسی، مجوزهایی است که هر مهارت درخواست می‌کند. اگر مهارتی دسترسی بیشتری از آنچه که به نظر می‌رسد نیاز دارد، درخواست کند، باید به عنوان یک پرچم قرمز در نظر گرفته شود.»

همچنین مهم است که تأیید شود چه کسی این مهارت را توسعه داده است و در صورت امکان، گزینه‌هایی را از توسعه‌دهندگان شناخته‌شده و تأییدشده انتخاب کنید. کاربران باید برای نگرانی‌های احتمالی، به بررسی‌های انجمن، مشکلات مخزن و سایر بازخوردهای عمومی مراجعه کنند. و مانند هر نرم‌افزار دیگری، به‌روز نگه داشتن پلتفرم هوش مصنوعی و نرم‌افزار عامل برای کاهش خطر سوءاستفاده از طریق آسیب‌پذیری‌های شناخته‌شده بسیار مهم است.

– اوندری کوبوویچ، متخصص آگاهی امنیتی

عادت‌های استفاده ایمن که برای همه مفید است

با رعایت نکات زیر، از عوامل و/یا مهارت‌های هوش مصنوعی مخرب در امان بمانید:

قبل از نصب یک مهارت یا افزونه، مجوزها را بررسی کنید
ابزارهای هوش مصنوعی ، مرورگرها و نرم‌افزارهای امنیتی خود را به‌روز نگه دارید
از احراز هویت چند مرحله‌ای در مهم‌ترین حساب‌های کاربری خود استفاده کنید
به بچه‌ها و اعضای خانواده که اطلاعات فنی کمتری دارند، همین عادت سه سوالی را آموزش دهید : چه کسی این را ساخته؟ چه می‌خواهد؟ آیا به آن اعتماد دارم؟
اگر عامل هوش مصنوعی شما شروع به انجام کاری غیرمعمول، غیرمجاز یا برنامه‌ریزی نشده کرد، آن را خاموش کنید.
با ماموران خود مانند غریبه‌ها رفتار کنید – هیچ چیز خصوصی یا حساسی را با آنها به اشتراک نگذارید
نتیجه‌گیری
تنها در عرض چند سال، هوش مصنوعی به ابزاری ضروری برای بسیاری از کاربران خانگی تبدیل شده است. این حقیقتی است که از دید مجرمان سایبری پنهان نمانده است، آنها طیف وسیعی از مکانیسم‌ها را برای تبدیل هوش مصنوعی مورد استفاده روزانه شما به مجرایی برای بدافزار، سرقت داده‌ها و موارد دیگر توسعه داده‌اند. امروزه مسلماً خطرات در حوزه نوظهور عوامل هوش مصنوعی بیشترین میزان را دارند. اما اگرچه چت‌بات‌ها نسبت به گذشته امن‌تر هستند، اما عاقلانه نیست که از احتیاط خود دست بکشید. خوشبختانه، بهترین شیوه‌ها برای حفظ امنیت شما در حال ظهور هستند. آنها را با ویژگی‌های امنیتی ارائه دهندگان معتبر مانند ESET ترکیب کنید و در جای خوبی قرار خواهید گرفت.

اگر شما هم قصد تهیه آنتی ویروس برای ویندوز را دارید با کلیک برروی خرید آنتی ویروس eset⭐️ضد سرقت لپتاپ( Anti-theft )⭐️ پشتیبانی از نسخه های خانگی ESET Home Premium /ESET Home Essential/ اینترنت سکیوریتی / سایبر سکیوریتی پرو ⭐️ تحویل لایسنس بلافاصله پس از خرید به ایمیل تهیه و خریداری کنید.

سوالات متداول

آیا عوامل هوش مصنوعی می‌توانند داده‌های شما را سرقت کنند؟

چت‌بات‌های هوش مصنوعی قانونی، داده‌های شما را «سرقت» نمی‌کنند، اگرچه ممکن است آنچه را که تایپ می‌کنید ذخیره کرده و با دیگران به اشتراک بگذارند. این با عوامل و ابزارهای مخرب هوش مصنوعی متفاوت است چیزهایی مانند افزونه‌های جعلی مرورگر هوش مصنوعی، عوامل مخرب یا افزونه‌های تله‌گذاری که برای جمع‌آوری تاریخچه چت، رمزهای عبور یا کوکی‌های جلسات طراحی شده‌اند. مورد اول یک تنظیم حریم خصوصی برای مدیریت است. مورد دوم یک تهدید امنیتی برای شناسایی و مسدود کردن است.

آیا نصب افزونه‌های هوش مصنوعی و مهارت‌های هوش مصنوعی بی‌خطر است؟

برخی اینطور هستند اما بسیاری دیگر اینطور نیستند. در اوایل سال ۲۰۲۶، ESET Research حدود ۸۰۰۰۰۰ مهارت عامل هوش مصنوعی را اسکن کرد و بیش از ۲۵۰۰۰ مورد مشکوک و بیش از ۲۵۰۰ مورد کاملاً مخرب را یافت. قبل از نصب یک مهارت، توسعه‌دهنده را بررسی کنید، مجوزهای مورد نیاز آن را بخوانید و – اگر می‌خواهید نظر دوم رایگانی در مورد یک مهارت جدید داشته باشید – آن را با ESET AI Skills Checker اسکن کنید .

آیا یک عامل هوش مصنوعی می‌تواند بدافزار را روی رایانه من نصب کند؟

بله، اگر شما یا عامل هوش مصنوعی شما یک مهارت مخرب نصب کرده باشد. در عمل، استفاده از ابزارهای هوش مصنوعی معتبر، دقت در مجوزهای افزونه و اجرای نرم‌افزارهای امنیت سایبری که فعالیت هوش مصنوعی را رصد می‌کنند (به عنوان مثال، ویژگی‌های ESET AI Security موجود در ESET Home Security ) به کاهش این تهدیدات کمک می‌کند.

ورود سریع غیرمستقیم چیست و آیا باید نگران آن باشم؟

ورود غیرمستقیم دستور زمانی است که شخصی دستورالعمل‌هایی را در محتوایی که هوش مصنوعی می‌خواند پنهان می‌کند – مثلاً یک صفحه وب، یک سند، یک ایمیل و غیره. وقتی این اتفاق می‌افتد، هوش مصنوعی به جای دستورالعمل‌های شما، آن دستورالعمل‌ها را دنبال می‌کند. به عنوان یک کاربر معمولی، نیازی نیست که در آن متخصص شوید. اما این دلیل خوبی برای استقرار نرم‌افزار امنیتی برای نظارت بر فعالیت عوامل هوش مصنوعی شماست.

چگونه بفهمم که یک مهارت هوش مصنوعی قابل اعتماد است؟

سه چیز را بررسی کنید: چه کسی آن را ساخته است، چه چیزی را برای دسترسی درخواست می‌کند، و اینکه آیا افراد دیگر واقعاً از آن استفاده کرده‌اند و گفته‌اند که کار می‌کند یا خیر. مجوزهای معقول و سابقه بررسی قابل مشاهده، نقاط شروع خوبی هستند. اما وقتی شک دارید، باید قبل از نصب، مهارت را از طریق ESET AI Skills Checker بررسی کنید.