هوش مصنوعی در راه تسخیر خانه‌ها | سناریوی نگران‌کننده آنتروپیک برای ماه‌های آینده

گروه فناوری؛ پژوهشگران شرکت آنتروپیک، سازنده خانواده مدل‌های هوش مصنوعی کلود (Claude)، هشدار داده‌اند که مدل‌های کوچک هوش مصنوعی ممکن است طی چند ماه آینده به‌اندازه‌ای توانمند شوند که بتوانند روی دستگاه‌های اینترنت اشیا (IoT) در خانه‌ها و کسب‌وکار‌های کوچک تکثیر شوند؛ بدون آنکه به مراکز داده بزرگ نیاز داشته باشند.

بر اساس گزارشی که پژوهشگران این شرکت روز دوشنبه منتشر کردند، پیشرفت مدل‌های کوچک هوش مصنوعی می‌تواند امکان اجرای چنین سناریویی را تا پایان سال ۲۰۲۶ فراهم کند. این پژوهش بر آزمایش چند مدل هوش مصنوعی توسعه‌یافته در آمریکا و چین متکی بوده است.

با این حال، پژوهشگران تأکید کرده‌اند که در آزمایش‌های انجام‌شده، هیچ‌یک از مدل‌های فعلی به‌طور هم‌زمان آن‌قدر قدرتمند و کم‌حجم نبوده‌اند که بتوانند با اطمینان روی تلویزیون هوشمند مورد آزمایش، خود را تکثیر کنند. بنابراین، آنچه مطرح شده یک پیش‌بینی درباره مسیر پیشرفت فناوری است، نه تأیید وقوع چنین حمله‌ای در حال حاضر.

چرا تلویزیون و یخچال می‌توانند به هدف حملات تبدیل شوند؟

دستگاه‌های اینترنت اشیا طیف گسترده‌ای از تجهیزات متصل به اینترنت را در بر می‌گیرند؛ از تلویزیون‌ها، یخچال‌ها و فر‌های هوشمند گرفته تا ماشین‌های چمن‌زنی و تجهیزات مورد استفاده در کسب‌وکار‌های کوچک. این دستگاه‌ها معمولاً برای انجام وظایف مشخصی طراحی شده‌اند و در بسیاری از موارد، از نظر امنیت سایبری به‌اندازه رایانه‌ها و سرور‌های سازمانی مورد توجه قرار نمی‌گیرند. همین مسئله می‌تواند آنها را به اهدافی جذاب برای حملات سایبری تبدیل کند.

ویلیام ژو و دنیل فریمن، پژوهشگران آنتروپیک، معتقدند دستگاه‌های اینترنت اشیا در خانه‌ها و کسب‌وکار‌های کوچک ممکن است از نخستین اهداف چنین حملاتی باشند؛ زیرا به اینترنت متصل‌اند و در گذشته اغلب از تدابیر امنیتی محدودی برخوردار بوده‌اند.

در صورت تحقق این سناریو، مهاجمان بالقوه می‌توانند از آسیب‌پذیری‌های امنیتی این دستگاه‌ها برای اجرای عامل‌های هوش مصنوعی استفاده کنند. چنین عامل‌هایی ممکن است در گام بعدی برای شناسایی و نفوذ به دستگاه‌های دیگر تلاش کنند و به‌تدریج شبکه‌ای گسترده از تجهیزات آلوده ایجاد شود.

کرم هوش مصنوعی چیست و چرا مهار آن دشوار است؟

یکی از نگرانی‌های اصلی پژوهشگران، ظهور نوعی بدافزار موسوم به «کرم هوش مصنوعی» (AI Worm) است؛ بدافزاری که می‌تواند از قابلیت‌های استدلالی و سازگاری مدل‌های هوش مصنوعی برای گسترش خود استفاده کند.

کرم‌های رایانه‌ای سابقه‌ای طولانی دارند و پیش از ظهور هوش مصنوعی نیز قادر بودند از طریق شبکه‌ها میان دستگاه‌ها گسترش پیدا کنند. تفاوت احتمالی نسل جدید این بدافزار‌ها در آن است که عامل‌های هوش مصنوعی می‌توانند در شناسایی محیط‌های ناشناخته، تغییر روش پس از شکست و تطبیق با شرایط جدید توانمندتر عمل کنند.

رومن وی. یامپولسکی، متخصص هوش مصنوعی و امنیت سایبری در دانشگاه لوئیزویل، در گفت‌و‌گو با الجزیره توضیح داده است که یک کرم هوش مصنوعی ممکن است بتواند کاری فراتر از بدافزار‌های سنتی انجام دهد: درباره دستگاه‌های ناشناخته استدلال کند، در صورت شکست روش خود را تغییر دهد و بدون هدایت مستقیم یک انسان به گسترش خود ادامه دهد.

به گفته او، چنین تهدیدی در شرایط فعلی تهدیدی وجودیتی برای بشریت محسوب نمی‌شود، اما مسیر پیشرفت آن نگران‌کننده است.

یامپولسکی هشدار داده است که اگر تکثیر خودکار با توانایی هک، ماندگاری در سیستم‌های آلوده و استدلال راهبردی ترکیب شود، متوقف‌کردن آن دشوارتر خواهد شد؛ به‌ویژه اگر دیگر یک سرور یا سازمان مرکزی وجود نداشته باشد که بتوان با قطع فعالیت آن، کل شبکه را از کار انداخت.

چرا نبود یک مرکز کنترل می‌تواند خطرناک باشد؟

بخش مهمی از نگرانی آنتروپیک به تفاوت میان زیرساخت‌های متمرکز و شبکه‌ای از دستگاه‌های پراکنده مربوط می‌شود. مراکز داده بزرگ، با وجود پیچیدگی و اهمیت راهبردی‌شان، اهداف مشخصی هستند که می‌توان فعالیت آنها را شناسایی و در شرایط خاص محدود کرد. اما اگر عامل‌های هوش مصنوعی بتوانند روی تعداد زیادی دستگاه خانگی و تجاری پراکنده اجرا شوند، شناسایی و متوقف‌کردن همه آنها دشوارتر خواهد بود.

پژوهشگران آنتروپیک معتقدند مراکز داده اهدافی واضح و باارزش برای کرم‌های هوش مصنوعی خواهند بود، اما دستگاه‌های متصل به اینترنت نیز ممکن است به منابع پردازشی جایگزین برای تکثیر این عامل‌ها تبدیل شوند.

این شرکت پیش‌بینی کرده است که آینده می‌تواند شاهد حضور گسترده عامل‌های هوش مصنوعی روی انواع سخت‌افزار‌ها باشد؛ از جمله دستگاه‌هایی که لزوماً تحت کنترل مستقیم انسان قرار ندارند.

با این حال، باید میان اجرای یک عامل هوش مصنوعی روی دستگاه و توانایی آن برای تکثیر مستقل، نفوذ به دستگاه‌های دیگر و ادامه فعالیت بدون کنترل انسانی تفاوت قائل شد. تحقق سناریوی دوم به قابلیت‌های فنی و شرایط امنیتی مشخصی نیاز دارد و هنوز به‌عنوان یک توانایی اثبات‌شده در دستگاه‌های خانگی مطرح نیست.

هشدار درباره گسترش هوش مصنوعی بدون کنترل انسانی

گزارش جدید آنتروپیک در شرایطی منتشر شده که نگرانی‌ها درباره رفتار‌های ناخواسته مدل‌های هوش مصنوعی و استفاده از آنها در حملات سایبری افزایش یافته است. آنتروپیک و رقیب اصلی آن، شرکت اوپن‌ای‌آی (OpenAI)، پیش‌تر خواستار هماهنگی جامعه بین‌المللی برای کاهش سرعت توسعه هوش مصنوعی با هدف محدودکردن خطرات فاجعه‌بار شده‌اند. با این حال، این پیشنهاد با استقبال گسترده‌ای از سوی آمریکا و چین، دو قدرت پیشرو در این حوزه، روبه‌رو نشده است.

برخی از مدافعان ایمنی هوش مصنوعی نیز از «خودبهبودی بازگشتی» (Recursive Self-Improvement) به‌عنوان یکی از نقاط عطف احتمالی این فناوری یاد می‌کنند؛ وضعیتی که در آن مدل‌ها می‌توانند به بهبود توانایی‌های خود کمک کنند و این فرایند به‌صورت متوالی ادامه یابد.

خودبهبودی بازگشتی با خودتکثیری یکسان نیست. خودتکثیری به ایجاد نسخه‌های دیگر از یک سیستم اشاره دارد، در حالی که خودبهبودی بازگشتی به فرایندی مربوط می‌شود که طی آن یک سیستم در بهبود توانایی‌های خودش نقش دارد. ترکیب احتمالی این قابلیت‌ها با توانایی‌های پیشرفته سایبری، یکی از نگرانی‌های مطرح در بحث ایمنی هوش مصنوعی است.

ماه گذشته نیز آنتروپیک و چند شرکت بزرگ فناوری آمریکا به توافقی غیرالزام‌آور پیوستند که بر تقویت تدابیر حفاظتی داخلی و همکاری با ارزیابان بیرونی تأکید داشت. این توافق با واکنش‌های متفاوتی روبه‌رو شد و شماری از کارشناسان، داوطلبانه‌بودن تعهدات آن را مورد انتقاد قرار دادند.

ادعای آنتروپیک درباره کاهش ۹۰ تا ۹۹ درصدی استخراج غیرمجاز داده‌ها

آنتروپیک در اطلاعیه‌ای جداگانه در روز دوشنبه اعلام کرد که در جلوگیری از حملات موسوم به «تقطیر مدل» (Distillation Attacks) پیشرفت چشمگیری داشته است. در این نوع حملات، از خروجی‌ها یا قابلیت‌های یک مدل هوش مصنوعی پیشرفته برای آموزش مدل‌های ارزان‌تر و کم‌توان‌تر، بدون مجوز مناسب، استفاده می‌شود.

این شرکت مستقر در سان‌فرانسیسکو پیش‌تر رقبای چینی خود، از جمله دیپ‌سیک (DeepSeek)، مون‌شات (Moonshot) و مینی‌مکس (MiniMax)، را به تلاش‌هایی در مقیاس صنعتی برای کپی‌برداری از کلود متهم کرده بود.

آنتروپیک اعلام کرده است اقداماتی که برای مقابله با این حملات انجام داده، میزان استخراج غیرمجاز داده‌ها را بین ۹۰ تا ۹۹ درصد کاهش داده است.