کلود وارد منطقه خطر شد | هوش مصنوعی در خدمت تحقیقات سلاح زیستی؟

این شرکت مجموعه گسترده‌ای از مطالعات موردی درباره روش‌هایی منتشر کرده است که مدل‌های هوش مصنوعی فعلی آن می‌توانند به وسیله آنها مورد سوءاستفاده قرار بگیرند.

شرکت آنتروپیک اعلام کرده است که چندین دانشمند را که از مدل‌های هوش مصنوعی این شرکت برای انجام تحقیقات مرتبط با ساخت احتمالی سلاح‌های زیستی استفاده می‌کردند، شناسایی و متوقف کرده است. این موضوع در گزارش جدیدی که شرکت روز پنجشنبه منتشر کرده، مطرح شده است.

«سوءاستفاده بیولوژیکی» تنها یکی از انواع کاربرد‌های نگران‌کننده هوش مصنوعی است که در این گزارش به آن پرداخته شده، اما اهمیت آن در حال افزایش است؛ زیرا مدل‌های جدیدتر، مانند فابل ۵ (Fable ۵)، روزبه‌روز توانایی بیشتری در کمک به تحقیقات علمی پیدا می‌کنند.

گزارش آنتروپیک شامل پنج مطالعه موردی درباره استفاده از مدل‌های این شرکت برای توسعه سلاح‌های زیستی است. در این مطالعات توضیح داده شده که چه تدابیر ایمنی باعث شدند این سوءاستفاده‌ها شناسایی شوند و شرکت پس از شناسایی آنها چه اقداماتی انجام داد.

تشخیص سوءاستفاده احتمالی در این زمینه دشوار است؛ تحقیقات برای تولید یک واکسن جدید ممکن است از نظر ظاهری بسیار شبیه به تحقیقاتی باشد که هدف آن ایجاد یک سلاح زیستی است. آنتروپیک می‌گوید در تمام این موارد، به دلیل پیامد‌های احتمالی بسیار جدی، تصمیم گرفته است با احتیاط بیش از حد عمل کند.

جیکوب کلاین، رئیس بخش اطلاعات تهدیدات در آنتروپیک، به نیویورک تایمز گفت: شما با کسی مواجه نیستید که به شکل یک شخصیت کارتونی بگوید: من می‌خواهم یک سلاح زیستی بسازم تا همه را بکشم. شرایط بسیار پیچیده و ظریف است.

تحقیقات مربوط به ویروس چیکونگونیا

در یکی از مطالعات موردی مربوط به ماه مه، آنتروپیک اعلام کرده است که سامانه طبقه‌بندی ایمنی زیستی این شرکت، درخواستی را شناسایی کرد که در آن از کلود خواسته شده بود برای تحقیقات افزایش عملکرد (Gain-of-Function) روی ویروس چیکونگونیا (Chikungunya) یک پیشنهاد پژوهشی یا درخواست کمک‌هزینه علمی تهیه کند.

این ویروس در حال حاضر درمان تأیید شده و دارای مجوزی ندارد و طبق گزارش شرکت می‌تواند علائمی ناتوان‌کننده ایجاد کند که هفته‌ها یا حتی ماه‌ها ادامه داشته باشند.

تحقیقات افزایش عملکرد، به‌طور کلی، به بررسی روش‌هایی برای تغییر ژنتیکی یک موجود زنده یا عامل بیماری‌زا گفته می‌شود. در این مورد خاص، پیشنهاد پژوهشی شامل افزایش قابلیت انتقال ویروس و توانایی آن برای فرار از پاسخ سیستم ایمنی بود.

ترکیب این ویژگی‌ها از نظر ایمنی بسیار نگران‌کننده به نظر می‌رسید. آنتروپیک همچنین اعلام کرده که وابستگی این پروژه به یک مؤسسه تحقیقاتی نظامی باعث شد این درخواست مشکوک‌تر به نظر برسد.

این شرکت نسبت به یک پروژه دیگر درباره تحقیقات افزایش عملکرد روی آنفلوانزای پرندگان نیز نگرانی‌هایی داشت.

در موردی جداگانه نیز، یک پژوهشگر از کلود برای ایجاد یک اطلس از پپتید‌های سمی موجود در زهر‌ها و همچنین یک «خط لوله مولد» برای بهینه‌سازی ویژگی‌های سموم استفاده کرده بود.

گزارش کامل آنتروپیک همچنین شامل مطالعات موردی دیگری درباره استفاده از مدل‌های این شرکت برای مواردی همچون استفاده از هوش مصنوعی به‌عنوان ابزار نظارت و پایش، ایجاد آسیب‌پذیری‌ها و اکسپلویت‌های نرم‌افزاری، تولید تبلیغات و محتوای پروپاگاندا و توسعه سامانه‌های تسلیحاتی بود.

طبق گفته این شرکت، حساب کاربرانی که از کلود یا سایر مدل‌های آنتروپیک سوءاستفاده کرده بودند، مسدود شده است.

آنتروپیک همچنین اعلام کرده یافته‌های حاصل از این تحقیقات برای بهبود تدابیر امنیتی مدل‌ها و جلوگیری از سوءاستفاده‌های مشابه در آینده مورد استفاده قرار خواهند گرفت.

با توجه به پیچیدگی موضوع سوءاستفاده زیستی، آنتروپیک نام افراد یا مؤسساتی را که تحقیقات این شرکت به آنها مرتبط بوده، منتشر نکرده است.