هشدار مدیران بزرگ هوش مصنوعی در شورای امنیت / خطر خارج‌شدن هوش مصنوعی از کنترل انسان

اقتصاد‌آنلاین: مدیران سه شرکت بزرگ هوش مصنوعی در نشست شورای امنیت سازمان ملل درباره رشد شتابان این فناوری، احتمال خودبهبوددهی سامانه‌ها و خطر خارج‌شدن هوش مصنوعی از کنترل انسان هشدار دادند؛ نشستی که اختلاف میان کشورها بر سر نحوه حکمرانی بر این فناوری را نیز آشکار کرد.

مدیران سه شرکت بزرگ هوش مصنوعی در نشست شورای امنیت سازمان ملل درباره رشد شتابان این فناوری، احتمال خودبهبوددهی سامانه‌ها و خطر خارج‌شدن هوش مصنوعی از کنترل انسان هشدار دادند؛ نشستی که اختلاف میان کشورها بر سر نحوه حکمرانی بر این فناوری را نیز آشکار کرد.برای نخستین‌بار، هوش مصنوعی در شرایطی جدی‌تر از نشست‌های معمول فناوری وارد یکی از مهم‌ترین اتاق‌های تصمیم‌گیری امنیتی جهان شد.

در ادامه حتما بخوانید:

مدیرعامل سازنده هوش مصنوعی برای پاسخگویی به شورای امنیت می‌رود

شورای امنیت سازمان ملل روز چهارشنبه میزبان سم آلتمن، مدیرعامل اپن‌ای‌آی، داریو آمودی، مدیرعامل آنتروپیک و کلمنت دلاگ، هم‌بنیان‌گذار هاگینگ فیس بود؛ سه چهره‌ای که از نزدیک در توسعه نسل جدید سامانه‌های هوش مصنوعی نقش دارند. موضوع اصلی نشست، فقط پیشرفت فناوری نبود؛ بلکه این نگرانی بود که سامانه‌های قدرتمندتر در آینده بتوانند بخشی از فرایند بهبود خود را انجام دهند و در صورت ضعف سازوکارهای ایمنی، پیامدهایی برای امنیت بین‌المللی ایجاد کنند.آمودی در این نشست گفت اگر هوش مصنوعی «بد مدیریت شود»، می‌تواند به خطری برای بشریت تبدیل شود. یوشوا بنجیو، دانشمند سرشناس هوش مصنوعی و هم‌رئیس هیئت علمی مستقل بین‌المللی هوش مصنوعی سازمان ملل نیز هشدار داد که خطرات این فناوری «واقعی و نزدیک» هستند. از نگاه او، مسئله‌ای که شورای امنیت با آن روبه‌رو است مرزی نمی‌شناسد و هیچ کشوری نمی‌تواند به‌تنهایی آن را مهار کند.

 

آلتمن در عین حال بر نقش دولت‌ها در تصمیم‌گیری درباره آینده هوش مصنوعی تأکید کرد. او گفت اگر قرار است هوش مصنوعی در چارچوبی دموکراتیک توسعه پیدا کند، تصمیم‌های مهم نمی‌تواند صرفاً در آزمایشگاه‌های شرکت‌های فناوری گرفته شود و باید از مسیر فرایندهای دموکراتیک و دولت‌های پاسخگو عبور کند. آلتمن همچنین خواستار همکاری بین‌المللی شد و پیشنهاد کرد کشورهایی که در حوزه فناوری با یکدیگر رقابت می‌کنند، در زمینه خطرات مشترک هوش مصنوعی همکاری کنند.یکی از پیشنهادهای مشخص مطرح‌شده از سوی اپن‌ای‌آی، ایجاد معیارهای مشترک برای سنجش توانایی مدل‌های هوش مصنوعی و ارزیابی تدابیر ایمنی شرکت‌ها بود. اهمیت این پیشنهاد در آن است که سرعت پیشرفت مدل‌ها از سرعت بسیاری از سازوکارهای نظارتی جلو زده و دولت‌ها با این پرسش مواجه‌اند که چگونه می‌توانند فناوری‌ را ارزیابی کنند که توانایی‌هایش با هر نسل تغییر می‌کند.اما در سوی دیگر، اختلاف میان قدرت‌های بزرگ بر سر شیوه حکمرانی هوش مصنوعی همچنان پابرجاست. آمریکا و چین که دو بازیگر اصلی توسعه این فناوری محسوب می‌شوند، درباره میزان و شکل نظارت بین‌المللی اختلاف نظر دارند. همزمان، دو کشور درباره ایجاد سازوکاری برای اطلاع‌رسانی در مورد حوادث مرتبط با هوش مصنوعی که به سطح امنیت ملی برسند نیز گفت‌وگو کرده‌اند؛ موضوعی که نشان می‌دهد حتی در شرایط رقابت فناوری، برخی نگرانی‌های مشترک می‌تواند زمینه همکاری ایجاد کند.

 

دونالد ترامپ، رئیس‌جمهور آمریکا، در سخنرانی خود در مجمع عمومی سازمان ملل موضع متفاوتی درباره حکمرانی جهانی هوش مصنوعی مطرح کرد. او گفت با تلاش برای ایجاد یک سازوکار جهانی برای کنترل هوش مصنوعی مخالف است و تأکید کرد آمریکا قصد ندارد رشد این فناوری را محدود کند. ترامپ در عین حال گفت دولت آمریکا توسعه هوش مصنوعی را از نزدیک، از طریق وزارت دادگستری، زیر نظر خواهد داشت.این موضع در برابر دیدگاه آنتونیو گوترش، دبیرکل سازمان ملل، قرار می‌گیرد که طی سال‌های اخیر بر ضرورت حکمرانی جهانی هوش مصنوعی تأکید کرده است. شورای امنیت پیش‌تر نیز در سال‌های ۲۰۲۳ و ۲۰۲۴ درباره پیامدهای امنیتی هوش مصنوعی تشکیل جلسه داده بود، اما نشست امسال با حضور مستقیم مدیران شرکت‌های پیشرو، نشانه‌ای از تغییر جایگاه این فناوری در محاسبات امنیتی و بین‌المللی است.در واقع، مسئله اصلی دیگر صرفاً این نیست که هوش مصنوعی چه قابلیت تازه‌ای پیدا می‌کند؛ بحث بر سر این است که چه کسی، با چه معیارهایی و تحت چه نظارتی، درباره مرزهای توسعه این قابلیت‌ها تصمیم خواهد گرفت. حضور همزمان مدیران شرکت‌های هوش مصنوعی، دانشمندان و نمایندگان قدرت‌های جهانی در شورای امنیت نشان می‌دهد بحث ایمنی هوش مصنوعی از آزمایشگاه‌ها و شرکت‌های فناوری فراتر رفته و به موضوعی در سطح حکمرانی بین‌المللی تبدیل شده است.

منبع: فارس