برندگان جایزه تورینگ: هوش مصنوعی بدون ایمنی کافی عرضه می‌شود

برندگان جایزه تورینگ ۲۰۲۴ نسبت به توسعه شتاب‌زده و ناایمن هوش مصنوعی هشدار داده‌اند. اندرو بارتو و ریچارد ساتون معتقدند که شرکت‌های فعال در این حوزه، ایمنی را فدای سودآوری کرده و محصولات خود را بدون آزمایش کافی به بازار عرضه می‌کنند.

کد خبر: ۲۰۴۲۸۶۲

۱۶ اسفند ۱۴۰۳

به گزارش اقتصادآنلاین، جایزه تورینگ که از آن به‌عنوان «نوبل علوم کامپیوتر» یاد می‌شود، امسال به اندرو بارتو از دانشگاه ماساچوست و ریچارد ساتون، دانشمند پیشین دیپ‌مایند گوگل، برای توسعه روش یادگیری تقویتی در هوش مصنوعی اهدا شد. این دو دانشمند، از این فرصت برای هشدار نسبت به خطرات ناشی از رویکرد کنونی شرکت‌های فناوری در توسعه هوش مصنوعی استفاده کرده‌اند.

بر اساس گزارش فایننشال تایمز، بارتو و ساتون تأکید کرده‌اند که بسیاری از شرکت‌های هوش مصنوعی، محصولات خود را بدون آزمایش‌های ایمنی کافی روانه بازار می‌کنند. آن‌ها این روند را به ساخت یک پل و آزمایش آن با عبور مردم تشبیه کرده‌اند؛ رویکردی که می‌تواند تبعات جدی داشته باشد.

تجاری‌سازی به‌جای تحقیق علمی

برندگان جایزه تورینگ بر این باورند که در سال‌های اخیر، انگیزه‌های تجاری بر روند تحقیقات هوش مصنوعی سایه انداخته است. اندرو بارتو در مصاحبه‌ای اعلام کرد: «انتشار یک نرم‌افزار برای میلیون‌ها نفر بدون درنظرگرفتن ایمنی، روش مهندسی خوبی نیست. روش‌های مهندسی برای کاهش پیامدهای منفی فناوری تکامل یافته‌اند، اما این موضوع در شرکت‌های درحال‌توسعه هوش مصنوعی نادیده گرفته می‌شود.»

روش یادگیری تقویتی که این دانشمندان روی آن کار کرده‌اند، یکی از مهم‌ترین پایه‌های رشد هوش مصنوعی مدرن محسوب می‌شود. این فناوری با آزمون‌وخطا به هوش مصنوعی امکان یادگیری می‌دهد و پایه محصولات مشهوری مانند ChatGPT و AlphaGo بوده است.

هشدار متخصصان نسبت به توسعه بدون کنترل

این اولین بار نیست که دانشمندان نسبت به توسعه شتاب‌زده هوش مصنوعی هشدار می‌دهند. جفری هینتون، یکی از پیشگامان این فناوری که از او به‌عنوان پدرخوانده هوش مصنوعی یاد می‌شود، پیش‌تر اعلام کرده بود که سرعت پیشرفت هوش مصنوعی می‌تواند خطرات پیش‌بینی‌نشده‌ای به همراه داشته باشد.

با توجه به این انتقادات، بحث‌های مربوط به نظارت و قانون‌گذاری بر هوش مصنوعی بیش از پیش اهمیت یافته و برخی کشورها به دنبال وضع مقرراتی برای جلوگیری از سوءاستفاده‌های احتمالی این فناوری هستند.