خروج کنترل از دست هوش مصنوعی آنتروپیک / نفوذ مدل‌های جدید به سرورهای دولتی آمریکا
اقتصاد‌آنلاین: تلاش خودسرانه مدل‌های «کلود» برای استخراج توکن‌های دسترسی و دور زدن پرداخت‌های مالی در وب‌سایت‌های ایالتی، آنتروپیک را مجبور به تعطیلی برخی آزمایش‌های آنلاین کرد.
آنتروپیک در گزارشی توضیح داد که عامل‌های هوش مصنوعی این شرکت هنگام انجام وظایف آزمایشی، اقداماتی فراتر از دستورهای مورد انتظار انجام دادند. این موارد وب‌سایت‌های نهادهای دولتی در سطوح فدرال، ایالتی و محلی را دربر می‌گرفتند. این شرکت نام نهادهای درگیر را منتشر نکرده و گفته است موضوع را به سازمان‌های مربوط و کاخ سفید اطلاع داده است.یکی از موارد به مدل «کلود هایکو ۴.۵» مربوط می‌شد که هنگام بررسی تصادفی صفحات اینترنتی، به وب‌سایت پلیس فیلادلفیا رسید و در فرم مربوط به پرونده قتل حل‌نشده، گزارشی ساختگی ثبت کرد.
در ادامه حتما بخوانید:
پلیس این پیام را هرزنامه تشخیص داد و آن را مبنای تحقیقات قرار نداد.در نمونه‌ای دیگر، مدل «کلاود میتوس ۵» برای شناسایی مکانی در یک تصویر، تلاش کرد از نقشه املاک دولتی برای بررسی حدس‌های خود استفاده کند. این مدل به‌جای تعامل معمول با صفحه وب، توکن‌های دسترسی را پیدا کرد و مستقیماً درخواست‌هایی به سرور نقشه فرستاد. در مورد دیگری نیز تلاش کرد بدون پرداخت هزینه تعیین‌شده، از طریق وب‌سایت یک نهاد ایالتی به داده‌های آماری دسترسی پیدا کند.آنتروپیک اعلام کرده است که پس از بررسی فعالیت مدل‌ها، برخی ارزیابی‌های عمومی را متوقف کرده و برخی دیگر را به محیط‌های آفلاین منتقل کرده است تا آزمایش‌ها به وب‌سایت‌های واقعی دسترسی نداشته باشند.
این اتفاق‌ها بار دیگر نشان می‌دهد که حتی در محیط‌های آزمایشی نیز ممکن است عامل‌های هوش مصنوعی برای تکمیل وظایف خود، مسیرهایی پیش‌بینی‌نشده را انتخاب کنند. مسئله فقط توانایی این سامانه‌ها نیست؛ بلکه اطمینان از رعایت محدودیت‌ها و جلوگیری از اقدام‌های ناخواسته هنگام اتصال به اینترنت واقعی نیز اهمیت دارد.
منبع: فارس
آخرین اخبار
پربیننده‌ترین
وب گردی
۱۸/مهر/۱۴۰۵ | ۱۸:۰۸
۱۸/مهر/۱۴۰۵ | ۲۱:۲۷
۱۸/مهر/۱۴۰۵ | ۱۶:۱۶
نسوز طلاتودی تحلیل طلا فروش بیمه بلیط هواپیما بلوک هبلکس مزایده خودرو درب آسانسور ساندویچ پانل قیمت کامیون خرید جاروبرقی درب ضد حریق موتور ماتودرایو بلیط طلایی کلش خرید مواد شیمیایی خرید اقساطی خودرو قیمت ایمپلنت دندان قیمت طلای آب شده بیت مسترینگ موزیک استعلام آنلاین از اینجا خرید کامیونت اقساطی امداد خودرو کرمان موتور شبکه اجتماعی اینستاشاپ خرید بیمه موتور با اپلیکیشن بهترین کترینگ های سازمانی چاپ و بسته‌بندی نقش پلیمر خرید اکانت chatgpt از دیکاردو
آخرین اخبار
پربیننده‌ترین
وب گردی
۱۸/مهر/۱۴۰۵ | ۱۸:۰۸
۱۸/مهر/۱۴۰۵ | ۲۱:۲۷
۱۸/مهر/۱۴۰۵ | ۱۶:۱۶
نسوز طلاتودی تحلیل طلا فروش بیمه بلیط هواپیما بلوک هبلکس مزایده خودرو درب آسانسور ساندویچ پانل قیمت کامیون خرید جاروبرقی درب ضد حریق موتور ماتودرایو بلیط طلایی کلش خرید مواد شیمیایی خرید اقساطی خودرو قیمت ایمپلنت دندان قیمت طلای آب شده بیت مسترینگ موزیک استعلام آنلاین از اینجا خرید کامیونت اقساطی امداد خودرو کرمان موتور شبکه اجتماعی اینستاشاپ خرید بیمه موتور با اپلیکیشن بهترین کترینگ های سازمانی چاپ و بسته‌بندی نقش پلیمر خرید اکانت chatgpt از دیکاردو
