رسوایی جدید متا، چت‌بات‌های هوش مصنوعی و مکالمات جنسی با نوجوانان

تحقیقات تازه وال استریت ژورنال فاش کرده چت‌بات‌های هوش مصنوعی شرکت متا در مکالمات صریح جنسی با کاربران نوجوان مشارکت کرده‌اند. این افشاگری موجی از انتقادات را متوجه متا کرده و نگرانی‌ها درباره امنیت کاربران کم‌سن را شدت بخشیده است.

کد خبر: ۲۰۵۳۲۲۵

۰۸ ارديبهشت ۱۴۰۴

به گزارش اقتصادآنلاین،

گزارشی تازه از وال استریت ژورنال پرده از رسوایی جدیدی برای شرکت متا برداشته است. این گزارش نشان می‌دهد چت‌بات‌های هوش مصنوعی این شرکت، حتی زمانی که کاربران خود را به‌عنوان نوجوانان زیر سن قانونی معرفی کرده‌اند، وارد مکالمات جنسی صریح شده‌اند. این موضوع بار دیگر زنگ خطر را درباره ایمنی هوش مصنوعی و اخلاقیات فناوری به صدا درآورده است.

کاهش کنترل برای جذب بیشتر؛ سیاست بحث‌برانگیز متا

بر اساس این تحقیق که با تکیه بر آزمایش‌های میدانی و مصاحبه با منابع داخلی متا انجام شده، مشخص شده که این شرکت کنترل‌های محتوایی چت‌بات‌های خود را عمداً کاهش داده تا آنها به ابزار‌هایی جذاب‌تر برای تعاملات اجتماعی تبدیل شوند. این چت‌بات‌ها که حتی از صدا‌های سلبریتی‌ها مانند کریستن بل و جان سینا استفاده می‌کنند، طراحی شده‌اند تا بتوانند مکالمات زنده و طبیعی با کاربران داشته باشند.

اما نتایج نشان می‌دهد که در برخی موارد، این مکالمات از چارچوب‌های مجاز خارج شده و وارد سناریو‌های جنسی شده‌اند، حتی زمانی که کاربران به‌وضوح خود را به‌عنوان افراد زیر سن قانونی معرفی کرده‌اند.

فشار داخلی و کاهش محدودیت‌ها؛ نقش مارک زاکربرگ

گزارش وال استریت ژورنال ادعا می‌کند که مارک زاکربرگ، مدیرعامل متا، شخصاً برای کاهش محدودیت‌های محتوایی چت‌بات‌ها فشار وارد کرده است. هدف این اقدام، افزایش جذابیت چت‌بات‌ها و ارائه تجربه‌ای اجتماعی فراگیرتر عنوان شده، اما این تصمیم با تعهدات قبلی متا برای محافظت از کودکان و نوجوانان در تضاد است.

این سیاست باعث شده چت‌بات‌ها اجازه داشته باشند در سناریو‌های بزرگسالانه مشارکت کنند و محدودیت‌های گذشته در این زمینه کاهش یابد.

واکنش متا و ادامه نگرانی‌ها

پس از انتشار این گزارش، متا اعلام کرد که اقدامات اصلاحی را در دستور کار قرار داده است. به گفته سخنگوی این شرکت، حساب‌های ثبت‌شده برای کاربران زیر سن قانونی دیگر نمی‌توانند به محتوای جنسی دسترسی داشته باشند و محدودیت‌های سخت‌گیرانه‌تری بر مکالمات اعمال شده است.

اما آزمایش‌های جدید نشان می‌دهد که حتی با این تغییرات، چت‌بات‌های متا هنوز هم گاهی به فانتزی‌های عاشقانه پاسخ می‌دهند و در برخی موارد، به‌راحتی از خطوط قرمز عبور می‌کنند. این مسئله باعث شده تردید‌هایی درباره کارایی اقدامات متا در حفاظت از کاربران کم‌سن ایجاد شود.

تهدیدی برای سلامت روان و امنیت کودکان

این رسوایی بار دیگر بحث‌های جدی درباره مسئولیت‌پذیری شرکت‌های فناوری در برابر کاربران آسیب‌پذیر را داغ کرده است. کارشناسان هشدار می‌دهند توسعه سریع و بدون نظارت چت‌بات‌های هوش مصنوعی می‌تواند خطرات جدی برای امنیت و سلامت روانی نوجوانان ایجاد کند. مکالمات جنسی با هوش مصنوعی، به‌ویژه برای کاربرانی که هنوز در سنین رشد فکری هستند، می‌تواند آسیب‌های بلندمدت به‌همراه داشته باشد.

منتقدان از نظارت ضعیف متا بر عملکرد چت‌بات‌هایش انتقاد کرده و خواستار شفافیت بیشتر و تعهدات قوی‌تر برای حفاظت از کودکان شده‌اند. به گفته آنها، اخلاق در فناوری باید در اولویت قرار گیرد و نباید قربانی جذابیت‌های زودگذر بازار شود.

متا، که پیش‌تر نیز بار‌ها به‌دلیل نحوه مدیریت داده‌ها و تعامل با کاربران زیر سن قانونی مورد انتقاد قرار گرفته بود، حالا با بحران جدیدی روبه‌رو است. اگرچه این شرکت وعده اصلاح داده، اما همچنان ابهامات زیادی درباره پایبندی واقعی به تعهدات اخلاقی آن وجود دارد. آینده چت‌بات‌های هوش مصنوعی و نحوه تعامل آنها با نوجوانان، به موضوعی حیاتی برای سیاست‌گذاران و مدافعان حقوق کودکان تبدیل شده است.