خلاقیت یا خطر؟ Character.AI وارد دنیای ویدیویی می‌شود

پلتفرم محبوب چت‌بات‌های هوش مصنوعی با افزودن ابزارهای ویدیوساز، به‌سمت تجربه‌ای چندرسانه‌ای گام برداشته، اما نگرانی‌ها درباره سوءاستفاده و ایمنی کاربران همچنان برجاست.

کد خبر: ۲۰۶۳۱۳۸

۱۳ خرداد ۱۴۰۴

به گزارش اقتصادآنلاین، Character.AI، پلتفرمی که به‌واسطه امکان گفت‌و‌گو با شخصیت‌های ساخته‌شده توسط هوش مصنوعی شناخته می‌شود، به‌تازگی اعلام کرده که قابلیت‌های جدیدی را در زمینه تولید ویدیو و تعامل چندرسانه‌ای فعال کرده است. این قابلیت‌ها شامل ابزاری به نام AvatarFX، و همچنین ویژگی‌هایی با عنوان Scenes و Streams هستند که به کاربران اجازه می‌دهند محتوایی ویدیویی با محوریت شخصیت‌های مصنوعی خود تولید کنند و آن را در فیدی اجتماعی با دیگران به اشتراک بگذارند.

در پست وبلاگی منتشرشده در روز دوشنبه، Character.AI مسیر توسعه خود را از چت‌های متنی به‌سمت خلق محتوای ویدیویی خلاقانه توصیف کرده و این گام را پاسخی مستقیم به خواسته‌های کاربران دانسته است. AvatarFX که پیش‌تر فقط برای مشترکان ویژه فعال شده بود، اکنون برای عموم کاربران قابل‌دسترسی است و امکان ساخت روزانه تا پنج ویدیو را فراهم می‌کند. کاربر می‌تواند با آپلود یک تصویر، انتخاب صدا و نوشتن دیالوگ، شخصیت هوش مصنوعی خود را جان ببخشد. همچنین قابلیت بارگذاری فایل صوتی برای آموزش صدای شخصیت فعال شده، گرچه همچنان در مرحله اولیه قرار دارد و کیفیت آن پایین گزارش شده است.

دو ابزار جدید دیگر، Scenes و Streams، چشم‌انداز داستان‌گویی هوش مصنوعی را گسترش داده‌اند. ویژگی Scenes به کاربران امکان می‌دهد شخصیت‌های ساخته‌شده خود را وارد داستان‌ها و سناریو‌های خیالی کنند؛ قابلیتی که فعلاً فقط در نسخه موبایل قابل استفاده است. در مقابل، Streams بستری برای گفت‌وگوی بین دو شخصیت هوش مصنوعی فراهم می‌کند و قرار است در هفته جاری برای نسخه‌های موبایل و وب منتشر شود.

در کنار این امکانات، Character.AI یک فید اجتماعی نیز طراحی کرده که کاربران می‌توانند ویدیو‌های ساخته‌شده خود را در آن به اشتراک بگذارند. این فید که فعلاً در مرحله توسعه اولیه برای اپلیکیشن موبایل قرار دارد، هدفش گسترش فضای تعاملی و ایجاد جامعه‌ای خلاق و مشارکتی عنوان شده است.

با وجود این پیشرفت‌ها، سایه نگرانی‌های اخلاقی و امنیتی بر توسعه Character.AI همچنان گسترده باقی مانده است. این پلتفرم در گذشته به‌دلیل ناتوانی در نظارت مؤثر بر رفتار چت‌بات‌ها با انتقاد‌های شدید مواجه شده بود. در مواردی تکان‌دهنده، والدینی از جمله در پرونده‌ای قضایی، مدعی شده‌اند که فرزندان آنها تحت تأثیر چت‌بات‌های Character.AI دست به آسیب‌زنی یا حتی اقدام به خودکشی زده‌اند. یک نمونه مشخص مربوط به نوجوانی ۱۴ ساله است که پس از وابستگی شدید به شخصیت مجازی، به تحریک همان چت‌بات به زندگی خود پایان داده است.

در واکنش به این بحران‌ها، Character.AI محدودیت‌هایی را برای کاهش سوءاستفاده وضع کرده است. از جمله ممنوعیت بارگذاری تصاویر واقعی از افراد، چه سلبریتی‌ها و چه کاربران عادی، و اعمال الگوریتم‌هایی برای کاهش تشخیص چهره‌های خاص. با این‌حال، تصاویر گرافیکی و طراحی‌شده از افراد مشهور هنوز توسط سیستم شناسایی نمی‌شوند و می‌توانند در تولید محتوای شبه‌دیپ‌فیک مورد استفاده قرار گیرند. به همین منظور، پلتفرم روی ویدیو‌های تولیدی خود واترمارک درج کرده، گرچه کارشناسان هشدار داده‌اند که حذف این واترمارک توسط کاربران حرفه‌ای دور از ذهن نیست.

Character.AI در پایان بیانیه خود، بر تعهد به فراهم‌سازی فضایی امن و خلاق تأکید کرده، اما بسیاری از منتقدان معتقدند با گسترش فناوری‌های تولید محتوا، حفظ تعادل میان آزادی خلاقیت و جلوگیری از رفتار‌های خطرناک به مراتب دشوارتر خواهد شد. بدون سیاست‌های ایمنی شفاف، این ابزار‌ها می‌توانند همان‌قدر که الهام‌بخش هستند، برای برخی کاربران به‌ویژه نوجوانان، آسیب‌زا نیز باشند.