هوش مصنوعی هم اشتباه می‌کند

یکی از نگرانی‌های عمده درباره هوش مصنوعی در سطح جهانی، مساله حریم خصوصی است.

کد خبر: ۳۹۷۴۱۶

۰۵ آذر ۱۳۹۸

به گزارش اقتصادآنلاین به نقل از تعادل، یکی از نگرانی‌های عمده درباره هوش مصنوعی در سطح جهانی، مساله حریم خصوصی است. نگرانی دیگر این است که هوش مصنوعی می‌تواند به‌شدت قوی شود و در موقعیت‌هایی حتی جایگزینی برای انسان باشد و به جای او تصمیم بگیرد. البته در مواردی، زمانی‌که داده‌ها زیاد شود و موضوع سرعت مد نظر باشد، انسان نمی‌تواند پردازش کند و مجبور است به سراغ هوش مصنوعی برود. در این جا ممکن است هوش مصنوعی تصمیمات اشتباهی بگیرد و عده‌ای نیز ممکن است از این موضوع سوءاستفاده کنند، سوءاستفاده‌هایی که می‌تواند منجر به اعمال تروریستی شود. به همین دلیل کارشناسان معتقدند لازم است روی آن تحقیقات گسترده‌ای انجام گیرد. در این راستا هادی مرادی -مدیرگروه هوش ماشین و رباتیک دانشگاه تهران- در گفت‌وگو با ایسنا درباره نگرانی‌های جهانی پیرامون گسترش استفاده از هوش مصنوعی، گفت: «در سطح جهانی، یکی از بزرگ‌ترین انجمن‌های متخصصین الکترونیک درباره اخلاق در هوش مصنوعی کار می‌کنند و در این حوزه، استاندارد تعریف می‌کنند. در ایران چنین اقداماتی متاسفانه چندان انجام نمی‌شود، تنها کاری که زیاد انجام می‌شود، این است که یکسری از باب‌های توسعه هوش مصنوعی را می‌بندند. زیرا می‌گویند برای حریم خصوصی خطرناک است. این مثال البته به هوش مصنوعی ربط ندارد، اما من به عنوان یک متخصص باید به یوتیوب دسترسی داشته باشم، چون بسیاری از فیلم‌های تکنیکال روی یوتیوب آپلود می‌شود؛ اما به دلیل یک قانون کلی مثل فیلترینگ اجازه دسترسی به همه مردم و همین‌طور متخصصان داده نمی‌شود.»

حریم خصوصی، در معرض خطر

مرادی درباره استفاده‌های مثبتی که می‌توان از هوش مصنوعی کرد، اما به دلایلی راه آن در ایران بسته شده، گفت: «مثلا اپراتورها قرار است سرویسی فراهم کنند که یکی از این سرویس‌ها، سرویس‌های لوکیشن‌بیس (بر اساس موقعیت مکانی) است و بر مبنای آن بسیاری از سرویس‌ها مثل سرویس‌های تبلیغاتی و سرویس‌های حمایتی می‌توانند فعال شوند، ولی این اطلاعات بسیار محدود شده و اجازه نمی‌دهند هیچ تحلیلی روی آنها انجام شود. علت هم این است که به نظر می‌آید یکی دو مورد از ترورهای دانشمندان هسته‌ای بر مبنای این اطلاعات انجام شده است. یعنی به این دلیل که اتفاق ناگواری در گذشته افتاده، به‌طور کلی باب این موضوع بسته شده است. در واقع در یک زمانی راه دسترسی به اطلاعات، بدون قانون باز بوده و اطلاعات به بیرون درز پیدا کرده، ولی قانون‌گذاری نکردند تا جلوی این اتفاقات ناگوار و سوءاستفاده‌ها گرفته شود، بلکه کاملا مانع دسترسی به اطلاعات شده‌اند. در حالی که از اطلاعات موقعیت محور می‌توان در هنگام حادثه‌هایی چون زلزله یا سیل استفاده کرد و افرادی که زیر آوار مانده‌اند یا خانه‌ آنها تخریب شده را پیدا کرد.»

عضو هیات‌علمی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران درباره چگونگی آسیب هوش مصنوعی به حریم خصوصی، گفت: «ما الان از گوگل مپ استفاده می‌کنیم و این برنامه به ما کمک می‌کند که در سطح شهر با راحتی بیشتری از یک نقطه به نقطه دیگر برسیم. این اطلاعات در گوگل‌مپ ذخیره می‌شود. ساده‌ترین کاری که برای تعرض به حریم خصوصی افراد می‌تواند انجام بگیرد، این است که این اطلاعات به شرکت‌های تبلیغاتی داده شود و شرکت‌های تبلیغاتی ما را مورد هجوم تبلیغات قرار دهند. در خطرناک‌ترین نوع سوءاستفاده هم ممکن است اطلاعات شخصی فردی با منصبی مهم در کشور در اختیار سیستم‌های اطلاعاتی بیگانه قرار گرفته و برای وی مشکلاتی ایجاد شود.» مرادی همچنین خاطرنشان کرد: نهادهایی در برخی کشورهای خارجی وجود دارند که عملکرد شرکت‌ها را چک می‌کنند و اگر این شرکت‌ها به حریم خصوصی استفاده‌کنندگان از محصولات خود تجاوز کنند، جریمه می‌شوند. اما وقتی ما یک سری اپلیکیشن روی موبایل خود نصب می‌کنیم که اطلاعات حرکتی ما و لوکیشن ما را می‌گیرد، اگر جایی بر عملکرد این نرم‌افزارها نظارت نکند، شرکت‌ها می‌توانند این اطلاعات را به شرکت‌های تبلیغاتی یا سیستم‌های جاسوسی بفروشند.»

استفاده از AI، از حمل‌ونقل تا بیمه

مرادی با بیان اینکه نرم‌افزارهای هوشمند حمل و نقل و صنایع نرم‌افزاری دیگر در سطح خوبی از هوش مصنوعی استفاده می‌کنند، ادامه داد: «از سوی دیگر، صنایع دیگری مثل خودروسازی خیلی کم از هوش مصنوعی بهره می‌گیرند. در بیمه نیز از هوش مصنوعی برای کشف تقلب‌ها استفاده می‌شود. البته، در صنایع خودرو از رباتیک نیز استفاده می‌شود، اما چندان پیشرفته نیست. در دیگر صنایع مثل صنعت پزشکی، تا حدودی از هوش مصنوعی در پردازش تصاویر استفاده می‌شود.»

وی در پاسخ به سوالی درباره نقش هوش مصنوعی در برنامه‌هایی چون تاکسی‌های اینترنتی گفت: «هوش مصنوعی می‌تواند شیوه قیمت‌گذاری و قیمت مناسب هر سفر را مشخص کند. مثلا اگر در یک منطقه‌ای مسابقه فوتبال برگزار شده و تقاضا زیاد و تعداد ماشین‌ها کم است، هوش مصنوعی قیمت را بالا می‌برد تا هم تعداد تقاضاها کمی کاهش یابد و هم رانندگان بیشتری ترغیب شوند که به آن نقطه از شهر بروند. در زمینه تقلب‌ها نیز هوش مصنوعی می‌تواند فعالیت کند، مثلا گاهی راننده ممکن است سوءاستفاده کند و ادعا کند سفری انجام شده، ولی در واقع سفری رخ نداده باشد. برای مقوله امنیت مسافران نیز می‌توان از هوش مصنوعی استفاده کرد.»

عضو هیات‌علمی دانشگاه تهران با اشاره به نقش هوش مصنوعی در صنعت خودروسازی و بیمه، گفت: «در صنعت خودروسازی، خودروها می‌توانند هوشمند شوند؛ یعنی دستگاه‌هایی طراحی شود و درون ماشین قرار داده شود که اطلاعات رانندگی فرد را ثبت کند. بعدتر، این اطلاعات می‌تواند به کمک صنعت بیمه بیاید و اگر تصادفی رخ داد، بیمه بررسی کند آیا راننده به‌طور کلی پرخطر رانندگی می‌کند یا خیر. بیمه می‌تواند با استفاده از این اطلاعات، حق بیمه را بالا یا پایین ببرد.» مرادی با بیان اینکه هوش مصنوعی در ماشین‌های هوشمند می‌تواند سیستم‌های درون ماشین را کنترل کند، افزود: «هوش مصنوعی می‌تواند پیش از وقوع اتفاقی به راننده درباره قسمت‌های مختلف ماشین هشدار دهد. در بعضی از ماشین‌های خارجی مثل تویوتا حتی برای زاپاس ماشین نیز سنسوری وجود دارد که کنترل می‌کند باد لاستیک زاپاس کم شده یا خیر.»

مرادی ادامه داد: «هوشمندی در خطوط تولید نیز می‌تواند اعمال شود و این فقط متعلق به صنعت خودرو نیست. در خطوط مختلف تولید، می‌توان از هوش مصنوعی استفاده کرد تا خطاها مشخص، رفع و بهینه‌سازی انجام شود تا تولیدکنندگان با هزینه کمتری روبرو شوند. در حال حاضر بسیاری از جوشکاری‌هایی که در صنعت خودروی ایران انجام می‌شود، دستی است؛ البته از ربات استفاده می‌کنند، اما ربات را به عنوان عاملی که بتواند دستگاه سنگین را به کمک انسان بلند کند، به کار می‌گیرند و نه بیشتر.» وی در پاسخ به سوالی درباره علت عدم استفاده صنایع خودروسازی از هوش مصنوعی، گفت: «صنعت خودروسازی در بسیاری از بخش‌های تولید خودرو مطابق تکنولوژی روز دنیا پیش نمی‌رود و ماشین‌های ما به دلایل مختلف ایمنی لازم را ندارند؛ بنابراین عجیب نیست که از هوش مصنوعی چندان استفاده نکند.»

درآمد خوب با تخصص در هوش مصنوعی

مرادی با بیان اینکه آموزش هوش مصنوعی در ایران نسبتا خوب است، گفت: «آموزش هوش مصنوعی، در دانشگاه‌های برتر نزدیک به سطح جهانی است، البته از آن جایی که کشورهای خارجی در حوزه آموزش، تکنولوژی‌های به‌روزتری را به کار می‌گیرند، هنوز با سطح جهانی تا حدی فاصله داریم. از لحاظ تحقیقاتی سطح تحقیقات ایران در سطح جهانی است. الان تقاضا برای هوش مصنوعی به‌شدت بالا است، چون در سطح جهانی و در سطح کشور نیاز به این تخصص بسیار بالاست. در حوزه علوم داده پردازش زیادی روی داده‌ها باید انجام شود و این امر نیاز به هوش مصنوعی دارد. به‌طور کلی این تخصص در ایران و کشورهای دیگر درآمد خوبی می‌تواند داشته باشد.» وی درباره امکانات سخت‌افزاری برای توسعه هوش مصنوعی در ایران، گفت: «در ایران، سخت‌افزار متعارفی که در هوش مصنوعی استفاده می‌شود، مثلا در حد پردازنده‌های قوی و کامپیوترها و گرافیک‌کارت‌های قوی را می‌توان تهیه کرد که البته ساخت ایران نیستند؛ اما اگر پردازش‌های خیلی سریع و پیشرفته را در نظر بگیریم نسبت به امکاناتی که در سطح جهان وجود دارد، کمبود داریم. مثلا الان شبکه‌هایی مانند آمازون وجود دارد که امکان پردازش وسیع را فراهم می‌کند، اما برای ایران محدودیت‌های خیلی خاصی دارد. البته شرکت‌هایی در ایران هستند که دارند کامپیوترهای پیشرفته‌ای را آماده می‌کنند. مثلا در خود دانشگاه تهران نیز سرورهای قوی‌ای برای پردازنده‌ها ساخته شده و می‌توان گفت که ۹۵ درصد نیاز مملکت را رفع می‌کند. علت اینکه اقبال به هوش مصنوعی زیاد می‌شود، این است که در عین تحریم‌ها امکان چنین پردازش‌هایی در درون کشور وجود دارد. وقتی سطح نیازهای استفاده از هوش مصنوعی بالا می‌رود، امکانات برای رفع آنها در ایران، وجود ندارد. اگر هوش مصنوعی به سنسورهای دقیق نیاز داشته باشد، در آن سطح نمی‌توان توقع داشت با توجه به تحریم‌ها به سطح جهانی برسیم، چون بخش قابل توجهی از این تجهیزات در تحریم هستند و امکان استفاده از آنها وجود ندارد.»