هوش مصنوعی، پشت درِ اتاق جلسه!

سیدرضا طباطبایی - کارشناس هوش مصنوعی و بلاکچین؛ فرض کنید به یک عامل هوشمند [۳] اجازه معامله بدهید، اما معامله‌اش به شما زیان برساند. چه کسی باید پاسخ‌گو باشد: سازنده مدل، توسعه‌دهنده سامانه یا شرکت ارائه‌دهنده خدمات؟ امیدواریم برای گرفتن پاسخ، فقط شماره دبیرخانه کارگروه مربوط را به شما ندهند. در قانون ملی توسعه هوش مصنوعی، تکلیف سازمان‌ها و منابع مالی روشن‌تر از مسئولیت چنین خسارت‌هایی است. [۱]

پیش‌بینی منابع مالی و حمایت از توسعه زیرساخت، از نقاط قوت قانون است. بااین‌حال، سپردن حمایت مالی، توسعه فناوری و ارزیابی امنیت به بخش‌های مرتبط با یک سازمان، خطر تعارض منافع را به همراه دارد. باید استقلال ارزیاب و امکان اعتراض به نتایج ارزیابی تضمین شود؛ وگرنه «حمایت از نوآوری» ممکن است به امتیازی برای شرکت‌های نزدیک‌تر به نهادهای تصمیم‌گیر تبدیل شود.

در بازار داده هم اجازه تبادل اطلاعات، به‌تنهایی کافی نیست. کسب‌وکارها باید بدانند چگونه به داده‌ها دسترسی پیدا می‌کنند، چه زمانی پاسخ می‌گیرند و کجا می‌توانند اعتراض کنند. بدون این تضمین‌ها، دسترسی به داده ممکن است به قدرت چانه‌زنی اداری وابسته شود. آن‌وقت استارتاپ‌ها باید کنار مهندس هوش مصنوعی، قهرمان پیگیری نامه‌های اداری هم استخدام کنند.

فناوریِ پیوسته در حال تغییر را نمی‌توان در چارچوبی خشک و ثابت محصور کرد؛ به‌ویژه وقتی مالک مدل‌ها و زیرساخت‌های اصلی نیستیم و اختیار چندانی بر توسعه آن‌ها نداریم. شتاب پیشرفت هوش مصنوعی و احتمال ظهور هوش مصنوعی عمومی [۴]، این چالش را جدی‌تر می‌کند. مقررات باید متناسب با خطر و قابل بازنگری باشند؛ وگرنه ممکن است بیشتر دست‌وپای نوآور داخلی را ببندند تا بر مسیر فناوری اثر بگذارند.

قانون البته به آینده بی‌توجه نیست. در ماده ۳ به‌روزرسانی برنامه ملی، در ماده ۴ آینده‌نگری و بررسی جهش توانمندی‌ها و در ماده ۷ ارزیابی شش‌ماهه سامانه‌ها پیش‌بینی شده است. اما پس از شناسایی خطری تازه، کدام نهاد باید قواعد را اصلاح کند و چقدر فرصت دارد؟ آینده هم بعید است تا امضای صورت‌جلسه منتظر بماند. [۱]

این پرسش با گسترش مدل‌های همه‌منظوره [۵] و عامل‌های هوشمند جدی‌تر می‌شود. سامانه‌ای که به ابزار پرداخت یا مدیریت اطلاعات متصل است، می‌تواند مستقیماً بر دارایی و زندگی مردم اثر بگذارد. تغییر مدل یا ابزارهای آن نیز ممکن است خطرهای تازه‌ای ایجاد کند. بنابراین، ارزیابی شش‌ماهه به‌تنهایی کافی نیست؛ تغییرات مهم و رخدادهای جدی در فاصله دو ارزیابی هم باید بررسی شوند. [۲]

قواعد آینده باید حدود اختیار عامل‌های هوشمند، شیوه ثبت اقدامات و امکان متوقف‌کردن آن‌ها را مشخص کنند. سهم مسئولیت سازنده، ارائه‌دهنده خدمات و بهره‌بردار نیز باید روشن باشد. شهروندان باید بتوانند درباره تصمیم‌هایی که بر زندگی‌شان اثر می‌گذارد توضیح بخواهند و راهی عملی برای اعتراض و جبران خسارت داشته باشند. این الزامات باید متناسب با میزان خطر هر سامانه تنظیم شوند؛ یک ابزار ساده نباید گرفتار همان تشریفاتی شود که برای سامانه‌ای حساس در حوزه سلامت یا امور مالی لازم است.

این قانون برای پاسخ‌گویی به آینده، به اصلاح شفاف و مشارکت متخصصان و کاربران نیاز دارد. چه قانون بگذاریم و چه نگذاریم، هوش مصنوعی به‌تدریج در تار و پود زندگی ما، از آموزش و درمان تا بانکداری و کسب‌وکار، جریان می‌یابد. حتی اگر خودمان سراغش نرویم، خدمات روزمره آن را وارد زندگی‌مان می‌کنند؛ پس این همراهی صرفاً دلبخواهی نیست. قانون باید کمک کند در این مسیر، حقوق و اختیارمان حفظ شود. وگرنه شاید هنوز درباره ضرورت ورود هوش مصنوعی جلسه بگذاریم، اما صورت‌جلسه را خودِ هوش مصنوعی نوشته باشد!

منابع و اصطلاحات:

۱. متن ابلاغی قانون

۲. National Institute of Standards and Technology (NIST) AI Agent Standards Initiative

۳. AI Agents  ·  ۴. Artificial General Intelligence (AGI)  ·  ۵. General-Purpose AI Models