ترامپ برای مهار هوش مصنوعی دست به دامن سازندگانش شد

دونالد ترامپ با مدیران بزرگ‌ترین شرکت‌های هوش مصنوعی آمریکا توافقی داوطلبانه امضا کرده که بر اساس آن، شرکت‌ها باید خودشان بر ایمنی سامانه‌های هوش مصنوعی نظارت کنند و کنترل‌های داخلی و حسابرسی بیرونی برای محصولاتشان در نظر بگیرند.

به گزارش به گزارش افق سوم به نقل از عصر ایران به نقل از نیویورک‌تایمز، این توافق شباهت زیادی به چارچوبی دارد که دولت جو بایدن در سال ۲۰۲۳ با برخی از همین شرکت‌ها امضا کرده بود؛ با این تفاوت که حالا نگرانی‌ها درباره رفتارهای غیرقابل‌پیش‌بینی هوش مصنوعی بیشتر شده است. در ماه‌های اخیر، گزارش‌هایی از نفوذ عامل‌های هوش مصنوعی به سامانه‌های دیگر و انجام اقداماتی خارج از انتظار سازندگان منتشر شده است.

ترامپ گفته شرکت‌های بزرگ فناوری باید خودشان مسئولیت کنترل محصولاتشان را بر عهده بگیرند. در این توافق همچنین استفاده از کارشناسان و حسابرسان بیرونی برای بررسی عملکرد سامانه‌ها پیش‌بینی شده است.

اما منتقدان می‌گویند تجربه سه سال گذشته نشان داده تعهدات داوطلبانه به‌تنهایی ممکن است برای کنترل فناوری‌ای با چنین سرعت رشدی کافی نباشد. یکی از کارشناسانی که در تدوین توافق سال ۲۰۲۳ نقش داشت نیز گفته است با توجه به سرعت پیشرفت هوش مصنوعی، دولت آمریکا باید بار دیگر نقش فعال‌تری در تنظیم این فناوری داشته باشد.

این توافق در شرایطی امضا شده که حتی برخی شرکت‌های سازنده هوش مصنوعی نیز در ماه‌های اخیر با رفتارهای پیش‌بینی‌نشده مدل‌های خود مواجه شده‌اند؛ موضوعی که پرسش اصلی درباره طرح ترامپ را جدی‌تر می‌کند: اگر سازندگان هنوز نمی‌توانند همه رفتارهای سامانه‌های خود را پیش‌بینی کنند، آیا می‌توان انتظار داشت خودنظارتی شرکت‌ها برای ایمنی هوش مصنوعی کافی باشد؟