برد اسمیت می‌گوید برای عامل‌های هوش مصنوعی باید سازوکارهای روشن‌تری مانند اطلاع‌رسانی به آسیب‌دیدگان، توقف اضطراری و گزارش رخدادها در نظر گرفته شود؛ این‌ها پیشنهادند، نه قانون جهانیِ تصویب‌شده.
خلاصه خبر: برد اسمیت، رئیس و نایب‌رئیس مایکروسافت، در گفت‌وگویی که بی‌بی‌سی منتشر کرده و رویترز در ۱۲ اکتبر ۲۰۲۶ گزارش داده است، خواستار قواعد ایمنی جهانی برای هوش مصنوعی شد. محور پیشنهادهای او، ارزیابی مستقل، اطلاع‌رسانی درباره رخدادهای جدی و امکان توقف اضطراری سامانه‌های هوشمند است.
اسمیت چه پیشنهادهایی مطرح کرد؟
طبق گزارش رویترز در ۱۲ اکتبر ۲۰۲۶، اسمیت گفت اگر یک عامل هوش مصنوعی باعث نفوذ یا رخداد جدی شود، باید سازوکاری برای آگاه‌کردن افراد آسیب‌دیده وجود داشته باشد. او همچنین از درنظرگرفتن «ترمز اضطراری» و الزام شرکت‌ها به تهیه گزارش رخدادها حمایت کرد.
هدف این پیشنهادها ایجاد پاسخ‌گویی بیشتر است: اگر سامانه‌ای کاری غیرمنتظره انجام داد، شرکت سازنده یا بهره‌بردار بتواند توضیح دهد چه اتفاقی رخ داده، چه کسانی تحت‌تأثیر قرار گرفته‌اند و چه اقدامی برای مهار آن انجام شده است.
چرا بحث از چت‌بات به عامل هوشمند رسیده است؟
عامل‌های هوش مصنوعی ممکن است به ابزارهای جست‌وجو، فایل‌ها، محیط اجرای کد یا سامانه‌های سازمانی دسترسی بگیرند. این توانایی می‌تواند کارها را سریع‌تر کند، اما اشتباه یا سوءاستفاده از دسترسی نیز می‌تواند پیامد واقعی داشته باشد. به همین دلیل، کنترل مجوزها، ثبت عملیات و امکان لغو دسترسی موضوع‌هایی مهم‌تر از صرفاً درست‌بودن یک پاسخ متنی هستند.
آیا این قواعد هم‌اکنون در سراسر جهان اجرا می‌شوند؟
خیر. گزارش رویترز پیشنهادهای اسمیت و بحث جاری درباره مقررات را بازتاب می‌دهد؛ این گزارش به معنای توافق جهانی یا تصویب یک قانون یکسان برای تمام کشورها نیست. شیوه تنظیم‌گری میان کشورها تفاوت دارد و هر پیشنهاد باید از مسیر قانونی مربوط به خود عبور کند.
این خبر چه اهمیتی برای کسب‌وکارها دارد؟
شرکت‌هایی که از عامل‌های هوش مصنوعی برای پشتیبانی مشتری، پردازش اسناد، مدیریت کد یا اجرای گردش‌کارها استفاده می‌کنند، بهتر است از همین حالا مشخص کنند هر عامل به چه اطلاعات و ابزارهایی دسترسی دارد، فعالیت‌هایش کجا ثبت می‌شود و در صورت رفتار غیرمنتظره چه کسی می‌تواند آن را متوقف کند. اجرای این کنترل‌ها حتی پیش از هر الزام قانونی، ریسک عملیاتی را کاهش می‌دهد.
جمع‌بندی
اظهارنظر رئیس مایکروسافت نشان می‌دهد موضوع ایمنی هوش مصنوعی فقط دقت مدل یا فیلترکردن پاسخ‌ها نیست؛ پاسخ‌گویی پس از رخداد، اطلاع‌رسانی و کنترل اختیار عامل‌ها هم در مرکز بحث قرار گرفته است. در عین حال، پیشنهاد یک مدیر فناوری را باید از قانون مصوب و استاندارد اجرایی متمایز دانست.
مطالب مرتبط: وب‌ام‌سی‌پی چیست و چه کاربردی دارد؟
پرسش‌های متداول
آیا قواعد پیشنهادی برد اسمیت قانون لازم‌الاجرا هستند؟
خیر؛ گزارش درباره پیشنهادهایی مانند ارزیابی مستقل و گزارش رخدادهاست، نه تصویب یک قانون جهانی واحد.
توقف اضطراری عامل هوش مصنوعی یعنی چه؟
یعنی سازوکاری فنی و عملیاتی برای متوقف‌کردن اجرای وظیفه یا قطع دسترسی عامل هنگامی که خطر یا رفتار غیرعادی شناسایی می‌شود.
چرا این پیشنهاد برای کسب‌وکارها مهم است؟
شرکت‌هایی که عامل‌ها را به ایمیل، فایل‌ها یا سامانه‌های عملیاتی متصل می‌کنند، به مجوزهای محدود، گزارش رویداد و راه توقف سریع نیاز دارند.
این مقاله را در چند نکته بخوان
- پیشنهاد ایجاد سازوکارهایی مانند اطلاع‌رسانی به افراد آسیب‌دیده در صورت بروز نخدادهای جدی توسط عامل‌های هوش مصنوعی.
- لزوم درنظرگرفتن «ترمز اضطراری» یا همان توقف اضطراری برای قطع دسترسی و متوقف کردن سامانه‌ها هنگام بروز رفتار غیرعادی یا خطر.
- الزام شرکت‌ها به تهیه گزارش رخدادها برای شفاف‌سازی درباره اتفاقات، افراد تحت‌تأثیر و اقدامات مهارکننده.
- با توجه به دسترسی عامل‌های هوش مصنوعی به ابزارها و فایل‌ها، مواردی چون کنترل مجوزها و ثبت عملیات اهمیت زیادی یافته‌اند.
- این موارد تنها پیشنهادهای سیاستی و نظرات یک مدیر فناوری هستند و هنوز به عنوان قانون جهانی یا توافق بین‌المللی تصویب نشده‌اند.
- کسب‌وکارها بهتر است پیش از الزامات قانونی، برای کاهش ریسک‌های عملیاتی، کنترل‌های لازم روی دسترسی‌ها و توقف سریع عامل‌ها را اعمال کنند.
سؤالت را از همین مقاله بپرس
پاسخ‌ها فقط بر اساس محتوای همین مقاله تولید می‌شوند.