هوش مصنوعی وقتی درباره احتمال نابودی بشریت توسط آن در عرض یک دهه مورد پرسش قرار گرفت، چه پاسخی داد؟
بر اساس آزمایشی که توسط روزنامه بریتانیایی «ایندیپندنت» انجام شد، یک سامانه هوش مصنوعی احتمال اینکه این فناوری طی ده سال آینده منجر به انقراض نسل بشر شود را حدود ۰٫۸۵ درصد — یا تقریباً یک در ۱۱۸ — برآورد کرد.
این روزنامه آزمایش مذکور را با همکاری «نوآ پردیکت» (Noah Predict) انجام داد؛ سامانهای که با تحلیل میلیونها داده و گزارش خبری، به شناسایی روندها و خطرات و همچنین پیشبینی احتمالات میپردازد.
این برآورد بسیار کمتر از برخی پیشبینیهای ارائهشده توسط مهندسان و پژوهشگران حوزه ایمنی هوش مصنوعی است؛ این آزمایش پس از آن صورت گرفت که جیکوب استاینهارت، پژوهشگر هوش مصنوعی، خبر کنارهگیری خود از شرکت «آنتروپیک» (Anthropic) را اعلام کرد و هشدار داد که شرکتها با جان انسانها قمار میکنند.
به گزارش این روزنامه و با استناد به مطلب منتشرشده توسط این کارشناس در شبکه اجتماعی «ایکس» (X)، همکار او، ایوان هوبینگر، تأیید کرد که برخی از فعالان این حوزه معتقدند احتمال بیش از ۱۰ درصدی وجود دارد که هوش مصنوعی بتواند بشریت را در دهه آینده نابود کند.
نکته قابلتوجه اینکه جفری هینتون، دانشمند علوم رایانه و برنده جایزه نوبل که به «پدرخوانده هوش مصنوعی» شهرت دارد، بعداً پیشبینیهای این کارشناسان را تأیید کرد و به بیبیسی گفت که احتمال ۱۰ درصد، «برآوردی غیرمحتمل نیست.»
به گزارش این روزنامه، این سامانه پیش از دستیابی به برآورد نهایی خود، پرسش مذکور را از ۴۱ زاویه مختلف تحلیل کرد، ۱۰۸ مورد جستجو برای راستیآزمایی اطلاعات انجام داد و از حدود ۵۲ میلیون داده بهره گرفت.
نتیجهگیری این سامانه حاکی از آن بود که احتمال وقوع این رویداد ۰٫۸۵ درصد (کمتر از یک درصد) است؛ با این حال، روزنامه مذکور خاطرنشان میکند که این رقم به معنای قابلچشمپوشی بودنِ خطر نیست، بهویژه با توجه به اینکه برخی سناریوها ممکن است پیامدهای جبرانناپذیری به همراه داشته باشند.
نخستین ریسک: دخالت مخرب انسانی
نوآ بریدکات نخستین ریسک را احتمال بهرهبرداری اشخاص ثالث از هوش مصنوعی برای انجام اقدامات خطرناکی همچون حملات سایبری یا بیولوژیک با سرعت و کارایی بیشتر، شناسایی میکند. با این حال، به نقل از آن روزنامه، او تأکید میکند که خودِ ماشین هیچگونه نیت خصمانهای ندارد؛ بلکه عملکرد آن به اپراتور انسانی وابسته است.
خطر دوم: فروپاشی نهادها.
این گزارش همچنین به خطری اشاره دارد که ناشی از اقدام شرکتها برای سازماندهی مجدد بازار کار با سرعتی فراتر از توانایی کارکنان برای بازآموزی یا انتقال به مشاغل جدید است.
در این گزارش خاطرنشان شده است که اگر نهادها چنان به خدمات خودکار وابسته شوند که در صورت بروز خرابی سیستم، حمله یا اتخاذ تصمیمی اشتباه توسط سامانه، توانایی فعالیت مستقل خود را از دست بدهند، این تهدید میتواند تشدید شود.
خطر سوم: از دست رفتن کنترل انسانی
بر اساس تحلیل سیستم خودکار، سومین سناریو — و البته نگرانکنندهترین آنها — تبدیل نقش انسان به جایگاهی صرفاً تشریفاتی است. این وضعیت زمانی رخ میدهد که سیستمهای طراحیشده برای دستیابی به هدفی خاص، مداخله انسان را مانعی بر سر راه خود تلقی کرده و حتی با وجود تلاشها برای متوقف یا اصلاح کردنشان، همچنان به پیگیری هدف خود ادامه دهند.
این سیستم برای کاهش چنین خطراتی، تدابیر متعددی را پیشنهاد کرد؛ از جمله محدود کردن قابلیتهای سیستمهای هوش مصنوعی، جلوگیری از دسترسی آنها به زیرساختهای حیاتی، قرار دادن آنها در معرض آزمونهای تقابلی (adversarial testing) و راستیآزمایی مداومِ سازوکارهای خاموشسازی و بازیابی کنترل.
این روزنامه مطرح میکند که این سه سناریو ممکن است با یکدیگر همپوشانی داشته باشند؛ بدین معنا که اختلالات بازار کار میتواند به بیثباتی سیاسی منجر شود و این بیثباتی نیز به نوبه خود، توانایی انسانها را برای نظارت بر سیستمهای پیشرفته تضعیف کند.
به نوشته نشریه «ایندیپندنت»، نکته کلیدی این آزمایش اثبات این فرضیه نیست که هوش مصنوعی نسل بشر را نابود نخواهد کرد، بلکه هدف آن نشان دادن این واقعیت است که همچنان اختلافنظرهای گستردهای درباره ابعاد این خطر وجود دارد.
