بحث و جدل عمده در ایالات متحده پیرامون کند کردن روند توسعه هوش مصنوعی
درخواستهایی برای کند کردن روند توسعه فناوریهای هوش مصنوعی از سوی همان شرکتهایی مطرح شده است که پیشتر پیشگامِ رقابتِ پرشتاب برای عرضه مداوم مدلهایی با قدرت روزافزون بودهاند. اگرچه این درخواستها با مخالفت دونالد ترامپ، رئیسجمهور ایالات متحده، مواجه شد، اما بزرگترین مانع پیش روی آنها نه فقدان حمایت دولت، بلکه مسئله قابلیت اجرایی شدنِ چنین طرحی است.
نه شرکتها و نه بیانیههای صادرشده، هیچگونه سازوکار مشخصی را برای کند کردن توسعه هوش مصنوعی ارائه نکردهاند؛ طرفداران این ایده صرفاً خواستار کاهش سرعت شدهاند، بیآنکه چشماندازی ملموس برای چگونگیِ عملیاتی کردنِ این کندسازی ارائه دهند.
گزارشی که توسط وبسایت خبری آمریکایی «پولیتیکو» منتشر شده، پرسشهایی را درباره سازوکارهای اجرای چنین کندسازیای مطرح میکند. آیا این امر مستلزم هماهنگی میان دولتهای ایالات متحده و چین — دو پیشتازِ رقابت توسعه هوش مصنوعی — خواهد بود؟ یا نیازمند وضع قوانین جدیدی است که به شرکتهای بزرگ آمریکایی اجازه دهد درباره سطح پیشرفت مدلهای خود با یکدیگر مشورت کنند؟
درخواستهای اهالی سیلیکونولی برای کند کردن روند توسعه، همزمان با نگرانیهای دیگری مطرح میشود که کارشناسان حوزه هوش مصنوعی — به نقل از گزارش جداگانهای در پولیتیکو — ابراز داشتهاند؛ مبنی بر اینکه این فناوری هماکنون از «نقطه بیبازگشت» عبور کرده است.
آیا کند کردن روند توسعه هوش مصنوعی واقعاً امکانپذیر است، یا اینکه این درخواستهای رهبران شرکتهای هوش مصنوعی غیرواقعبینانه هستند؟
رهبران صنعت به اجماع رسیدند
بر اساس گزارش *گاردین*، چهرههای برجسته در بخش هوش مصنوعی به رهبری داریو آمودی، مدیرعامل شرکت آمریکایی آنتروپیک، به اجماع رسیدهاند. او نامهای منتشر کرد و در آن از سرعت سنجیدهتر و سنجیدهتر توسعه هوش مصنوعی حمایت کرد.
پیام آمودی با استقبال خوبی از سوی رهبران شرکتهای رقیب بزرگ، از جمله ایلان ماسک، مدیرعامل اسپیس ایکس و سم آلتمن، مدیرعامل OpenAI، و همچنین دمیس هاسابیس، عضو هیئت مدیره گوگل دیپمایند، و ساتیا نادلا، مدیرعامل مایکروسافت، مواجه شد.
در مقابل، جنسن هوانگ، مدیرعامل شرکت آمریکایی انویدیا، از شرکتها خواست تا هرچه سریعتر اقدام کنند و افزود که آیندهای را پیشبینی میکند که در آن، هر شرکت و سازمانی مستقیماً به فناوریهای هوش مصنوعی متکی خواهد بود.
رئیسجمهور آمریکا در جریان یک تماس تلفنی مستقیم با «هوانگ» — که همزمان با اجلاس اخیر «All-In» انجام شد — با این دیدگاه موافقت کرد و تمام هشدارهای مذکور را بیاساس و ساختگی خواند.
ترامپ در مجموعه پستهایی در پلتفرم «تروث سوشال» (Truth Social) — و همچنین در گفتگو با هوانگ — نارضایتی خود را از این درخواستها ابراز کرد و خاطرنشان ساخت که چین تنها ذینفع این وضعیت است؛ چرا که روند توسعه مدلهای هوش مصنوعی خود را متوقف یا کند نخواهد کرد.
سناتور «تد کروز»، عضو کمیته بازرگانی سنای آمریکا، نیز با دیدگاه ترامپ همنظر است؛ او در گفتگو با نشریه «پولیتیکو» اظهار داشت: «اگر قرار است این رباتها مرگبار باشند، ترجیح میدهم آمریکایی باشند تا چینی.»
«توقف» (یا مکث) واقعاً به چه معناست؟
گزارشی از نشریه «پولیتیکو» خاطرنشان میکند که توقف توسعه مدلهای هوش مصنوعی لزوماً به معنای متوقف کردن تحقیقات در این حوزه یا حتی کاهش توان پردازشی شرکتهای بزرگ فعال در آن نیست؛ بلکه میتواند به معنای تمرکز بر توسعه و عرضه مدلهای کارآمدتر باشد—بهویژه در مورد مدلهایی که قادر به اجرای حملات سایبری پیچیده هستند.
در همین راستا، آمودی پیشنهاد کرد که این روندِ کندسازی، در قالب ارزیابیهای امنیتی دقیقتری صورت گیرد که توسط نهادهای بیرونی انجام میشود؛ نهادهایی که به شیوهای مشابه سطح دسترسی کارکنان واقعی، به مدلهای جدید دسترسی داشته باشند.
پیشنهاد آمودی پرسشهایی را درباره هویت این ارزیابهای بیرونی و سازمانی که مسئولیت آنها را بر عهده دارد، مطرح میکند؛ او از یک سازمان غیرانتفاعیِ فعال در زمینه آزمایش مدلها با نام «ارزیابی مدل و پژوهش تهدیدات» (Model Evaluation and Threat Research) به عنوان گزینهای مناسب یاد کرد.
به طور جداگانه، مینا نارایانان – تحلیلگر ارشد تحقیقاتی متخصص در مدیریت هوش مصنوعی در مرکز امنیت و فناوریهای نوظهور دانشگاه جورج تاون – به سازمان دیگری به نام ردوود ریسرچ، یکی از نهادهایی که حادثه اخیر مربوط به OpenAI و Hugging Face را بررسی کرده است، اشاره کرد.
نارایانان افزود که هنوز مشخص نیست که آیا متخصصان کافی با تخصص فنی لازم برای ارزیابی خطرات مدل وجود دارد یا خیر – و اینکه آیا چنین متخصصانی به طور کافی در شرکتهای بزرگ هوش مصنوعی ادغام شدهاند یا خیر.
موانع قانونی بیشتری در مورد همکاری بین شرکتهای رقیب ایجاد میشود، زیرا چنین همکاری میتواند قوانین ضد انحصار و شفافیت ایالات متحده را که برای محافظت از مصرفکنندگان طراحی شدهاند، نقض کند – نکتهای که لینا خان، رئیس کمیسیون تجارت فدرال (FTC) که در دوران ریاست جمهوری جو بایدن، رئیس جمهور سابق ایالات متحده، منصوب شده بود، به آن اشاره کرد.
قابلیتهای مفید و خطرناک را نمیتوان از هم جدا کرد
مدیرعامل شرکت هوش مصنوعی SingularityNET بر دشواری تمایز بین قابلیتهای هوش مصنوعی که به نظر بیخطر میرسند و آنهایی که خطرناک هستند، تأکید کرد.
این دشواری ناشی از همپوشانی نزدیک بین این قابلیتها است؛ به عنوان مثال، توانایی یک مدل برای نوشتن کد بیعیب و نقص، به معنای ظرفیت برابر برای بهرهبرداری از آسیبپذیریهای کشف شده و انجام حملات سایبری است.
علاوه بر این، به دلیل مکانیسمهای پشت توسعه مدل هوش مصنوعی و دادههای مورد استفاده برای آموزش، یافتن مدلی که از هر نظر برتر باشد، دشوار است. یک مدل ممکن است دارای قابلیتهای سایبری پیشرفته باشد در حالی که در سایر زمینهها ضعیف باقی بماند.
اگر هدف جلوگیری از دستیابی هوش مصنوعی به قابلیتهای خطرناک—مانند ساخت سلاحهای سایبری یا بیولوژیکی، و یا حتی تکامل خودکار و مستقل—است، پس چرا آزمونهای ایمنی بهطور خاص بر این جنبهها تمرکز نمیکنند؟
