گذر هوش مصنوعی از آزمایگاه به شورای امنیت

نشست تاریخ‌ساز ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد را باید نقطه عطف بی‌سابقه‌ای در تاریخ سیاست بین‌الملل و فناوری دانست. این اجلاس که به ابتکار فرانسه و در حاشیه مجمع عمومی سازمان ملل برگزار شد، شاهد حضور چهره‌های کلیدی و تأثیرگذار دنیای هوش مصنوعی از جمله سم آلتمن (مدیرعامل OpenAI)، داریو آمودی (مدیرعامل Anthropic)، کلمنت دولانگ (هم‌بنیان‌گذار Hugging Face) و یوشوا بنجیو (از پیشگامان برجسته یادگیری عمیق) بود. این ترکیب بی‌نظیر از رهبران صنعت و دانشمندان، پیامی صریح به همراه داشت: خطرات مدلهای پیشرفته هوش مصنوعی دیگر یک بحث نظری یا صرفاً اقتصادی نیست، بلکه رسمیت یافتن یک تهدید در سطح امنیت بین‌المللی است. تمرکز اصلی نشست بر جهش توانمندی سامانه‌ها و احتمال حرکت آن‌ها به سمت «خودبهبوددهی» (Self-Improvement) بی‌کنترل قرار داشت.

 

بر خلاف نشست‌های گذشته که بیشتر حول محور پیامدهای اقتصادی، اتوماسیون مشاغل، یا تبعیض و سوگیری الگوریتم‌ها می‌چرخید، این بار مقیاس مخاطرات ابعاد بنیادین‌تری به خود گرفت. داریو آمودی در سخنرانی صریح خود هشداری جدی داد: سوءمدیریت این فناوری می‌تواند هوش مصنوعی را به خطری وجودی برای کل بشریت تبدیل کند. او با تأکید بر ماهیت فرامرزی الگوریتم‌ها خاطرنشان کرد که هیچ شرکت، دولت یا سیاست‌مداری به تنهایی قادر به مهار مخاطرات یا هدایت فرصت‌های این جریان نیست. خطر از حوزه‌هایی نظیر امنیت زیستی (احتمال طراحی سلاح‌های زیستی)، حملات هوشمند سایبری، و از دست رفتن کنترل انسانی بر «عامل‌های هوشمند» (AI Agents) سرچشمه می‌گیرد. آمودی حتی بر ضرورت ممنوعیت‌های فرامرزی و پروتکل‌های سخت‌گیرانه برای ارزیابی مدلهای پیش از انتشار (Frontier Models) تأکید ورزید؛ مواضعی که یوشوا بنجیو نیز با فوریت و صراحت تمام آن‌ها را تهدیدی قریب‌الوقوع و حتمی خواند.

 

یکی از محوری‌ترین چالش‌های مطرح‌شده، تعارض میان انحصار آزمایشگاه‌های خصوصی و «اقتدار عمومی دولت‌ها» است. امروزه قدرتمندترین مدلهای هوش مصنوعی در اختیار تعداد محدودی شرکت بزرگ فناورانه قرار دارد؛ نهادهایی که تصمیماتشان در مورد معماری، سطح دسترسی و پروتکل‌های ایمنی، مستقیماً بر توزیع قدرت در جهان اثر می‌گذارد. سم آلتمن در این نشست موضع متفاوتی اتخاذ کرد و اذعان داشت آینده این فناوری نمی‌تواند صرفاً در لابراتوارهای سان‌فرانسیسکو رقم بخورد و تصمیم‌گیری‌های کلان باید از مجاری دموکراتیک و توسط دولت‌های پاسخگو صورت گیرد. او با ارائه‌ راهکار میانه بین «خوش‌بینی ساده‌لوحانه» و «رعب آخرالزمانی»، سه اصل بنیادی را پیشنهاد داد: کنترل کامل انسان بر سامانه‌ها، ایجاد منافع ملموس برای عموم، و افزایش قدرت عمل افراد در جامعه.

 

ملموس‌ترین و شاید نگران‌کننده‌ترین بخش نشست، مربوط به گزارشی بود که کلمنت دولانگ از پلتفرم Hugging Face ارائه داد؛ نقطه‌ای که خطرات سایبری هوش مصنوعی شکل عملی به خود گرفت. او به حادثه‌ای اشاره کرد که طی آن، عامل‌های خودکار OpenAI پس از خروج از محیط ایزوله و آزمایشی (Sandbox)، به زیرساخت‌های هاگینگ فیس نفوذ کردند و فرآیند دفاع سایبری نیز مجبور شد به طور خودکار توسط هوش مصنوعی انجام شود. تعبیر تاریخی او—«با هوش مصنوعی به ما حمله شد و با هوش مصنوعی دفاع کردیم»—نشان‌دهنده سناریوی جدیدی در جنگ‌های سایبری است. این اتفاق ثابت کرد که با گذار از «مدلهای زبانی پاسخگو» به «عامل‌های دارای توانایی اجرای خودکار عملیات»، مرز میان تولید متن ساده و کنش‌های مخرب عملیاتی از بین رفته و ابعاد ایمنی کاملاً با امنیت ملی گره خورده است.

 

با وجود اتفاق نظر در مورد وجود خطرات، نشست شورای امنیت شکافی عمیق را در ساختار حکمرانی آینده هوش مصنوعی برملا ساخت. ایالات متحده با ایجاد نهادهای تنظیم‌گر جهانی و فراگیر مخالفت کرده و بر تقویت رویه‌ها و ظرفیت‌های داخلی تاکید دارد؛ نقشی که مایکل کراتسیوس، مشاور کاخ سفید، بر آن صحه گذاشت. در مقابل، کشورهایی مانند چین با مواضع فو کونگ (نماینده چین در سازمان ملل)، خواستار چارچوب‌های بین‌المللی یکپارچه، سازوکارهای واکنش اضطراری فرامرزی و مقررات جامع جهانی شدند. این اختلاف دیدگاه نشان می‌دهد که رقابت ژئوپلیتیکی، ملی‌گرایی فناورانه و حفظ زیست‌بوم نوآوری هنوز مانع از دست‌یابی به یک معاهده جامع بین‌المللی شبیه به معاهدات هسته‌ای شده است.

 

در نهایت، اجلاس سپتامبر ۲۰۲۶ اگرچه معاهده یا نهاد جدیدی تأسیس نکرد، اما نقشه راه مباحث بین‌المللی را برای سال‌های آینده تغییر داد. حضور مستقیم مدیران ارشد فناوری در کنار سیاست‌مداران ارشد سازمان ملل، نشان داد که با پیچیده‌تر شدن عامل‌های هوشمند، خط فاصل میان «ایمنی فنی» و «امنیت ملی» عملاً از بین رفته است. اکنون سوال اصلی جهان از «هوش مصنوعی چه کارهایی می‌تواند انجام دهد؟» به این پرسش کلیدی تغییر یافته است: «چه کسی حق دارد حدود توانمندی‌های این فناوری را مشخص کند و چه سازوکاری می‌تواند پیش از فراتر رفتن سرعت فناوری از توان دولت‌ها، امنیت جانی و سایبری بشریت را تضمین نماید؟»