آیا هوش مصنوعی واقعاً در آستانه خروج از کنترل است؟
بحث درباره احتمال خارجشدن هوش مصنوعی از کنترل، معمولاً میان دو دیدگاه متضاد شکل میگیرد: گروهی معتقدند توسعه شتابان مدلهای پیشرفته میتواند به ظهور سامانههایی منجر شود که توانایی تصمیمگیری و اثرگذاری آنها از ظرفیت نظارت انسان فراتر رود؛ در مقابل، برخی کارشناسان این نگرانیها را بیش از اندازه بزرگنماییشده میدانند و معتقدند فناوریهای فعلی هنوز فاصله زیادی با یک هوش خودمختار و فوقهوشمند دارند.
بخش مهمی از این اختلافنظر به تفاوت میان خطرهای واقعی و سناریوهای تخیلی بازمیگردد. هوش مصنوعی امروزی میتواند در تولید متن، تحلیل داده، برنامهنویسی و انجام وظایف پیچیده عملکرد چشمگیری داشته باشد، اما همچنان به داده، زیرساخت، دستور و نظارت انسانی وابسته است. این مدلها بهطور مستقل هدف تعیین نمیکنند و نمیتوانند بدون دخالت انسان، نسخههای جدید و قدرتمندتری از خود بسازند. بااینحال، این موضوع به معنای بیخطر بودن کامل آنها نیست؛ خطاهای سیستماتیک، تصمیمهای تبعیضآمیز، انتشار اطلاعات نادرست، سوءاستفاده سایبری و بهکارگیری نادرست در حوزههای حساس، خطرهایی واقعی و قابل بررسی هستند.
این دو دیدگاه متضاد در واقع نشاندهنده تفاوت میان خطر وجودی (Existential Risk) و خطر کاربردی (Operational Risk) هستند. در حالی که سینما و داستانهای علمی-تخیلی ذهن عموم را به سمت هوشهای عام خودمختار (AGI) و سناریوهای آخرالزمانی سوق دادهاند، بزرگترین چالش حال حاضر، نحوهی «تزریق» این ابزارها به زیرساختهای کلیدی جامعه بدون ارزیابیهای کافی است. وقتی یک سیستم هوش مصنوعی در تصمیمگیریهای پزشکی، بازارهای مالی یا زیرساختهای شهری به کار گرفته میشود، حتی یک خطای کوچک در الگوریتم یا وجود سوگیری در دادههای آموزشی، میتواند پیامدهای جبرانناپذیری برای هزاران انسان به همراه داشته باشد؛ بیآنکه سیستم واقعاً «قصد» یا «آگاهی» برای ایجاد ضرر داشته باشد.
از سوی دیگر، مسئلهی «کنترل» به زیرساختها و منابع فیزیکی توسعه هوش مصنوعی نیز گره خورده است. مدلهای پیشرفته امروزی برای آموزش و اجرا به منابع عظیم انرژی، پردازندههای فوقسریع و مراکز داده غولپیکر نیاز دارند. این وابستگی سختافزاری و انرژی، نقطهی اتکای محکمی برای انسان است تا بتواند مرزهای توسعه و انتشار این فناوری را مهار کند. بنابراین، خطر اصلی خروج خودمختارانه هوش مصنوعی از دست انسان نیست، بلکه خروج سرعت توسعه و کاربست آن از توان رگولاتوری و نظارت جوامع بشری است.
بزرگنمایی خطر یا هشدار ضروری؟
بحث درباره احتمال «تسلط هوش مصنوعی بر جهان» بار دیگر شدت گرفته است؛ اما برخی کارشناسان معتقدند این روایت، بیش از آنکه بر شواهد قطعی تکیه داشته باشد، حاصل ترکیب نگرانی عمومی، رقابت اقتصادی و تبلیغات فناورانه است. آنان میگویند توصیف مدلهای کنونی بهعنوان موجوداتی مستقل که در آستانه فرار از کنترل انسان قرار دارند، با توانایی واقعی این سامانهها همخوانی ندارد و میتواند تصویری اغراقآمیز از وضعیت فعلی ارائه کند.
ماری ایتکن، از بنیانگذاران گروه Our AI Collective، بر همین نکته تأکید کرده است. از دیدگاه او، مسئله اصلی در شرایط کنونی نه شورش ماشینها، بلکه نحوه طراحی، توسعه و استفاده انسانها از این فناوری است. مدلهای فعلی توانایی ارتقای مستقل خود را ندارند و برای آموزش، اصلاح، تأمین انرژی و اجرای وظایف همچنان به انسانها و زیرساختهای تحت کنترل آنها وابستهاند. بنابراین، اگرچه میتوان از احتمال شکلگیری هوش مصنوعی بسیار پیشرفته در آینده سخن گفت، هنوز شواهد ملموسی وجود ندارد که نشان دهد چنین نقطه عطفی تحقق یافته است.
اندرو روگوفسکی، فیزیکدان دانشگاه ساری، نیز معتقد است بخشی از هیاهوی پیرامون هوش مصنوعی را باید در چارچوب منافع اقتصادی و رقابت شرکتهای فناوری بررسی کرد. شرکتها ممکن است از یک سو با ترسیم آیندهای بسیار خطرناک، ضرورت جذب سرمایه و توسعه زیرساختهای عظیم را توجیه کنند و از سوی دیگر، با مطرحکردن ایده «کاهش سرعت توسعه»، فرصت بیشتری برای کنترل هزینهها، افزایش بهرهوری و تثبیت جایگاه خود در بازار به دست آورند.
از این منظر، پرسش مهم این نیست که آیا هوش مصنوعی فردا جهان را تصرف خواهد کرد یا نه؛ بلکه باید پرسید سرمایهگذاریهای بسیار سنگین در این حوزه دقیقاً چه مشکلی را حل میکنند. بسیاری از مدلهای فعلی در انجام وظایف روزمره، مانند تهیه گزارش، خلاصهسازی، تولید ارائه، تحلیل اولیه دادهها و خودکارسازی فرایندهای اداری، عملکرد قابلتوجهی دارند. بااینحال، افزایش بیوقفه مقیاس مدلها همیشه به معنای افزایش متناسب ارزش اقتصادی یا اجتماعی آنها نیست و ممکن است هزینههای انرژی، زیرساخت و نگهداری را بهشدت بالا ببرد.
خطر واقعی کجاست؟
باوجود این انتقادها، کماهمیت جلوهدادن تمام نگرانیها نیز رویکرد درستی نیست. حتی اگر ظهور یک هوش فوقالعاده خودمختار در آینده نزدیک محتمل نباشد، ابزارهای فعلی میتوانند در صورت استفاده نادرست، پیامدهای جدی ایجاد کنند. وابستگی بیش از حد به تصمیمهای خودکار، حذف نظارت انسانی، استفاده از مدلها در فرایندهای قضایی و درمانی، تولید اطلاعات جعلی و واگذاری وظایف حساس به سامانههایی که گاهی دچار خطا میشوند، از جمله چالشهایی هستند که همین امروز باید برای آنها راهکار داشت.
به همین دلیل، رویکرد واقعبینانه نه ایجاد وحشت عمومی و نه انکار خطرهاست. توسعه هوش مصنوعی باید همراه با ارزیابی مستقل، شفافیت در عملکرد مدلها، تعیین مسئولیت حقوقی، حفاظت از دادهها و امکان مداخله انسان انجام شود. همچنین لازم است میان خطرهای نزدیک و قابل مشاهده، مانند تبعیض الگوریتمی و جعل محتوا، و سناریوهای بلندمدت مانند شکلگیری هوش فوقهوشمند تفاوت قائل شویم.
در نهایت، بحث درباره خارجشدن هوش مصنوعی از کنترل زمانی سودمند است که از سطح شعار و روایتهای آخرالزمانی فراتر رود. مدلهای امروزی هنوز موجوداتی خودآگاه و مستقل نیستند، اما قدرت آنها در اثرگذاری بر اقتصاد، سیاست، رسانه و زندگی روزمره رو به افزایش است. بنابراین، بهجای تمرکز صرف بر این پرسش که «آیا ماشینها بر انسانها مسلط میشوند؟»، باید بر پرسش عملیتری تمرکز کرد: «چگونه میتوان توسعه این فناوری را بهگونهای هدایت کرد که منافع آن افزایش یابد و هزینهها و آسیبهایش تحت کنترل باقی بماند؟»