آژانس بین‌المللی هوش مصنوعی: چرا جهان به پلیس جهانی برای هوش مصنوعی نیاز دارد؟ / عباس زارعی

هیچ‌کس واقعاً نمی‌داند این فناوری‌ها کجا می‌روند. هیچ‌کس کنترل کاملی بر آن‌ها ندارد و مهم تراز همه هیچ‌ کس مسئول نیست. وقتی یک الگوریتم، یک نفر را به اشتباه بازداشت کند، چه کسی مسئول است؟ شرکتی که آن را ساخته؟ دولتی که از آن استفاده کرده؟ یا کسی که الگوریتم را آموزش داده؟ وقتی هوش مصنوعی، اطلاعات نادرست تولید کند و باعث خشونت شود، چه کسی مسئول است؟پاسخ روشن نیست و همین عدم شفافیت، خطرناک است.

تصور کنید فردا صبح، هوش مصنوعی‌ای که توسط یک کشور توسعه یافته، شبکه برق نیمی از اروپا را از کار بیندازد. یا الگوریتمی، نتایج انتخابات ریاست‌جمهوری ده کشور را دستکاری کند. یا سلاح‌های خودمختاری که بدون دخالت انسان، تصمیم به کشتن بگیرند. اینها سناریوهای علمی‌تخیلی نیستند. این‌ها سناریوهایی هستند که کارشناسان نظامی، امنیتی و فناوری، هر روز درباره‌ آنها هشدار می‌دهند.مشکل اینجاست هیچ نهادی در جهان وجود ندارد که بتواند جلوی این سناریوها را بگیرد. هیچ پلیس جهانی برای هوش مصنوعی وجود ندارد.این خلأ، دقیقاً همان چیزی است که گروهی از متفکران و سیاست‌مداران برجسته جهان، خواهان پر کردن آن هستند.

تأسیس آژانس بین‌المللی هوش مصنوعی

ماجرا از اینجا شروع شد که در نوامبر ۲۰۲۲شرکت Open Aiچت بات chat gpt را منتشر کرد در عرض دو ماه، بیش از صد میلیون نفر از آن استفاده کردند. این سرعت رشد، هیچ فناوری در تاریخ بشر به گرد آن نمی ‌رسد. هرهفته، فناوری جدیدی معرفی می‌شود که مرزهای آنچه را که ممکن می‌دانستیم، جابجا می‌کند.هیچ‌کس واقعاً نمی‌داند این فناوری‌ها کجا می‌روند. هیچ‌کس کنترل کاملی بر آن‌ها ندارد. و مهم ‌تراز همه هیچ‌ کس مسئول نیست. وقتی یک الگوریتم، یک نفر را به اشتباه بازداشت کند، چه کسی مسئول است؟ شرکتی که آن را ساخته؟ دولتی که از آن استفاده کرده؟ یا کسی که الگوریتم را آموزش داده؟ وقتی هوش مصنوعی، اطلاعات نادرست تولید کند و باعث خشونت شود، چه کسی مسئول است؟پاسخ روشن نیست. و همین عدم شفافیت، خطرناک است.

جنگ سرد جدید، اما متفاوت

در قرن بیستم، رقابت میان آمریکا و شوروی بر سر سلاح‌های هسته‌ای بود. این رقابت، هرچند خطرناک بود، اما قابل مدیریت به نظر می‌رسید. سلاح‌های هسته‌ای گران بودند، ساختنشان دشوار بود، و تعدادشان محدود بود. رقابت هوش مصنوعی، کاملاً متفاوت است.هوش مصنوعی ارزان‌تر است. سریع‌تر توسعه می‌یابد. ومهم‌ترازهمه کاربردهای دوگانه دارد. همان فناوری‌ای که امروز برای تشخیص بیماری استفاده می‌شود، فردا می‌تواند برای ساخت سلاح‌های خودمختار به کار رود.

یونسکو در سال ۲۰۲۱، توصیه‌نامه‌ای درباره اخلاق هوش مصنوعی تصویب کرد. این توصیه‌نامه، اصول مهمی دارد: احترام به حقوق بشر، شفافیت، عدالت .سازمان ملل متحد، در سال ۲۰۲۳، کمیته مشورتی عالی‌رتبه برای هوش مصنوعی تأسیس کرد. این کمیته، گزارشی منتشر کرد و توصیه‌هایی ارائه داد.این کمیته نه بودجه دارد، نه اختیار اجرایی، نه نیروی انسانی. گزارش‌هایش صرفاً توصیه‌اند و هیچ الزامی برای کشورها ایجاد نمی‌کند.

اتحادیه اروپا: قانون خوب، اما محدود

قانون AI Act اتحادیه اروپا، گام مهمی است. این قانون، اولین چارچوب قانونی جامع برای هوش مصنوعی در جهان است.اما مشکل اینجاست: این قانون فقط در اروپا اعمال می‌شود. شرکت‌های چینی و آمریکایی می‌توانند محصولات خود را در اروپا بفروشند، اما لزوماً تابع همه قوانین آن نیستند..

در نهایت، وضعیت فعلی این است: هر کشوری قوانین خودش را می‌سازد. هر شرکتی هر کاری می‌خواهد انجام می‌دهد. و هیچ‌کس مسئول نیست.این وضعیت، دقیقاً همان چیزی است که قبل از جنگ جهانی دوم داشتیم.در آن زمان هم، هر کشوری قوانین خودش را داشت، تسلیحات خودش را می‌ساخت، و هیچ نهادی برای جلوگیری از جنگ وجود نداشت. پس از آن جنگ، کشورهای جهان درس گرفتند و نهادی مثل سازمان ملل را تأسیس کردند.حالا، ما در آستانه جنگ سرد جدیدی هستیم جنگ سرد الگوریتمی و هنوز نهادی برای مدیریت آن نداریم.

چگونه آژانس بین المللی انرژی هسته ای شکل کرفت؟

در سال ۱۹۴۵، آمریکا دو بمب اتمی بر فراز شهرهای هیروشیما و ناگازاکی انداخت. صدها هزار نفر کشته شدند. جهان شوکه شد.ده سال بعد، در سال ۱۹۵۵، در کنفرانس ژنو، دانشمندان هسته‌ای از سراسر جهان گرد هم آمدند. آن‌ها تصمیم گرفتند که انرژی هسته‌ای باید برای اهداف صلح‌آمیز استفاده شود، نه برای جنگ دو سال بعد، در سال ۱۹۵۷، آژانس بین‌المللی انرژی اتمی. (IAEA) تأسیس شد.

این آژانس، نهادی است که بر فعالیت‌های هسته‌ای کشورها نظارت می‌کند. بازرسان آن به تأسیسات هسته‌ای سر می‌زنند. استانداردهای ایمنی تعیین می‌کنند. و گزارش‌هایی منتشر می‌کنند که به افشای تخلفات کمک می‌کند. IAEA نشان داده که حتی در دنیای رقابت قدرت‌ها، نهادهای بین‌المللی می‌توانند نقش مهمی ایفا کنند.

درس اول : چنین نهادی زمانی شکل می‌گیرد که قدرت‌های بزرگ حتی اگر رقیب هم باشند بر سر ضرورت آن به اجماع برسند.

درس دوم : نهاد باید اختیارات مشخص و محدود داشته باشد. اگر بیش از حد باشد، کشورها نمی‌پذیرند.

درس سوم: نهاد باید بر حوزه‌هایی تمرکز کند که اجماع درباره آن‌ها آسان‌تر است. بیشتر در حوزه استاندارد گذاری و بازرسی موفق بوده، نه در حوزه خلع سلاح

این آژانس چه اختیاراتی خواهد داشت؟

نظارت و بازرسی: آژانس می‌تواند بر سیستم‌های هوش مصنوعی با کاربردهای پرخطر نظارت کند. بازرسان آن می‌توانند به تأسیسات توسعه هوش مصنوعی سر بزنند.

استانداردگذاری: آژانس استانداردهای بین‌المللی برای ایمنی، حریم خصوصی، شفافیت و عدالت تدوین می‌کند.

گواهی‌دهی: آژانس می‌تواند به سیستم‌های هوش مصنوعی که استانداردها را رعایت می‌کنند، گواهی ایمنی بدهد.

انتقال فناوری: آژانس به کشورهای در حال توسعه کمک می‌کند تا به فناوری هوش مصنوعی دسترسی پیدا کنند.

تحقیقات: آژانس تحقیقات مستقل درباره تأثیرات هوش مصنوعی انجام می‌دهد و گزارش‌های عمومی منتشر می‌کند.

هیچ کشوری به‌ویژه قدرت‌های بزرگ نهادی با اختیارات نامحدود نمی‌پذیرد. بنابراین، آژانس بین‌المللی هوش مصنوعی:

نمی‌تواند بدون اجازه یک کشور، تأسیسات آن را بازرسی کند -نمی‌تواند تحریم‌های اقتصادی وضع کند-نمی‌تواند کشوری را مجبور به پذیرش استانداردها کند.

اما می‌تواند:

گزارش‌های عمومی منتشر کند و کشورهای متخلف را رسوا کند- گواهی‌های ایمنی صادر کند که نبود آن‌ها، به معنای عدم اعتماد بین‌المللی است- فشار اجتماعی و دیپلماتیک ایجاد کند-اطلاعات و شواهد جمع‌آوری کند.

چرا تأسیس چنین نهادی دشوار است؟

چالش اول: رقابت قدرت‌های بزرگ

آمریکا و چین، رقیبان سرسختی هستند. هر کدام می‌خواهند در هوش مصنوعی پیشتاز باشند. هیچ‌کدام نمی‌خواهند نهادی بین‌المللی، برتری آن‌ها را محدود کند.در اوج جنگ سرد آژانس انرژی هسته ای تاسیس شد. زمانی که آمریکا و شوروی دشمنان سرسخت بودند. اما هر دو کشورهرچند با اکراه پذیرفتند که نهادی برای مدیریت انرژی هسته‌ای ضروری است.

چالش دوم: سرعت تغییر فناوری

فناوری هوش مصنوعی، با سرعتی باورنکردنی در حال تغییر است. نهادی که امروز طراحی می‌شود، ممکن است ظرف پنج سال منسوخ شود.

راه‌حل: نهاد باید انعطاف‌پذیر باشد. باید بتواند خود را با شرایط متغیر تطبیق دهد.

چالش سوم: منافع شرکت‌های بزرگ

شرکت‌هایی مانند Google، Meta، Microsoft و Baidu میلیاردها دلار درهوش مصنوعی سرمایه‌گذاری کرده‌اند. آن‌ها نمی‌خواهند قوانین سختگیرانه، سودشان را محدود کند.این شرکت‌ها، لابی‌های قدرتمندی در کشورهای مختلف دارند. می‌توانند سیاست‌مداران را تحت فشار قرار دهند.

چالش چهارم: کشورهای در حال توسعه

بسیاری از کشورهای در حال توسعه، نگران این هستند که چنین نهادی، ابزاری برای سلطه قدرت‌های بزرگ باشد. آن‌ها می‌خواهند مطمئن شوند که صدایشان شنیده می‌شود. راه حل: نهاد باید ساختاری دموکراتیک داشته باشد. کشورهای کوچک‌تر هم باید در تصمیم‌گیری نقش داشته باشند.

ایران کجای این معادله ایستاده است؟

ایران در حال حاضر، در حاشیه رقابت هوش مصنوعی قرار دارد. کشورهایی مانند امارات، عربستان، ترکیه و حتی عربستان، سرمایه‌گذاری‌های کلان در هوش مصنوعی انجام داده‌اند. ایران، به دلایل مختلف از تحریم‌ها تا مشکلات اقتصادی نتوانسته به این رقابت وارد شود .ایران، نیروی انسانی تحصیل‌کرده و مستعدی دارد. هزاران مهندس و دانشمند ایرانی، در شرکت‌های فناوری بزرگ جهان کار می‌کنند. اما بسیاری از آن‌ها، به دلیل محدودیت‌ها، به کشور بازنگشته‌اند.

نتیجه‌گیری

:جهان به آژانس بین‌المللی هوش مصنوعی نیاز دارد. این نهاد، می‌تواند

از مسابقه تسلیحاتی الگوریتمی جلوگیری کند

استانداردهای ایمنی و اخلاقی تعیین کند

به کشورهای در حال توسعه کمک کند

شفافیت و پاسخگویی ایجاد کند

اما تأسیس چنین نهادی، آسان نیست. نیازمند اراده سیاسی، مذاکرات دشوار، و مصالحه‌های دردناک است. هیچ نهادی نمی‌تواند جنگ را به‌طور کامل حذف کند. اما می‌تواند قوانینی تعیین کند که نقض آن‌ها، هزینه‌های سیاسی و دیپلماتیک داشته باشد.

تاریخ نشان داده که وقتی فناوری‌های جدید و خطرناک ظهور می‌کنند، جامعه بین‌المللی دو انتخاب دارد: یا نهادهایی برای مدیریت آن‌ها بسازد، یا با عواقب بی‌نظمی دست و پنجه نرم کند.انرژی هسته‌ای، نمونه اول بود. هوش مصنوعی، نمونه دوم است.

آیا جهان از درس‌های تاریخ درس گرفته است؟ آیا آژانس بین‌المللی هوش مصنوعی، قبل از بحران بعدی شکل می‌گیرد؟ پاسخ این سؤال، در دستان سیاست‌مداران، دیپلمات‌ها