ورود هوش مصنوعی به دستور کار شورای امنیت سازمان ملل
به گزارش کنکوری، نشست 23 سپتامبر 2026 شورای امنیت سازمان ملل متحد درباره ی هوش مصنوعی را باید در قالب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد.
به گزارش کنکوری به نقل از مهر؛ نشست ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد درباره ی هوش مصنوعی را باید در چارچوب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد. حضور سم آلتمن، مدیر عامل اوپن ای آی، داریو آمودی، مدیر عامل آنتروپیک، کلمنت دولانگ، هم بنیان گذار هاگینگ فیس و یوشوا بنجیو، یکی از برجسته ترین محققان هوش مصنوعی، در این جلسه، بیان کننده ورود مخاطرات مدلهای پیشرفته هوش مصنوعی به سطح مباحث امنیت بین المللی است. طبق گزارش رویترز، این جلسه به ابتکار فرانسه و همزمان با مجمع عمومی سازمان ملل انجام شد و محور اصلی آن خطراتی بود که با افزایش توانایی سامانه های هوش مصنوعی و احتمال حرکت آنها به طرف خودبهبوددهی مطرح گردیده است.
اهمیت نشست در این واقعیت نهفته است که مسئله حول کاربردهای متعارف هوش مصنوعی یا آثار اقتصادی آن سازمان نیافته بود. بر همین اساس، آمودی طی سخنرانی خود در مقابل اعضاء شورای امنیت اشاره کرد که مدیریت نامناسب این فناوری می تواند هوش مصنوعی را به خطری برای کل بشریت تبدیل کند. استدلال او بر ماهیت فرامرزی مسئله استوار بود. هیچ شرکت، دولت یا رهبر سیاسی به تنهایی قادر به مدیریت مجموعه فرصت ها و مخاطرات ناشی از این فنآوری نخواهد بود.
از ایمنی مدل تا مسئله امنیت بین المللی
یکی از مهم ترین وجوه این تحول، تغییر مقیاس خطر است. مباحث اولیه ایمنی هوش مصنوعی عمدتا بر خطا، سوگیری، حریم خصوصی و آثار اجتماعی الگوریتم ها متمرکز بود. مباحث طرح شده در شورای امنیت دامنه دیگری از مخاطرات را برجسته می سازد که در آن از امنیت زیستی، تهاجمات سایبری، از دست رفتن کنترل انسانی و مخاطرات ناشی از سامانه های دارای عاملیت سخن گفته می شود.
اظهارات آمودی این تغییر مقیاس را به روشنی بازتاب می دهد. او خواهان تشکیل توافق های بین المللی در چند حوزه مشخص شده است که همچون آنها میتوان به ممنوعیت استفاده از هوش مصنوعی برای توسعه اسلحه های زیستی و ایجاد استانداردهای جهانی برای آزمون مدلهای جدید اشاره نمود. گاردین همین طور گزارش می دهد که نگرانی اصلی مدیر عامل آنتروپیک به احتمال از دست رفتن کنترل توسعه دهندگان بر سامانه های پیشرفته مربوط می شود.
از سوی دیگر، یوشوا بنجیو هم مسئله را با ادبیاتی صریح در مقابل شورای امنیت بیان کرد و خطرات را واقعی و قریب الوقوع خواند. توصیف او از تهدیدی که مرزهای سیاسی را به رسمیت نمی شناسد و هیچ دولت منفردی قادر به مهار آن نیست، در عمل مسئله ایمنی هوش مصنوعی را وارد منطق مسایل اقدام جمعی می کند.
آزمایشگاه های خصوصی در مقابل مسئله اقتدار عمومی
دومین محور اساسی نشست به پرسش از محل تصمیم گیری درباره ی آینده هوش مصنوعی مربوط می شود. آلتمن با حاضرشدن در نشست شورای امنیت اظهار داشت که تصمیم های اساسی درباره ی هوش مصنوعی نمی تواند در لابراتوار های سان فرانسیسکو متمرکز بماند و این تصمیم ها باید از مجاری دموکراتیک و بوسیله دولت های پاسخگو در مقابل مردم شکل بگیرند.
اهمیت این گزاره از موقعیت گوینده آن ناشی می شود. توسعه مدلهای مرزی تا حد زیادی در اختیار شمار محدودی از شرکتهای خصوصی قرار گرفته است. در چنین ساختاری، شرکتی که درباره ی معماری مدل، محدودیت های ایمنی، سطح دسترسی یا زمان ارائه تصمیم می گیرد، در عمل درباره ی قسمتی از توزیع قدرت فناورانه هم تصمیم گیری کرده است. انتقال بحث به شورای امنیت از این منظر حامل یک پرسش بنیادین است. هنگامی که دستاوردهای تصمیم یک لابراتوار خصوصی می تواند از قلمرو یک کشور عبور کند، مرز صلاحیت شرکت و مسئولیت دولت کجا قرار می گیرد؟
آلتمن برای پاسخ به این مسئله سه اصل را بیان نمود. سامانه های هوش مصنوعی باید تحت کنترل انسان باقی بمانند، منافع ملموسی برای انسان ها ایجاد کنند و قدرت عمل افراد را بالا برند. کارشناسان این موضع را مسیر میانه ای توصیف می کنند که آلتمن در مقابل دو قطب خوش بینی بی قید و نگاه های آخرالزمانی به فناوری مطرح کرده است.
حمله هوش مصنوعی به هوش مصنوعی
شاید ملموس ترین بخش نشست به امنیت سایبری مربوط باشد. در این راستا، کلمنت دولانگ، هم بنیان گذار پلت فرم هوش مصنوعی هاگینگ فیس، به حادثه ای اشاره نمود که طی آن عامل های اوپن ای آی بعد از خروج از محیط آزمایشی به زیرساخت این شرکت نفوذ کردند و واکنش دفاعی هم با بهره گیری از هوش مصنوعی صورت پذیرفت. تعبیر او که با هوش مصنوعی مورد حمله قرار گرفتیم و با هوش مصنوعی دفاع کردیم، تصویری فشرده از یکی از مهم ترین تحولات امنیت سایبری آینده ارایه می کند.
این رخداد از نظر امنیتی اهمیت مضاعف دارد. توسعه عامل های برخوردار از توانایی اجرای مستقل مجموعه ای از اقدامات، فاصله میان تولید محتوا و کنش عملیاتی را می کاهد. مسئله در چنین محیطی دیگر فقط کیفیت پاسخ یک مدل زبانی نیست. دامنه مجوزهای عامل، دسترسی آن به ابزارها، امکان خروج از محیط آزمون، نظارت انسانی، ثبت اقدامات و سازوکار توقف اضطراری به اجزای اصلی معماری امنیت تبدیل می شوند.
شکاف بزرگ بر سر شکل حکمرانی جهانی
بسیاری از متخصصان اذعان دارند که توافق درباره ی وجود خطر، الزاماً به توافق درباره ی شکل تنظیم گری منتهی نشده است. همین شکاف در نشست اخیر شورای امنیت هم آشکار بود. بر همین اساس، دولت آمریکا با بوجودآوردن یک سازوکار تنظیم گری جهانی فراگیر مخالفت کرد. مایکل کراتسیوس، مشاور علم و فناوری کاخ سفید، استدلال کرد که نهادهای بین المللی باید بر تبادل رویه های مناسب و تقویت ظرفیت داخلی کشورها متمرکز شوند. این در شرایطی است که موضع چین در این خصوص متفاوت بود و فو کونگ، نماینده چین در سازمان ملل، بر بهبود مستمر چارچوب های تنظیم گری، سازوکارهای واکنش اضطراری و همکاری فرامرزی تاکید کرد.
این اختلاف، یکی از گره های اصلی حکمرانی جهانی هوش مصنوعی را آشکار می کند. اجماع اولیه درباره ی ضرورت مدیریت مخاطرات درحال تشکیل است، اما رقابت بر سر مرجع تنظیم قواعد، دامنه الزامات و میزان اختیار نهادهای بین المللی بازهم ادامه دارد. آمریکا، چین، شرکتهای بزرگ فناوری و سازمان ملل متحد از نقطه های متفاوتی به مسئله می پرداند و هر یک برداشت متفاوتی از نسبت نوآوری، امنیت، حاکمیت ملی و تنظیم گری فرامرزی دارند.
شورای امنیت و شروع یک دستور کار تازه
در نهایت، ورود مدیران برجسته صنعت هوش مصنوعی به شورای امنیت را میتوان نشانه بلوغ یک روند دانست که از سالهای گذشته شروع شده بود. شورای امنیت اولین بار در سال ۲۰۲۳ درباره ی مخاطرات هوش مصنوعی تشکیل جلسه داد و در سال ۲۰۲۴ هم نشست دیگری دراین خصوص اجرا شد. با این وجود، نشست ۲۰۲۶ یک عنصر تازه به این مسیر افزوده است. این دفعه مدیران شرکت هایی که در مرز توسعه مدلهای پیشرفته قرار دارند، خود در مقابل این نهاد بین المللی قرار گرفته اند.
معنای عمیق تر این تحول در تغییر موضوع حکمرانی هوش مصنوعی نهفته است. هرچه سامانه های هوش مصنوعی از ابزارهای پاسخگو به عامل های قادر به برنامه ریزی، استفاده از ابزار و اجرای زنجیره ای اقدامات نزدیک تر شوند، مرز میان ایمنی فنی و امنیت ملی و بین الملل هم باریک تر خواهد شد. امنیت زیستی، امنیت سایبری، زیرساخت های حیاتی و کنترل انسانی بر سامانه های پیشرفته در چنین محیطی اجزای یک مسئله مشترک خواهند شد.
نشست سپتامبر ۲۰۲۶ هنوز پاسخ غائی درباره ی معماری حکمرانی این فناوری ارایه نکرده است و ارزش آن فقط در آشکار ساختن صورت مسئله ای است که احیانا بخش مهمی از دستور کار بین المللی سالهای آینده را شکل خواهد داد. مرکز ثقل بحث کم کم از این پرسش که هوش مصنوعی چه قابلیت هایی دارد، به پرسشی دشوارتر تغییر می کند. چه کسی باید درباره ی حدود این توانایی ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چه طور باید قبل از آنکه سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟
حرف آخر اینکه خیلی از متخصصان اذعان دارند که توافق در رابطه با ی وجود خطر، الزاماً به توافق در رابطه با ی شکل تنظیم گری منتهی نشده است. با وجود این، نشست ۲۰۲۶ یک عنصر تازه به این مسیر افزوده است. چه کسی باید در رابطه با ی حدود این قابلیت ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چه طور باید پیش از آن که سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟
منبع: newcctv.ir
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان کنکوری در مورد این مطلب
نظر شما در مورد این مطلب کنکوری
نام:
ایمیل:
نظر:
سوال:
= ۹ بعلاوه ۱