هشدار دبیر کل سازمان ملل درباره توسعه هوش مصنوعی

به گزارش پایگاه خبری شهرار، آنتونیو گوترش، دبیرکل سازمان ملل متحد روز پنجشنبه به وقت محلی در نشست شورای امنیت درباره هوش مصنوعی گفت: فناوری بسیار سریع در حال حرکت است و این واقعیت ساده را باید درک کرد. فناوری هرگز در آینده به اندازه امروز به کندی حرکت نخواهد کرد.

گوترش افزود: در مدت زمان کوتاهی هوش مصنوعی با سرعت شگفت انگیزی توسعه یافته است. هوش مصنوعی نه تنها جهان ما را تغییر می دهد، بلکه در حال تغییر آن است. وظایفی که قبلاً به سالها تخصص انسانی نیاز داشت، اکنون در یک چشم به هم زدن انجام می شود. اما خطرات آن کمتر جدی نیستند.

دبیرکل سازمان ملل افزود: این رشد سریع فراتر از توانایی ما برای مدیریت آن است و سوالات اساسی در مورد مسئولیت پذیری، انصاف، ایمنی و امنیت در مورد نقش بشریت در فرآیند تصمیم گیری ایجاد می کند.

وی تصریح کرد: هوش مصنوعی بدون نظارت انسان، جهان را کور می کند و شاید هیچ جایی خطرناکتر و بی پرواتر از صلح و امنیت جهانی نباشد.

گوترش ادامه داد: ابزارهای هوش مصنوعی تاکنون تغییرات مثبتی را در کشورهایی که از درگیری و ناامنی رنج می‌برند، ایجاد کرده است، مانند شناسایی ناامنی غذایی، پیش‌بینی جابجایی ناشی از حوادث شدید و تغییرات آب و هوایی، شناسایی و حذف مین‌ها و به زودی هوش مصنوعی می‌تواند الگوهای معادن ناآرامی قبل از وقوع خشونت

اما او گفت که هوش مصنوعی به شیوه های نگران کننده تری وارد میدان جنگ شده است. درگیری های اخیر به محل آزمایشی برای کاربردهای نظامی هوش مصنوعی تبدیل شده است.

دبیرکل سازمان ملل متحد تاکید کرد: گسترش هوش مصنوعی در سیستم‌های امنیتی نگرانی‌های اساسی را در مورد حقوق بشر، کرامت و حاکمیت قانون ایجاد می‌کند.

گوترش گفت: حملات سایبری مبتنی بر هوش مصنوعی می‌تواند زیرساخت‌های حیاتی هر کشور را فلج کند و خدمات اساسی را فلج کند. از همه مهمتر، هوش مصنوعی اصل اساسی کنترل انسان بر استفاده از زور را از بین می برد.

دبیرکل سازمان ملل افزود: از ارزیابی های مبتنی بر اطلاعات تا انتخاب هدف، الگوریتم ها در حال حاضر در تصمیم گیری های مرگ و زندگی استفاده می شوند. ادغام هوش مصنوعی با سلاح های هسته ای به ویژه نگران کننده است و پیامدهای بالقوه فاجعه باری دارد.

وی تاکید کرد: باید به هر قیمتی از این امر پرهیز کنیم. انسان‌ها باید همیشه کنترل خود را بر روی شیوه‌های تصمیم‌گیری، با هدایت قوانین بین‌المللی، از جمله حقوق بشردوستانه بین‌المللی و قوانین حقوق بشر، و اصول اخلاقی حفظ کنند.

دبیرکل سازمان ملل متحد ادامه داد: هوش مصنوعی محتوای فوق واقعی ایجاد می کند که می تواند فوراً در فضای مجازی منتشر شود – دستکاری افکار عمومی، تهدید یکپارچگی اطلاعات و تمایز بین حقیقت و دروغ آشکار.

گوترش تاکید کرد: جعل هویت می تواند باعث بروز بحران های دیپلماتیک، تحریک ناآرامی و تضعیف پایه های جوامع شود. ردپای زیست محیطی هوش مصنوعی همچنین خطرات امنیتی خاصی را به همراه دارد.

به گزارش خبرنگار یستا از سازمان ملل متحد، مجمع عمومی سازمان ملل متحد در تاریخ 2 آوریل 1403 مصادف با 21 مارس 2024 قطعنامه مورد حمایت آمریکا در خصوص هوش مصنوعی را به اتفاق آرا تصویب کرد که به گفته واشنگتن گامی بزرگ تلقی می شود. به سمت ایجاد یک مسیر جهانی برای سازماندهی … این فناوری به سرعت در حال توسعه است.

این قطعنامه که پس از بیش از سه ماه مذاکره بین ده‌ها کشور به تصویب رسید، از کشورهای عضو سازمان ملل می‌خواهد که از «سیستم‌های هوش مصنوعی ایمن، مطمئن و قابل اعتماد» که مسئولانه توسعه یافته‌اند و به حقوق بشر و قوانین بین‌المللی احترام می‌گذارند، اطمینان حاصل کنند تقویت… سیستم های هوش مصنوعی ایمن، ایمن و قابل اعتماد برای مقابله با بزرگترین چالش های زمان ما، سیستم های هوش مصنوعی باید انسان محور، قابل اعتماد و قابل اعتماد باشند. مسئولیت پذیر باشید

این قطعنامه همچنین خواستار احترام کامل، ترویج و حمایت از حقوق بشر و قوانین بین‌المللی در بحث هوش مصنوعی و تعهد به رفع شکاف‌های مرتبط با هوش مصنوعی و شکاف‌های دیجیتال از طریق افزایش ظرفیت‌سازی، گسترش ارتباطات و سواد دیجیتال است که کشورها از طریق اقدام جمعی می توانند از هوش مصنوعی برای تسریع در توسعه این فناوری استفاده کنند.

این تصمیم غیرالزام آور است و مکانیزم اجرایی را شامل نمی شود. بیش از یک سال است که در مجامع دوجانبه و چندجانبه، از نشست G7 در ژاپن تا اجلاس ایمنی هوش مصنوعی که نوامبر گذشته به میزبانی بریتانیا برگزار شد، بحث‌ها در مورد بهترین شیوه تنظیم هوش مصنوعی ادامه دارد. چندین کشور بزرگ قبلاً مسیرهای خود را برای تنظیم هوش مصنوعی تعیین کرده اند.

اتحادیه اروپا در اوایل این ماه یک قانون اروپایی هوش مصنوعی را پس از نزدیک به دو سال بحث تصویب کرد، در حالی که مقامات چین مقرراتی را برای این فناوری معرفی کردند.