چالش‌ها و الزامات توسعه «هوش مصنوعی مولد» بررسی شد – خبرگزاری مهر | اخبار ایران و جهان

به گزارش خبرنگار مهر، هوش مصنوعی مولد نوعی فناوری هوش مصنوعی است که می تواند انواع متن، تصویر، صدا و داده های مصنوعی تولید کند. فناوری‌های هوش مصنوعی در سال‌های اخیر با راه‌اندازی بسیاری از ربات‌های چت، توجه بسیاری را به خود جلب کرده‌اند.

سادگی رابط‌های کاربری جدید برای ایجاد متن، گرافیک و ویدیوهای با کیفیت بالا در چند ثانیه، و همچنین توانایی ایجاد محتوایی که قبلاً وجود نداشت، سر و صدایی را در مورد هوش مصنوعی ایجاد کرده است.

مرکز پژوهش های شورای اسلامی در گزارشی به بررسی چالش ها و الزامات توسعه و پیاده سازی هوش مصنوعی مولد پرداخت.

در این گزارش اشاره شده است که با وجود توسعه سریع شاخه‌های مختلف هوش مصنوعی، نگرانی‌ها و ملاحظاتی در مورد کاربرد هوش مصنوعی به معنای عام آن، حفظ حریم خصوصی داده‌ها، امنیت، انطباق و عدم شفافیت در نحوه استفاده از آن وجود دارد. به پاسخ برسید و مردم را همراه با تصمیم گیری، سوگیری، کار، نقض حق چاپ، تأثیرگذاری بر آثار خلاقانه و غیره به آنجا هدایت کنید. این نگرانی ها در زمینه هوش مصنوعی مولد بسیار جدی تر است که ویژگی منحصر به فرد آن تقلید از رفتار، تفکر و خودمختاری انسان است. به همین دلیل، سیاست گذاران در تلاش هستند تا چارچوب ها و اصولی را توسعه دهند که با در نظر گرفتن ویژگی های مخاطره آمیز هوش مصنوعی، توسعه معنادار و پایدار هوش مصنوعی را فراهم کند.

این گزارش به چالش های پیش روی توسعه هوش مصنوعی مولد می پردازد. بر اساس این گزارش؛ چالش‌های مولد هوش مصنوعی را می‌توان از سه منظر بررسی کرد: چالش‌های فنی عملیاتی، چالش‌های استفاده و پیاده‌سازی فناوری‌های مولد هوش مصنوعی در شرکت‌ها، و چالش‌های عمومی و اجتماعی ریسک‌های هوش مصنوعی مولد.

چالش های فنی و عملیاتی هوش مصنوعی مولد

چالش‌های فنی و عملیاتی شامل نیاز به دسترسی به داده‌های بزرگ، متنوع و با کیفیت (با چالش‌هایی مانند گران بودن، زمان‌بر بودن، دشوار بودن، نادر بودن یا حساس بودن، در چارچوب قوانین اختصاصی یا حفظ حریم خصوصی)، کیفیت و کمیت داده‌ها (با چالش‌ها) است. مانند دسترسی به منابع داده های معتبر و معتبر، اجرای تکنیک های پاکسازی و ارتقای داده ها، ایجاد استانداردهای اخلاقی و قانونی برای حفاظت از داده ها)، ایمن سازی و حفاظت از داده های داخلی از طریق توسعه الگوها و قوانین (با چالش هایی مانند نیاز به ایجاد یک پایگاه بزرگ مدل زبان بر روی مجموعه ای از حقایق خارجی و قابل تأیید، حریم خصوصی داده ها، امنیت، انطباق و انطباق با قوانین و مقررات حفاظت از داده ها)، بررسی عملکرد و ارزیابی مدل (با چالش هایی مانند توانایی بهبود مقیاس پذیری و کارایی). توسعه معیارهایی برای دستیابی به بازخورد کاربر در مورد خروجی)، کاهش تعصب داده های آموزشی و توانایی توضیح و اعتماد به مدل (با چالش هایی مانند شفافیت و پاسخگویی مدل، و توسعه روش هایی برای جلوگیری از سوگیری، اصلاح و خودکنترلی مدل)، زیرساخت‌های سخت‌افزاری و نرم‌افزاری رایانه (با چالش‌هایی مانند توسعه زیرساخت‌های ارتباطی، پردازش ابرسیستم، و ذخیره‌سازی کلان داده‌ها و همچنین بحث در مورد محاسبات یادگیری و استدلال)، تأمین انرژی لازم برای محاسبات و به چالش کشیدن ردپای کربن (با چالش هایی مانند مصرف انرژی بالا و انتشار کربن به دلیل حجم پردازش بالا).

چالش های هوش مصنوعی مولد در شرکت ها

چالش‌های استفاده و پیاده‌سازی فناوری‌های مولد هوش مصنوعی در شرکت‌ها همچنین شامل پیچیدگی فنی راه‌اندازی و استفاده (با چالش‌هایی مانند کمبود ظرفیت تجهیزات برای سازمان‌ها برای راه‌اندازی چنین مدل‌های بزرگ، هزینه بالای محاسبات و منابع پردازشی، عدم تمایل شرکت‌ها به تنظیم است. و به طور مستمر استفاده می شود) و مقاومت در برابر سیستم های قدیمی (با چالش هایی مانند ابهام، تضاد یا تضاد در سازمان در مورد نحوه مدیریت و عملکرد سیستم های موجود و وظایف مشترک آنها برای سیستم های جدید). روش، مقاومت بدن در برابر پذیرش، افزایش هزینه های سازمان به دلیل نیاز به آموزش نیروها در استفاده از این فناوری و همچنین هدایت بخشی از نیروها به ایجاد مرکز اجرا، هماهنگی و نظارت، عدم اطمینان در اقتصاد. مدل‌ها و امکان ایجاد بدهی فنی (با چالش‌هایی مانند توجیه سرمایه‌گذاری در مدل‌های مختلف هوش مصنوعی و کاهش هزینه‌ها در سایر بخش‌ها برای جبران هزینه در این زمینه).

از دیگر موارد ذکر شده در این گزارش در زمینه چالش های استفاده و پیاده سازی فناوری های مولد هوش مصنوعی در شرکت ها می توان به موارد زیر اشاره کرد: بخشی از نیروی کار شرکت ها (نگرانی از دست دادن شغل و لزوم ایجاد مشاغل جدید مناسب) به همان افراد در شرکت یا سازمان)، توهمات هوش مصنوعی (با نگرانی هایی مانند امکان افشای اطلاعات و اسرار داخلی، ارائه اطلاعات نادرست به هوش مصنوعی و همچنین راه حل ها یا توصیه های نادرست برای هوش مصنوعی مولد)، نگرانی شرکت ها در مورد عواقب قانونی الگوریتمی سوگیری برای هوش مصنوعی مولد (مسائل مربوط به انطباق (این موضوع اکنون کاملاً در آموزش و پژوهش مشخص است)، پیامدهای قانونی یا اخلاقی خودکارسازی تأییدیه‌ها یا بررسی‌های قانونی توسط یک سیستم هوشمند به جای یک انسان ممکن است بر اخلاق، انطباق، استقلال یا موارد دیگر تأثیر بگذارد. نرم افزار.

چالش های عمومی و اجتماعی هوش مصنوعی مولد

این گزارش در ادامه به چالش های عمومی و اجتماعی هوش مصنوعی مولد می پردازد و به این موارد اشاره می کند: خطرات صحت و اعتبار (احتمال گمراه شدن کاربران با عدم شناخت صحت و اعتبار اطلاعات و منبع آن، عدم تعمیم پاسخ ها بر اساس ویژگی ها و ناتوانی در تأیید اطلاعات، عدم شناخت محدودیت های هوش مصنوعی و ارزیابی اغراق آمیز از توانایی های خود، خطرات سوگیری اجتماعی (رویکردهای جنسیتی، نژادپرستانه یا تبعیض آمیز نسبت به معلولیت و ناتوانی در جوامع آنلاین، بازنمایی یک ایده یا گروه های خاص، واقعیت، تقویت سوگیری های موجود)، تجاوز به حریم خصوصی، خطرات حریم خصوصی و امنیت داده ها (نشت داده های حساس، سوء استفاده از داده های شخصی اجتماعی، دسترسی به داده ها و حقوق)، خطرات مالکیت معنوی (چالش با قوانین و مقررات سنتی مالکیت معنوی از چشم انداز اصالت و مالکیت، مجوزها، حقوق بهره برداری و تضییع حقوق مالکیت معنوی مردم)، خطرات سرقت علمی و کلاهبرداری علمی و کشف آنها (افزایش عرصه های سرقت و تقلب علمی و ادبی و دشواری انجام آن) و دشواری کشف) خطر اخلاقی (گسترش دیپ فیک و حملات سایبری، دستکاری افکار عمومی و ایجاد مزاحمت یا بدنامی، دعاوی حقوقی متقلبانه مانند ادعای بیمه خسارت، کلاهبرداری، طرح های فیشینگ و هک، فرسایش خلاقیت انسان، و احتمال (افزایش بیکاری) ، نگرانی های زیست محیطی) ابهام و پیچیدگی در پایبندی به مفاهیم و چارچوب های موجود (مشکل در شناسایی و ارزیابی خسارات و خسارات، تعیین میزان خسارت، گروه های متضرر و مسئول خسارات.

الزامات اساسی برای توسعه هوش مصنوعی مولد

مرکز تحقیقات شورا در این گزارش راهکارهایی را برای غلبه بر این چالش ها پیشنهاد کرده است. این پیشنهادات در دو سطح «زیرساخت و فناوری» و «رگولاتوری» ارائه شده است.

بر اساس این گزارش؛ در لایه زیرساختی و فنی می توان راهکارهایی را برای حل چالش هایی مانند ارائه داده های با کیفیت بالا، حفاظت از داده ها، بهبود دقت و سرعت پردازش و ارزیابی عملکرد مدل ها پیاده سازی کرد و برای حل آنها اقداماتی مانند استفاده از داده های مصنوعی، انتقال یادگیری، کاهش تعصب، محاسبات ابری، محاسبات توزیع شده، فشرده سازی مدل، و کاهش تاخیر و کاهش اندازه.

بر اساس این گزارش؛ در لایه سازمانی، با تکمیل یا ایجاد زیرساخت های قانونی مرتبط با داده ها، از جمله تکمیل و بهبود قانون مدیریت داده ها و اطلاعات ملی مصوب 1401 هجری شمسی، می توان قوانین مربوط به پردازش و استفاده از داده های شخصی افراد را ایجاد کرد از افراد یا سیستم های هوش مصنوعی تولید شده در قالب پیش نویس تدوین / پیش نویس قانون برای حفاظت و حفاظت از داده های شخصی و حریم خصوصی و به روز رسانی و تطبیق قوانین موجود با نمونه ها و مسائل هوش مصنوعی تولیدی، از جمله قانون جرایم رایانه ای تصویب شده است. در سال 1387 قانون تجارت الکترونیک مصوب 1388 و احکام مرتبط با آن در قوانین مجازات اسلامی و قوانین حقوق شهروندی مربوط به حمایت از مالکیت قانون حمایت از مالکیت صنعتی – مصوب 21/9/1300 مجلس شورای ملی. در مورد حمایت از حقوق سازندگان برنامه های رایانه ای مصوب 1379، قانون حمایت از حقوق مولفان، نویسندگان و هنرمندان مصوب 1348. ایجاد زیرساخت های قانونی برای هوش مصنوعی مولد در کنترل کشور، میزان مسئولیت و استقلال. ، امکان دسترسی آسان به داده ها و سازماندهی و شفاف مدیریت داده ها و اطلاعات وجود دارد.

همچنین در لایه نظارتی، اقدامات دیگری مانند تعریف و تدوین اصول، دستورالعمل ها، توصیه ها و مقررات، ارتقای سرمایه انسانی و ظرفیت نوآوری در شرکت ها، علاوه بر افزایش سواد دیجیتال برای استفاده ایمن از هوش مصنوعی مولد با تمرکز بر حفاظت از حساس گروه هایی مانند کودکان، نوجوانان، بی سوادان و افراد مسن گرفته شدند.