نظرات مدیرعامل اینستاگرام درباره هوش مصنوعی و بحران اعتماد به شبکه‌های اجتماعی

به گزارش یستا; با پیشرفت روزافزون فناوری هوش مصنوعی، تولید تصاویر و ویدئوهایی که به سختی از نمونه های واقعی تشخیص داده می شوند، رایج شده است و این موضوع نگرانی های جدیدی را در مورد انتشار اطلاعات نادرست و گمراه کننده در شبکه های اجتماعی به ویژه اینستاگرام ایجاد کرده است. آدام موسری، مدیرعامل اینستاگرام، در سلسله پست های خود در پلتفرم Trades بر لزوم ارائه اطلاعات بیشتر در مورد محتوای آنلاین، به ویژه محتوای تولید شده توسط هوش مصنوعی تاکید کرد.

نگرانی هایی مطرح شده است که طبق تحقیقات اخیر، میزان استفاده از هوش مصنوعی در تولید محتوا به طور چشمگیری در حال افزایش است. به عنوان مثال، برخی گزارش ها نشان می دهد که بیش از 50 درصد از بازاریابان از فناوری مبتنی بر هوش مصنوعی در تولید محتوای خود استفاده می کنند. این آمار نشان می دهد که حجم زیادی از محتوای تولید شده به صورت آنلاین، اعم از تصویر یا متن، به نوعی با هوش مصنوعی مرتبط است و تمایز بین محتوای واقعی و محتوای هوش مصنوعی روز به روز دشوارتر می شود.

موساری معتقد است که “هوش مصنوعی اعتماد به شبکه های اجتماعی را دشوار کرده است، بنابراین کاربران نباید به سادگی به تصاویری که آنلاین می بینند اعتماد کنند. زیرا هوش مصنوعی به طور فزاینده ای محتوایی تولید می کند که به راحتی با واقعیت اشتباه گرفته می شود. او همچنین معتقد است که «کاربران باید به منبع محتوا فکر کنند و پلتفرم‌های رسانه‌های اجتماعی باید در این زمینه به آنها کمک کنند.»

یکی از نکات اصلی موساری، نقش پلتفرم های آنلاین در برچسب گذاری محتوای تولید شده توسط هوش مصنوعی است. وی تصریح کرد: پلتفرم ها باید تا حد امکان این نوع محتوا را شناسایی و طبقه بندی کنند تا کاربران بتوانند آن را از محتوای اصلی تشخیص دهند.

او همچنین اعتراف کرد که طبقه بندی محتوای هوش مصنوعی به طور کامل امکان پذیر نیست و در نهایت برخی محتوا از فیلترهای مذکور عبور می کند. به همین دلیل، المسری تأکید می‌کند که پلتفرم‌ها باید زمینه و اطلاعات بیشتری درباره شخص یا نهادی که محتوا را به اشتراک می‌گذارند، ارائه دهند. این اطلاعات به کاربران کمک می کند تا تعیین کنند که چقدر به محتوا اعتماد دارند. به عنوان مثال، اگر محتوایی توسط یک منبع خبری معتبر منتشر شده باشد، احتمال معتبر بودن آن بیشتر از محتوای به اشتراک گذاشته شده توسط یک حساب کاربری ناشناس است.

رویکرد Musri بسیار شبیه به سیستم‌های تعدیل محتوای کاربر محور مانند بازخورد انجمن در پلتفرم X و YouTube یا فیلترهای تعدیل محتوای سفارشی در Bluesky است. در این سیستم ها، کاربران نقش مهمی در تأیید صحت اطلاعات و فراهم کردن زمینه برای محتوای ارسال شده دارند.

اگرچه پلتفرم های متا در حال حاضر چنین ویژگی هایی را ارائه نمی دهند، متا اخیراً تغییرات عمده ای را در قوانین محتوای خود اعلام کرده است. مشخص نیست که متا قصد دارد سیستم مشابهی را معرفی کند یا خیر، اما تاریخ نشان می دهد که در بسیاری از موارد، این شرکت از ایده های پلتفرم های دیگر الهام می گیرد.

منبع: زومیت