با پیشرفت روزافزون فناوری هوش مصنوعی، تولید تصاویر و ویدئوهایی که به‌سختی از نمونه‌های واقعی قابل تشخیص هستند، به امری رایج تبدیل شده و این موضوع نگرانی‌های جدیدی را در مورد انتشار اطلاعات نادرست و گمراه‌کننده در شبکه‌های اجتماعی، به‌ویژه اینستاگرام، برانگیخته است. آدام موسری، رئیس اینستاگرام، در مجموعه پست‌هایی در پلتفرم تردز، بر لزوم ارائه‌ی اطلاعات بیشتر در مورد محتوای آنلاین، به‌ویژه محتوای تولیدشده‌ی هوش مصنوعی، تأکید کرد.
نگرانی‌ها در حالی مطرح می‌شود که طبق تحقیقات اخیر، میزان استفاده از هوش مصنوعی در تولید محتوا به‌طور چشمگیری در حال افزایش است. برای مثال، برخی از گزارش‌ها نشان می‌دهند که بیش از ۵۰ درصد از بازاریابان از فناوری مبتنی‌بر هوش مصنوعی، در تولید محتوای خود استفاده می‌کنند. این آمار نشان می‌دهد که حجم زیادی از محتوای تولیدشده در فضای آنلاین، چه تصویر و چه متن، به‌نوعی با هوش مصنوعی ارتباط دارد و تشخیص محتوای واقعی از محتوای هوش مصنوعی، روزبه‌روز دشوارتر می‌شود.
موسری معتقد است که «هوش مصنوعی اعتماد به شبکه‌های اجتماعی را دشوارتر کرده است، بنابراین کاربران نباید به‌سادگی به تصاویری که به‌صورت آنلاین مشاهده می‌کنند، اعتماد کنند؛ زیرا هوش مصنوعی به‌طور فزاینده‌ای محتوایی تولید می‌کند که به‌راحتی با واقعیت اشتباه گرفته می‌شود.» او همچنین باور دارد «کاربران باید منبع محتوا را در نظر بگیرند و پلتفرم‌های اجتماعی هم باید در این زمینه به آن‌ها کمک کنند.»
یکی از نکات کلیدی‌ای که موسری به آن اشاره می‌کند، نقش پلتفرم‌های اینترنتی در برچسب‌گذاری محتوای تولیدشده‌ی هوش مصنوعی است. او اظهار داشت که پلتفرم‌ها باید تا حد امکان این نوع محتوا را شناسایی و برچسب‌گذاری کنند تا کاربران بتوانند آن‌ها را از محتوای واقعی تشخیص دهند.
او همچنین اذعان کرد که برچسب‌گذاری محتوای هوش مصنوعی به‌طور کامل امکان‌پذیر نیست و در نهایت برخی از محتواها از فیلترهای مذکور عبور خواهند کرد؛ به همین دلیل، موسری تأکید می‌کند که پلتفرم‌ها باید زمینه و اطلاعات بیشتری در مورد فرد یا نهادی که محتوا را به اشتراک می‌گذارد، ارائه دهند؛ این اطلاعات به کاربران کمک می‌کند تا میزان اعتماد خود به محتوا را تعیین کنند. به‌عنوان‌مثال، اگر محتوایی به‌وسیله‌ی یک منبع خبری معتبر منتشر شده باشد، احتمال صحت آن بیشتر از محتوایی است که یک حساب کاربری ناشناس به اشتراک می‌گذارد.
رویکرد مورد نظر موسری شباهت زیادی به سیستم‌های تعدیل محتوای کاربرمحور مانند Community Notes در پلتفرم ایکس و یوتیوب یا فیلترهای تعدیل محتوای سفارشی در بلواسکای دارد. در این سیستم‌ها، کاربران در بررسی صحت اطلاعات و ارائه‌ی زمینه‌ی محتوای منتشر شده، نقش تعیین‌کننده‌ای دارند.
