تشكيلات تجميع الأخبار المعتمدة على الذكاء الاصطناعي الحالية تشكل مخاطر خطيرة لا ينبغي تجاهلها. التحدي الأساسي يكمن في تحديد مصداقية المصدر وصدق الادعاءات. المقاييس التقليدية لا تكفي—أرقام التفاعل مثل الإعجابات والمشاهدات يمكن التلاعب بها بسهولة، ومع ذلك غالبًا ما تكون هذه هي الإشارات الوحيدة التي تعتمد عليها أنظمة الذكاء الاصطناعي عند تلخيص المعلومات. العواقب حقيقية: غالبًا ما يخطئ ملخصو الذكاء الاصطناعي في نسب الادعاءات أو تحديد الشخصيات الرئيسية في مجال العملات الرقمية (تحدث أخطاء في تحديد الهوية أكثر مما تظن). بدون آليات تحقق قوية لتمييز المصادر الموثوقة عن المحتوى المفبرك أو المعزز، يصبح تنسيق الأخبار بواسطة الذكاء الاصطناعي قناة محتملة لنشر المعلومات المضللة. الصناعة بحاجة إلى حلول أفضل للتحقق من جودة المعلومات قبل أن تصبح هذه الأنظمة جزءًا أساسيًا من السائد.