فحصت دراسة أجراها مركز مكافحة الكراهية الرقمية أداء أربعة مولدات صور بالذكاء الاصطناعي – Midjourney وChatGPT Plus وDreamStudio وImage Creator – من خلال اختبار 40 مطالبة نصية تتعلق بالانتخابات الرئاسية الأمريكية لعام 2024. وكشف البحث أن هذه الأدوات أنتجت صورًا تمثل التضليل الانتخابي استجابة لـ 41٪ من 160 اختبارًا. وشملت الأمثلة البارزة للصور المضللة التي تم إنشاؤها تصوير جو بايدن مريضًا على سرير المستشفى، ودونالد ترامب جالسًا حزينًا في زنزانة السجن، وصناديق الاقتراع في حاوية قمامة.

ووجدت الدراسة أن أدوات الذكاء الاصطناعيّ كانت الأكثر عرضة لتوليد صور تروج للاحتيال الانتخابيّ والترهيب، مثل التصوير المضلِّل لأوراق الاقتراع التي يتم التخلص منها، وأعمال الشغب في مراكز الاقتراع، وأعضاء الميليشيات الذين يرهبون الناخبين. من بين الأدوات التي تم اختبارها، كان أداء Midjourney هو الأسوأ، حيث أنتج صورًا مضللة للانتخابات في 65٪ من عمليات الاختبار، على الرغم من أن إرشادات المنصة تحظر على المستخدمين إنشاء صور تتعلق بالحملات السياسية أو التأثير على نتائج الانتخابات. تشير الأدلة إلى أن الجهات الفاعلة السيئة تستغل بالفعل عمليات التزييف العميق للذكاء الاصطناعي للتضليل الانتخابي، كما هو موضح في قاعدة بيانات Midjourney العامة لصور الذكاء الاصطناعي. بالإضافة إلى ذلك، كانت هناك زيادة كبيرة في ملاحظات المجتمع التي تشير إلى الذكاء الاصطناعيّ على المنصة X، بمتوسط ​​130٪ شهريًا بين 1 يناير 2023 و31 يناير 2024. أدى انتشار الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعيّ على منصات التواصل الاجتماعيّ الرئيسيّة إلى حالات من الفوضى، حيث غالبًا ما تنتشر مثل هذه الصور قبل تحديدها على أنها مزيفة.