عندما يتلاقى الذكاء الاصطناعي التوليدي مع الاحتيال والبريد المتطفل

يصبح تحديد ما هو حقيقي أكثر صعوبة عند التحادث على وسائل التواصل الاجتماعي. وإذا كنت قضيت وقتاً على «فيسبوك» خلال الأشهر الستة الماضية، فربما لاحظت صوراً واقعية رائعة جداً لدرجة يصعب تصديقها: أطفالاً يحملون لوحات تبدو وكأنها أعمال فنانين محترفين، أو تصاميم داخلية رائعة لكبائن خشبية من وحي الخيال. كما وربما شاهدت بعض الأعمال الغريبة الأخرى، مثل صورة الذكاء الاصطناعي القديمة للبابا وهو يرتدي سترة منتفخة والتي انتشرت بسرعة كبيرة في مايو (أيار) 2023.

صور مولّدة اصطناعياً

أصبحت هذه الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي منتشرة بشكل متزايد، وشائعة، على منصات وسائل التواصل الاجتماعي. وعلى الرغم من أن الكثير منها يقترب من السريالية، فإنها غالباً ما يتم استخدامها لإغراء المستخدمين العاديين بالتفاعل.

في هذا التقرير يقول رينيه ديريستا، مدير الأبحاث في مرصد ستانفورد للإنترنت بجامعة ستانفورد، وأبهيرام ريدي، مساعد الباحث في مركز الأمن والتكنولوجيا الناشئة في جامعة جورج تاون، وجوش أ. غولدستين الزميل الباحث في مركز الأمن والتكنولوجيا الناشئة في جامعة جورج تاون: «قام فريقنا من الباحثين من مرصد ستانفورد للإنترنت ومركز الأمن والتكنولوجيا الناشئة بجامعة جورج تاون بالتحقيق في أكثر من 100 صفحة (فيسبوك) نشرت كميات كبيرة من المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. وقد نشرنا النتائج في مارس (آذار) 2024 كورقة أولية، مما يعني أن النتائج لم تخضع بعد لمراجعة النظراء من الباحثين».

تحليل أنماط الصور

واستكشف الباحثون أنماط الصور، واكتشفوا أدلة على التنسيق بين بعض الصفحات، وحاولوا تمييز الأهداف المحتملة للملصقات. ويبدو أن القائمين على الصفحة ينشرون صوراً لأطفال أو مطابخ أو كعكات عيد ميلاد تم إنشاؤها بواسطة الذكاء الاصطناعي لعدة أسباب.

وفي معرض حديثهم عن أسباب ذلك، أشار الباحثون إلى أن هناك منشئي محتوى يتطلعون بشكل ضار إلى زيادة عدد متابعيهم باستخدام محتوى اصطناعي؛ وهناك المحتالون الذين يستخدمون الصفحات المسروقة من الشركات الصغيرة للإعلان عن منتجات لا يبدو أنها موجودة؛ ومرسلو البريد العشوائي الذين يشاركون صوراً للحيوانات تم إنشاؤها بواسطة الذكاء الاصطناعي أثناء إحالة المستخدمين إلى مواقع الويب المليئة بالإعلانات، والتي تسمح للمالكين بتحصيل إيرادات الإعلانات دون إنشاء محتوى عالي الجودة.

تشير النتائج التي توصلنا إليها إلى أن هذه الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي تجتذب المستخدمين. وربما تكون خوارزمية التوصية الخاصة بـ«فيسبوك» تروج لهذه المنشورات بشكل عضوي.

توظيف الذكاء الاصطناعي التوليدي للاحتيال

كيف يتلاقى الذكاء الاصطناعي التوليدي مع عمليات الاحتيال وإنشاء البريد المتطفل؟ أن مرسلي البريد العشوائي والمحتالين عبر الإنترنت ليسوا بالأمر الجديد. فلأكثر من عقدين من الزمن، ظلوا يستخدمون أكوام البريد الإلكتروني المتطفل غير المرغوب فيه للترويج لمخططات ومشاريع مالية وهمية، كما استهدفوا كبار السن بتظاهرهم أنهم ممثلون للرعاية الطبية، أو فنيو كمبيوتر. وعلى وسائل التواصل الاجتماعي، استخدم المنتفعون مقالات لجذب المستخدمين إلى مواقع الويب المليئة بالإعلانات لجني المال.

في أوائل عام 2010، استحوذ مرسلو البريد العشوائي على انتباه الأشخاص من خلال إعلانات تعد بأن أي شخص يمكن أن يفقد دهون البطن أو يتعلم لغة جديدة باستخدام «خدعة واحدة غريبة». والآن أصبح المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي «خدعة غريبة» أخرى. إنها جذابة بصرياً ورخيصة الإنتاج، مما يسمح للمحتالين ومرسلي البريد المتطفل بإنشاء أعداد كبيرة من المشاركات الجذابة.

قامت بعض الصفحات التي لاحظناها بتحميل عشرات الصور الفريدة يومياً. ومن خلال القيام بذلك، اتبعوا نصائح «ميتا» الخاصة لمنشئي الصفحات. تقترح الشركة أن النشر المتكرر يساعد منشئي المحتوى في الحصول على نوع من الالتقاط الخوارزمي، الذي يؤدي إلى ظهور المحتوى الخاص بهم في «الخلاصة»، المعروفة سابقاً باسم «موجز الأخبار».

لا يزال جزء كبير من المحتوى، إلى حد ما، عبارة عن اصطياد نقرات: إذ تجعل الصورة الغريبة الناس يتوقفون للتحديق ويزداد عدد المشاركات فقط لأنها غريبة جداً. يتفاعل العديد من المستخدمين من خلال الإعجاب بالمنشور أو ترك تعليق.

أما بعض مرسلي البريد العشوائي الأكثر شهرة الذين لاحظناهم، فربما أدركوا ذلك، وقاموا بتحسين تفاعلهم من خلال التحول إلى نشر الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

لكن المزيد من المبدعين العاديين استفادوا أيضاً من التفاعل مع الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، دون انتهاك سياسات النظام الأساسي بشكل واضح.

خطط رصد منتجات الذكاء الصناعي

ويبدو أن «ميتا» على دراية بالمشكلات المحتملة إذا اندمج المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في بيئة المعلومات دون سابق إنذار. أصدرت الشركة عدة إعلانات حول خططها للتعامل مع المحتوى الناتج عن الذكاء الاصطناعي. في مايو 2024، ستبدأ «فيسبوك» في تطبيق علامة «Made with AI» على المحتوى الذي يمكنه اكتشافه بشكل موثوق على أنه اصطناعي.

لكن الأمور الدقيقة تكمن في التفاصيل. ما مدى دقة نماذج الكشف؟ ما المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي الذي سيتسلل عبره؟ ما المحتوى الذي سيتم وضع علامة عليه بشكل غير لائق؟ وماذا سيفعل الجمهور بمثل هذه التسميات؟

وبينما ركز عملنا على الرسائل غير المرغوب فيها وعمليات الاحتيال على «فيسبوك»، إلا أن هناك آثاراً أوسع نطاقاً ومن بينها إرسال مقاطع الفيديو تم إنشاؤها بواسطة الذكاء الاصطناعي تستهدف الأطفال على «يوتيوب»، والمؤثرين على «تيك توك» الذين يستخدمون الذكاء الاصطناعي التوليدي لتحقيق الربح/ كما أشارت إلى ذلك تقارير صحفية سابقة.

سيتعين على منصات وسائل التواصل الاجتماعي أن تأخذ في الاعتبار كيفية التعامل مع المحتوى الناتج عن الذكاء الاصطناعي؛ إذ من المؤكد أنه من الممكن أن يتضاءل تفاعل المستخدم إذا امتلأت عوالم الإنترنت بالمشاركات والصور ومقاطع الفيديو التي تم إنشاؤها بشكل مصطنع. لذا فان التحدي المتمثل في تقييم ما هو حقيقي… يزداد سخونة.

* خدمات «تريبيون ميديا».