कंपनी ने अपनी तिमाही सुरक्षा रिपोर्ट में इस बात का खुलासा किया है। रिपोर्ट में बताया गया है कि एआई द्वारा बनाई गई यह सामग्री इजरायल-गाजा संघर्ष से जुड़े विषयों पर टिप्पणियों के रूप में सामने आई थी।
मेटा ने पाया कि ये टिप्पणियां यहूदी छात्रों, अफ्रीकी अमेरिकियों और अन्य कथित रूप से सरोकार रखने वाले नागरिकों के फर्जी अकाउंट से पोस्ट की गई थीं। इन टिप्पणियों का लक्ष्य अमेरिका और कनाडा के यूजर्स को प्रभावित करना था। मेटा ने बताया कि उन्होंने इस अभियान को चलाने के लिए जिम्मेदार तेल अवीव स्थित एक राजनीतिक मार्केटिंग फर्म की पहचान की है।
यह पहली बार है जब मेटा ने अपने प्लेटफॉर्म पर टेक्स्ट-आधारित एआई जनित सामग्री के दुरुपयोग का खुलासा किया है। हालांकि, कंपनी 2019 से ही एआई जनित फर्जी प्रोफाइल पिक्चर्स का पता लगा रही है। नई पीढ़ी के एआई टेक्स्ट जनरेटर चिंता का विषय बन रहे हैं, क्योंकि ये यथार्थवादी और भ्रामक सामग्री बनाने में सक्षम हैं।
मेटा ने बताया है कि उन्होंने इस एआई जनित भ्रामक सामग्री को हटा दिया है और अभियान चलाने वाली फर्म के खिलाफ कार्रवाई की है। हालांकि, यह घटना इस बात का संकेत देती है कि आने वाले समय में सोशल मीडिया कंपनियों के लिए एआई द्वारा संचालित दुष्प्रचार को रोकना एक बड़ी चुनौती बन सकती है।
