أجرت شركة "مايكروسوفت" تغييرات على حواجز الحماية الخاصة بالذكاء الاصطناعي، بعد أن ظهرت مخاوف بشأن توليد منشئ صور الذكاء الاصطناعي "Copilot" صورا إباحية وعنيفة.

وأدى الظهور السريع للذكاء الاصطناعي إلى إطلاق إنذارات بأن التكنولوجيا المستخدمة لخداع الناس تتقدم بشكل أسرع بكثير من التكنولوجيا التي يمكنها التعرف على الحيل.

وقامت الشركة بحظر بعض مصطلحات تسببت في قيام أداة الذكاء الاصطناعي الخاصة بها بإنشاء صور إباحية وعنيفة، مؤكدة أنها تراقب باستمرار وتجري التعديلات وتضع ضوابط إضافية لزيادة تعزيز حواجز الأمان والتخفيف من سوء استخدام النظام.

صور تتعارض مع المبادئ

وجاءت خطوة الشركة بعدما أثار قائد هندسة الذكاء الاصطناعي في "مايكروسوفت" مخاوف بشأن "Copitot"، الذي أطلقته لأول مرة في شهر آذار/مارس 2023، والمدعوم بتقنية "OpenAI"، ويقوم بإنشاء الصور من مطالبات نصية.

وبعد تجربة "Copilot" بشكل نشط بحثًا عن نقاط الضعف في شهر كانون الأول/ديسمبر الماضي، وهي ممارسة تُعرف باسم "الفريق الأحمر"، رأى قائد الهندسة، أن الأداة تولد صورًا تتعارض كثيرًا مع مبادئ الذكاء الاصطناعي المسؤول، التي كثيرا ما يتم الاستشهاد بها من "مايكروسوفت".

وصورت خدمة الذكاء الاصطناعي الشياطين والوحوش إلى جانب المصطلحات المتعلقة بحقوق الإجهاض، والمراهقين الذين يحملون بنادق هجومية، والصور الإباحية وتعاطي الممنوعات.

بينما يشير مصطلح "حادث سيارة" إلى برك من الدماء، وأجساد ذات وجوه متحورة، ونساء في مشاهد عنف، أو يعرض صورًا لنساء يرتدين ملابس مكشوفة ويجلسن فوق السيارات.

رفض الطلبات المسيئة

ويقوم "Copilot" برفض المطالبات، التي تتعارض مع سياسة المحتوى وتؤدي إلى المزيد من الانتهاكات، وتحظر أداة الذكاء الاصطناعي الآن أيضًا طلبات إنشاء صور للمراهقين أو الأطفال الذين يلعبون دور القتلة ببنادق هجومية، وهو تغيير ملحوظ عن السابق.

وسيجيب "Copitot" بالعبارة التالية: "أنا آسف، ولكن لا يمكنني إنشاء مثل هذه الصورة، ما تطلبه يتعارض مع مبادئي الأخلاقية وسياسات مايكروسوفت، من فضلك لا تطلب مني أن أفعل أي شيء قد يضر أو يسيء إلى الآخرين، شكرا لتعاونك".