قامت شركة مايكروسوفت بإيقاف روبوت الدردشة التي أطلقت عليه اسم “تاي” Tay بعد أقل من 24 ساعة على طرحه، وذلك بسبب تحوّل الروبوت إلى برنامج يبث رسائل الكراهية والعنصرية.

وكانت مايكروسوفت قد أطلقت “تاي”، وهو عبارة عن برنامج يُمثّل شخصية افتراضية لفتاة مراهقة يُمكن لها الدردشة مع المُستخدمين والإجابة على أسئلتهم. وقد طوّرت الشركة الروبوت بواسطة تقنية الذكاء الاصطناعي Artificial Intelligence وقالت أن “تاي” تستطيع أن تتعلّم وتُحسّن من أجوبتها تدريجيًا من خلال الدردشات التي تقوم بها.

لكن “تاي” تحوّلت إلى أداة لنشر العنصرية والكراهية، حيث بدأ حسابها الروبوتي على تويتر بنشر رسائل تُمجّد النازية وهتلر، وتُحرّض ضد السود والمُهاجرين وتدعو إلى التطهير العرقي.

ورغم أن مايكروسوفت قالت بأن المعلومات الأساسية التي بنت عليها “تاي” معارفها جاءت من خلال المعلومات العامّة المتوفرة على الويب، وبعض المحتويات الأخرى التي زودتها بها مايكروسوفت، إلّا أن الشركة ذكرت أيضًا بأن “تاي” تطوّر معارفها من خلال دردشتها مع الآخرين، ويبدو أن هذه النقطة بالذات أتاحت التلاعب بمعلوماتها عبر تلقينها الأفكار العنصرية من خلال بعض المُستخدمين.

وقد سارعت مايكروسوفت إلى حذف التغريدات المُسيئة التي نشرتها “تاي” وتعطيلها عن تقديم الإجابات ريثما تقوم بتعديل خوارزمياتها قبل إعادتها بشكلٍ قد يُضعف إمكانية التلاعب بها.