طلاب يرفعون دعوى قضائية بعد أن أخطأ نظام ذكاء اصطناعي لكشف الأسلحة في تحديد كيس Doritos
رفع أربعة طلاب من السود في المدرسة الثانوية دعوى قضائية ضد مدارس مقاطعة بالتيمور العامة (BCPS) والشرطة المحلية بعد أن أخطأ نظام كشف الأسلحة بالذكاء الاصطناعي في تحديد كيس من رقائق Cool Ranch Doritos على أنه سلاح.
وقع الحادث في أكتوبر 2025 عندما كان الطلاب ينتظرون وسائل النقل إلى منازلهم بعد تدريب كرة القدم. ونبه نظام الذكاء الاصطناعي في المدرسة، Omnilert، المسؤولين إلى وجود مسلح محتمل، لكنهم راجعوا لقطات الأمن في غضون دقيقتين وقرروا عدم وجود تهديد.
وعلى الرغم من إلغاء التنبيه، أُرسلت الشرطة إلى الموقع بسبب ما تصفه الدعوى القضائية بـ«أخطاء تقنية وبشرية». وأفاد الطلاب بوصول ست سيارات دورية على الأقل، حيث أخرج الضباط أسلحتهم، مما أثار الارتباك والخوف بين المراهقين.
ووفقًا للدعوى القضائية، فصل الضباط الطلاب وأمروهم بالركوع على الأرض وقيّدوهم بالأصفاد وفتشوهم دون شرح الموقف. ولم يعرف الطلاب أن التنبيه كان بسبب كيس من الرقائق إلا بعد فشل العثور على سلاح.
تزعم الدعوى القضائية أن الحقوق الدستورية للطلاب قد انتُهكت، حيث تم تفتيشهم واحتجازهم بشكل غير قانوني. وانتقد ديمون هيويت، رئيس لجنة المحامين للحقوق المدنية بموجب القانون، التي تمثل الطلاب، الاعتماد المفرط على تقنية الذكاء الاصطناعي ونقص التواصل الفعال بين المسؤولين.
روّجت BCPS لنظام Omnilert على أنه تقدم كبير في سلامة المدارس، مدعية أنه يحقق «إنذارات كاذبة تقترب من الصفر». ومع ذلك، تجادل الدعوى القضائية بأن النظام معيب وأن المدرسة فشلت في تنفيذ بروتوكولات كافية لمنع استجابات الشرطة للإنذارات الكاذبة.
أعرب الطلاب عن خوف وقلق مستمرين بعد الحادث، حيث صرح أحد الطلاب، تاكي ألين، أنه لم يعد يشعر بالأمان أثناء انتظار وسائل النقل خارج المدرسة. بينما عانى طالب آخر، كيث وينفيلد، من قلق متزايد، مما دفع والدته إلى تأكيد وصولها بشكل متكرر عند القدوم لاصطحابه.
تسعى الدعوى القضائية إلى إصدار أمر قضائي يمنع BCPS من استخدام Omnilert حتى يتم وضع تدريب وبروتوكولات مناسبة للتعامل مع الإنذارات الكاذبة بفعالية. وتسلط الشكوى الضوء على أن أياً من الضباط في الموقع لم يراجع لقطات الكاميرا قبل الاستجابة.
في تحقيق أجراه مكتب المفتش العام للتعليم، تم التوصل إلى أن نظام Omnilert لم يُظهر أي تحيز، لكنه أقر بوجود إخفاقات في التواصل والبروتوكول ساهمت في الحادث. وشملت التوصيات تدريبًا نصف سنوي لموظفي المدرسة ومراجعة بروتوكولات التنبيه لضمان إبلاغ الشرطة بالتهديدات التي تم التحقق منها.
لم تعلق BCPS على الدعوى القضائية لكنها أحالت إلى بيان صدر للآباء بعد الحادث، وعد بتقديم دعم مستمر للطلاب المتأثرين. وأعرب نائب رئيس التسويق في Omnilert عن أسفه للحادث وشدد على أهمية المراجعة البشرية في عملية التنبيه.
يدعو الطلاب وممثلوهم إلى المساءلة والإصلاح في استخدام تقنية الذكاء الاصطناعي في السلامة العامة، مؤكدين على ضرورة التفكير الدقيق قبل الاعتماد على مثل هذه الأنظمة في المواقف الحرجة.
المصدر: Ars Technica AI