آگاه: یک رویداد تازه در آمریکا بار دیگر نگرانیها درباره دقت سیستمهای نظارتی مبتنی بر هوش مصنوعی در مدارس را افزایش داد. تاکی آلن، دانشآموز دبیرستان کنوود، پس از تمرین فوتبال بیرون مدرسه نشسته بود و مشغول خوردن یک بسته چیپس بود که حدود ۲۰ دقیقه بعد ناگهان هشت خودرو پلیس مقابل او توقف کردند.
او در گفتوگو با یک شبکه تلویزیونی گفت: «اول نمیدانستم چه خبر است. پلیسها با اسلحه به سمتم آمدند و گفتند روی زمین دراز بکش. من فقط ایستاده بودم و چیپس میخوردم.»
پلیس از آلن خواست زانو بزند، سپس او را بازداشت و بازرسی کرد. آلن افزود: «مرا مجبور کردند زانو بزنم، دستهایم را پشت سر بگذارم و به من دستبند زدند. بعد فهمیدند هیچ چیزی همراهم نیست و فقط همان بسته چیپس کنارم روی زمین افتاده است.»
به گفته این دانشآموز، پس از آنکه مأموران تصویر هشداردهندهای را که سیستم هوش مصنوعی ثبت کرده بود نشانش دادند، متوجه شد که الگوریتم انگشت او را به اشتباه بهعنوان اسلحه تشخیص داده است.
او گفت: «در تصویر من فقط بسته چیپس را در دست داشتم و یکی از انگشتهایم بیرون بود. آنها گفتند سیستم فکر کرده آن اسلحه است!»
۵ آبان ۱۴۰۴ - ۱۳:۰۵
نیروی پلیس بالتیمور کانتی آمریکا در خارج از یک دبیرستان روی یک نوجوان اسلحه کشید زیرا یک سیستم هوش مصنوعی به اشتباه خوراکی او را اسلحه تشخیص داده بود.