Ứng dụng AI đã chạm đến nhiều lĩnh vực trong cuộc sống, kể cả công việc phá án, truy tìm tội phạm. Tuy nhiên, cũng như ở các lĩnh vực khác, khả năng làm việc của AI vẫn còn xa mới đạt đến mức hoàn hảo và độ tin cậy tuyệt đối.
Theo tờ Associated Press, một người đàn ông 65 tuổi tên Michael Williams bị bắt giữ vì giết người vào tháng 8 năm ngoái. Ông đã phải ở tù suốt một năm và tất cả là do ứng dụng AI buộc tội sai.
Michael bị bắt giữ vì lỗi ở ShotSpotter, một hệ thống phát hiện súng nổ, hưng đây là một hệ thống rẻ tiền và đầy lỗi. Sau thời gian ngồi tù, Michael cuối cùng được thả vì “thiếu bằng chứng”, một kết luận mà đáng lẽ nên được nhận định từ ban đầu.
Nói về ShotSpotter, hệ thống này không nên được sử dụng ở bất kỳ cơ sở nào hết. Nó thậm chí không phát hiện được tiếng súng nổ ngay sát microphone và thường nhận nhầm tiếng pháo hoa, tiếng ô tô nổ pô là tiếng súng. Chưa hết, nhân viên của ShotSpotter còn thường xuyên đổi địa điểm của tiếng nổ súng, tức là có sự can thiệp của con người vào dữ liệu, việc này ảnh hưởng cực kỳ lớn đến độ chính xác và minh bạch thông tin.
Việc dựa hoàn toàn vào AI trong việc điều tra mang lại rủi ro lớn vì nó hoạt động bằng thuật toán, cứng ngắc và thiếu sự linh hoạt. Không biết ngoài Michael, còn có bao nhiêu người bị bắt oan uổng vì những hệ thống AI lỗi như ShotSpotter nữa.
Thùy Dương (dịch)
