Vào tháng 11/2023, Tim Hansen đã nhận được thông báo "phạt nguội" do nói chuyện điện thoại khi đang lái xe một tháng trước đó. Hansen rất sốc bởi anh nhớ đã không sử dụng điện thoại vào ngày đó. Anh quyết định xác thực bức ảnh buộc tội anh từ Cơ quan Thu thập Tư pháp Trung ương.

Nhìn thoáng qua, bức ảnh cho thấy có vẻ như Hansen đang nói chuyện điện thoại, nhưng nếu nhìn kỹ hơn sẽ thấy rằng anh thực sự không cầm bất kỳ thiết bị nào trên tay. Anh chỉ gãi đầu và camera AI đã nhầm bàn tay anh đang cầm điện thoại. Người kiểm tra bức ảnh và xác nhận khoản tiền phạt của anh không phát hiện ra điều này.

Rất may Hansen là là kỹ sư công nghệ thông tin. Với nhiều năm kinh nghiệm trong lĩnh vực công nghệ, anh đã giải thích cách hệ thống camera cảnh sát có tên Monocam hoạt động và vì sao nó có thể mắc lỗi.

“Nếu một mô hình phải dự đoán liệu điều gì đó là đúng hay sai thì tất nhiên cũng có thể xảy ra trường hợp mô hình đó sai. Trong trường hợp của tôi, trí tuệ nhân tạo (AI) cho biết tôi đang cầm một chiếc điện thoại, trong khi thực tế không phải vậy. Một mô hình hoàn hảo chỉ dự đoán những kết quả tích cực và tiêu cực, nhưng dự đoán đúng 100% là rất hiếm”, anh nói.

Theo Hansen, các hệ thống như Monocam phải được huấn luyện trên một bộ hình ảnh lớn được chia thành 2 hoặc 3 nhóm: bộ huấn luyện, bộ xác thực và bộ kiểm tra. Bộ đầu tiên được sử dụng để huấn luyện thuật toán về các đối tượng trên hình ảnh nào và thuộc tính nào, như màu sắc, đường kẻ... Bộ thứ hai để tối ưu hóa một số siêu tham số của thuật toán. Bộ thứ ba để kiểm tra hệ thống thực sự hoạt động tốt ở mức độ nào.

Hansen cho biết, do có nhiều biến số ảnh hưởng đến khả năng ra quyết định của thuật toán nên cần có xác thực của con người để giảm thiểu số lượng kết quả sai lầm.

Hansen đã không đồng ý với mức phạt và mong đợi một kết quả tích cực hơn. Anh sẽ phải đợi tới 26 tuần để có phán quyết chính thức.

Câu chuyện của Hansen đã lan truyền rộng rãi ở Hà Lan và các nước láng giềng như Bỉ, nơi một số tổ chức đang yêu cầu lắp đặt camera có khả năng phát hiện việc sử dụng điện thoại di động khi lái xe. Tuy nhiên, câu chuyện của Hansen chứng minh camera AI không đáng tin cậy 100%.