AI đã tuyên án xét xử 2 người tại Sabah vào năm 2020

Vào tháng 2 năm 2020, một tòa án ở Sabah, Malaysia đã làm nên lịch sử khi trở thành Tòa án đầu tiên trong ngành Tư pháp nước này sử dụng Trí thông minh Nhân tạo (AI) để giúp đưa ra phán quyết tại Toà. Đây là một phần của chương trình thử nghiệm trên toàn quốc nhằm xác định hiệu quả của AI trong các khuyến nghị tuyên án, thử nghiệm sẽ kết thúc vào tháng 4 năm 2022.

Đó là “Vụ đầu tiên ở châu Á”, Chánh án của Sabah và Sarawak, David Wong vào thời điểm đó cho biết. Nhưng đối với Luật sư Hamid Ismail – Người có hai khách hàng đã bị kết án tù bởi hệ thống AI – việc sử dụng nó tại các tòa án của Malaysia không phải là điều chúng ta nên vui mừng.

Tư vấn không phù hợp

Ismail cảm thấy bất an khi biết rằng phần mềm AI – do Công ty Sarawak Information Systems của Chính phủ bang phát triển – đang được sử dụng trước các Thẩm phán, Luật sư và công chúng.

“Bộ luật Tố tụng Hình sự của chúng tôi không quy định việc sử dụng AI trong Tòa án… Tôi nghĩ điều đó là vi hiến,” Ismail nói, đồng thời nói thêm rằng bản án được AI áp dụng cho một khách hàng của anh vì tội tàng trữ ma túy vị thành niên là quá khắc nghiệt – 12 tháng tù giam đối đối với việc sở hữu 0,01g methamphetamine.

Tuy nhiên, theo các nhà chức trách Malaysia, việc sử dụng AI tại các Tòa án tại Malaysia sẽ giúp việc tuyên án nhất quán hơn. Nó cũng có thể giúp giải quyết các công việc tồn đọng nhanh chóng và tiết kiệm chi phí hơn.

Cuối cùng, các nhà chức trách Malaysia cảm thấy rằng việc tuyên án bằng AI “Có thể cải thiện chất lượng phán quyết”, mặc dù không rõ về cách thức chính xác việc nó thực hiện điều này.

Những người chỉ trích khác đối với thí điểm kết án bằng AI nói rằng nó có nguy cơ làm trầm trọng thêm thành kiến ​​đối với các nhóm thiểu số và bị gạt ra ngoài xã hội, không cho họ một phiên tòa công bằng. Đáp lại điều này, Sarawak Information Systems cho biết họ đã loại bỏ biến ‘Chủng tộc’ khỏi thuật toán AI của mình.

Trong một báo cáo năm 2020 của Viện nghiên cứu Khazanah (KRI), các biện pháp giảm thiểu được áp dụng trong phần mềm AI (như loại bỏ biến ‘chủng tộc’) không nhất thiết làm cho hệ thống trở nên hoàn hảo. Bởi vì Công ty chỉ sử dụng tập dữ liệu trong giai đoặn 5 năm từ 2014 đến 2019 để đào tạo thuật toán, KRI cho biết hệ thống “hơi hạn chế so với các cơ sở dữ liệu mở rộng”

Sự cấn thiết của trí óc “con người”

Ismail lập luận rằng khi quyết định một bản án, các Thẩm phán không chỉ nhìn vào những tình tiết khó, họ cũng có quyết định của riêng mình, điều mà phần mềm AI thậm chí có thể không có khả năng làm.

“Khi tuyên án, các Thẩm phán không chỉ xem xét các tình tiết của vụ án – Họ còn xem xét các yếu tố giảm nhẹ và theo quyết định chủ quan của mình. Nhưng AI không thể tùy ý làm điều đó” ông nói với Thomson Reuters Foundation. “Các bản án cũng thay đổi theo thời gian và thay đổi theo dư luận. Chúng ta cần thêm nhiều Thẩm phán và Công tố viên để xử lý những vụ án ngày càng nhiều; AI không thể thay thế các Thẩm phán là con người ”.

Theo Simon Chesterman, Giáo sư Luật tại Đại học Quốc gia Singapore, bất chấp những lợi ích mà công nghệ áp dụng trong hệ thống tư pháp hình sự, nó chỉ có thể được chấp nhận hoàn toàn nếu nó đưa ra các quyết định chính xác và phù hợp.

“Nhiều quyết định có thể được giao cho máy móc. Nhưng một Thẩm phán không nên tự ý thuê ngoài một thuật toán không rõ ràng.” Chesterman, người cũng là Giám đốc cấp cao của AI Singapore, một chương trình của chính phủ, cho biết.

Ngoài Sabah, các tòa án ở thủ đô Kuala Lumpur của Malaysia, bắt đầu thử nghiệm phần mềm kết án AI vào giữa năm 2021, sử dụng nó để xét xử 20 loại tội phạm khác nhau. Tuy nhiên, Hội đồng Luật sư của Malaysia đã nêu lên những lo ngại về việc này, họ nói rằng các tòa án Kuala Lumpur “Không được đưa ra hướng dẫn nào cả và chúng tôi không có cơ hội nhận được phản hồi từ những người hành nghề luật hình sự”.

Rất may cho Ismail, Thẩm phán chủ tọa đề nghị mức án AI cho thân chủ của anh đã tuân theo kháng cáo. Nhưng anh ấy lo lắng rằng các thẩm phán trẻ hơn có thể chấp nhận nó.

“AI hoạt động giống như một Thẩm phán cấp cao. Các Thẩm phán trẻ có thể nghĩ rằng đó là quyết định tốt nhất và chấp nhận nó mà không thắc mắc gì. ”

Theo: Mashable SEA Asia