Dự thảo Luật Trí tuệ nhân tạo đề xuất cấm phát triển AI “thao túng nhận thức, hành vi” con người, yêu cầu đảm bảo con người giữ quyền kiểm soát, AI chỉ hỗ trợ phục vụ.
- Nhân lực bán dẫn Việt Nam còn thiếu “độ dày” trong đào tạo và nghiên cứu
- Bắt giữ tàng trữ ma túy tại Đông Trà Bồng
- Bé trai 4 tháng tuổi An Giang mất tích, nghi rơi kênh xáng Xẻo Rô
Đề xuất cấm phát triển AI gây ảnh hưởng đến nhận thức, hành vi
Theo Bộ Tư pháp, Dự thảo Luật Trí tuệ nhân tạo (AI) đang được thẩm định nhằm xây dựng hành lang pháp lý toàn diện cho công nghệ mới này. Hiện các quy định liên quan đến AI chỉ nằm trong một chương của Luật Công nghiệp công nghệ số, chưa đủ điều chỉnh các vấn đề về quản lý, đạo đức và an toàn đang phát sinh nhanh chóng trong thực tế.
Điều 10 của dự thảo nêu rõ nguyên tắc “lấy con người làm trung tâm”. AI phải phục vụ và hỗ trợ con người, tôn trọng nhân phẩm, quyền riêng tư, giá trị văn hóa và đạo đức. Con người phải giữ quyền kiểm soát, chịu trách nhiệm cuối cùng với mọi quyết định, hành vi và hậu quả phát sinh trong suốt quá trình thiết kế, phát triển, triển khai và sử dụng AI.
Bộ Khoa học và Công nghệ đề xuất phân loại AI thành 4 mức độ rủi ro: rủi ro không chấp nhận được, rủi ro cao, rủi ro trung bình và rủi ro thấp, với các cơ chế quản lý tương ứng.
Phân loại và kiểm soát rủi ro hệ thống AI
AI thuộc nhóm rủi ro không chấp nhận được là các hệ thống có khả năng gây tổn hại nghiêm trọng, không thể khắc phục đối với quyền con người, an ninh quốc gia hoặc trật tự xã hội. Nhóm này bao gồm các AI thao túng nhận thức, hành vi con người có chủ đích, khiến người dùng mất khả năng tự quyết hoặc bị tổn hại tinh thần, thể chất.
Các hệ thống lợi dụng nhóm người dễ tổn thương như trẻ em, người cao tuổi, người khuyết tật hoặc người hạn chế nhận thức để gây ảnh hưởng tiêu cực cũng bị xếp vào nhóm cấm. Ngoài ra, AI sản xuất nội dung giả mạo gây nguy hại đến an ninh quốc gia, trật tự xã hội, hoặc phục vụ mục đích chống phá Nhà nước đều bị cấm phát triển, cung cấp hoặc lưu hành.
Mức rủi ro cao áp dụng với các AI có thể gây ảnh hưởng tới tính mạng, sức khỏe, quyền và lợi ích hợp pháp của cá nhân, tổ chức. Các sản phẩm thuộc nhóm này phải được đánh giá sự phù hợp, kiểm định và chịu thanh tra, kiểm tra của cơ quan nhà nước trước khi đưa vào sử dụng.
Thiết lập Cổng thông tin điện tử một cửa về AI
Theo dự thảo, tổ chức phát triển AI sẽ tự phân loại sản phẩm trước khi ra thị trường. Với AI rủi ro cao, đơn vị phải đăng ký trong 30 ngày trên Cổng thông tin điện tử một cửa về AI, dự kiến tích hợp vào Cổng Dịch vụ công Quốc gia.
Cổng này sẽ là kênh cung cấp thông tin, hướng dẫn, công cụ tra cứu pháp luật, tiêu chuẩn kỹ thuật, đồng thời tiếp nhận báo cáo sự cố và phản hồi khi AI được đưa vào sử dụng.
Việc ban hành Luật Trí tuệ nhân tạo được đánh giá là xu hướng tất yếu, khi nhiều quốc gia đã đi trước trong việc xây dựng khung pháp lý cho công nghệ này. Liên minh châu Âu (EU) đã ban hành AI Act – đạo luật toàn diện đầu tiên về trí tuệ nhân tạo, có hiệu lực từ tháng 8/2024. Hàn Quốc, Trung Quốc và Mỹ cũng đã ban hành hoặc đang hoàn thiện các quy định nhằm cân bằng giữa phát triển, đổi mới sáng tạo và quản lý rủi ro AI.
Tại Việt Nam, việc sớm ban hành luật riêng về AI được kỳ vọng sẽ tạo môi trường pháp lý minh bạch, thúc đẩy đổi mới sáng tạo an toàn, đồng thời ngăn chặn các nguy cơ lạm dụng công nghệ, đảm bảo AI phục vụ đúng mục tiêu vì con người.
Theo: VnExpress
