7 nguyên tắc để tạo ra các hệ thống trí tuệ nhân tạo AI đáng tin cậy

Trí tuệ nhân tạo (AI) là một chủ đề có tầm quan trọng to lớn đối với các Doanh nghiệp trong vài năm qua, vì nó mang lại nhiều khả năng tối ưu hóa dẫn đến lợi thế kinh doanh cạnh tranh so với các đối thủ khác trên thị trường. AI được định nghĩa là một nhánh của khoa học máy tính liên quan đến việc mô phỏng hành vi thông minh trong máy tính và khả năng máy bắt chước hành vi thông minh của con người.

Việc cho phép AI bắt chước các chức năng “nhận thức” của con người đã làm dấy lên nhiều lo ngại về độ tin cậy và việc cân nhắc các khía cạnh đạo đức của AI khi đưa ra khuyến nghị hoặc đề xuất một số kết quả và quyết định nhất định. Sau đây, cùng Intech tìm hiểu 7 nguyên tắc khi tạo ra trí tuệ nhân tạo AI

Cơ quan Nhân sự và Giám sát

Nguyên tắc này nói rằng con người là trung tâm của hệ thống AI, trái ngược với việc bị coi là một đối tượng bị thao túng trong hệ thống AI. Sự giám sát của con người là tìm ra cách tiếp cận phù hợp để khiến con người chỉ huy và/hoặc kiểm soát những gì AI, CNTT và hệ thống con người đang thực hiện trong một tình huống. Ba loại cách tiếp cận có thể xảy ra trong một tình huống.

• Cách tiếp cận đầu tiên là khiến con người chấp thuận hoặc không chấp thuận từng đề xuất của hệ thống.

• Cách tiếp cận thứ hai là có con người trong vòng lặp nhưng chỉ xử lý các trường hợp ngoại lệ chứ không phải mọi giao dịch.

• Cách tiếp cận thứ ba là để con người chỉ huy. Điều này ngụ ý rằng con người tham gia vào việc thiết kế, đặc điểm kỹ thuật, kỹ thuật của giải pháp và cả để họ tham gia đánh giá định kỳ & đánh giá kết quả đầu ra & chất lượng mà hệ thống AI mang lại. Tùy từng trường hợp mà có cách tiếp cận phù hợp.

Kỹ thuật mạnh mẽ và an toàn

Nguyên tắc này liên quan đến việc các hệ thống AI hoạt động đáng tin cậy như dự định và ngăn chặn tác hại không thể chấp nhận được đối với con người. Các hệ thống AI cũng phải có khả năng phục hồi trước các cuộc tấn công như hack. Các thiết kế hệ thống AI phải xem xét khả năng sử dụng sai cho các ứng dụng ngoài ý muốn và ngăn chặn/giảm thiểu chúng.Các hệ thống AI nên có các biện pháp bảo vệ cho phép lập kế hoạch dự phòng trong trường hợp xảy ra sự cố. Ví dụ: chuyển từ quy trình dựa trên thống kê sang quy trình dựa trên quy tắc hoặc yêu cầu người vận hành trước khi tiếp tục hành động. Kết quả của hệ thống AI phải đáng tin cậy và có thể tái tạo được. Có thể tái sản xuất có nghĩa là các hệ thống AI thể hiện cùng một hành vi khi các thử nghiệm được lặp lại trong cùng điều kiện.

Quyền riêng tư và quản trị dữ liệu

Các hệ thống AI phải được thiết kế để đảm bảo quyền riêng tư và bảo vệ dữ liệu trong suốt vòng đời của nó. Quản trị dữ liệu đầy đủ phải tồn tại để đảm bảo chất lượng và tính toàn vẹn của dữ liệu được sử dụng, sao cho các hệ thống AI có thể truy cập và có khả năng xử lý dữ liệu theo cách bảo vệ quyền riêng tư.Phải đảm bảo rằng các hồ sơ kỹ thuật số được thu thập về con người sẽ không được các hệ thống AI sử dụng để phân biệt đối xử bất hợp pháp hoặc không công bằng đối với con người. Các quy trình và bộ dữ liệu được sử dụng để đào tạo hệ thống AI phải được kiểm tra và ghi lại ở mỗi bước như đào tạo, thử nghiệm và triển khai.

Minh bạch

Tính minh bạch là một khía cạnh quan trọng, vì nó tạo ra niềm tin. Tính minh bạch đến từ ba khía cạnh khác nhau. Thứ nhất là khả năng truy xuất nguồn gốc, thứ hai là “khả năng giải thích” và thứ ba là giao tiếp. Các bộ dữ liệu và quy trình dẫn đến kết quả của hệ thống AI phải được “truy xuất nguồn gốc” rõ ràng. Các quyết định do hệ thống AI đưa ra phải được con người “có thể giải thích được” dựa trên các bộ dữ liệu và quy trình được sử dụng bởi AI.Các hệ thống AI phải “giao tiếp” như vậy và không thể hiện mình là con người. Tính minh bạch khá phức tạp trong các quá trình thực tế. Để hiểu điều này, hãy xem xét ví dụ về hệ thống AI trong ô tô tự lái, trong đó hệ thống này đưa ra quyết định phát hiện người đi bộ băng qua đường và thực hiện hành động cần thiết để tránh mọi người. Các bộ dữ liệu liên quan; liên tục tính toán lại quỹ đạo, khiến việc xây dựng một hệ thống AI đáng tin cậy trở nên phức tạp.

Đa dạng, Không phân biệt đối xử và Công bằng

Các hệ thống AI được đào tạo bằng cách sử dụng khối lượng dữ liệu khổng lồ. Điều quan trọng là các tập dữ liệu đa dạng, bao gồm mọi tình huống có thể xảy ra, loại người, v.v… được đưa vào tập dữ liệu huấn luyện. Cần thận trọng để tránh định kiến ​​trong việc thu thập dữ liệu.Các sản phẩm và dịch vụ AI phải được thiết kế để phục vụ mọi người bất kể tuổi tác, giới tính, khả năng và đặc điểm của họ. Nguyên tắc thiết kế chung để giải quyết nhóm người rộng nhất có thể tuân thủ các tiêu chuẩn tiếp cận có liên quan. Một trong những cách để đảm bảo sự công bằng là bao gồm những người có nguồn gốc, văn hóa và nguyên tắc khác nhau trong vòng đời của hệ thống AI.

Phúc lợi Xã hội và Môi trường

Ngoài tác động của các hệ thống AI đối với từng cá nhân con người, tác động đối với xã hội và môi trường xung quanh nơi nó hoạt động cũng phải được xem xét. Các hệ thống AI tương tác với các quy trình dân chủ, chẳng hạn như trong bối cảnh bầu cử hoặc hỗ trợ ra quyết định chính trị, có thể tác động đáng kể đến xã hội loài người. Các hệ thống AI được thiết kế để giải quyết các vấn đề môi trường phải được đánh giá cẩn thận. Do đó, các hệ thống AI cho tất cả các tình huống này phải được xem xét và đánh giá cẩn thận trước khi triển khai. Nhìn chung, tác động của hệ thống AI đối với xã hội và phúc lợi môi trường, của các thế hệ con người hiện tại cũng như tương lai, phải được xem xét.

Trách nhiệm giải trình

Điều này được liên kết với nhau với nhiều nguyên tắc được giải thích ở trên. Nguyên tắc về trách nhiệm giải trình đòi hỏi phải có các cơ chế để đảm bảo trách nhiệm giải trình của các hệ thống AI và kết quả của chúng, cả trong quá trình phát triển và sau khi triển khai. Tôi phải có khả năng kiểm tra thuật toán, dữ liệu và quy trình của hệ thống AI một cách độc lập.Bất kỳ kết quả tiêu cực hoặc không mong muốn nào của hệ thống AI phải được đánh giá nghiêm túc trong giai đoạn phát triển/thử nghiệm và cũng trong quá trình hoạt động. Phải thực hiện các đánh giá phù hợp, xem xét mức độ rủi ro tương ứng mà các hệ thống AI gây ra. Phải cung cấp các cơ chế khắc phục đầy đủ cho những người bị ảnh hưởng để tạo niềm tin vào các hệ thống AI.

AI có tiềm năng to lớn để chuyển đổi nhiều quy trình và dịch vụ, trong cuộc sống hàng ngày của chúng ta, thành các tác vụ tự động được xử lý bằng sức mạnh tính toán. Mặt khác, việc sử dụng không kiểm soát có thể gây ra thiệt hại to lớn cho xã hội của chúng ta. Tạo ra một “hệ thống AI đáng tin cậy” là chìa khóa để khai thác sức mạnh này.