Một nghiên cứu chính thức từ Đại học trung tâm Florida, Mỹ đã xác định 6 thách thức cần vượt qua để cải thiện mối quan hệ giữa con người và AI để đảm bảo việc sử dụng chúng hợp lý và có đạo đức hơn.
Một vấn đề cần được giải quyết là con người ngày càng lạm dụng và ỷ lại với trí tuệ nhân tạo khi chúng xử lý vấn đề nhanh chóng và mang lại độ chính xác cao. Nhưng điều này đôi khi lại gây ra hậu quả nghiêm trọng, ví dụ điển hình là ChatGPT. Khi bạn hỏi một vấn đề trên ChatGPT, chúng đưa ra câu trả lời gần như là lập tức và đầy đủ thông tin, nhưng đôi khi chúng trả lời sai.
Các nhà nghiên cứu đã nêu bật được các trở ngại mà nhân loại phải giải quyết để đảm bảo trí tuệ nhân tạo phải an toàn, đáng tin cậy và phù hợp với các giá trị của con người. Nghiên cứu được công bố trên Tạp chí Quốc tế về Tương tác giữ Người và Máy tính.
Theo Ozlem Garibay – trợ lý giáo sư tại Khoa Kỹ thuật Công nghiệp và Hệ thống Quản lý của UCF, là nhà nghiên cứu chính của nghiên cứu cho rằng trong khi công nghệ AI ngày càng trở nên phổ biến trong các khía cạnh khác nhau trong cuộc sống của chúng ta, thì nó cũng đưa ra vô số thách thức cần được xem xét kỹ lưỡng.
Theo đó, 6 thách thức mà Ông và nhóm các nghiên cứu và xác định là:
Sức khỏe con người: AI có thể mang lại lợi ích cho con người. trong lĩnh vực y học và sức khoẻ. Bên cạnh việc sử dụng chúng để theo dõi và đánh giá sức khoẻ con người, các nhà khoa học cũng nên quan tâm đến việc hỗ trợ sức khỏe của người dùng khi tương tác với AI.
Trách nhiệm: AI có trách nhiệm ưu tiên phúc lợi của con người và xã hội trong suốt vòng đời của nó. Điều này đảm bảo rằng các lợi ích tiềm năng của AI được tận dụng theo cách phù hợp với các giá trị và ưu tiên của con người, đồng thời giảm thiểu rủi ro về hậu quả không lường trước hoặc vi phạm đạo đức.
Quyền riêng tư: Việc thu thập, sử dụng và phổ biến dữ liệu trong các hệ thống AI cần được xem xét cẩn thận để đảm bảo bảo vệ quyền riêng tư của các cá nhân và ngăn chặn việc lạm dụng đối với các cá nhân hoặc nhóm.
Nguyên tắc thiết kế: Các nguyên tắc thiết kế lấy con người làm trung tâm cho các hệ thống AI nên sử dụng một khuôn khổ có thể cung cấp thông tin cho các học viên. Khuôn khổ này sẽ phân biệt giữa AI có rủi ro cực thấp, AI không cần các biện pháp đặc biệt, AI có rủi ro cực cao và AI không được phép sử dụng.
Quản trị và Giám sát: Cần có một khung quản trị xem xét toàn bộ vòng đời AI từ lúc hình thành ý tưởng đến phát triển đến triển khai.
Tương tác giữa con người và AI: Để thúc đẩy mối quan hệ đạo đức và bình đẳng giữa con người và các hệ thống AI, điều bắt buộc là các tương tác phải được xác định dựa trên nguyên tắc cơ bản là tôn trọng năng lực nhận thức của con người. Cụ thể, con người phải duy trì quyền kiểm soát hoàn toàn và chịu trách nhiệm đối với hành vi và kết quả của các hệ thống AI.
Nghiên cứu được thực hiện trong hơn 20 tháng, bao gồm quan điểm của 26 chuyên gia quốc tế có nền tảng kiến thức đa dạng về công nghệ AI.
“Những thách thức này đòi hỏi phải tạo ra các công nghệ trí tuệ nhân tạo lấy con người làm trung tâm, ưu tiên đạo đức, sự công bằng và nâng cao phúc lợi của con người.
Những thách thức thúc giục việc áp dụng phương pháp tiếp cận lấy con người làm trung tâm bao gồm thiết kế có trách nhiệm, bảo vệ quyền riêng tư, tuân thủ các nguyên tắc thiết kế lấy con người làm trung tâm, quản trị và giám sát phù hợp cũng như tương tác tôn trọng với năng lực nhận thức của con người”, Ozlem Garibay cho biết.
Nhìn chung, những thách thức này là lời kêu gọi cộng đồng khoa học hành động để phát triển và triển khai các công nghệ trí tuệ nhân tạo ưu tiên và mang lại lợi ích cho nhân loại, bà Garibay chia sẻ.
(Tổng hợp nhiều nguồn)