Cơn ác mộng từ trí tuệ nhân tạo?

12:29 25/10/2018
Ngày 10-10, Cơ quan nghiên cứu thuộc Lầu Năm Góc cho biết đang đầu tư 2 tỷ USD để phát triển trí tuệ nhân tạo (Artificial intelligence hay Machine intelligence - AI) thế hệ mới có các kỹ năng "giao tiếp như con người".

Nhật Bản thử nghiệm robot tích hợp AI trong dạy tiếng Anh. Trong bối cảnh đó, IBM cảnh báo cơn ác mộng từ phần mềm tấn công sử dụng AI.

Google cam kết không phát triển vũ khí ứng dụng AI

Google đã từng thông báo sẽ không sử dụng AI trong phát triển vũ khí hay "do thám" để gây tổn hại trực tiếp cho con người, đồng thời công bố một loạt các nguyên tắc trong phát triển AI. Trong chính sách phát triển AI của Google, Giám đốc điều hành Sundar Pichai nhấn mạnh, AI là công nghệ có tầm ảnh hưởng lớn và cần những nguyên tắc rõ ràng để đảm bảo việc sử dụng đúng cách, không những không tiếp tay làm điều ác mà còn tích cực ngăn chặn nó.

Theo ông Pichai, các nguyên tắc cho việc ứng dụng AI bao gồm đảm bảo an toàn, đáng tin cậy đối với con người và tôn trọng các nguyên tắc về quyền riêng tư: Google sẽ tránh sử dụng các công nghệ "có khả năng gây tổn hại", đồng nghĩa với việc không phát triển "vũ khí hay các công nghệ mang mục đích gây thương tổn trực tiếp cho con người", cũng như các hệ thống "thu thập hay sử dụng thông tin nhằm mục đích theo dõi không phù hợp với quy tắc quốc tế".

Ngoài ra, Google cũng sẽ cấm các công nghệ "đi ngược lại luật pháp quốc tế và quyền con người".

Trước đó, Google đã phải hứng chịu một số chỉ trích vì hợp đồng ký kết với Lầu Năm Góc về Dự án Maven ứng dụng AI để phân biệt người và vật thể trong các video của máy bay không người lái. Ngày 27-9, Google đã thông báo sẽ không gia hạn hợp đồng trị giá 10 triệu USD về Dự án Maven sau khi hợp đồng hết hạn.

Lầu Năm Góc quyết định đầu tư 2 tỷ USD phát triển AI thế hệ mới. Ảnh: AP.

Cảnh báo cơn ác mộng từ phần mềm tấn công sử dụng AI

Ngày 27-9, lãnh đạo Tập đoàn IBM cảnh báo cơn ác mộng của an ninh mạng, các chương trình tấn công sử dụng AI có khả năng vượt qua cả những hệ thống bảo vệ vững mạnh nhất, có thể sắp trở thành hiện thực. Các hệ thống bảo vệ máy tính mạnh nhất hiện nay đều dựa trên cơ chế theo dõi hoạt động của một số phần mềm tấn công, thay vì một phương pháp phổ biến hơn là phân tích mã lập trình của các phần mềm để tìm ra dấu hiệu nguy hiểm.

Tuy nhiên, những chương trình độc hại ứng dụng AI có thể được lập trình để "ẩn thân" tốt hơn và sẽ chỉ hành động khi xác định được mục tiêu cụ thể. Cải tiến này khiến cho những "kẻ xâm nhập" AI rất khó để phát hiện.

Giới chuyên gia cảnh báo việc tin tặc lợi dụng công nghệ AI chỉ là vấn đề về thời gian. Jon Di Maggio - nhà phân tích cấp cao tại Công ty Symantec, cho rằng viễn cảnh đáng sợ này đang đến gần hơn bao giờ hết, có thể sẽ trở thành hiện thực trong năm 2020 hay 2021.

Một nhóm nghiên cứu của IBM đã từng xâm nhập thành công vào một phần mềm thoại video song chỉ bắt đầu tấn công khi nhận dạng được khuôn mặt của một mục tiêu xác định trước.

Hiện chưa có phát hiện nào về một phần mềm tấn công sử dụng AI hay các dạng biến thể của AI. Tuy nhiên, nhiều chuyên gia lo ngại rằng có thể những phần mềm này thực sự đã hiện hữu và chỉ đang "ẩn thân" quá tốt trước những biện pháp phát hiện thông thường.

Áp dụng AI như con dao hai lưỡi: Người chủ trương phục vụ cho mục đích tiến bộ của con người, là điều đáng khích lệ; còn kẻ dã tâm lợi dụng những thành tựu vượt bậc của AI vì mưu đồ lợi ích riêng, thì quả đó sẽ là một cơn ác mộng mà thế giới cần phải ra tay ngăn chặn kịp thời.

Lê Miên Tường (tổng hợp)