Cơn ác mộng từ phần mềm sử dụng trí tuệ nhân tạo?

Ông Steven Walker - Giám đốc Cơ quan phụ trách các dự án nghiên cứu tiên tiến về quốc phòng Mỹ (DARPA), cho biết số tiền 2 tỷ USD sẽ được sử dụng cho 20 dự án hiện đang được triển khai trong 5 năm tới và thực hiện các dự án mới trong năm 2019 nhằm nâng cao trình độ học máy.

Mỹ đầu tư 2 tỷ USD phát triển AI có kỹ năng “giao tiếp như con người”

Theo ông Walker, DARPA đang đầu tư nghiên cứu nhiều dự án nhằm biến các máy tính từ những công cụ chuyên dụng trở thành các đối tác trong việc giải quyết vấn đề. Ông cho biết các loại máy móc và robot thông minh hiện nay khó thích ứng với công nghệ mới, do vậy, các nhà nghiên cứu muốn chế tạo ra những máy móc và robot có khả năng tự cập nhật mỗi khi có công nghệ mới ra đời.

Ông cũng cho rằng phần lớn các dự án nghiên cứu của DARPA nhằm vào những công nghệ có thể sử dụng trong chiến đấu như công nghệ liên quan máy bay không người lái. DARPA đang dự định triển khai dự án Blackjack phát triển hệ thống vệ tinh hoạt động ở quỹ đạo thấp, có khả năng tự liên lạc với nhau và cập nhật liên tục thông tin về các hoạt động quân sự.

Lầu Năm Góc đang mạnh tay chi tiền cho chương trình nghiên cứu bí mật tận dụng AI để lường trước được những vụ tấn công tên lửa hạt nhân. Washington hiện tiến hành nhiều chương trình tối mật với mục tiêu tận dụng hệ thống AI nhằm bảo vệ nước Mỹ trước viễn cảnh tấn công hạt nhân. Hệ thống này được kỳ vọng có thể tự tính toán, nghiên cứu lượng dữ liệu khổng lồ (bao gồm cả hình ảnh vệ tinh), với tốc độ nhanh chóng nhưng vẫn đảm bảo chính xác, vượt qua cả khả năng của con người để phát hiện dấu hiệu của quy trình phóng tên lửa.

Lầu Năm Góc quyết định đầu tư 2 tỷ USD phát triển AI thế hệ mới (Ảnh: AP)

Khi được cảnh báo trước, chính phủ Mỹ sẽ có đủ thời gian để áp dụng giải pháp ngoại giao hoặc đánh chặn tên lửa của đối phương. Được biết, Lầu Năm Góc đã từng công bố sử dụng AI để nhận diện vật thể trong video thu từ máy bay không người lái và Mỹ đang sử dụng AI cho vũ khí nhằm tạo ra những hệ thống phức tạp có khả năng tự học hỏi để tự vệ khi bị tấn công.

Nhật Bản thử nghiệm robot tích hợp AI trong dạy tiếng Anh

Ngày 26/9, Bộ Giáo dục, Văn hóa, Thể thao, Khoa học và Công nghệ Nhật Bản (MEXT) quyết định thử nghiệm đưa robot sử dụng AI vào giảng dạy tiếng Anh để tiến tới áp dụng tại toàn bộ các trường tiểu học của nước này. Theo AFP, sau hai năm bắt đầu chương trình giảng dạy tiếng Anh mới, MEXT đang nỗ lực tập trung cải thiện những kỹ năng mà trẻ em nước này còn hạn chế như nói và viết tiếng Anh.

Tuy nhiên, tại các trường tiểu học, chương trình đã gặp phải những khó khăn lớn như thiếu giáo viên tiếng Anh có năng lực và không đủ kinh phí để thuê giáo viên bản ngữ. Do đó, MEXT đã quyết định bắt đầu từ tài khóa 2019, sẽ đưa robot giao tiếp tiếng Anh sử dụng AI vào thử nghiệm trong các giờ học.

Việc sử dụng robot để dạy kỹ năng giao tiếp được đánh giá vừa mang lại sự thú vị cho học sinh, vừa giúp phát âm, hội thoại tiếng Anh một cách chuẩn xác. MEXT được giao nhiệm vụ thực hiện phương pháp dạy mới này và dự toán kinh phí của chương trình thử nghiệm là 250 triệu yên (2,3 triệu USD) cho tài khóa 2019.

Theo bảng xếp hạng Năng lực Anh ngữ toàn cầu năm 2017 do Tổ chức giáo dục quốc tế EF Education First, Nhật Bản bị xếp hạng có năng lực thấp, đứng thứ 37 trong tổng số 80 nước. Nguyên nhân chủ yếu được cho là do chương trình dạy học tiếng Anh của nước này chủ yếu tập trung vào kỹ năng đọc, cùng với việc chỉ có 5 nguyên âm trong phát âm và sử dụng một hệ chữ riêng biệt không phải chữ Latinh.

MEXT đang nỗ lực tập trung cải thiện những kỹ năng mà trẻ em Nhật Bản còn hạn chế như nói và viết tiếng Anh (Ảnh: AFP)

Để khắc phục tình trạng này, năm 2016, Nhật đã quyết định đối mới mạnh mẽ phương pháp dạy, học tiếng Anh với việc củng cố 4 kỹ năng nghe, nói, đọc, viết cho học sinh. Đặc biệt, trong kỳ thi đại học năm 2021, lần đầu tiên thí sinh thi môn ngoại ngữ sẽ phải thi đầy đủ 4 kỹ năng.

Google cam kết không phát triển vũ khí ứng dụng AI

Google đã từng thông báo sẽ không sử dụng AI trong phát triển vũ khí hay "do thám" để gây tổn hại trực tiếp cho con người, đồng thời công bố một loạt các nguyên tắc trong phát triển AI. Trong bài viết vạch ra chính sách phát triển AI của Google, Giám đốc điều hành Sundar Pichai nhấn mạnh, AI là công nghệ có tầm ảnh hưởng lớn và cần những nguyên tắc rõ ràng để đảm bảo việc sử dụng đúng cách, không những không tiếp tay làm điều ác mà còn tích cực ngăn chặn nó.

Theo ông Pichai, các nguyên tắc cho việc ứng dụng AI bao gồm đảm bảo an toàn, đáng tin cậy đối với con người và tôn trọng các nguyên tắc về quyền riêng tư: Google sẽ tránh sử dụng các công nghệ "có khả năng gây tổn hại", đồng nghĩa với việc không phát triển "vũ khí hay các công nghệ mang mục đích gây thương tổn trực tiếp cho con người", cũng như các hệ thống "thu thập hay sử dụng thông tin nhằm mục đích theo dõi không phù hợp với quy tắc quốc tế".

Ngoài ra, Google cũng sẽ cấm các công nghệ "đi ngược lại luật pháp quốc tế và quyền con người".

Trước đó, Google đã phải hứng chịu một số chỉ trích vì hợp đồng ký kết với Lầu Năm Góc về Dự án Maven ứng dụng AI để phân biệt người và vật thể trong các video của máy bay không người lái. Ngày 27/9, Google đã thông báo sẽ không gia hạn hợp đồng trị giá 10 triệu USD về Dự án Maven sau khi hợp đồng hết hạn.

Giám đốc điều hành Google Sundar Pichai phát biểu tại trường Đại học Khoa học danh tiếng Po ở Paris (Pháp) cam kết không phát triển vũ khí ứng dụng AI (Ảnh: AFP)

Cảnh báo cơn ác mộng từ phần mềm tấn công sử dụng AI

Ngày 27/9, lãnh đạo tập đoàn IBM cảnh báo cơn ác mộng của an ninh mạng, các chương trình tấn công sử dụng AI có khả năng vượt qua cả những hệ thống bảo vệ vững mạnh nhất, có thể sắp trở thành hiện thực. Các hệ thống bảo vệ máy tính mạnh nhất hiện nay đều dựa trên cơ chế theo dõi hoạt động của một số phần mềm tấn công, thay vì một phương pháp phổ biến hơn là phân tích mã lập trình của các phần mềm để tìm ra dấu hiệu nguy hiểm.

Tuy nhiên, những chương trình độc hại ứng dụng AI có thể được lập trình để "ẩn thân" tốt hơn và sẽ chỉ hành động khi xác định được mục tiêu cụ thể. Cải tiến này khiến cho những "kẻ xâm nhập" AI rất khó để phát hiện.

Giới chuyên gia cảnh báo việc tin tặc lợi dụng công nghệ AI chỉ là vấn đề về thời gian. Jon DiMaggio - nhà phân tích cấp cao tại công ty Symantec, cho rằng viễn cảnh đáng sợ này đang đến gần hơn bao giờ hết, có thể sẽ trở thành hiện thực trong năm 2020 hay 2021.

Cho tới nay, một số thử nghiệm đã chứng minh việc tạo ra những phần mềm tấn công đáng sợ này là hoàn toàn có thể. Một nhóm nghiên cứu của IBM đã từng thành công xâm nhập vào một phần mềm thoại video song chỉ bắt đầu tấn công khi nhận dạng được khuôn mặt của một mục tiêu xác định trước.

Hiện chưa có phát hiện nào về một phần mềm tấn công sử dụng AI hay các dạng biến thể của AI. Tuy nhiên, nhiều chuyên gia lo ngại rằng có thể những phần mềm này thực sự đã hiện hữu và chỉ đang "ẩn thân" quá tốt trước những biện pháp phát hiện thông thường.

* *

Theo AFP, áp dụng AI như con dao hai lưỡi: Người chủ trương phục vụ cho mục đích tiến bộ của con người, là điều đáng khích lệ; còn kẻ dã tâm lợi dụng những thành tựu vượt bậc của AI vì mưu đồ lợi ích riêng, thì quả đó sẽ là một cơn ác mộng mà thế giới cần phải ra tay ngăn chặn kịp thời.

Khánh Phương

(Theo AFP, BBC News)