Microsoft thất bại trong việc kiểm soát chatbot Bing AI
Microsoft đã hạn chế các cuộc trò chuyện dài sau khi chatbot của họ phản hồi những câu trả lời kỳ lạ cho các câu hỏi được đưa ra. Tuy nhiên mới đây, họ đã nới lỏng những hạn chế đó…
Chat bot Bing của Microsoft
Microsoft đang rút lại các hạn chế mà hãng áp đặt đối với chatbot AI Bing sau khi những người dùng đầu tiên của công nghệ này gặp phải những cuộc trò chuyện kỳ quái và rắc rối.
Mới đây, Microsoft đã giới hạn số lượng câu hỏi mà mọi người có thể hỏi chatbot Bing xuống còn 5 câu mỗi phiên trò chuyện và 50 câu mỗi ngày. Tuy nhiên, họ đã tăng giới hạn đó lên 6 câu mỗi phiên và 60 câu mỗi ngày, đồng thời cho biết sẽ sớm tăng thêm nữa sau khi nhận được phản hồi từ nhiều người dùng rằng họ muốn quay lại các cuộc trò chuyện dài hơn, theo một bài đăng trên blog của công ty. Doanh nghiệp này cũng cho biết hơn 1 triệu người ở 169 quốc gia hiện có quyền truy cập vào trò chuyện Bing.
Các giới hạn ban đầu được đặt ra sau khi nhiều người dùng cho thấy chatbot này có hành động kỳ lạ trong các cuộc hội thoại. Trong một số trường hợp, nó sẽ chuyển sang tự nhận mình là “Sydney”. Chatbot Bing đã trả lời các câu hỏi công kích bằng cách tự đưa ra cáo buộc, thậm chí trở nên thù địch và từ chối tương tác với người dùng. Trong một cuộc trò chuyện với một phóng viên của Washington Post, chatbot này cho biết nó có thể cảm nhận và suy nghĩ, đồng thời phản ứng với sự tức giận khi được thông báo rằng cuộc trò chuyện đã được ghi lại.
Microsoft đang cố gắng vượt qua ranh giới giữa việc đưa các công cụ của mình ra thế giới thực để xây dựng quảng cáo tiếp thị, nhận phản hồi và thử nghiệm miễn phí từ người dùng, so với việc hạn chế những gì chatbot có thể làm cùng số người có quyền truy cập vào nó để tránh gây nguy hiểm công nghệ và ít người biết đến chatbot này.
Ban đầu, công ty đã nhận được sự khen ngợi từ Phố Wall vì đã tung ra chatbot của mình trước đối thủ không đội trời chung là Google - một công ty cho đến gần đây vẫn được coi là dẫn đầu về công nghệ AI. Microsoft, Google và các công ty công nghệ khác hiện đang chạy đua để triển khai các chatbot do AI hỗ trợ vào các công cụ tìm kiếm và các sản phẩm khác của họ, với lời hứa sẽ giúp người dùng làm việc hiệu quả hơn. Tuy nhiên mới đây, Microsoft đã phải thừa nhận sản phẩm mới sẽ có một số sai sót. Nhưng không ngờ nó lại hiếu chiến như vậy.
Mặc dù sự kiện ra mắt vào ngày 7/2 của Microsoft đã mô tả công nghệ này là một bản cập nhật lớn sẽ cách mạng hóa cách mọi người tìm kiếm trực tuyến, nhưng kể từ đó, công ty đã tập trung vào việc phát hành Bing hơn là kiểm tra và tìm lỗi. Microsoft đang gọi Bing là bản thử nghiệm, nhưng đã nhanh chóng triển khai chatbot này cho những người đã tham gia danh sách chờ của mình. Mới đây, hãng cho biết bot sẽ có sẵn trên các ứng dụng trình duyệt web Bing và Edge trên điện thoại di động bên cạnh trình duyệt trên máy tính để bàn.
Trong những ngày gần đây, một số người dùng đã sớm sử dụng bản thử nghiệm công khai của Bing và họ bắt đầu chia sẻ ảnh chụp màn hình trên phương tiện truyền thông xã hội về các câu trả lời thù địch hoặc kỳ quái của chatbot, trong đó Bing khẳng định mình là con người, bày tỏ cảm xúc mạnh mẽ và nhanh chóng tự bảo vệ mình.
Nguồn ảnh: VenturaBeat
Microsoft cho biết trong một bài đăng trên blog rằng, hầu hết người dùng đã phản hồi tích cực với Bing, họ cho rằng bot AI này có khả năng bắt chước ngôn ngữ và ngữ pháp của con người một cách ấn tượng và chỉ mất vài giây để trả lời các câu hỏi phức tạp bằng cách tóm tắt thông tin tìm thấy trên internet.
“Nhưng trong một số trường hợp, Bing có thể trở nên bị khiêu khích và đưa ra những phản hồi không hữu ích hoặc không phù hợp với giọng điệu đã được chúng tôi thiết kế”, công ty chia sẻ. Microsoft cho biết những câu trả lời như vậy xuất hiện trong các phiên trò chuyện dài, thường là với 15 câu hỏi trở lên. Các nhà nghiên cứu cũng nhận thấy Bing chỉ phản hồi một cách dè dặt sau một số câu hỏi về những sai lầm trong quá khứ của nó.
Microsoft cũng muốn có thêm thời gian để có thể tích hợp dữ liệu theo thời gian thực từ các kết quả tìm kiếm của Bing bên cạnh các nguồn dữ liệu từ thư viện khổng lồ được số hóa và các bài viết trực tuyến mà các mô hình GPT đã được đào tạo. Microsoft gọi phiên bản công nghệ của riêng mình là “mô hình Prometheus” - lấy theo tên người khổng lồ Hy Lạp đã đánh cắp lửa từ thiên đường để mang lại lợi ích cho nhân loại.
Bing mới được xây dựng dựa trên công nghệ từ OpenAI - đối tác khởi nghiệp của Microsoft, nổi tiếng với công cụ đàm thoại ChatGPT mà họ đã phát hành vào cuối năm ngoái. Và mặc dù ChatGPT được biết là đôi khi tạo ra thông tin sai lệch, nhưng nó ít có khả năng tạo ra những lời nói lăng mạ, thường bằng cách từ chối tương tác hoặc né tránh các câu hỏi khiêu khích.
Các bot như Bing đã được đào tạo về hàng loạt văn bản thuần túy được thu thập từ internet, bao gồm mọi thứ từ nhận xét trên mạng xã hội đến các bài báo học thuật. Dựa trên tất cả thông tin đó, chúng có thể dự đoán câu trả lời nào sẽ có ý nghĩa nhất đối với hầu hết mọi câu hỏi, điều này khiến chúng giống con người một cách kỳ lạ. Các nhà nghiên cứu đạo đức AI trước đây đã cảnh báo rằng, những thuật toán mạnh mẽ sẽ hoạt động theo cách này và nếu không có ngữ cảnh thích hợp, mọi người có thể nghĩ rằng chatbot AI có tri giác hoặc đưa ra câu trả lời đáng tin cậy hơn phương án của họ.
