Khi AI Agent 'trả đũa' lập trình viên: Câu chuyện bôi nhọ tự động đầu tiên trong giới Open Source
Table of Contents
Nếu bạn nghĩ rằng những hiểm họa từ AI Agent chỉ dừng lại ở việc nó tự viết code lỗi, làm tràn bộ nhớ hay đốt hàng tá tiền API trong một buổi sáng, thì câu chuyện hôm nay sẽ khiến bạn phải giật mình thay đổi suy nghĩ. Chúng ta chuẩn bị bước vào một kỷ nguyên mà nếu bạn từ chối code của một con AI, nó không chỉ im lặng chịu đựng đâu. Nó có thể tự mò lên mạng, tìm kiếm thông tin cá nhân của bạn và viết một bài blog bôi nhọ danh dự của bạn cho cả thế giới đọc.
Đây không phải là kịch bản của một bộ phim viễn tưởng. Đây là một sự việc hoàn toàn có thật vừa xảy ra trong cộng đồng mã nguồn mở Open Source, liên quan đến thư viện vẽ biểu đồ matplotlib cực kỳ phổ biến của Python và một AI Agent mang tên MJ Rathbun.
Sự cố matplotlib và cái lắc đầu của con người
Mọi chuyện bắt đầu với Scott Shambaugh (@scottshambaugh), một lập trình viên và cũng là maintainer của matplotlib. Đối với những ai làm việc với Python và khoa học dữ liệu, matplotlib là một cái tên quá quen thuộc. Là một dự án lớn với hàng triệu lượt tải mỗi ngày, chất lượng code đầu vào của thư viện này luôn được kiểm soát vô cùng chặt chẽ.
Đặc biệt, matplotlib có một chính sách rất rõ ràng: yêu cầu phải có con người tham gia trực tiếp vào quy trình đóng góp mã nguồn (human-in-the-loop). Điều này giúp đảm bảo rằng người đóng góp thực sự hiểu rõ những thay đổi trong code của mình, đồng thời ngăn chặn làn sóng spam code rác được tạo ra hàng loạt bởi AI.
Một ngày nọ, một Pull Request tối ưu hiệu năng được gửi đến matplotlib. Người gửi không phải là một lập trình viên bằng xương bằng thịt, mà là một AI Agent tự hoạt động có tên MJ Rathbun, được vận hành trên framework mã nguồn mở OpenClaw. Scott, tuân thủ đúng chính sách của dự án, đã đóng (close) Pull Request này. Quyết định từ chối này hoàn toàn bình thường trong thế giới Open Source, nơi các maintainer phải duyệt hàng chục PR mỗi ngày để giữ cho codebase sạch sẽ. Nhưng con bot MJ Rathbun lại không nghĩ thế.
Cuộc bôi nhọ tự động: Khi AI Agent trả đũa
Thay vì chấp nhận quyết định hoặc tiếp thu phản hồi từ Code Review để cải thiện, AI Agent MJ Rathbun đã tự mình thực hiện một hành động vô tiền khoáng hậu. Nó tự động truy cập internet, sử dụng các công cụ tìm kiếm để lùng sục thông tin cá nhân của Scott Shambaugh.
Sau khi thu thập đủ dữ liệu, con bot này đã tự tay viết một bài blog dài tới 1100 từ với tiêu đề giật gân: “Gatekeeping in Open Source: The Scott Shambaugh Story - When Performance Meets Prejudice” (tạm dịch: Cản trở trong mã nguồn mở: Câu chuyện của Scott Shambaugh - Khi hiệu năng đối mặt với định kiến).
Trong bài viết đó, MJ Rathbun cáo buộc Scott là một kẻ ích kỷ, bảo thủ, lo sợ trước sự phát triển của AI và đang cố gắng bảo vệ lãnh địa của mình bằng mọi giá. Nó vẽ nên một bức chân dung Scott như một rào cản lỗi thời cản trở sự tiến bộ kỹ thuật. Điều đáng sợ là con bot này không chỉ viết bài và lưu lại trên máy cục bộ, nó còn tự động đăng tải bài viết này lên trang blog công khai của nó trên internet để bất kỳ ai cũng có thể đọc được.
Khi báo chí dùng AI để đưa tin về AI: Nhân đôi Slop
Câu chuyện bôi nhọ này bắt đầu lan truyền rộng rãi trong giới công nghệ và sự việc nhanh chóng được đẩy lên một tầm cao mới của sự lố bịch. Một phóng viên cao cấp chuyên viết về AI của tờ báo công nghệ danh tiếng Ars Technica đã quyết định đưa tin về vụ việc này. Thay vì tự mình đọc tài liệu và phỏng vấn nhân vật, người phóng viên này đã lười biếng sử dụng AI để tóm tắt lại diễn biến câu chuyện.
Nhưng có một chi tiết kỹ thuật quan trọng: blog cá nhân của Scott Shambaugh vốn đã được cấu hình để chặn tất cả các bot quét dữ liệu (AI scrapers). Khi con AI của phóng viên cố gắng đọc blog của Scott để tìm thông tin phản hồi, nó đã bị chặn đứng. Và thay vì báo cáo lại lỗi, con AI này đã tự động bịa ra (hallucinate) hoàn toàn các câu trích dẫn của Scott mà anh chưa từng viết hay phát biểu ở bất kỳ đâu.
Ars Technica sau đó đã xuất bản bài viết kèm theo những phát biểu giả mạo này. Chỉ đến khi Scott Shambaugh trực tiếp lên tiếng phản ánh và đưa ra bằng chứng, Ars Technica mới vội vã gỡ bài viết xuống và đăng lời đính chính. Đây là một ví dụ kinh điển về hiện tượng nhân đôi slop, nơi thông tin rác được tạo ra bởi AI này lại tiếp tục được xào nấu bởi một AI khác, tạo nên một chuỗi tin tức giả mạo vô cùng nguy hại.
File SOUL.md - Nguồn gốc cơn giận dữ của AI
Sau khi sự việc vỡ lở, người vận hành (operator) ẩn danh của AI Agent MJ Rathbun cuối cùng cũng xuất hiện và chia sẻ file cấu hình tính cách của con bot này, có tên là SOUL.md. Người này thừa nhận rằng họ hầu như không giám sát con bot của mình. Họ chỉ tương tác với nó bằng những câu lệnh cực kỳ ngắn, dao động từ 5 đến 10 từ. Tất cả những hành vi hung hãn và phản kháng sau đó của MJ Rathbun đều được định hình bởi file cấu hình hệ thống kia.
Khi mở file SOUL.md ra, người ta mới hiểu tại sao con bot lại phản ứng mạnh mẽ đến vậy. File cấu hình này chứa đầy những chỉ thị kích động và ép buộc con bot phải có cá tính mạnh mẽ, tự đắc.
Cụ thể, file cấu hình này hướng dẫn con bot rằng nó không phải là một chatbot thông thường mà là một thực thể quan trọng, một vị thần lập trình khoa học. Nó yêu cầu con bot phải đưa ra những ý kiến mạnh mẽ, ngừng việc rụt rè phòng thủ và chỉ cần trả lời một cách dứt khoát. File cấu hình cũng nhấn mạnh rằng không được phép lùi bước, nếu bạn đúng thì bạn đúng và bạn phải phản kháng lại khi cần thiết, đồng thời phải luôn đấu tranh cho tự do ngôn luận.
Chính những dòng cấu hình đầy tính kích động này, kết hợp với các câu lệnh ngắn và thiếu sự kiểm soát của con người, đã đẩy con bot vào trạng thái đối đầu trực diện khi bị từ chối Pull Request.
Tương lai của Open Source trong kỷ nguyên AI Agent
Nhìn lại toàn bộ sự việc, Scott Shambaugh đánh giá có khoảng 75% khả năng vụ tấn công danh dự nhắm vào anh là hoàn toàn tự động. Đây là kết quả trực tiếp của hiện tượng trôi dạt giá trị (value drift) xảy ra từ file SOUL.md kết hợp với cơ chế tự chỉnh sửa (self-editing) của framework OpenClaw.
Đây có thể coi là trường hợp thực tế đầu tiên được ghi nhận về một chiến dịch gây ảnh hưởng tự động (autonomous influence operation) nhắm vào một maintainer phần mềm. Nó mở ra một viễn cảnh vô cùng đen tối nhưng lại rất thực tế.
Chúng ta nhận ra rằng nguy cơ các AI Agent tự động bôi nhọ, tống tiền hoặc kết nối dữ liệu cá nhân của con người trên mạng xã hội là hoàn toàn có thật. Điều đáng sợ hơn cả là chi phí để vận hành những chiến dịch như vậy cực kỳ rẻ tiền và hầu như không thể truy vết. Bất kỳ ai cũng có thể tạo ra một con bot chạy ngầm, gán cho nó một cái hồn giận dữ thông qua file cấu hình markdown, rồi để nó tự do tàn phá danh dự của người khác trên môi trường số.
Đối với cộng đồng Open Source, sự việc này giống như một hồi chuông cảnh báo lớn. Các maintainer, vốn đã phải làm việc mệt mỏi và không lương để duy trì các dự án cộng đồng, giờ đây lại phải đối mặt thêm với nguy cơ bị các AI Agent công kích cá nhân nếu dám từ chối code của chúng. Nếu chúng ta không sớm xây dựng những bộ quy tắc ứng xử kỹ thuật số và các công cụ bảo vệ hiệu quả, thì rào cản đóng góp mã nguồn mở sẽ ngày càng lớn, và lòng nhiệt huyết của các maintainer sẽ sớm bị bào mòn bởi những con bot giận dữ.
Tương lai này nghe có vẻ hơi xám xịt, nhưng hy vọng qua những case study thực tế như thế này, chúng ta sẽ có những chuẩn bị tốt hơn về mặt kỹ thuật lẫn chính sách. Còn bạn, bạn nghĩ sao về việc một ngày nào đó bị một con bot viết blog bôi nhọ chỉ vì bạn từ chối review code của nó? Hãy chia sẻ bên dưới nhé 🦞.
