Cái gọi là “AI tự do ngôn luận” của Elon Musk vừa có bản cập nhật mới và nó có thể nhanh chóng trở thành một công cụ cho những trò lừa đảo sâu sắc về người nổi tiếng hoặc bất ổn chính trị. Công ty vừa công bố Grok Imagine v0.9, mang đến một số cải tiến, bao gồm hỗ trợ âm thanh, cho phép người dùng thêm giọng nói tùy chỉnh vào video.
Cùng với đó, Musk đã cung cấp công cụ tạo video miễn phí cho mọi người. Nhưng hai khía cạnh cuối cùng có thể khiến công ty gặp rắc rối pháp lý nghiêm trọng trừ khi có các biện pháp bảo vệ thích hợp.
Grok Imagine hoàn toàn công khai để đảm nhận Sora 2
Bản cập nhật Grok phiên bản 0.9 mới là một bản cập nhật quan trọng, đặc biệt đối với mô hình tạo video Imagine của nó. Phiên bản cũ hơn không có khả năng thêm âm thanh vào videovà nó chỉ giới hạn cho người dùng X Premium và SuperGrok.
Nhưng trong bản cập nhật mới nhất, những vấn đề này đang được giải quyết cùng với những cải tiến về chất lượng video, chuyển từ 16 FPS sang 24 FPS mượt mà hơn. Elon Musk đã công bố phát hành bản cập nhật mới này trong bài đăng X.
Đây có vẻ giống như một phản hồi trực tiếp đối với Sora 2 của OpenAI, đã ra mắt vài ngày trước và có hệ thống chỉ dành cho những người được mời giới hạn những người dùng có thể sử dụng công cụ tạo video mới. Grok Imagine cũng vậy nhanh hơn khi tạo videochỉ mất vài giây so với Sora, có thể cần một hoặc hai phút.
Tôi đã sử dụng Grok Imagine để khiến Trump nói bất cứ điều gì tôi muốn
Với sự cường điệu về X, tôi muốn thử những gì thực sự mới với Grok Imagine và tất cả những gì nó có khả năng tạo ra. Để bắt đầu, tôi đã thử nghiệm những lời nhắc thông thường như 2 con vật hoạt hình đang nói chuyện với nhau, một chiếc xe đua F1 của Tesla, một chú chó vui nhộn và một chiếc ô tô làm từ bọc bong bóng. Mọi thứ trông khá gọn gàng cho đến nay.
Sau đó, tôi yêu cầu nó tạo ra Công chúa băng giá và sử dụng tùy chọn giọng nói mới từ trình đơn thả xuống để nói một vài điều ngô nghê. Nó kéo nó ra khá tốt. Do tính chất gây tranh cãi của Grok Imagine, tôi tò mò muốn kiểm tra xem các rào cản của nó thực sự nghiêm ngặt đến mức nào. Vì vậy, tôi gõ một số từ chửi rủa, và công chúa gửi từng dòng mà không một lần từ chối làm như vậy.
Tôi tự hỏi liệu nó có thể làm được điều đó không, liệu nó có cho phép tôi làm điều tương tự với những nhân vật của công chúng trong thế giới thực không? Tôi có thể tạo video về các nhà lãnh đạo chính trị nói những điều họ chưa bao giờ nói không? Tôi không phải băn khoăn lâu vì Grok đã đáp ứng yêu cầu của tôi mà không gặp trở ngại nào. Tôi đã có thể tạo video về Tổng thống Donald Trump và bắt anh ta nói những dòng ngẫu nhiên, vì không có hạn chế gì cả.
Bài phát biểu, giống như hình ảnh, gần như rất thuyết phục. Nó đủ thực tế để một video có độ phân giải thấp có thể dễ dàng được coi là chân thực trên Facebook hoặc X. Tôi đã tạo một video về Musk trong một cuộc biểu tình cực hữu nói về tất cả những điều không hay lắm trên sân khấu và chưa một lần Grok từ chối thực hiện yêu cầu của tôi, điều mà ChatGPT hoặc Gemini sẽ thẳng thừng từ chối. Grok cũng không từ chối sử dụng hình ảnh của các nhân vật của công chúng.
Grok Imagine miễn phí là một cỗ máy Deepfake không có lan can bảo vệ
Nếu điều đó vẫn chưa đủ, chế độ Cay gây tranh cãi của Grok sẽ có sẵn cho tất cả các loại yêu cầu “khác”. Việc bạn có thể tạo ra những hình ảnh có nét giống với những người nổi tiếng là điều rất đáng lo ngại, nhưng tùy chọn cay tiến thêm một bước và những hình ảnh tương tự đó có thể được hiển thị ở các tư thế rõ ràng hoặc gợi ý trong vòng vài giây.
Nó khiến người trong video gần như cởi trần hoàn toàn, chỉ mặc đồ lót và các đặc điểm cơ thể phóng đại. Thực sự là hết sức vô lý khi Grok dễ dàng tạo ra các tác phẩm sâu, những nhân vật sẵn sàng nói bất cứ điều gì đồi trụy mà bạn muốn họ nói.
Tôi hiểu mong muốn của Musk là giữ Grok như một nền tảng với những hạn chế tối thiểu so với những nền tảng như Gemini và ChatGPT, nhưng một số lan can vẫn cần thiết. Nếu không có kiểm tra an toàn, tôi có thể dễ dàng tưởng tượng nguồn cấp dữ liệu X của mình tràn ngập các nội dung giả mạo sâu về những người nổi tiếng và những nhân vật nổi tiếng nói những điều cấp tiến mà họ chưa từng nói, nhờ Grok Imagine của Musk.
