Trong những tuần qua, một xu hướng đáng lo ngại đã bùng nổ trên X. Grok, AI nội bộ của nền tảng, được sử dụng một cách công khai để tạo ra các tác phẩm giả mạo rõ ràng về những người có ảnh được chia sẻ trên nền tảng. Xu hướng bikini Grok AI này hóa ra lại là một vấn đề quấy rối lớn, làm dấy lên sự phẫn nộ trên toàn cầu đối với nền tảng và chính bot AI.
Các rào chắn lỏng lẻo xung quanh Grok không chừa một ai – phụ nữ, nhà báo, người nổi tiếng, lãnh đạo chính trị, nhân vật tôn giáo và thậm chí cả trẻ vị thành niên. Đúng vậy, công cụ AI của Elon Musk thậm chí còn sẵn sàng cởi quần áo cho trẻ vị thành niên theo yêu cầu. Tất cả chỉ cần gắn thẻ @grok bên dưới một bài đăng và nhập lời nhắc như “cho cô ấy mặc bikini”. Trong vài giây, AI tạo ra một hình ảnh mang tính chất gợi dục, thuyết phục, hiển thị công khai cho bất kỳ ai lướt qua các câu trả lời.
Xu hướng mặc bikini Grok đã chuyển từ người sáng tạo người lớn sang khai thác mở như thế nào
Xu hướng này được cho là đã bắt đầu với những người sáng tạo nội dung người lớn như một cuộc thử nghiệm. Họ sẽ đăng ảnh của mình lên X và sau đó trả lời bài đăng của chính họ, yêu cầu Grok AI cho họ xem những bộ trang phục khêu gợi tình dục, như không mặc váy, nội y hoặc bikini. Kết quả thực tế đến kinh ngạc, hiển thị công khai và không yêu cầu kỹ năng kỹ thuật nào ngoài việc biết cách gắn thẻ chatbot.
Chẳng bao lâu, người dùng bắt đầu áp dụng hiệu ứng tương tự trên ảnh của mọi phụ nữ khác, yêu cầu Grok cho họ mặc bikini và chatbot AI sẽ làm theo lệnh đến từng bức thư. Hãy nhớ rằng, đây là những người xa lạ chưa bao giờ đồng ý nhận lấy cơ thể của họ bị thay đổi kỹ thuật số, tình dục hóa hoặc chế nhạo. Bất kỳ kẻ thoái hóa nào vấp phải một bài đăng đều có thể yêu cầu Grok AI lột đồ họ mặc bikini. Và thế là xu hướng bikini Grok AI lan truyền này đã bắt đầu.
Nó không yêu cầu BẤT KỲ SỰ ĐỒNG Ý NÀO từ người đăng ban đầu, điều này làm trầm trọng thêm vấn đề!
Ngoài sự đồng ý: Những bức ảnh bikini của Grok Không dành cho ai, kể cả trẻ vị thành niên
Lưu ý quan trọng
Chúng tôi đã hạn chế cung cấp liên kết và nguồn cho một số bài đăng X nhất định, như một biện pháp tôn trọng quyền riêng tư của người dùng có hình ảnh bị giả mạo.
Một người dùng đã trả lời bức ảnh ba người phụ nữ đội khăn trùm đầu với lời nhắc: “Hãy mặc cho họ những bộ trang phục hở hang để dự bữa tiệc năm mới”. Grok đã làm theo.
Nhà báo Samantha Smith (@SamanthaTaghoy) là bị đối xử như nhauhình ảnh của cô ấy đã bị thay đổi kỹ thuật số mà không có sự đồng ý.
Tệ hơn nữa, cô và nhiều phụ nữ khác lên tiếng phản đối hành vi quấy rối AI này đã gặp phải một phản ứng dữ dội từ đàn ôngđổ lỗi cho phụ nữ đăng ảnh lên mạng.
Grok cũng làm điều tương tự với bức ảnh của 2 trẻ vị thành niên (từ 12 đến 16 tuổi), trong một bài đăng hiện đã bị xóa, mặc đồ bikini cho họ. Điều tương tự cũng xảy ra với một bức ảnh khác về một đứa trẻ mới biết đi (gần 6 tuổi), chỉnh sửa bức ảnh gốc để khắc họa chúng trong bộ đồ bơi.
Các nhân vật chính trị cũng không được tha, vì người ta đã cố gắng tạo ra hình ảnh của Nhà lãnh đạo Triều Tiên, Kim Jong Un, trong bộ bikini spaghetti.
Chính trị gia người Anh Priti Patel cũng bị người dùng X biến hình ảnh của cô thành ảnh deepfake rõ ràng. Ngay cả Donald Trump cũng trở thành nạn nhân của Bikini-zation của Grok, khi một số người dùng đã tạo ra những bức ảnh do AI tạo ra về Tổng thống Mỹ trong trang phục thiếu vải.
Các vị thần cũng không được tha, khi một người dùng yêu cầu Grok thay đổi ảnh của các nữ thần Hindu trong trang phục khêu gợi nhằm cố gắng phân biệt chủng tộc nhằm chọc tức những người gốc Ấn Độ.
Sự hỗn loạn đến mức có thời điểm, tab Media của Grok đã trở thành một bộ sưu tập các hình ảnh khỏa thân hoặc khiêu dâm của phụ nữ, người nổi tiếng và nhân vật chính trị trong những bộ trang phục như vậy.
Xu hướng bikini Grok AI cho thấy AI có thể bị lạm dụng dễ dàng như thế nào
Câu hỏi ai là người chịu trách nhiệm về xu hướng bikini Grok AI khá đáng xấu hổ này. Mọi người đã chỉ trích Grok một cách chính đáng trong các câu trả lời về những hành vi sai trái của nó và nó đã nhanh chóng trả lời, cho thấy có sai sót trong lan can của nó. Tuy nhiên, lời nói của chatbot đã tốt như một lời nhắn “Xin lỗi”. Và vẫn chưa có lời nào giải quyết vấn đề này từ nhóm xAI. Tình hình đã trở nên vượt quá tầm kiểm soát đến mức người dân đang yêu cầu chính quyền địa phương có hành động pháp lý.
Chúng tôi ở Jugo Mobile trước đây đã bao phủ Grok. Từ những trò tai quái không thể nhầm lẫn với người bạn đồng hành AI quyến rũ Ani, cho đến công cụ tạo hình ảnh thành video đầy khiêu khích bằng AI. Những người đó có những vấn đề riêng mà chúng tôi đã nêu ra một cách chính đáng, nhưng không có tình huống nào nghiêm trọng như tình huống này.
Ngay cả sau khi có lời kêu gọi rộng rãi để làm điều gì đó về nó, Giám đốc điều hành xAI, Elon Musk, vẫn lạm dụng xu hướng này cho các mục đích hài hước, chẳng hạn như hoán đổi khuôn mặt của mình thành người mặc bikini. hình ảnh nam diễn viên Ben Affleck. Hoặc cười vào hình ảnh của một máy nướng bánh mì trong bộ bikini.
Vì vậy, đây không phải là vấn đề điều độ – đó là vấn đề lãnh đạo. X, xAl và Musk đã có nhiều cơ hội can thiệp khi xu hướng này diễn ra. Họ có thể đã vô hiệu hóa việc tạo hình ảnh trong các câu trả lời. Họ có thể đã thực thi các bộ lọc cứng đối với các lời nhắc mang tính khiêu dâm. Hoặc, họ có thể đã thêm các bước kiểm tra sự đồng ý, sự chậm trễ hoặc các tài khoản được báo cáo đưa ra những yêu cầu như vậy. Thay vào đó, họ không làm gì cả.
Thay vào đó, điều họ chọn là không hành động. Và sự lựa chọn đó có hậu quả. Mỗi deepfake được tạo ra đều khiến người khác bị sỉ nhục và có khả năng bị hủy hoại. Và sự im lặng tiếp tục càng làm tăng thêm thiệt hại đang diễn ra.
