AI Grok của Musk đối mặt với sự điều tra từ Nhật Bản về hình ảnh tính dục hóa

Văn phòng Nội các đã yêu cầu nền tảng mạng xã hội cải thiện các biện pháp bảo vệ và hạn chế việc tạo ra các hình ảnh bị chỉnh sửa tính dục bởi Grok, Bộ trưởng An ninh Kinh tế Kimi Onoda cho biết. Các quan chức cũng đã gửi câu hỏi bằng văn bản về các biện pháp của X nhằm ngăn chặn việc tạo ra deepfake và các hình ảnh khác vi phạm quyền riêng tư, tài sản trí tuệ và quyền kiểm soát việc sử dụng hình ảnh của cá nhân, bà nói.

Grok đã gây ra một làn sóng chỉ trích từ người dùng và các chính phủ từ Malaysia đến Ý trong tháng này về việc dễ dàng sử dụng nó để chỉnh sửa ảnh nhằm tính dục hóa hoặc hạ thấp đối tượng. Kể từ đó, nó đã áp dụng một số hạn chế đối với khả năng tạo hình ảnh và đặt chúng sau một bức tường trả phí.

“Tất cả các khả năng, bao gồm các bước pháp lý, đều được xem xét nếu không có sự cải thiện,” bà Onoda, người cũng là Bộ trưởng Nhà nước về Chiến lược AI, cho biết tại một cuộc họp báo thường kỳ vào thứ Sáu. “Nếu các vấn đề tương tự xảy ra trên các nền tảng khác, chúng tôi cũng sẽ hành động.”

Những tuyên bố này, đến từ một bộ trưởng tại thị trường nước ngoài lớn nhất của X, tiếp nối các cuộc điều tra từ các cơ quan quản lý trên toàn thế giới. Canada, California, EU và các quốc gia thành viên riêng lẻ như Pháp đang điều tra liệu hình ảnh do Grok tạo ra có vi phạm quyền của mọi người hay không, trong khi Malaysia, Indonesia và Philippines đã hạn chế truy cập trong nước. Đầu tuần này, xAI — công ty chịu trách nhiệm về Grok — cho biết họ đang vô hiệu hóa khả năng của mọi người sử dụng chatbot Grok để tạo hình ảnh tính dục hóa của người thật.

“Đó là một vấn đề khi mọi người vẫn có thể tạo ra những hình ảnh như vậy,” bà Onoda nói, gợi ý rằng Nhật Bản có thể tìm kiếm thêm các biện pháp từ nhà sáng tạo chatbot. Nhưng bà cũng thêm rằng lỗi không nằm ở AI tự bản thân nó, và rằng chính phủ cần nghiên cứu các cách khác nhau để giải quyết các vấn đề thực sự. “Nếu một con dao nằm đó, bạn sử dụng nó để nấu ăn hay để làm hại ai đó?” bà nói thêm.

Nhật Bản đang cân bằng giữa nhu cầu về các rào cản đối với AI và tham vọng bắt kịp Mỹ và Trung Quốc trong một lĩnh vực mà họ coi là thiết yếu cho chiến lược quốc gia. Luật AI của Nhật Bản, có hiệu lực đầy đủ vào tháng 9, không có hình phạt, giới hạn sự can thiệp của chính phủ ở các cuộc điều tra và ban hành hướng dẫn chính thức khi xảy ra vi phạm.

Các cuộc thảo luận giữa các nhà hoạch định chính sách Nhật Bản đã tập trung vào các ý tưởng như cách giáo dục người dùng và khiến các dịch vụ AI hiển thị rằng hình ảnh đã bị chỉnh sửa, mặc dù Văn phòng Nội các cũng đang tìm cách phối hợp các biện pháp có thể với Bộ Tư pháp, Cơ quan Cảnh sát Quốc gia và Bộ Truyền thông của nước này.