OpenAI có công bố một công cụ mới có thể tái tạo giọng nói của một người chỉ với 15 giây âm thanh được ghi lại.
Được mệnh danh là Voice Engine, người mẫu sẽ quay một đoạn clip dài 15 giây để tìm hiểu giọng nói của người đó và cách họ nói. Từ đó, người dùng có thể nhập văn bản để nói bất cứ điều gì họ muốn với giọng nói chân thực, chứa đựng cảm xúc. Công ty cho biết họ đã phát triển Voice Engine vào năm 2022 và đã sử dụng nó trong các giọng nói cài sẵn, nhưng đây là lần đầu tiên nó được thảo luận về việc sử dụng giọng nói thực tế của một người. OpenAI cũng thừa nhận trong một bài đăng trên blog vào thứ Sáu (29/3) những tác động rõ ràng và tiềm ẩn nguy cơ gây hại.
OpenAI viết trong một bài đăng trên blog: “Chúng tôi đang thực hiện một cách tiếp cận thận trọng và sáng suốt để phát hành rộng rãi hơn do có khả năng lạm dụng giọng nói tổng hợp”. “Chúng tôi hy vọng sẽ bắt đầu một cuộc đối thoại về việc triển khai tiếng nói tổng hợp một cách có trách nhiệm và cách xã hội có thể thích ứng với những khả năng mới này”.
OpenAI nói thêm rằng dựa trên diễn biến của các cuộc trò chuyện đó, nó sẽ quyết định cách thức – hoặc thậm chí liệu – nó có phát hành Voice Engine ra công chúng hay không.
Công ty viết: “Chúng tôi sẽ đưa ra quyết định sáng suốt hơn về việc có nên triển khai công nghệ này trên quy mô lớn hay không và như thế nào”.
Ý nghĩa của Voice Engine là rất lớn. Mặc dù nó có thể được sử dụng theo nhiều cách đáng chú ý khác nhau, như ghi nhanh bài thuyết trình hoặc giao tiếp hiệu quả hơn, nhưng không khó để ghi lại giọng nói của người khác và sử dụng nó cho mục đích bất chính. Thật vậy, nhiều kiểu lừa đảo như vậy đã tồn tại và chúng đang được sử dụng để lừa mọi người gửi tiền và chia sẻ thông tin với những kẻ lừa đảo.
OpenAI lập luận rằng việc nhận được phản hồi là rất quan trọng với rủi ro đó. Công ty cho biết họ đang hợp tác với các chính phủ, công ty truyền thông, công ty giải trí và tổ chức giáo dục trên khắp Hoa Kỳ và quốc tế để thảo luận về Voice Engine. Các bên đó hiện đang thử nghiệm Voice Engine và đã đồng ý không mạo danh người khác. Họ cũng phải tiết lộ cho bất kỳ ai nghe đoạn âm thanh đó rằng giọng nói đó do AI tạo ra. OpenAI cũng đã thêm hình mờ để người nghe biết giọng nói đó không xác thực.
“Chúng tôi tin rằng bất kỳ hoạt động triển khai rộng rãi nào về công nghệ giọng nói tổng hợp đều phải đi kèm với trải nghiệm xác thực giọng nói để xác minh rằng người nói ban đầu đang cố tình thêm giọng nói của họ vào dịch vụ và danh sách giọng nói cấm đi để phát hiện và ngăn chặn việc tạo ra những giọng nói quá giống nhau.” tương tự như những nhân vật nổi bật”, công ty cho biết.
Nhìn về phía trước, chưa biết điều gì sẽ đến với Voice Engine. Mặc dù có thể cuối cùng nó sẽ được công khai nhưng OpenAI cũng có thể xác định rằng nó không mang lại lợi ích tốt nhất cho công chúng. Dù bằng cách nào, công ty cho biết, rõ ràng là có thể phát triển và rõ ràng là ở đây. Công ty cho biết: “Điều quan trọng là mọi người trên khắp thế giới phải hiểu công nghệ này sẽ đi về đâu. Liệu cuối cùng chúng tôi có tự mình triển khai nó rộng rãi hay không”.
- Bước nhảy vọt về AI ‘siêu thông minh’ của OpenAI suýt khiến công ty sụp đổ – đây là lý do
- OpenAI đang trả tiền cho các nhà nghiên cứu để ngăn chặn AI siêu thông minh trở nên lừa đảo
- OpenAI đang xây dựng AI GPT-5 thế hệ tiếp theo – và CEO tuyên bố nó có thể siêu thông minh
