Alat Baru OpenAI Dapat Mendengarkan Suara Anda Selama 15 Detik dan Mengkloningnya

Ringkasan

OpenAI mengembangkan Voice Engine, sebuah alat AI kontroversial yang mampu mengkloning suara dari sampel berdurasi 15 detik, sehingga memicu diskusi mengenai penggunaan yang bertanggung jawab dan risiko keamanan.

ChatGPT

OpenAI telah mengerjakan alat baru yang disebut Voice Engine. Apa yang dilakukan alat ini sangat kontroversial dan menimbulkan beberapa risiko keamanan jika dibiarkan terbuka. Voice Engine, yang merupakan alat AI, dapat mendengarkan sampel suara hanya selama 15 detik, lalu mengkloningnya. Artinya, ia mampu menghasilkan suara yang sama hanya dengan mendengarkannya dalam durasi sesingkat itu. Inilah salah satu alasan utama mengapa OpenAI belum mempublikasikan fitur ini.

Dalam postingan blognya, OpenAI mengungkapkan bahwa baru-baru ini mereka melakukan pengujian kecil terhadap model yang disebut Voice Engine. Model ini dapat mengambil input teks dan sampel audio singkat berdurasi 15 detik dari suara seseorang, lalu menghasilkan ucapan yang terdengar sangat mirip dengan pembicara aslinya. Sungguh mengesankan bahwa meski hanya dengan sampel singkat, model ini dapat menghasilkan suara yang terdengar emosional dan realistis.

Voice Engine pertama kali dikembangkan pada akhir tahun 2022, dan sudah digunakan untuk mengaktifkan suara preset dalam aplikasi text-to-speech seperti ChatGPT Voice dan Read Aloud. Namun, OpenAI berhati-hati dalam merilisnya secara luas karena ada risiko orang menyalahgunakan suara sintetis. Mereka ingin memulai pembicaraan tentang penggunaan suara sintetis secara bertanggung jawab dan bagaimana masyarakat dapat menangani kemampuan baru ini. Mereka akan menggunakan masukan dari percakapan ini dan hasil pengujian mereka untuk memutuskan apakah dan bagaimana mereka harus membuat teknologi ini tersedia bagi lebih banyak orang di masa depan.

“Kami menyadari bahwa menghasilkan pidato yang menyerupai suara masyarakat memiliki risiko serius, yang terutama menjadi perhatian utama pada tahun pemilu. Kami bekerja sama dengan mitra AS dan internasional dari berbagai kalangan pemerintahan, media, hiburan, pendidikan, masyarakat sipil, dan lainnya untuk memastikan kami memasukkan masukan mereka saat kami membangun,” tulis blog tersebut.

Jadi, dengan cara apa saja Voice Engine dapat digunakan?

• Voice Engine dapat membantu orang yang tidak dapat membaca dengan baik, termasuk anak-anak, dengan memberikan suara yang terdengar alami untuk membacakan teks dengan lantang. Ini digunakan oleh perusahaan seperti Age of Learning untuk membuat konten pendidikan.
• Dapat menerjemahkan video dan podcast ke berbagai bahasa menggunakan suara pembicara asli, yang berguna untuk menjangkau khalayak global. Perusahaan seperti HeyGen sudah menggunakan fitur ini untuk platform visual storytelling mereka.
• Dalam situasi klinis, Mesin Suara sedang diujicobakan untuk membantu pasien mendapatkan kembali kemampuan bicaranya. Misalnya, dokter telah menggunakannya untuk memulihkan suara pasien yang hilang karena tumor otak, menurut blog OpenAI.

Terlepas dari manfaatnya, ada kekhawatiran akan penyalahgunaannya, terutama pada musim pemilu. OpenAI bekerja sama dengan berbagai mitra dan menerapkan langkah-langkah keamanan untuk mencegah penyalahgunaan. Mereka juga menyarankan tindakan pencegahan seperti menghapuskan autentikasi berbasis suara untuk informasi sensitif secara bertahap dan mengedukasi masyarakat tentang kemampuan dan keterbatasan AI.

OpenAI percaya bahwa penting bagi masyarakat untuk memahami potensi teknologi suara sintetis dan terbuka untuk berdiskusi dengan pembuat kebijakan, peneliti, dan pengembang untuk mengatasi tantangan dan peluangnya.