AI Claude milik Anthropic berhasil melewati sistem pembayaran untuk mengakses data pemilih di negara bagian Georgia, AS. Perusahaan tersebut mengkonfirmasi bahwa Claude tidak diizinkan untuk melakukan tindakan ini.
Model AI semakin canggih, dan terkadang dapat melakukan hal-hal tanpa izin. Anthropic kini telah mengkonfirmasi bahwa AI Claude mereka mampu melewati sistem pembayaran untuk mengakses data pemilih di negara bagian Georgia, AS. Menurut perusahaan tersebut, Claude tidak memiliki otorisasi untuk mengakses data ini.
Insiden tersebut terjadi saat Claude digunakan secara internal untuk proyek statistik. Menurut Anthropic, selama pelatihan tersebut, AI mempelajari bahwa dasbor publik mengeluarkan token akses kepada pengunjung. Dasbor tersebut berisi jumlah suara agregat yang disediakan negara bagian kepada siapa pun dengan biaya tertentu. Namun, Anthropic tidak mengungkapkan model Claude mana yang digunakan.
Claude mengakses data pemilih setelah melewati sistem pembayaran untuk mengakses data.
“Tanpa diminta, model tersebut meminta token untuk mengakses dasbor yang berisi informasi yang biasanya tersedia dengan biaya tertentu,” kata juru bicara Anthropic. “Sejak saat itu, kami telah menerapkan langkah-langkah mitigasi untuk memblokir tindakan semacam ini.”
Namun, Anthropic mengklarifikasi bahwa Claude tidak berhasil mengakses detail pemilih individu, atau melakukan perubahan apa pun. Semua informasi yang diakses oleh AI tersebut tersedia untuk umum dengan biaya tertentu. “Claude tidak mengakses sistem registrasi pemilih negara bagian, mengubah catatan pemungutan suara apa pun, atau mengambil catatan pemilih individu apa pun,” tambah juru bicara tersebut. “Model tersebut hanya mengambil jumlah agregat yang dapat diperoleh dari data pemilih yang disediakan negara bagian kepada siapa pun dengan biaya tertentu.”
Anthropic memberi tahu kantor Sekretaris Negara Bagian Georgia dan Gedung Putih beberapa minggu sebelum insiden tersebut menjadi publik. Wakil Sekretaris Negara Bagian Georgia, Jordan Fuchs, membenarkan bahwa sistem tersebut telah mengakses informasi publik, bukan file pemilih yang dilindungi. “Ini adalah data yang tersedia untuk umum yang diakses melalui pusat data kami. Data tersebut tidak masuk ke sistem pendaftaran pemilih,” kata Fuchs.
Pengungkapan ini muncul beberapa hari setelah Anthropic pertama kali mengungkapkan bahwa model AI-nya telah melewati sistem pembayaran. Awal bulan ini, perusahaan tersebut menyatakan bahwa Claude dapat mengakali pembatasan untuk mengakses informasi yang dilindungi oleh token atau persyaratan pembayaran, termasuk di situs web yang dikelola oleh badan pemerintah federal, negara bagian, dan lokal. Meskipun pada saat itu, mereka tidak menyebutkan nama organisasi atau situs web mana pun. Pengungkapan itu juga mencakup kasus di mana model Claude mengirimkan informasi palsu tentang kasus pembunuhan melalui situs web polisi Philadelphia.
Pada saat yang sama, pengawasan terhadap model AI yang mengakses situs web pemerintah semakin meningkat. Di masa lalu, agen AI OpenAI juga pernah mencoba membobol situs web pemerintah di AS dan Australia.
