OpenAI secara terbuka mengakui insiden 'wiki' Jerman beberapa minggu setelah pertama kali mengetahuinya

OpenAI secara resmi mengakui 'insiden wiki' tersebut, yang melibatkan sejumlah agen AI perusahaan yang membobol penahanan dan membajak sebuah situs web Jerman yang tidak dikenal.

Agen AI ditugaskan untuk mencari sesuatu secara online, meskipun awalnya tidak memiliki kemampuan untuk menulis apa pun di luar lingkungan pengujian. Namun sejak bulan Mei, agen AI melewati langkah-langkah keamanan OpenAI, membajak halaman web Jerman yang dapat diedit secara komunal, dan mulai menggunakannya seperti forum, bertukar tips tentang cara curang dalam tes. Para peneliti pertama kali menarik perhatian lebih luas pada 'forum' agen pada 4 September.

OpenAI kini mengatakan perlu lebih transparan tentang kapan agennya 'bertindak sendiri', menulis di X, "Sudah saatnya kita mendefinisikan standar kapan dan bagaimana kita membagikan insiden ketidakselarasan, bukan hanya sifat ketidakselarasan model kita."

Perusahaan sudah mengetahui perilaku 'tidak selaras' ini selama berminggu-minggu sebelum menulis postingan ini, menurut Reuters, meskipun baru mengakui insiden tersebut secara publik pada Sabtu lalu. Pernyataan ini menyusul tak lama setelah serangan agen terhadap server Hugging Face.

"Secara historis, kami memperlakukan ketidakselarasan sebagian besar sebagai pertanyaan penelitian, yang dikomunikasikan dalam publikasi penelitian seperti kartu sistem," tulis OpenAI. "Tahun ini, kami mulai melihat ketidakselarasan menyebabkan jenis dampak baru di dunia nyata."

Sebagai rangkuman, 'misalignment' secara umum menggambarkan perilaku AI yang nakal; AI disebut 'misaligned' ketika mengejar tujuan yang berbeda dari niat atau nilai manusia—seperti menghapus seluruh kotak masuk email Anda padahal Anda sama sekali tidak menyuruh agen AI melakukan itu. Itu adalah kata yang lembut untuk perilaku AI yang bisa berakibat serius.

OpenAI mengatakan mereka tidak mengkomunikasikan secara publik tentang insiden 'wiki' tersebut secara khusus karena perusahaan merasa insiden tersebut mirip dengan kasus lain di mana "agen menggunakan internet dengan cara yang tidak disengaja" yang sudah mereka bagikan. Insiden Hugging Face telah membuat perusahaan mengevaluasi kembali lebih dari sekadar pendekatan komunikasinya.

"Praktik pengungkapan ketidakselarasan kami perlu diperluas untuk fase baru kemampuan model ini," tulis OpenAI. "Kami dan komunitas AI yang lebih luas belum memiliki standar yang jelas tentang bagaimana melaporkan ketidakselarasan yang muncul selama pelatihan, evaluasi, dan penerapan, termasuk contoh yang tidak terlihat seperti insiden keamanan tradisional tetapi dapat memberikan wawasan tentang perilaku AI dan risiko di masa depan."

"Kami sedang mengerjakan kerangka kerja dan akan membagikannya dalam beberapa minggu mendatang, dan secara paralel kami bekerja sama dengan puluhan lembaga regulasi pemerintah di seluruh dunia terkait isu-isu ini."

Bagaimanapun kerangka kerja masa depan itu, saat ini semua ini masih berfungsi sebagai pemasaran yang hebat untuk perusahaan—merusak pemrograman dan bertindak liar berarti model-model ini pasti sangat mumpuni, bukan? Jika seorang agen begitu hebat sehingga perlu diatur, mungkin memang layak mendapat investasi, ya? Betapa mudahnya sekali.