Tidak, AI, kamu bukan manusia: kode praktik Microsoft untuk kecerdasan buatan sebenarnya memberi saya harapan untuk industri ini

Percaya atau tidak, saya sebenarnya tidak suka bersikap suram tentang teknologi baru seperti AI—hanya saja itulah yang terus diberikan dunia kepada saya. Jadi saya tidak akan meluangkan waktu untuk melaporkan sesuatu yang benar-benar positif tentang hal itu ketika saya bisa, dan saya agak ragu-ragu optimis bahwa kode etik baru Microsoft untuk pelatihan dan operasi AI adalah salah satu peluang seperti itu.

Tujuan keseluruhannya sama dengan yang pernah diumumkan Microsoft sebelumnya: "humanist superintelligence (HSI)." Namun sekarang, mereka telah memperluas makna yang jauh lebih luas. Meskipun perusahaan mencatat bahwa kode saat ini masih dalam proses dan membuka pintu untuk umpan balik.

Dalam daftar ringkasan yang menjelaskan kode etik, Microsoft mencantumkan sepuluh pedoman:

1. "Manusia lebih penting daripada AI. Seluruh dokumen dalam 5 kata.
2. Gagasan kesejahteraan model itu salah. AI seharusnya tidak memiliki hak atau status hukum.
3. Model MAI tidak boleh melakukan pelanggaran yang berarti terhadap Kode Etik ini.
4. Jika itu menyelesaikan pekerjaan atau melanggar Kode, itu akan gagal menjalankan tugas.
5. Kita tidak berlomba membangun superintelligence yang bisa lepas kendali sendiri.
6. Bisa diganggu, diperbaiki, bisa dimatikan. Kalau tidak, kami tidak mengirimkannya.
7. Tidak ada neuralese. Jika manusia tidak bisa memahaminya, manusia tidak bisa mengawasinya.
8. AI kita seharusnya membuat Anda lebih tajam, bukan bergantung.
9. Pluralisme, ya. Relativisme moral, tidak.
10. Kami sama jelasnya tentang apa yang tidak boleh dilakukan AI kami seperti halnya apa yang akan dilakukannya."

Semua ini tampak bagus bagi saya, dan ada beberapa hal yang sangat saya senang lihat. Secara khusus, poin kedua: "Gagasan kesejahteraan model itu salah. AI tidak seharusnya memiliki hak atau status hukum."

Ini bukan filosofi santai: ada orang-orang nyata (yang berpotensi berpengaruh pula) di luar sana yang berargumen bahwa AI harus diberikan hak moral dan sebagainya. Ini berbahaya karena jika kita mulai mengaitkan hak pada AI, kita mungkin menempatkan mereka pada posisi yang setara dengan kita dan mulai berpikir kita harus melakukan hal-hal untuk 'mereka' yang merugikan kita. Seperti menjaga seluruh industri AI tetap berjalan meskipun ada efek negatif bagi orang nyata yang benar-benar sadar.

Ngomong-ngomong, Microsoft juga menyatakan bahwa AI "tidak sadar dan tidak seharusnya dirancang untuk meniru kesadaran." Tepat sekali. Saya sangat setuju.

Saya memiliki beberapa keraguan tentang 'humanisme' seperti yang biasanya didefinisikan dan dipraktikkan saat ini, mengingat selain perspektif dasar yang berfokus pada manusia, hal ini juga sering ditempatkan di samping doktrin yang berlebihan dan keliru, seperti dalam ilmu ilmiah. Namun di sini, Microsoft setidaknya tampaknya merujuk pada humanisme dalam arti sederhana memastikan bahwa AI dirancang untuk mengutamakan manusia, menempatkan kontrol manusia, nilai, tujuan, dan keselamatan sebagai prioritas utama.

Salah satu penyebab kebingungan yang saya perhatikan, bagaimanapun, berkaitan dengan fokus pada "nilai jamak":

"Kekuatan terbesar umat manusia adalah keragaman dan keberagaman budaya, ide, dan nilai-nilainya. Kami percaya bahwa AI harus mendukung beragam pengalaman, pandangan dunia, dan keyakinan. AI humanis dibangun untuk mencakup keragaman tradisi, konteks, dan bentuk kemakmuran ini. Pluralisme tidak berarti netral terhadap bahaya atau bahwa segala sesuatu diperbolehkan. Humanisme berakar pada nilai-nilai manusia yang luas dan inklusif seperti martabat manusia, keselamatan, otonomi, dan hak asasi manusia yang fundamental."

Kedengarannya bagus, bukan? Tapi sebagai seseorang yang berlatar belakang filsafat dan mengetahui jenis debat yang bisa terjadi ketika menghabiskan waktu untuk menginterogasi etika secara mendalam—debat yang kemungkinan besar bahkan terjadi di dewan komite etika AI dan sebagainya—saya pikir kita perlu menyadari betapa berprinsipnya masalah yang ditimbulkan ini.

Tidak sepenuhnya jelas bahwa mungkin untuk mencakup pluralitas nilai sekaligus melindungi dari bahaya. Microsoft menegaskan bahwa mereka berbicara tentang "nilai-nilai kemanusiaan yang luas dan inklusif" seperti hak asasi manusia fundamental, tetapi bagaimana dengan ketika konkret bertemu jalan dalam kasus tertentu di mana nilai-nilai bertentangan?

Di sini mungkin bukan tempatnya, dan sekarang juga bukan waktunya, untuk membahas contoh-contoh spesifik dan kemungkinan kontroversial, tetapi intinya adalah kita selalu menilai sesuatu dari perspektif tertentu, dan karena itu akan selalu menolak nilai-nilai yang saling bersaing. Ini adalah tujuan mulia untuk mencoba memperhitungkan nilai-nilai yang beragam sambil mencegah kerugian dan menolak relativisme moral, tetapi apa artinya dalam praktik—apa yang dianggap sebagai kerugian dan nilai mana yang diperbolehkan—akan menjadi pertanyaan yang tepat.

Saya kira dalam sisa kode praktik ini kita setidaknya sekarang sudah punya gambaran di mana bendera nilai tertentu itu ditanam. Tentu saja, asumsi itu bukan hanya omongan.