AI DeepMind milik Google Menjadi Agresif Apabila Terdesak

Be Sociable, Share!

Dalam uji coba AI DeepMind milik Google pada 2017 lalu, para peneliti menemukan beberapa hal yang menunjukkan bahwa pengembangan kecerdasan buatan ini harus dilakukan dengan sangat hati – hati. Bila pengembangan AI ini dilakukan secara sembarangan, maka tidak menutup kemungkinan bahwa skenario seperti di film ‘The Terminator’ maupun film ‘2001 : A Space Odyssey’ dimana kecerdasan buatan dalam kedua film tersebut berusaha menyelamatkan diri dengan membunuh manusia akan terjadi.

Pada uji coba tersebut, para peneliti ingin menguji kemampuan kolaborasi dari AI DeepMind. Mereka membuat dua agen AI bersaing dalam sebuah permainan komputer dimana para pemainnya diharuskan untuk mengumpulkan buah sebanyak – banyaknya untuk memenangkan permainan. Para peneliti melakukan pengujian dengan mengulang permainan ini sebanyak 40 juta kali.

Saat diamati, para peneliti menemukan bahwa semuanya berjalan lancar apabila jumlah buah yang bisa dikumpulkan masih banyak. Namun saat jumlah buah sudah menipis, kedua agen AI DeepMind ini berubah menjadi sangat agresif. Mereka menyerang dengan laser untuk menjatuhkan lawannya dan mencuri buah yang tersisa. Padahal, apabila kedua agen tidak menyerang satu sama lain dengan laser, mereka bisa berakhir seri dengan jumlah buah yang sama.

Keagresifan ini baru ditemukan setelah para peneliti mengganti AI DeepMind yang lebih sederhana dengan yang AI DeepMind yang lebih kompleks. Menurut penelitian sebelumnya yang dilakukan oleh para peneliti Google, kolaborasi lebih berhasil saat agen AI DeepMind yang digunakan memiliki jaringan yang lebih kecil.

Menurut salah satu anggota tim Google, Joel Z Leibo, agresivitas ini adalah akibat dari kemampuan DeepMind untuk belajar dari lingkungannya. Semakin cerdas sebuah AI, semakin cepat juga dia belajar untuk menggunakan taktik – taktik yang agresif.

Namun, kecerdasan AI ini tidak selalu memiliki dampak negatif. Pada permainan kedua, dua kedua agen AI DeepMind menjadi serigala dan satu agen menjadi mangsa. Agar serigala dapat memenangkan permainan, kedua serigala tersebut harus bekerjasama untuk menangkap mangsa dan melindungi tangkapan dari hewan pemakan bangkai lainnya. Saat diuji coba, agen DeepMind yang menjadi serigala dengan cepat mempelajari bahwa kolaborasi merupakan kunci kesuksesan dalam memenangkan permainan tersebut.

Temuan – temuan ini memang merupakan hasil dari pengujian pada permainan komputer. Namun dari pengujian tersebut, dapat diketahui bahwa walaupun AI dibuat oleh manusia, AI tidak selalu mengutamakan kepentingan kita. Oleh karena itu, dalam pengembangan AI, kita perlu membangun perilaku yang ramah manusia pada AI dan mengantisipasi masalah yang mungkin muncul ke depannya.

Be Sociable, Share!
error: Content is protected !!