Ringkasan - Kompatibel dengan Manusia : Kecerdasan Buatan dan Masalah Kontrol: Stuart Russell

Dalam imajinasi populer, kecerdasan buatan manusia super adalah gelombang pasang yang mengancam tidak hanya pekerjaan dan hubungan manusia, tetapi juga peradaban itu sendiri. Konflik antara manusia dan mesin dianggap tak terelakkan dan hasilnya terlalu mudah ditebak.

Dalam buku inovatif ini, peneliti AI terkemuka Stuart Russell berpendapat bahwa skenario ini dapat dihindari, tetapi hanya jika kita memikirkan ulang AI dari awal. Russell memulai dengan mengeksplorasi gagasan kecerdasan pada manusia dan mesin. Ia menjelaskan manfaat jangka pendek yang dapat kita harapkan, dari asisten pribadi yang cerdas hingga penelitian ilmiah yang sangat dipercepat, dan menguraikan terobosan AI yang masih harus terjadi sebelum kita mencapai AI manusia super. Ia juga menguraikan cara-cara yang telah ditemukan manusia untuk menyalahgunakan AI, dari senjata otonom yang mematikan hingga sabotase virus.

Jika terobosan yang diprediksi terjadi dan AI manusia super muncul, kita akan menciptakan entitas yang jauh lebih kuat daripada diri kita sendiri. Bagaimana kita dapat memastikan mereka tidak akan pernah memiliki kekuasaan atas kita? Russell menyarankan agar kita membangun kembali AI di atas fondasi baru, yang menurutnya mesin dirancang agar secara inheren tidak yakin tentang preferensi manusia yang harus dipenuhinya. Mesin seperti itu akan rendah hati, altruistik, dan berkomitmen untuk mengejar tujuan kita, bukan tujuan mereka. Fondasi baru ini akan memungkinkan kita untuk menciptakan mesin yang terbukti hormat dan terbukti bermanfaat.