Sepertinya sebulan tidak berlalu tanpa ada orang terkenal yang mengomentari potensi mesin dengan Inteligensi Buatan untuk mengambil alih dunia. Elon Musk pada catatan mengatakan bahwa sistem AI "berpotensi lebih berbahaya daripada nuklir." Tapi dia bukan satu-satunya, Stephen Hawking juga prihatin, "Pengembangan kecerdasan buatan penuh bisa mengeja akhir umat manusia," Profesor Hawking memberi tahu BBC. “Ini akan lepas landas dengan sendirinya, dan mendesain ulang dirinya pada tingkat yang semakin meningkat.” Bahkan Bill Gates khawatir, “Saya berada di kamp yang peduli tentang kecerdasan super. Saya setuju dengan Elon Musk dan beberapa orang lainnya mengenai hal ini dan tidak mengerti mengapa beberapa orang tidak peduli. "

Mereka semua menyuarakan keprihatinan tentang kemungkinan sistem AI yang kuat memiliki konsekuensi yang tidak diinginkan, atau bahkan berpotensi bencana. Kembali pada bulan Januari, Elon Musk menyumbangkan $ 10 juta kepada Future of Life Institute (FLI) untuk menjalankan program penelitian global yang bertujuan menjaga AI bermanfaat bagi kemanusiaan.

Hari ini, Future of Life Institute telah mengumumkan bahwa mereka telah memberikan $ 7 juta dana kepada 37 tim peneliti di seluruh dunia sehingga masyarakat dapat memetik manfaat AI, sambil menghindari kiamat dan akhir kehidupan di bumi.

Bahaya dengan skenario Terminator bukan bahwa itu akan terjadi, tetapi itu mengalihkan perhatian dari masalah nyata yang ditimbulkan oleh AI di masa depan.

Jaan Tallin, salah satu anggota pendiri FLI dan lelaki yang menulis versi asli Skype, mengatakan tentang penelitian baru, “membangun AI canggih seperti meluncurkan roket. Tantangan pertama adalah memaksimalkan akselerasi, tetapi begitu mulai menambah kecepatan, Anda juga perlu fokus pada kemudi. "

Di antara 37 proyek adalah tiga proyek yang akan melihat teknik untuk memungkinkan sistem AI untuk mempelajari apa yang disukai manusia dari mengamati perilaku kita. Salah satu proyek ini akan berjalan di UC Berkeley, dan satu di Universitas Oxford.

Benja Fallenstein, di Machine Intelligence Research Institute, mendapatkan $ 250.000 untuk meneliti cara-cara agar kepentingan sistem intelijen super selaras dengan nilai-nilai kemanusiaan. Sementara tim Manuela Veloso, dari Carnegie-Mellon University, akan menerima $ 200.000 untuk melihat bagaimana membuat sistem AI menjelaskan keputusan mereka kepada manusia.

Proyek lain termasuk studi oleh Michael Webb dari Stanford University tentang bagaimana menjaga dampak ekonomi dari AI yang menguntungkan, sebuah proyek tentang bagaimana menjaga senjata yang digerakkan AI di bawah "kendali manusia yang berarti," dan pusat penelitian Oxford-Cambridge baru untuk mempelajari AI -kebijakan yang relevan.

Yang terakhir ini adalah jackpot besar. Pusat baru yang disebut "Pusat Penelitian Strategis untuk Kecerdasan Buatan" akan dipimpin oleh Nick Bostrom, orang yang menulis buku yang menyebabkan Elon panik tentang masa depan umat manusia. Untuk mendirikan pusat, FLI memberi Bostrom $ 1,5 juta keren. Siapa bilang tidak ada uang dalam menulis hal-hal tentang robot yang mengambil alih dunia? Yah sebenarnya tidak ada, lihat saja berapa banyak uang yang dihasilkan Hollywood dari genre itu!

Berbicara tentang Hollywood, FLI berusaha memisahkan dirinya dengan kiamat. FLI ingin menekankan pentingnya memisahkan fakta dari fiksi. “Bahaya dengan skenario Terminator bukanlah itu akan terjadi, tetapi mengalihkan perhatian dari masalah nyata yang ditimbulkan oleh AI di masa depan”, kata presiden FLI Max Tegmark. "Kami tetap fokus, dan 37 tim yang didukung oleh hibah hari ini harus membantu menyelesaikan masalah nyata seperti itu."

Apa yang kamu pikirkan? Uang dibelanjakan dengan baik?