Sementara keduanya membutuhkan kemajuan besar dalam desain proses pengoptimalan rekursif, AI yang ramah juga membutuhkan kemampuan untuk membuat struktur tujuan tidak berubah di bawah perbaikan diri (atau AI dapat mengubah dirinya menjadi sesuatu yang tidak ramah) dan struktur tujuan yang selaras dengan nilai-nilai kemanusiaan dan tidak secara otomatis menghancurkan
Selain itu, apakah kecerdasan buatan akan menyebabkan kepunahan manusia?
Jika AI superintelligent memungkinkan, dan jika mungkin tujuan superintelligence bertentangan dengan nilai-nilai dasar manusia , maka AI menimbulkan risiko kepunahan manusia .
Demikian juga, dapatkah AI menjadi sadar diri? Salah satu perangkap untuk mesin menjadi sadar diri adalah bahwa kesadaran pada manusia tidak cukup terdefinisi dengan baik, yang akan mempersulit jika bukan tidak mungkin bagi programmer untuk mereplikasi keadaan seperti itu dalam algoritma untuk AI , para peneliti melaporkan dalam sebuah penelitian yang diterbitkan pada bulan Oktober. 2017 di jurnal Science.
Selain itu, apakah AI akan menghilangkan pekerjaan?
Kecerdasan buatan dapat menggantikan tugas yang berulang, tetapi tidak memiliki empati untuk memimpin. Ya, katanya, AI akan menggantikan pekerjaan “berulang” –tugas-tugas yang dapat diotomatisasi seperti yang dilakukan robot di pabrik.
Bagaimana AI akan membantu kita di masa depan?
Setelah konsumen menjadi pelanggan, AI dapat membantu interaksi layanan di masa mendatang dengan deteksi emosi dan respons yang muncul terhadap suasana hati pelanggan (kontrol kerusakan dalam beberapa situasi, peningkatan penjualan dalam kasus lain). Sebagian besar dari kita semua berusaha menjadi orang yang lebih baik dan bahkan warga negara yang lebih baik.