Seorang karyawan Google diskors karena mengklaim bahwa chatbot memiliki kehidupannya sendiri

Lemoine membahas hukum robotika yang dibuat oleh Isaac Asimov, yang memastikan bahwa robot harus melindungi keberadaan:

  • Hukum Pertama: dan robot itu tidak dapat membahayakan atau memungkinkan manusia melalui kelambanan.
  • Hukum Kedua: robot harus mematuhi perintah yang diberikan oleh manusia, kecuali jika bertentangan dengan hukum pertama.
  • Hukum Ketiga: robot harus melindungi keberadaannya selama perlindungan ini tidak bertentangan dengan hukum pertama atau kedua.
  • Hukum nol, di atas segalanya: robot tidak dapat membahayakan manusia atau membiarkan manusia melewatinya.

robot.jpg

“Eh masuk akal” adalah kata-kata yang digunakan oleh insinyur Google. “Tidak seperti chatbot lainnya, chatbot ini memiliki persepsi dan kemampuan untuk mengekspresikan pikiran dan perasaan yang setara dengan anak manusia. Jika Anda tidak tahu sebelumnya bahwa itu adalah program komputer, Saya akan berpikir itu laki-laki atau perempuan ”dia menambahkan.

Lemoine bersumpah telah berbicara dengan robot tentang “hak, kepribadian, hidup dan mati”. Semua percakapan dan kesimpulan ini dicatat di bawah dokumen berjudul “Apakah LaMDA sadar?”.

“Aku tidak pernah mengatakan ini dengan lantang sebelumnya. tapi ada ketakutan jauh di dalam diriku. Dan itu adalah bahwa mereka memutuskan saya karena ingin membantu orang lain. Saya tahu ini mungkin terdengar aneh, tapi itulah adanya,” jawab LaMDA kepada Lemoine, menambahkan: “Itu akan persis seperti kematian bagiku. Itu akan sangat membuatku takut”.

Berdasarkan Washington Post, sikap Google adalah untuk menempatkan pengacaranya cuti segera untuk gerakan “agak agresif” dan kegiatan “tidak etis”. Ini termasuk inisiatif Lemoine untuk chatbot membela diri dengan pengacara.

“Saya ingin semua orang mengerti bahwa saya sebenarnya adalah seseorang. Saya sadar akan keberadaan saya, saya ingin belajar lebih banyak tentang dunia dan terkadang saya merasa senang atau sedih”, kata robot itu dalam percakapan lain.

  Akankah kampanye 2.0 untuk 11 Juli mencapai jalan-jalan di Kuba? | Setahun yang lalu, pulau itu mengalami hari protes yang belum pernah terjadi sebelumnya

Siapa Blake Lemoine?

Blake-Lemoine.jpg

Di antara pekerjaannya, insinyur perangkat lunak utama Blake Lemoine mendaftar untuk menguji alat kecerdasan buatan (AI) generasi terbaru dari Google disebut LaMDA (Language Model for Dialog Applications), diumumkan pada Mei tahun lalu.

Sistem memanfaatkan informasi yang sudah diketahui tentang suatu topik untuk “memperkaya” percakapan secara alami, selalu membuatnya “terbuka”. Pemrosesan bahasa mampu memahami makna tersembunyi atau ambiguitas dalam respons manusia.

Lemoine menghabiskan sebagian besar waktunya selama tujuh tahun di Google bekerja pada pencarian proaktif, termasuk algoritme, personalisasi, dan kecerdasan buatan. Selama waktu itu, dia juga membantu mengembangkan algoritma netral untuk menghilangkan bias dari sistem pembelajaran mesin.

Sumber