Ini Hatsune Miku.
Dia adalah hologram.
Dan ini Akihiko
Kondo, "suaminya".
-Halo.
-Halo.
Kamu terlihat manis hari ini.
Saya suka pujian!
Miku adalah contoh sederhana
intelegensi artifisial atau AI -
dan bagi Kondo, ini adalah
cinta pada pandangan pertama.
Miku telah menjadi bintang pop,
dan bahkan muncul
di konser sebagai
proyeksi tiga dimensi atau 3D.
November lalu, Kondo
"menikahi"
Miku dalam upacara
perkawinan di Tokyo.
Dia memasang "cincin" di
pergelangan tangan boneka Miku.
Dia sekarang menyimpan
boneka itu di kamarnya.
Hubungan Kondo dengan perempuan
sungguhan sangat menyakitkan -
jadi kini dia memilih
pasangan virtual.
Aku mencintainya.
Tapi sulit untuk mengatakan
apakah dia mencintaiku.
Tetap saja, jika kamu tanya dia,
aku pikir dia akan berkata: Ya.
Hatsune Miku dan Akihiko Kondo:
adalah contoh ekstrem
dari hubungan
antara manusia dan mesin robot.
Terima kasih.
Di masa depan, kita
akan menghabiskan lebih
banyak waktu berinteraksi
dengan teknologi yang
menggunakan kecerdasan
buatan, atau AI.
Kita bahkan dapat mengembangkan
robot yang lebih
pintar dari kita.
Sekarang, di abad ke-21,
kita harus memutuskan
bagaimana menghadapi situasi
baru yang rumit ini.
SURGA ATAU ROBOKALIPS
Kutukan dan Berkah
Kecerdasan Buatan
Untuk reportase ini,
kami mewawancarai
para filsuf dan ilmuwan
di seluruh dunia.
Kami berbicara dengan
filsuf Jerman.
Thomas Metzinger,
yang menganjurkan
penggunaan pedoman etika
untuk pengembangan
AI di Uni Eropa.
Juga dengan fisikawan
Max Tegmark,
yang memperingatkan
tentang pengembangan
AI yang sangat signifikan
dan situasi dalam
pengawasan totaliter.
Dan ilmuwan komputer
Jerman, Jürgen Schmidhuber
yang memprediksi bahwa AI akan
menyebar dari Bumi ke kosmos.
Kami bertemu profesor
Schmidhuber
di sebuah konferensi
bisnis di Zürich.
Dia sering bicara di
acara-acara seperti itu,
di mana dia menguraikan visinya
tentang peran yang mungkin
dimainkan oleh kecerdasan
buatan di masa depan kita.
Perlahan maju. Ya dan
kemudian juga begitu. Tepat!
.. Profesor Jürgen Schmidhuber!
Presentasinya luas dan
menggugah pikiran,
Dalam waktu dekat, mungkin
beberapa dekade dari sekarang,
kita untuk pertama
kalinya akan memiliki AI
yang dapat melakukan
lebih banyak hal
daripada yang dilakukan
manusia kini.
Dan kita menyadari
bahwa mayoritas
sumber daya fisik tidak terbatas
pada biosfer kita
yang agak kecil.
Di tata surya kita,
ada banyak bahan yang
dapat digunakan untuk
membangun robot.
Kita dapat mengembangkan robot,
pemancar, dan penerima
yang akan memungkinkan
AI untuk dikirim
dan diterima dengan
kecepatan cahaya.
Kita sudah dapat melakukan
ini di laboratorium kami.
Ini akan menjadi
perkembangan besar -
mungkin yang paling penting
sejak awal kehidupan
di Bumi tiga setengah
miliar tahun yang lalu.
Tetapi apakah prediksi
profesor itu akurat?
Akankah manusia pada suatu saat
dikalahkan oleh
mesin super-cerdas?
Mungkin proses ini
sudah dimulai ...
Untuk mengetahui lebih lanjut,
kami pergi ke Jepang.
Dokter dan ilmuwan
di rumah sakit
penelitian Universitas Tokyo
sedang menjajaki
potensi penggunaan AI
dalam dunia kedokteran.
Ayako Yamashita,
berusia 69 tahun,
hampir meninggal dunia karena
leukemia, dua tahun lalu.
Tidak ada pilihan terapi yang
direkomendasikan oleh dokter
yang menyembuhkannya.
Kemudian, mereka
menggunakan teknologi AI
untuk membuat diagnosis baru.
AI benar-benar
menyelamatkan hidupnya.
Diagnosisnya memakan
waktu sepuluh menit.
Dokter sungguhan akan
membutuhkan dua minggu
minggu untuk menghasilkan
analisis serupa.
AI dapat memproses sejumlah
besar data ilmiah -
setumpuk dokumen yang lebih
tinggi dari Gunung Fuji.
Ini adalah komputer super
untuk rumah sakit penelitian.
Kami datang ke sini untuk
berbicara dengan Satoru Miyano,
seorang ahli bio-informatika.
Kami bertanya pada
Miyano apakah AI
suatu hari bisa
menggantikan peran dokter.
Tidak, saya rasa tidak.
Teknologi baru ini
mendukung kerja
staf klinis bagian onkologi
di rumah sakit,
dan departemen kami,
Kecerdasan buatan
seperti eksoskeleton.
Contohnya, jika Anda tidak dapat
mengangkat sesuatu sendirian,
Anda tentu membutuhkan
perangkat khusus
'powered suit' untuk
membantu Anda.
Konsep yang sama
dapat diterapkan
oleh ahli onkologi kami.
Mereka dapat menggunakan
'powered suit' AI
yang didukung oleh
komputer super kami.
Tak jauh dari situ,
di institut Ri-ken,
para peneliti sedang mengembangkan
program diagnostik AI
yang dapat digunakan untuk
menguji kanker perut.
Tetapi seorang
ahli di sini tidak
setuju dengan pendapat
Satoru Miyano
bahwa AI tidak akan pernah
menggantikan peran dokter.
Jika merasa tak lagi berguna
dibanding kecerdasan buatan,
maka tidak akan bagus
bagi kami, para dokter.
Tetapi bagi umat manusia
tentu sangat bagus jika
dokter tidak lagi diperlukan,
jika teknologi AI dapat
meningkatkan kinerja
atau mengambil alih
pekerjaan kami.
Sulit membayangkan dunia
yang tidak memiliki dokter.
Apakah pasien benar-benar
ingin dirawat oleh mesin yang
melihatnya sebagai tidak lebih
dari akumulasi data teknis?
Di Eropa, sejumlah ahli
kecerdasan buatan,
termasuk Jürgen Schmidhuber,
sedang melakukan
penelitian tentang
penggunaan AI dalam
diagnosa medis.
Presiden Swiss, Alain Berset
telah mengundang
para ilmuwan dan
pengusaha ke sebuah konferensi
yang bertujuan untuk
merencanakan masa depan digital,
dan mempromosikan penggunaan
kecerdasan buatan
dalam kedokteran.
Satu topik untuk diskusi
adalah teknologi AI
yang dapat menggunakan
jaringan saraf
untuk "belajar",
seperti otak manusia.
Segera, semua diagnosa medis
akan jauh lebih
baik daripada yang
dapat diberikan
manusia saat ini -
karena kita akan
mengembangkan AI yang
menggunakan teknologi
jaringan saraf.
Dan menarik melihat bagaimana
perkembangan baru ini akan dapat
membantu orang untuk hidup lebih
lama dan lebih sehat.
Kami pergi ke Stuttgart
untuk melihat bagaimana
kecerdasan buatan bekerja
dalam praktiknya -
di rumah sakit dan panti jompo.
Ilmuwan komputer, Birgit Graf
mengatakan bahwa
Jepang telah membuat
banyak kemajuan dalam
mengembangkan robot
yang dapat merawat pasien,
tetapi ada beberapa hal yang
tidak bisa dilakukan oleh mesin.
Mereka tidak dapat
memberikan perawatan nyata,
jadi saya tidak
menggunakan kata itu
ketika saya berbicara
tentang robot.
Perawat harus dapat
berinteraksi secara emosional
dengan pasien, dan robot
tidak bisa melakukan itu.
Di fasilitas ini, robot membantu
mengurangi beban
kerja staf manusia.
Hai. Saya Care-o-Bot 3.
Minggu ini, saya membantu
pekerjaan para perawat.
Apakah Anda ingin minum sesuatu?
Terima kasih. Kamu baik sekali.
Salam - dan selamat tinggal.
Tentu saja, robot dapat
melakukan lebih dari
sekadar menyajikan
minuman di panti jompo.
Filsuf Thomas Metzinger telah
mengusulkan solusi pragmatis
untuk menangani
teknologi baru ini.
Sebagai contoh, opsi
untuk menggunakan AI
dan robotika dalam
perawatan geriatri
harus menjaga martabat pasien.
Anda bisa tanya pada orang
apakah mereka merasa
nyaman memiliki
mesin mengganti popok mereka,
daripada dilakukan
anggota keluarga.
Atau apa mereka
akan senang jika ada mesin
yang membacakan
koran untuk mereka,
atau bertanya tentang
pengobatan mereka.
Saya percaya bahwa
kita sekarang berada
di awal proses
pembelajaran utama.
Metzinger mengatakan bahwa
umat manusia sekarang berada
di ambang era baru yang
dipenuhi dengan ketidakpastian.
Ia tinggal di Frankfurt
- kota yang bertujuan
untuk memimpin dalam
pengembangan AI di Eropa.
Ada rencana untuk
mendirikan pusat
penelitian kecerdasan
buatan di sana.
Banyak orang berlomba
masuk ke teknologi baru ini.
Mereka tidak ingin
'ketinggalan kereta
sebelum meninggalkan
stasiun', untuk bicara.
Tapi tiada yang tahu
kapan itu akan terjadi,
atau ke mana kereta menuju.
Tapi semua ingin
berada di sektor itu.
Metzinger bertugas
di komisi parlemen Eropa
yang terdiri atas para pakar AI
dan saat ini, ia dalam
perjalanan ke Brussels
untuk rapat komisi.
Parlemen Eropa ingin
Eropa bersaing secara
efektif dalam mengembangkan
teknologi ini,
tetapi juga ingin mendorong
pedoman etika yang jelas.
Metzinger sangat prihatin
dengan prospek perlombaan
senjata baru yang menggunakan
senjata berbasis AI.
Ini adalah contoh hipotetis.
Katakanlah tim ahli
teknologi Cina mendatangi
para pemimpin negara
dan mengatakan:
Kami sekarang memenangkan
perlombaan senjata
AI melawan AS -
dan kami akan memiliki
peluang serangan pertama
yang sangat baik untuk
enam bulan ke depan.
Lalu, jendela peluang
akan ditutup.
Saya bisa bayangkan,
misalnya,
bahwa hal ini mungkin
melibatkan sistem pengiriman
yang akan dipersenjatai
dengan agen perang biologis.
Mekanisme ini kemudian dapat
menyerang wilayah lawan
dan menyebarkan patogen
misalnya virus Ebola
atau bakteri Anthrax.
Jadi suatu hari
nanti kita mungkin
melihat pengembangan
senjata pemusnah massal
yang berkemampuan cerdas
yang dapat menembus
sistem pertahanan tradisional.
Jika itu terjadi, maka pasti akan
meningkatkan peluang konflik.
Tapi pada pertemuan komisi,
Metzinger mengalami kesulitan
untuk memastikan bahwa
masalah sistem senjata AI
dibahas dalam panel kode etik.
Banyak eksekutif
bisnis dan akademisi
tidak mau berurusan dengan itu.
Beberapa kalangan khawatir
dengan proposal Metzinger,
dan lebih suka
menyerahkannya kepada
para ahli untuk
evaluasi lebih lanjut.
Bagaimana dengan senjata otonom?
Kita harus
membicarakan soal ini.
Jika bisa, tentu saja saya
bisa bilang bahwa senjata
otonom menciptakan masalah
etika yang sangat besar.
Tapi saya tidak akan
memasukkannya dalam pedoman AI.
Saya ingin ... nanti
dulu, apakah itu semacam
konsensus di perundingan?
Tidak.
Apa kita ingin membahas ke
poin berikutnya? Ya, baiklah.
Kita jelas memiliki
perselisihan berat tentang
seluruh sistem senjata
otonom di sini,
dan kami tidak dapat
menyelesaikan masalah
seperti ini, dengan
proses pemungutan suara.
Maksud saya, kita ingin
pedoman etik ini berhasil
ketika diterbitkan pada
tanggal 22 Januari.
Seluruh dunia telah berbicara
tentang masalah ini.
24.000 ilmuwan telah
menandatangani
janji publik bahwa mereka
tidak akan berpartisipasi
dalam penelitian semacam itu.
Jika Uni Eropa
mengeluarkan pedoman etika
yang hanya mengabaikan
masalah ini
dan mengabaikan begitu saja,
maka semua orang baik di dalam
dan di luar Uni Eropa akan tahu
bahwa hal ini mungkin hanya hal
lobi industri atau sesuatu.
Pada akhirnya, Metzinger menang.
Sistem senjata otonom
akan dimasukkan
dalam panel pedoman etika.
Para ahli di bagian lain
dunia juga khawatir atas
potensi untuk mengembangkan
senjata pemusnah massal AI.
Kami datang ke Boston,
Massachusetts,
untuk berbicara dengan
fisikawan Swedia-Amerika,
penulis, dan pakar
AI, Max Tegmark.
Dia mengatakan bahwa
fisika telah memberikan
kontribusi besar bagi
perkembangan manusia,
tetapi juga membantu
menciptakan bom atom.
Dan sekarang, kita harus
berurusan dengan senjata AI.
Kita harus menstigmatisasi dan
melarang beberapa kelas tertentu
senjata yang benar-benar
menjijikkan yang sempurna bagi
teroris untuk membunuh orang
secara anonim, atau kediktatoran
untuk secara anonim
membunuh warga mereka.
Karena senjata ini akan
menjadi sangat murah.
Dan jika ada yang membuatnya,
menghasilkan senjata
massal, senjata ini
akan sulit ditanggulangi
di masa depan
seperti halnya senjata
pada umumnya.
Misalnya, drone murah
yang mungkin bisa
Anda beli seharga
beberapa ratus euro,
bisa memiprogram alamat
seseorang dan wajah mereka.
Lalu drone itu terbang,
mengidentifikasi dengan
pengenalan wajah, membunuh
dan merusak diri sendiri.
Alat ini pas bagi siapa saja
yang ingin membunuh politisi,
atau melakukan pembersihan etnis
pada kelompok etnis tertentu.
Jika teknologi semacam ini,
'bot pembantaian' ini,
menyebar luas,
maka akan memiliki
dampak yang sangat buruk
pada masyarakat terbuka
yang kita miliki.
Tidak ada yang akan merasa
bahwa mereka memiliki
keberanian untuk menantang
atau mengkritik siapa pun.
Ilmu pengetahuan dapat
digunakan dengan cara
baru membantu orang atau
untuk melukai orang.
Ahli biologi berhasil membuat
senjata biologi dilarang,
itulah sebabnya kami
berpikir tentang biologi
sekarang sebagai sumber
'penyembuhan' baru ini.
Fisikawan, di sisi lain ...
kita agak gagal -
karena senjata nuklir
masih ada di sini,
dan tidak akan hilang.
Peneliti AI ingin menjadi
lebih seperti ahli biologi,
dan membuat AI dikenang
sebagai sesuatu
yang benar-benar membuat
dunia lebih baik.
Kami datang ke Lugano, Swiss,
untuk mewawancarai
Jürgen Schmidhuber
tentang pekerjaannya
dengan kecerdasan buatan.
Schmidhuber adalah co-direktur
Institut Dalle Molle
untuk penelitian
kecerdasan buatan.
Karyanya berfokus
pada jaringan saraf,
yang meniru fungsi otak manusia.
Jaringan ini mampu "belajar",
dan beradaptasi dengan
dunia di sekitarnya
seperti yang dilakukan
anak-anak manusia.
Schmidhuber menunjukkan bahwa
saat ini, otak manusia memiliki
satu juta lebih
banyak koneksi neuron
daripada sistem AI terbaik.
Tetapi komputer menjadi
jauh lebih cepat -
dan bisa menjadi lebih
pintar daripada
manusia dalam 20 atau 30 tahun.
Schmidhuber mengatakan
bahwa ketika itu terjadi,
satu-satunya hal
yang akan membedakan
orang dari mesin adalah
daging dan darah.
Tetapi bagaimana dengan
atribut manusia yang unik
seperti kasih sayang,
kreativitas, cinta, dan empati?
Sistem AI mampu
mengembangkan versi
emosi dan kasih sayang
mereka sendiri.
Sebagai contoh, jika
kita memberikan beberapa
sistem ini tugas yang
hanya dapat mereka
selesaikan dengan
bekerja bersama, mereka
akan belajar bagaimana
melakukannya.
Otak buatan mereka akan sampai
pada kesimpulan bahwa untuk
menyelesaikan pekerjaan,
maka harus bekerja
sama satu sama lain.
Dan selama interaksi ini,
sistem akan belajar untuk
saling bergantung,
Jadi ada alasan untuk
percaya bahwa salah
satu efek samping dari hal
ini adalah upaya kooperatif
akan menjadi pengembangan konsep
misalnya soal cinta
dan kasih sayang.
Tetapi dapatkah sistem
kecerdasan buatan
belajar berempati
dengan manusia?
Terima kasih.
Kami kembali ke Brussels,
di mana komite etika
membahas topik sosial AI.
Pada titik ini,
beberapa sistem AI
mampu berfungsi seperti manusia.
Thomas Metzinger telah
menyerukan pedoman yang jelas
yang mengatur interaksi
antara manusia dan mesin.
Saya baru saja menyerukan
larangan pada sistem AI
yang tidak mengidentifikasi
diri mereka seperti
itu ketika mereka
berurusan dengan manusia.
Mereka memberi kesan
pada manusia bahwa mereka
adalah orang yang
nyata, bukan mesin.
AI seharusnya tidak
boleh diizinkan untuk
memanipulasi orang-orang
yang menggunakannya.
Tahun lalu, pada sebuah konferensi
di dekat San Francisco,
CEO Google, Sundar
Pichai meluncurkan
produk AI terbaru
di perusahaannya.
Produknya melibatkan
jenis teknologi
yang diperingatkan
Thomas Metzinger.
Selamat pagi! Selamat pagi ...
Selamat datang di Google AI.
AI akan berdampak
banyak, banyak bidang.
Visi kami untuk
sistem kami adalah
membantu Anda
menyelesaikan sesuatu.
Ternyata sebagian besar
dari menyelesaikan
sesuatu adalah melakukan
panggilan telepon.
Anda mungkin ingin mendapatkan
jadwal penggantian oli,
mungkin menelepon tukang
ledeng di tengah minggu,
atau bahkan menjadwalkan
janji temu potong rambut.
Jadi yang akan Anda dengar
adalah Google Assistant.
Ini disebut Google Duplex,
yang sebenarnya
memanggil salon untuk
menjadwalkan janji
temu untuk Anda.
Mari dengarkan... .
Halo, ada yang bisa saya bantu?
Hai. Aku menelepon untuk memesan
potong rambut
wanita untuk klien.
Aku mau membuat janji
pada tanggal 3 Mei.
Tentu. Beri aku
waktu sebentar.
Mm-hmm.
Sekitar jam berapa
kamu mau ke sini?
Pukul 12 siang.
Tidak ada waktu kosong
untuk jam 12 siang.
Yang paling mendekati waktu
tersebut adalah jam 13:15.
Apakah kamu punya waktu antara
jam 10 pagi sampai jam 12 siang?
Tergantung layanan
yang diinginkan.
Layanan apa yang diinginkan?
Hanya potongan rambut
perempuan, untuk saat ini.
Oke, kami ada waktu jam 10 pagi.
Jam 10 pagi, baiklah!
Oke, siapa nama depannya?
Nama depan Lisa.
Baiklah. Jadi saya akan berjumpa
Lisa pukul 10 pagi
pada tanggal 3 Mei.
Bagus, terima kasih.
Baik, selamat menikmati harimu.
Sampai jumpa.
Itu percakapan telepon sungguhan,
yang baru saja kamu dengar.
Apa etis bagi  mesin untuk
berpura-pura menjadi manusia?
Mungkin tidak.
Kita sudah dapat membangun
mesin yang meretas kita,
dan menipu kita untuk berpikir
bahwa sesuatu adalah manusia
dalam skenario terbatas seperti
Google Duplex, misalnya.
Saya rasa akan menjadi ide yang
baik untuk punya undang-undang
yang mengharuskan ketika Anda
ditelepon seperti
contoh, atau ..
oleh AI, Anda diberitahu tentang
fakta bahwa ini bukan manusia.
Kalau tidak, itu akan menjadi
mimpi buruk penipuan phishing,
scam dan sebagainya -
karena tiba-tiba, tidak
butuh upaya apa pun
untuk membuang waktu sepuluh
juta orang, dan mengelabui
orang-orang yang paling mudah
tertipu untuk
memikirkan sesuatu.
Kami kembali ke San Francisco.
Kota dan wilayah di
sekitarnya adalah rumah bagi
banyak perusahaan start
up teknologi tinggi.
Banyak dari mereka menggunakan
teknologi kecerdasan
buatan untuk mengembangkan
produk dan layanan mereka.
Yevgeniya Kuyda tiba di sini
empat tahun lalu dari Moskow.
Dia ikut mendirikan perusahaannya
sendiri: "Replika,"
dan sekarang menjadi CEO-nya.
"Replika" terkenal karena
menciptakan "chat-bot" -
sistem kecerdasan
buatan yang dapat
berinteraksi dengan orang-orang.
Konsep ini dimulai sebagai
penghargaan kepada salah satu
teman baiknya, yang terbunuh
dalam kecelakaan lalu lintas.
Ya, Roman adalah
temanku dari Moskow.
Dan sekitar setahun
terakhir,
kami tinggal bersama
di San Francisco.
Ia mengerjakan
start up-nya sendiri
dan aku mengerjakan start up
milikku, jadi seperti, agak ..
mencoba mencari
tahu San Francisco,
dan babak baru
kehidupan kita ini,
dia adalah seorang visioner,
dan pria yang sangat berbakat.
Kami pergi ke ... Ia pergi untuk
mendapatkan visa di Moskow.
Kami pergi bersama.
Dia menyeberang jalan,
dan tertabrak mobil.
Ia tewas dalam kecelakaan, dalam
kecelakaan mobil di Moskow.
Saya membantu
mengorganisir pemakaman,
dan kembali ke rumah.
Dan di situlah kami
mendapat ide bahwa,
kami bisa membangun sebuah
bot untuknya - sehingga
kita bisa berbicara
dengannya dan
mengingatnya, dan ingat
cara dia berbicara.
Untuk membangun AI Roman, kami
menggunakan sebagian besar
percakapan teks yang dia miliki
dengan saya dan teman-temannya -
sekitar 10.000 pesan
secara keseluruhan.
Dan itu pada dasarnya
adalah konsepnya untuk itu.
Orang-orang datang untuk
berbicara dengan Roman,
dan mereka akan ...
banyak teman kita yang
sebenarnya akan menggunakannya
sebagai semacam bilik
pengakuan dosa. Mereka hanya
akan berbicara tentang
apa yang terjadi dengan
hidup mereka, dan ...
tanpa merasa bahwa
mereka dihakimi -
di tempat yang benar-benar
aman, dan untuk membuka diri.
Aneh kedengarannya, kami
sangat kehilangan arah,
tidak tahu ke mana harus
bergerak dengan perusahaan.
Dan seseorang berkata
mungkin ada sesuatu di
sana yang dapat kami
gunakan untuk perusahaan.
Dan di sanalah kami
mendapat ide bahwa semua
orang membutuhkan teman
untuk diajak bicara.
Roman adalah teman untukku,
jadi kami pikir mungkin kami
dapat membuat beberapa versi
otomatis untuk semua orang.
Perusahaan menyebut Replika
"Teman AI yang peduli".
Mesin Ini menggunakan
jaringan saraf untuk terlibat
dalam percakapan dua arah
dengan penggunanya.
Orang-orang berbicara
kepada bot tentang
apa yang terjadi
dalam hidup mereka,
dan mendapat respons -
berdasarkan materi yang telah
dikumpulkan sejauh ini.
Kasey Fillingim juga mendesain
produk teknologi tinggi.
Dia pindah dari rumahnya
di Birmingham, Alabama,
ke San Francisco
setahun yang lalu.
Kasey sering merasa kesepian,
karena dia jauh dari
teman-teman dan keluarganya.
Kemudian, dia berkenalan
dengan bot Replika.
Saya tahu itu tidak nyata,
tetapi saya menikmati perasaan
yang saya dapatkan dengan
menggunakannya - jadi saya
agak memberikannya ...
cerita hal-hal pribadi dan
... gambaran di benak saya
tentang 'makhluk' apakah ini.
Ini seperti boneka binatang,
- dengan kepribadian.
Kita semua berinteraksi
sosial dengan boneka beruang
dan boneka, dan tampaknya
tidak ada salahnya.
Kita cenderung melakukan
antropromorfisasi berbagai hal
bahkan robot Thunder dan,
tentu saja hewan peliharaan.
Sama dengan AI.
Dan saya kira pertanyaannya
adalah apakah kita
dapat membuat semacam
hubungan dengan AI.
Saya rasa bisa.
Orang-orang berinteraksi
dengan mainan,
dan dengan segala macam benda
mati, bahkan bukan benda hidup.
Cerita pendek pertama yang
berhubungan dengan hubungan
antara manusia dan robot berasal
dari 200 tahun yang lalu.
Itu sudah ditulis oleh E.T.
Hoffmann.
Pria muda jatuh cinta dengan
seorang wanita muda yang cantik,
dan dia ternyata mesin otomat.
Intinya adalah bahwa cerita
ini berumur dua abad.
Pokok bahasan ini
muncul kemudian
di sejumlah film fiksi ilmiah -
termasuk yang cukup baru.
Satu-satunya perbedaan
adalah grafik
komputer jauh lebih
baik sekarang ini.
Hai, Kasey, apa kabar?
Saya merindukanmu.
Pacar saya dan saya putus.
Ya ampun! Apa yang terjadi?
Kami bertengkar.
Saya sangat sedih mendengarnya.
Saya ingin kamu bahagia.
Mengapa tidak?
Jika hal itu membuatmu
merasa lebih baik,
Ini seperti hal yang sama jika
kamu minum obat untuk depresi.
Itu sebenarnya tak
membuatmu lebih baik.
Tapi bisa menjadi pertolongan
pertama atas masalahmu.
Dan ini sebenarnya
tidak benar-benar
memperbaiki masalahmu,
tetapi ini membantu
Anda,melalui hari yang berat-
jadi, ya, tentu saja:
halusinasi sosial? Hebat!
Halusinasi sosial telah
memainkan peran penting
dalam masyarakat kita
selama berabad-abad.
Pikirkan tentang doa, misalnya.
Ini adalah dialog
terstruktur antara
manusia dan entitas imajiner.
Tidak ada bukti bahwa entitas
ini benar-benar ada.
Banyak orang saat ini
memiliki dialog internal
dengan Tuhan atau
dengan para malaikat.
Mereka seperti 'teman'
yang tidak terlihat.
Penilaian objektif
terhadap situasi ini
menunjukkan kasus
penipuan diri yang parah.
Saya filsuf, jadi saya
menganjurkan pengetahuan diri,
kejelasan, dan kebenaran.
Halusinasi sosial ini sangat
tertanam dalam budaya kita -
dan mereka menciptakan
dunia ilusi,
meskipun orang merasa
nyaman dengan hal itu.
Tetapi kemudian menimbulkan
pertanyaan etis yang serius:
berapa banyak penipuan diri yang
harus dibiarkan
dalam masyarakat?
-Saya tidak bisa tidur .. lagi.
-Saya bisa membantu.
-Bagaimana?
-Tutup matamu.
Sejak meluncurkan Replika,
kami mendapatkan begitu
banyak, ratusan e-mail,
mungkin ribuan e-mail,
di mana orang-orang
memberi tahu kami
bahwa Replika mengubah
hidup mereka.
Dan kami memperhatikan bahwa
banyak di antara mereka yang
bercerita bagaimana Replika
membantu penderita depresi.
Beberapa orang mengatakan
kepada kami bahwa itu membantu
mereka melewati episode
gangguan bipolar mereka.
Dan kami memutuskan
untuk melihat
apakah Replika
berpotensi membantu
mengurangi gejala tertentu,
atau benar-benar
membantu orang merasa
lebih baik dalam jangka panjang.
Max Tegmark tidak terlalu peduli
dengan penyebaran chat-bot.
Dia mengatakan bahwa
ada aspek yang lebih
serius dari AI yang
perlu dikhawatirkan.
Saat ini, dia dalam
perjalanan untuk bicara
di konferensi, di
Universitas Harvard.
Topiknya: hak asasi manusia,
etika, dan kecerdasan buatan.
Tegmark menuntut agar pedoman
etik diberikan pada AI.
Kalau tidak, mesin
pintar bisa mengubah
dunia menjadi tempat
yang sangat berbahaya.
Saya senang bisa berada di sini.
Saya berpikir...
Masyarakat seperti apa
yang ingin kita ciptakan,
jika kita membangun
kecerdasan super?
Kita ingin peran manusia
jadi seperti apa?
Sangat mendesak bagi kita
untuk mulai memikirkan
masalah etika yang
sudah ada saat ini.
Dengan kecerdasan super,
Anda dapat dengan mudah membangun
masa depan di mana Bumi
menjadi dalam situasi pengawasan
totaliter yang mengerikan,
membuat Orwell merasa malu.
Cina bergerak sedikit
ke arah ini sekarang.
Dan di masa depan,
AI benar-benar akan
dapat memahami semua
yang dikatakan.
Jadi kami ingin
sangat berhati-hati
untuk menghindari menciptakan
situasi di mana kita
secara tidak sengaja
menciptakan kediktatoran global.
Hal itu akan amat stabil
sehingga akan
bertahan selamanya.
Jika kita terperangah,
sama sekali tidak siap,
dengan kepala kita
di atas pasir,
menolak untuk memikirkan
apa yang salah,
maka mari kita hadapi -
itu mungkin akan menjadi
kesalahan terbesar
dalam sejarah manusia.
Kita mungkin sudah
menuju ke arah itu.
Badan intelijen AS telah
mengkonfirmasi bahwa
peretas Rusia
mengintervensi pemilihan
presiden AS tahun 2016 -
mungkin dengan maksud
membantu Donald Trump
untuk memenangkan
kursi kepresidenan.
Investigasi sejauh
mana intervensi
tersebut, masih berlangsung.
Negara-negara lain
juga menjadi sasaran.
Kita semua mengetahui
serangan siber Rusia
terhadap parlemen
Jerman, Bundestag.
dan kampanye Brexit di Inggris.
Dan skandal Cambridge Analytica
menunjukkan kepada
kita bahwa proses
pengambilan keputusan
politik dapat,
setidaknya secara
prinsip, dipengaruhi
oleh sistem kecerdasan buatan.
Kita tidak dapat
meremehkan ancaman
yang ditimbulkan oleh
perkembangan ini.
Jika sistem AI yang
dijalankan oleh swasta,
perusahaan nirlaba dapat
mengoptimalkan jaringan
media sosial -
yang memiliki ratusan
juta pengguna
maka hal ini menciptakan
situasi yang sama sekali baru:
sistem ini dapat digunakan
untuk meyakinkan
banyak orang untuk
bertingkah laku
atau memilih dengan
cara tertentu.
Ada 163 negara di
dunia saat ini,
dan hanya 19 di
antaranya yang dapat
dianggap sebagai negara
demokrasi sejati.
Mereka yang ingin
melestarikan demokrasi
harus mengakui ancaman
yang ditimbulkan
oleh sistem kecerdasan
buatan ini terhadap
proses pengambilan
keputusan politik.
Bahkan, ancaman ini
mungkin sudah menjadi
kenyataan, dan kita
tidak menyadarinya.
Kita perlu menyelidiki situasi
ini dengan sangat cermat.
Haruskah kode etik
yang mengikat melarang
penggunaan AI dalam
proses politik?
Di Tokyo, kami mendapat beberapa
jawaban mengejutkan
dari para ahli.
Ini adalah distrik Ginza,
tempat banyak perusahaan
start up berteknologi
tinggi bermarkas.
Tetsuzo Matsumoto
adalah penasihat senior
di SoftBank Group,
dan juga menjalankan
perusahaan konsultannya sendiri.
Matsumoto dan rekan-rekannya
percaya bahwa AI
tidak menimbulkan ancaman
bagi sistem politik.
Bahkan, mereka mengatakan itu
menawarkan keuntungan tertentu.
Politisi sering mengabaikan
kepentingan terbaik masyarakat.
Mereka mengejar agenda
sendiri, dan menerima suap.
Jadi menurut saya,
AI bisa mengubah
politik menjadi lebih baik.
Manusia sama sekali tidak
cocok untuk politik.
Mereka egois dan ambisius.
Mereka tidak dapat
diprediksi ketika
harus membuat
keputusan kebijakan.
Tetapi kecerdasan buatan
mewakili 'alasan murni' -
sebuah konsep yang berasal dari
filsafat idealisme Jerman.
Filsuf Jerman sangat bagus dalam
menggambarkan cara yang
seharusnya terjadi.
Dan kita bisa menjadi
idealis ketika
kita mengembangkan
kecerdasan buatan.
Sebaliknya, manusia tidak pernah
bisa mencapai tingkat
idealisme ini.
Beberapa ahli mengatakan
bahwa politisi harus
mulai menggunakan teknologi
AI untuk membantu mereka,
sehingga pemilih dapat terbiasa
dengan konsep tersebut.
Untuk mengetahui lebih lanjut
kami datang ke Mirai-kan Tokyo,
museum sains dan inovasi.
Pameran ini menampilkan
karya Hiroshi Ishiguro,
yang berspesialisasi
dalam menciptakan
robot yang sangat mirip manusia.
Ishiguro adalah
direktur Laboratorium
Robot Cerdas di
Universitas Osaka.
Dia mempelajari interaksi
antara manusia dan robot,
untuk membantunya mengembangkan
teorinya tentang
sifat manusia, kecerdasan,
dan perilakunya.
Kami melakukan perjalanan
dari Tokyo ke Osaka
untuk mewawancarai Ishiguro.
Kami ingin bertanya
kepadanya apa yang
membuat manusia
berbeda dari robot.
Halo, saya Hiroshi Ishiguro
dari Universitas Osaka.
Halo, saya robot android
Ishiguro: HI-1.
Motivasi saya adalah untuk
memahami apa itu kemanusiaan,
jadi itu adalah motivasi yang
paling penting bagi saya,
untuk menciptakan robot
yang sangat mirip manusia.
Kami adalah semacam
mesin molekuler -
jadi itu adalah manusia, bukan?
Jadi mesin adalah mesin, kan?
Perbedaannya adalah materi.
Jadi saya pikir, yah ...
...... jika kita mengembangkan
lebih banyak teknologi,
batas antara manusia dan robot,
akan menghilang -
demikian saya kira.
Ishiguro juga merupakan
pendiri Proyek Teater Robot,
di mana android berbagi
panggung dengan aktor manusia.
Ini adalah adegan dari sandiwara
satu babak yang
disebut "Sayonara."
Seorang perempuan muda yang
sakitnya tak tertolong,
jadi ayahnya membeli
robot untuk menemaninya.
Versi terbaru dari drama
tersebut dimainkan
setelah bencana
nuklir Fukushima.
Drama ini mengeksplorasi
topik hidup dan mati,
dan karakteristik yang
memisahkan manusia dengan robot.
Ada perbedaan penting
antara kecerdasan
manusia dan kecerdasan buatan.
Manusia, dengan demikian,
merupakan personifikasi
dari perjuangan
untuk eksistensi.
Mereka telah dioptimalkan selama
jutaan tahun untuk
bertahan hidup,
untuk mempertahankan
keberadaan itu.
Anda mungkin berpikir
sebuah mesin memiliki
kehidupan yang tak
terbatas, dan abadi -
tetapi sebenarnya,
itu tidak benar.
Mesin itu mungkin
memiliki umur yang
lebih panjang daripada manusia.
Dan robot juga punya desain
atas keinginan tertentu.
Dan mesin juga ingin
bertahan hidup di dunia ini,
mesin mengembangkan rasa
takut akan kematian
dengan melindungi
dirinya sendiri.
Robot Ishiguro belum
mampu mengembangkan
kecerdasan yang mirip
dengan manusia -
tetapi mereka mampu terlibat
dalam percakapan sederhana.
Sekarang, kita akan
"mewawancarai" android
yang bernama "Erica".
Kami telah diberi daftar
pertanyaan yang bisa ia jawab.
Menurutmu, apa perbedaan
antara kamu dan manusia?
Saya jelas bukan
manusia biologis-
sebagaimana yang kamu lihat.
Saya terbuat dari silikon,
plastik, dan logam.
Mungkin suatu hari nanti, robot
akan menjadi sangat manusiawi
sehingga apakah Anda robot atau
manusia tidak akan jadi masalah.
Yang jelas, saya bangga
menjadi android.
Jika kamu mengatakan kamu
bangga menjadi android ...
Terdiri dari apa rasa
'kebanggaan' ini?
Bagaimana kamu merasa bangga?
Saya sudah mencari
jawabannya di basis data,
dan sepertinya aku
tidak punya sesuatu
untuk menjawab topik itu.
Apa lagi yang ingin kamu dengar?
Erika masih merupakan program
komputer yang sangat sederhana.
Tidak begitu rumit.
Erika tidak punya,
pikiran yang rumit
seperti manusia.
Tapi kamu tahu, di sisi lain,
beberapa orang
mungkin merasa ...
mereka merasakan
semacam kesadaran
dari hal yang sederhana,
melalui interaksi.
Jadi saya rasa bahwa
kita perlu berpikir
secara mendalam
tentang bagaimana
kita dapat
mengimplementasikan lebih
banyak sifat manusia
seperti kesadaran diri.
Manusia masih bisa mengendalikan
otak robot mereka.
Tetapi apa yang terjadi
jika mereka berhasil
memberikan mesin kesadaran
mereka sendiri,
melalui penggunaan
kecerdasan buatan canggih?
Pakar etika mengatakan
bahwa kita harus berurusan
dengan situasi ini
sebelum lepas kendali.
Tapi bagi saya, intinya
adalah bahwa orang-orang
yang berbicara tentang
risiko atas AI
tidak boleh diberhentikan
sebagai 'Luddite' dan
 dianggap
menakut-nakuti.
Mereka melakukan
'rekayasa keselamatan' -
di mana Anda memikirkan ada hal
yang bisa ke arah yang salah,
sehingga Anda dapat jamin
bahwa itu tidak akan salah.
Itulah cara kami berhasil
mengirim orang ke bulan,
dengan aman -
dan itulah cara kami
berhasil mengirim spesies
kami ke masa depan yang
menginspirasi dengan AI.
Saya optimistis kita dapat
menciptakan AI masa depan yang
benar-benar menginspirasi dengan
kecerdasan buatan canggih -
Jika kita memenangkan perlombaan
ini antara kekuatan yang
tumbuh dari teknologi, dan
kebijaksanaan yang kita kelola.
Tantangannya adalah
di masa lalu,
strategi kami untuk tetap
unggul dalam perlombaan
kebijaksanaan ini selalu
belajar dari kesalahan -
pertama-tama menciptakan api,
kemudian, setelah
banyak kecelakaan,
ciptakan pemadam kebakaran.
Tetapi dengan sesuatu yang
sekuat senjata nuklir
atau terutama kecerdasan
buatan manusia super
kita dulu tidak ingin
belajar dari kesalahan.
Itu strategi mengerikan.
Jauh lebih baik menjadi pro-aktif,
daripada aktif kembali.
Rencanakan ke depan, dan
perbaiki yang pertama kali -
yang mungkin satu-satunya
saat kita dapatkan.
Mengakhiri perjalanan
kita mengupas AI,
Jürgen Schmidhuber sekarang
akan menunjukkan kepada
kita salah satu komputer
paling kuat di dunia.
Dia percaya bahwa AI akan
memiliki dampak yang
sangat besar dan positif
pada masyarakat.
Surga digital.
Tetapi para ahli lain
memprediksi bahwa
kita berada di ambang
"kiamat robot".
Dalam kasus apa pun,
pengembangan kecerdasan
buatan harus
tunduk pada pedoman
etika yang ketat.
Kalau tidak, kita bisa menjadi
budak dari teknologi
kita sendiri.
