Kui tehisintellekt on juba valmis, on selle ohtude pärast muretsemiseks liiga hilja. Ohutuse kindlustamiseks võib vaja minna 20-30 aasta jagu teadustööd. Louisville’i Ülikooli arvutiteadlane Roman Yampolskiy rääkis ERR Novaatorile antud intervjuus, mis teda tehisintellekti arendamise puhul kõige rohkem muretsema paneb ja milles tehisintellekti ohtude skeptikud eksivad.
#000000
Mis paneb Teid tehisintellekti arengute puhul kõige enam muretsema?
#000001
Kõige enam paneb mind muretsema see, et keegi ei tea, kuidas kontrollida väga intelligentseid ja võimekaid süsteeme. Nad üllatavad meid pidevalt. Me aga peame neid arendama näiteks teaduse jaoks ja tööjõu automatiseerimiseks. Me ei saa lihtsalt loobuda selle tehnoloogia loomisest, peame leidma viisi selle turvaliseks tegemiseks.
#000002
Igaüks nõustub, et kaitseväe jaoks arendatavad tapja-robotid on ohtlikud, sest nad on selle jaoks ehitatud. Hea uudis on, et võime otsustada, et neid ei ehitataks samamoodi nagu keemiliste ja bioloogiliste relvadega. Tundub, et ÜROs on rahvusvahelisel tasemel selle nimel häid jõupingutusi tehtud. See on probleem, mida teame, kuidas lahendada. Väga intelligentsete süsteemide puhul kahjuks ei tea.
#000003
Ma olen kuulnud mõnelt arvutiteadlaselt arvamust, et tehisintellekti ohtude arutelu ei ole vajalik, sest selle areng ei ole veel seal maal, et ohtlikuks osutuda. Võibolla muutub see hiljem muret tekitavaks, aga praegu veel mitte.
#000004
Aga see ongi kogu asja iva! Kui areng on juba hilises staadiumis, on liiga hilja selle pärast muretseda. Meil on vaja aega ohutusmehhanismide arendamiseks. Selleks läheb võibolla 20-30 aastat teadustööd. Palju raskem on luua ohutut süsteemi kui lihtsalt mõnda süsteemi. Selline suhtumine on väga lühinägelik.
#000005
Inimesed ütlevad, et parem on muretseda ebavõrdsuse ja diskrimineerimise või muude arusaadavate asjade pärast. Nad arvavad, et peaksime pigem tegelema probleemidega, mis on täna olulised, mitte mõtlema kümne aasta pärast toimuvatele sündmustele. See on halvim viis tehnoloogia ja teaduse tegemiseks.
#000006
Seda me tegimegi interneti väljatöötamisel. Öeldi midagi taolist: “Ärge muretsege häkkerite pärast, võtame tehnoloogia kasutusele ja muretseme turvalisuse pärast hiljem.” Nüüd kanname selle tõttu iga päev kahjusid. Loodan, et me ei korda sama viga tehisintellektiga.
#000007
Kas teie arvates on argumente, mis veenavad mitte keskenduma tehisintellekti ohtudele?
#000008
Üks meie avaldatud teadusartiklitest räägib erinevatest viisidest, kuidas tehisintellekt võib muutuda ohtlikuks. Võib väita, et mõned neist on realistlikumad ja mõned vähem. Võime teha vigu programmeerimisel, väärtustega ühildamisel või võivad probleemid tekkida riistvara tõttu. Aga mõned tahaks väita, et neid probleeme ei juhtu.
#000009
On aga üks probleem, mida on lihtne oodata ja raske eitada. Halvad inimesed võivad kasutada tehisintellekti kurjasti ära. Iga kord, kui mulle öeldakse, et seda ei juhtu, vastan, et ma teen seda ise. Ma teen seda lihtsalt oma mõtte tõestamiseks.
#000010
Neil ei ole sellele vastust, sest nad ei arvestada vaenulikkusega. See on aga küberjulgeoleku standard. Me kaotame igal aastal triljoneid, sest inimesed murravad süsteemidesse sisse, varastavad isikuandmeid ja rikuvad kübertaristut. Väita, et see ei ole probleem, tähendab tegelikkuse eiramist.
#000011
Olen näinud statistikat selle kohta, kui palju kulutatakse raha tehisintellekti ohutusele võrreldes tehisintellekti arendamisele üldiselt. Mida Te arvate praegusest rahastusest? Tundub, et tehisintellekti turvalisusele kulutatakse nüüd rohkem raha kui varem.
#000012
Raha peaaegu polegi. Seda on umbes 10 miljonit kuni 12 miljonit dollarit, mis on null võrreldes miljarditega, mida kogu maailmas arendamisele kulutatakse. Väide, nagu me raiskaks raha tehisintellekti turvalisuse uurimisele, on rumalus. Olukord on praegu parem ainult sellepärast, et varem ei olnud meil üldse raha.
#000013
Raha aitab inimesi värvata, seega seda on rohkem vaja. Aga veel olulisem on probleemi ära tunda. Ma arvan, et ei tohiks olla ühtegi tehisintellekti teadlast, kes ütleb, et ta ei hooli ohutusest. Me peame uuesti määratlema kogu tehisintellekti mõiste. Kui keegi töötab intelligentse süsteemi loomisega ja see pole ohutu, siis ei ole see kasulik vahend. See on põhimõtteliselt pahavara.
#000014
Loodan, et toimub nihe, et peaaegu kõik tehisintellekti teadlased on ka ohutuse uurijad, sest nad soovivad veenduda, et nende tooted on turvalised. Näiteks tootjad on kohustatud näitama, et nende loodud toode on ohutu, vastasel korral ei saa nad seda müüa.
#000015
Me ei tohiks kasutada tarkvara lähenemist, mille puhul esitatakse kasutajatele 200-leheküljeline leping, milles öeldakse, et probleemid, mis tarkvaraga tekivad, ei ole loojate mure. See on hullumeelne.
#000016
Me vajame raha ja andekaid teadlasi, aga veel enam vajame, et terve kogukond hindaks ümber, kuidas nad oma tööd teevad.
#000017
Kui raske on inimesi tehisintellekti ohtude osas veenda? Kas olete oma tööga juba edu saavutanud?
#000018
Kui mul on aega rääkida kellegagi üks-ühele, siis tavaliselt pärast tunniajast vestlust on nad minuga nõus. See on lihtsalt väga mõistlik ettepanek. Kuidas saab keegi vaielda turvalise tarkvara loomise vastu? Enamasti on inimesed piisavalt arukad, et neid argumente mõista.
#000019
Ma töötan praegu paari artikliga, milles analüüsin, miks inimesed tehisintellekti ohtusid ei taha tunnistada. Leian, et sageli on see seotud huvide konfliktiga. Teadlased ei taha oma tööst või rahalistest vahenditest loobuda. On ka võimalik, et nad ei tunne hästi kirjandust, sest arvavad, et me võitleme terminaatoritega. Sellisel juhul on nende reaktsioon filmidele, mitte teaduskirjandusele.
#000020
Olen kuulnud teadlastest, kes nõustuvad, et potentsiaalsed riskid on väga suured, aga kes ei usu, et tehisintellekti oleks võimalik luua ohutult.
#000021
Meil pole sellest ühtegi tõendit, et probleem on lahendatav. Ma püüan selle nimel töötada, aga siiani pole midagi. Aga lihtsalt sellepärast, et me ei tea, kuidas probleemi lahendada, ei tähenda, et me ei peaks proovima. Me ei tea, kuidas vähktõbe ravida, kuid see ei tähenda, et peaksime laskma inimestel lihtsalt surra.
#000022
Vastupidi, proovime veel rohkem pingutada. Kui keegi arvab, et tehisintellekti arendamine võib olla ohtlik ning tal pole selleks lahendusi, siis võibolla ei tohiks ta seda nii kiiresti arendada. Tuleks võtta aega, et mõista, kuidas seda õigesti teha.
#000023
Mis Te arvate, millised on kõige realistlikumad ja ohtlikumad tehisintellekti arendamisega seotud probleemid?
#000024
Ma olen kirjutanud artikli tehisintellekti ebaõnnestumistest. Ma tõin selles ajaloolisi ja tänapäevaseid näiteid ning tegin ka prognoose sellest, mis võib tulevikus intelligentsete süsteemidega valesti minna.
#000025
Kuna sõltume üha enam tehnoloogiast ja tehisintellektist, kasvavad aja möödudes kahjude tõsidus ja probleemide esinemise sagedus. Kui süsteem teeb konkreetset ülesannet, siis varem või hiljem ta selles ebaõnnestub. Kasulik on nendest ohtudest aru saada.
#000027
Mis on Teie arvates head võimalused huvilistel selles valdkonnas kaasa lüüa?
#000028
Ma võin olla siin pisut kallutatud, aga mulle tundub, et tehisintellekti ohutuse uurijaid ei ole piisavalt. Maailmas on võibolla kümmekond inimest, kes uurivad ohtusid täistööajaga, võibolla sadakond, kes teevad seda osalise tööajaga. Sellest ei piisa, kuna valdkond on nii suur.
#000029
Sellel tööl on suurepärased rahalised võimalused ning ilmselt on see üks viimaseid töökohti, mis automatiseeritakse. Vajame inimesi, kes saavad aru masinõppest, kümberjulgeolekust, krüptograafiast ja paljust muust. Selliseid inimesi on väga vähe.
#000030
Soovitan inimestel hoida ennast tehnoloogia arenguga kursis, sest see muutub väga kiiresti. Igal nädalal on uus teadaanne. Järgi mõnda inimest, kes selles valdkonnas töötab, näiteks mind Twitteris või kedagi organisatsioonist Deepmind ja Facebook.
#000031
Kui keegi on huvitatud, siis mul ilmub augustis raamat “Artificial Intelligence Safety and Security”. See on nii üldine kui ka tehniline raamat ja olen selle jaoks kõikide põhiliste ekspertidega koostööd teinud.
#000032
Millega tegelevad tehisintellekti ohutuse uurijad?
#000033
Efektiivse altruismi edendamine kui rahvusvaheline prioriteet
#000034