
French: 
Le Dieu biblique crée, selon ses désirs,
des animaux, des plantes et des hommes.
Similairement, nous apprenons aussi
comment concevoir et créer la vie.
À partir de maintenant,
vous vous appelez Kara.
Je m'appelle Kara.
Initialisation et mémorisation. Vérifié.
Un grand nombre d'êtres humains
peuplent notre planète.
En tant que singes nus,
nous avons dompté le feu...
puis, chaque nouvelle technologie
a déterminé notre développement.
Nous avons déchiffré le code de la vie,
et pourrons d'ici peu jouer à Dieu.

Spanish: 
Igual que Dios en la Biblia crea
plantas, animales y humanos...
nosotros también estamos aprendiendo
a crear y diseñar vida.
Desde este momento, tu nombre es Kara.
Me llamo Kara.
Inicialización
y comprobación de memorización.
Los humanos conviven
con otros muchos miembros de su especie.
Como simios, descubrimos el fuego...
pero después la tecnología ha determinado
nuestro desarrollo.
Ahora que hemos descifrado
el código de la vida...
no tardaremos mucho
en empezar a jugar a ser Dios.

French: 
La grande question est la suivante :
quel genre de dieux serons-nous ?
Serons-nous des dieux bons et sages...
ou des dieux mesquins,
vengeurs et irresponsables ?
La biotechnologie, l'intelligence
artificielle et la nanotechnologie...
pourraient nous permettre de démarrer
notre propre processus de création.
Mais comment gérer cela et quelles en
seront les conséquences sur notre espèce ?
Ce sont de grandes questions.
Pouvez-vous m'entendre ?
Oui.
Je pense que cela va dominer
le siècle à venir.
Nous allons devoir décider...
sur un plan individuel
ou en tant que société...
ce que nous voulons être.
Qu'est-ce que être humain signifie ?
Je viens juste de naître.
Vous n'allez pas déjà me tuer !

Spanish: 
La pregunta es qué clase de Dios seremos.
¿Seremos dioses sabios y piadosos...
o seremos miserables,
irresponsables y vengativos?
Con la biotecnología,
la IA y la nanotecnología...
al parecer tenemos todos los ingredientes
para empezar nuestro proceso de creación.
Pero ¿cómo lo gestionaremos
y qué supondrá para nuestra especie?
Esas son grandes preguntas.
¿Puedes oírme?
Sí.
Creo que ese será
el tema del próximo siglo.
Estaremos involucrados en el diseño...
individualmente o como sociedad...
de quién queremos ser.
¿Qué significa ser humano?
¡Acabo de nacer!
¡No puedes matarme ya!

Spanish: 
¡Para, por favor, para!
¡Tengo miedo!
Esto es "Backlight".
¿Nos convertiremos en dioses
o crearemos nuevos dioses?
HUMANOS, DIOSES Y TECNOLOGÍA
Debido al surgimiento de la IA...
la humanidad está
al borde de un gran cambio.
El desarrollo tecnológico va tan rápido
y está llegando tan lejos...
que es necesario buscar
una interpretación.
Yuval Harari, historiador, ha desarrollado
su visión del futuro estudiando el pasado.
Sus raícen son cruciales
para la formación de su visión de futuro.
Vivir en Israel y en Oriente Medio te da
una perspectiva diferente...
sobre la edad moderna
y la tecnología en general.

French: 
S'il vous plaît, arrêtez. J'ai peur.
Voici Backlight.
Allons-nous devenir des dieux
ou fabriquons-nous de nouveaux dieux ?
êtres humains, dieux et technologie
L′émergence de l'IA va engendrer
de grands changements pour l′humanité.
Les avancées technologiques sont
si rapides et ont une telle envergure...
qu'il nous faut chercher à comprendre
ce que tout cela signifie.
L'historien Yuval Harari a développé
sa vision du futur en étudiant le passé.
Ses racines israéliennes ont été cruciales
à la formation de sa vision de l'avenir.
Vivre en Israël, et au Moyen-0rient,
vous donne une perspective différente...
sur les temps modernes
et sur la technologie en général.

Spanish: 
Ahora vivo con mi marido
en este pequeño pueblo...
que está justo entre Jerusalén
y Tel Aviv...
y creo que es una especie de metáfora...
sobre mi posición
como historiador y científico.
En un lado tengo a Jerusalén...
con todo su fervor religioso,
su historia y su conflicto...
y en el otro lado está Tel Aviv
con toda su tecnología, su orgullo gay...
y su vibrante
y moderna sociedad propia del siglo XXI.
Supongo que si viviera
en un lugar como Silicon Valley...
no vería esa parte de la realidad
que representa Jerusalén.
Pero como vivo en Oriente Medio,
de ninguna manera podré olvidar...
el enorme poder que la religión,
la mitología...
y las creencias humanas tienen
sobre la historia.

French: 
Mon mari et moi vivons
dans un petit village...
exactement à mi-chemin
entre Jérusalem et Tel Aviv.
C'est aussi une métaphore...
pour ma position
en tant que scientifique et historien.
D'une part, on a Jérusalem...
avec toute la ferveur religieuse,
l'histoire, les conflits etc.
D'autre part, il y a Tel Aviv
avec tout le high-tech, la parade gay...
et une société du XXIe siècle,
moderne et dynamique.
Si je vivais dans un endroit
comme la Silicon Valley...
je ne verrais pas le côté réaliste
que Jérusalem représente.
Mais parce que je vis en Israël,
au Moyen-Orient, je ne peux pas ignorer...
l′énorme influence que la religion,
la mythologie...
et les croyances des hommes
ont sur l'histoire.

French: 
En fin de compte,
ce ne sont pas les scientifiques...
qui décident
ce qu'il advient de la technologie.
Les prêtres, les idéologues
et les politiciens décident...
ce qu'il advient de la technologie
inventée par les scientifiques.
L'histoire d'Harari se répand.
Il définit sans effort
les liens entre le passé et l'avenir...
et explique quelle influence
la technologie a eue sur l'humanité.
Il utilise maintenant ces connaissances
pour nous donner sa vision du futur.
Au cours des dernières décennies,
l'humanité a beaucoup accompli...
particulièrement en maîtrisant la faim,
la maladie et la guerre.
Pour la première fois dans l'histoire,
plus de gens meurent d′obésité...
que de faim.
C'est un incroyable accomplissement.
Plus de personnes meurent de vieillesse
que de maladies infectieuses.

Spanish: 
Al final, los ingenieros no son...
los que determinan
qué se hace con la tecnología...
sino los sacerdotes,
ideólogos y políticos.
Ellos son los que determinan
qué se hace con la tecnología...
que crean los ingenieros.
La historia de Harari es interesante.
Defiende la conexión
entre pasado y futuro...
y explica qué influencia ha tenido
en la humanidad el desarrollo tecnológico.
Harari utilizará todo su conocimiento
para ofrecernos su visión del futuro.
En las últimas décadas...
la humanidad ha logrado
cosas increíbles...
sobre todo, a la hora de controlar
el hambre, las plagas y la guerra.
Hoy en día,
y por primera vez en la historia...
muere más gente por comer en exceso...
que por no comer lo suficiente,
lo que supone un logro asombroso.
Más gente muere por la edad
que por enfermedades contagiosas...

Spanish: 
y más personas mueren por suicidio
que por actos de violencia.
El índice de muertes violentas ha caído
en picado.
Por un lado están
estos logros increíbles...
pero al mismo tiempo estamos destruyendo
el sistema ecológico.
También estamos provocando la extinción
de cada vez más plantas y animales...
y los nuevos poderes
que estamos obteniendo...
especialmente la biotecnología
y la inteligencia artificial...
van a convertirnos en auténticos dioses.
Y esto no es una metáfora,
sino que tiene valor literal al 100%
Los humanos están obteniendo
habilidades divinas...
sobre todo, la de crear y diseñar vida.
Hemos llegado a un punto...
en el que la tecnología
que hemos creado nos está permitiendo...

French: 
Et il y a plus de gens qui se suicident
que de meurtres.
En raison de la diminution
du nombre de décès dus à la violence.
Ce sont
des accomplissements extraordinaires.
En même temps,
nous détruisons aussi l'écosystème.
À cause de nous, de plus en plus d′espèces
animales et végétales disparaissent.
Les nouvelles possibilités
que nous découvrons maintenant...
en particulier dans le domaine
de la biotechnologie et de l'IA...
vont faire de nous des dieux.
Ce n′est pas une métaphore littéraire.
Je veux dire cela dans le sens littéral.
Les hommes sont en train d′acquérir
des aptitudes divines.
En particulier la capacité
de concevoir et de créer la vie.
Nous en sommes au point où la technologie
que nous avons développée...

French: 
nous permet de jouer à Dieu.
Mais comment gérons-nous cela ?
Parce que notre relation avec les nouvelles
technologies n'a jamais été évidente.
Souvent, elle nous effraie.
Mais nous réalisons aussi que nous serions
perdus sans la technologie.
L'homo sapiens
est un animal domestiqué.
Généralement, nous entendons par là
les vaches, les chevaux ou les chiens.
Mais nous sommes tout autant domestiqués,
sinon plus...
que les vaches, les chiens,
les cochons etc.
Nous avons toujours le même corps
et le même cerveau...
que nous avions à l'âge de pierre.
Mais, de nos jours, nous sommes
presque complètement dépendants...
de l'énorme réseau domestiqué...
de l'agriculture, de l'industrie,
de l'État et de la police.

Spanish: 
jugar a ser Dios.
Pero ¿cómo vamos a gestionar esto?
Porque nuestra relación...
con las nuevas tecnologías nunca ha sido
muy evidente.
La tecnología siempre nos ha asustado...
pero sabemos
que estaríamos perdidos sin ella.
El "Homo sapiens" es
un animal domesticado.
Cuando decimos "animal domesticado",
siempre pensamos en vacas o perros...
pero nosotros estamos igual
de domesticados, incluso más...
que las vacas, los perros o los cerdos.
Todavía tenemos
el mismo cuerpo y el mismo cerebro...
que teníamos cuando éramos salvajes
en la Edad de Piedra...
pero, hoy en día,
casi todos dependemos por completo...
de la enorme red domesticada...
de la agricultura,
la industria, el Estado y la Policía.

Spanish: 
Si coges a un humano de hoy en día...
y lo sueltas en la jungla,
o en la sabana africana...
moriría en cuestión de días.
No podría sobrevivir por sí mismo.
En la Edad de Piedra, para sobrevivir...
todos los días había
que resolver problemas muy difíciles:
dónde encontrar setas, cómo cazar ciervos,
cómo escapar de los leones...
cómo hacer tu propia comida,
tu propia ropa, tus medicamentos...
cómo buscarte la vida en el mundo.
Tenías que saber mucho para sobrevivir.
Hoy en día, por contra,
la gente normalmente se especializa...
en un tema muy concreto,
como enseñar historia...
producir música
o ser cajero en el supermercado...
y la mayoría de cosas
que deberíamos saber para sobrevivir...
y florecer no sabemos cómo hacerlas.

French: 
Prenez un homme aujourd'hui...
et mettez-le dans la jungle
ou dans la savane africaine.
Il sera mort en quelques jours.
Il ne sait pas comment survivre.
À l'âge de pierre, il fallait chaque jour
résoudre des problèmes très difficiles.
Où trouver les champignons, comment
chasser les cerfs et échapper aux lions.
Comment préparer sa nourriture,
faire ses vêtements et ses médicaments.
Comment trouvez son chemin
à travers le monde.
Il fallait beaucoup de connaissances
pour survivre.
Mais de nos jours,
on se spécialise simplement...
dans une petite chose,
comme enseigner l'histoire.
Ou on devient ingénieur du son
ou caissier dans un supermarché.
On ignore pratiquement tout de ce dont
on a besoin pour survivre et s′épanouir.

French: 
On dépend d′énormes systèmes de réseaux.
Je ne sais pas
comment faire une chemise.
Je ne sais pas cultiver ma nourriture
ou construire une maison.
Je ne sais qu′écrire
des livres d'histoire.
Je suis payé pour ça.
Avec cet argent, je vais au supermarché
acheter une chemise et de la nourriture.
Si je ne devais compter que sur moi-même,
je serais nu et affamé.
C'est comme si l′humanité était devenue
un organisme tout entier.
Oui, au début nous n'étions
qu'une autre espèce de chimpanzés.
On vivait en petits groupes.

Spanish: 
Dependemos
de ese enorme sistema de redes.
Yo no sé cómo fabricar esta camisa...
ni cómo cultivar mi comida
ni cómo construir una casa.
Yo solo sé escribir libros de historia...
y que me paguen por ello.
Luego cojo ese dinero y voy al súper,
donde compro la ropa y la comida.
Si dependiera de mí,
iría desnudo y estaría muerto de hambre.
En cierto modo,
parece que nos hemos convertido...
en un organismo como humanidad.
Al principio éramos básicamente
otra especie más de chimpancé.
Es decir, vivíamos en pequeños grupos...

Spanish: 
pero dependíamos principalmente
de nosotros y de nuestra familia y amigos.
Sin embargo, ahora somos como hormigas.
Vivimos en una colonia descomunal...
en la que cada uno tenemos
una función muy pequeña...
y no podemos sobrevivir fuera de ella.
Y eso no hará más que incrementarse
a lo largo del siglo XXI...
por el ascenso de las IA...
de los sensores biométricos, etc.
Es muy probable
que en un margen de 50 años...
la gente sea,
literalmente, parte de la red.
Nuestros cuerpos
y cerebros estarán conectados a una red...
y seremos incapaces de sobrevivir
si nos desconectamos de ella...
porque nuestro cuerpo,
nuestro sistema inmunológico...

French: 
Mais on comptait principalement
sur soi-même, ses amis et ses proches.
Maintenant, nous nous rapprochons
plutôt des fourmis.
Nous vivons dans une énorme colonie...
au sein de laquelle
nous avons tous un petit rôle...
et sans laquelle nous ne pouvons survivre.
Les choses iront encore plus dans ce sens,
ou à l'extrême, durant le XXIe siècle.
Surtout avec l'émergence d'interfaces
entre cerveau et ordinateur...
et des capteurs biométriques...
il est très probable
que dans 50 ans...
les gens feront littéralement
partie d'un réseau.
Tous les corps et les cerveaux
seront connectés à un réseau.
Il sera impossible de survivre
si l'on est déconnecté du réseau.
Parce que les parties du corps,
le système immunitaire...

French: 
ne peuvent fonctionner
que si l'on est connecté...
à la colonie, au réseau.
Nous n'en sommes pas là.
Bien que nous soyons déjà connectés
en permanence les uns aux autres...
et éprouvons la plus grande difficulté
à nous déconnecter.
L'IA est presque devenue
indispensable dans notre vie quotidienne.
Les experts nous mettent en garde.
Elon Musk appelle à une législation pour
protéger du pouvoir croissant de l'IA.
Stephen Hawking va plus loin en prédisant
l'extermination de la race humaine.
Kevin Kelly, le grand prêtre de la Silicon
Valley, n'est pas d'accord avec eux.
Je suis très optimiste
quant à notre avenir...
mais je pense
que la fiction hollywoodienne...
de robots qui nous exterminent tous...
prennent nos emplois et nous asservissent
est possible, mais peu probable.

Spanish: 
quizá dependerá
de que estemos conectados a la colonia...
a la red, de forma permanente.
Todavía no hemos llegado a ese punto...
pero sí que estamos conectados
los unos con los otros permanentemente...
y experimentamos dificultades
cuando no lo estamos.
La IA casi se ha convertido
en parte indispensable de nuestra vida...
y los que están más cerca
del fuego nos avisan.
Elon Musk está demandando leyes
que nos protejan del poder de la IA.
Stephen Hawking va más allá...
y afirma
que los humanos serán exterminados.
Kevin Kelly, conocido como
el sumo sacerdote de Silicon Valley...
no está de acuerdo con esto.
Yo soy muy optimista
con lo que está pasando y con el futuro...
pero creo que la ficción de Hollywood...
lo de los robots
que vienen y nos matan a todos...
nos quitan el trabajo y nos esclavizan,
es posible, pero improbable.

Spanish: 
La posibilidad es mayor que cero.
Kelly no ve con malos ojos
el desarrollo de la IA.
Tenemos que seguir siendo críticos...
pero al mismo tiempo aprovechar
cualquier oportunidad desarrollo.
Démosle una cálida bienvenida
a Kevin Kelly.
La IA es un término clave ahora mismo.
Todo el mundo habla de ella...
pero yo quiero ofreceros
un par de puntos de vista nuevos...
que quizá os convenzan
de que estamos ante algo grande.
Esa es la oportunidad
que tenemos delante...
y que nos va a permitir colaborar
y compartir...
a una escala que antes era impensable.

French: 
Il y a peu de chance que ça arrive.
Futuriste, Kelly ne voit pas
l'essor de l'IA de manière aussi sombre.
Il faut rester critique tout en exploitant
toutes les possibilités de développement.
Nous avons le plaisir d'accueillir
M. Kevin Kelly.
L'IA fait l'objet d'un battage médiatique.
On en entend beaucoup parler.
Mais essayons
d'y penser différemment.
Je veux vous prouver
son importance.
Nous avons maintenant la possibilité...
grâce à de nouvelles ressources,
de collaborer et coopérer...
sur une échelle
qui était auparavant impensable.

English: 
a supermind will emerge
that will produce ideas
no longer comprehensible
to the individual man

French: 
Toutes les puces, centres de serveurs,
téléphones et ordinateurs portables...
Si on connecte
tous ces transistors interconnectés...
et toutes les connexions
telles les synapses du web...
et que l'on prend le stockage en ligne
du monde entier...
ça forme un énorme cerveau.
La logique de Kelly, qui est co-fondateur
de la revue technologique "Wired" ...
est enracinée dans le mouvement hippie
des années 60 en Californie...
qui a posé les fondations
du succès ultérieur de la Silicon Valley.
Des gens comme Steve Jobs ont été inspirés
par le "Whole Earth Catalog" de Kelly...
que l'on dit être
la bible du techno-optimiste.
Un catalogue d'outils pour aider
les hippies à survivre à la campagne.
On le considère parfois comme étant
l′ancêtre du moteur de recherche.
"Un supra-mental émergera
qui produira des pensées...
qui ne seront plus compréhensibles
pour l'individu."
À partir de ce processus
de pensée idéaliste ...
Kelly interprète chaque nouveau
développement technologique.

Spanish: 
Si juntamos todos los chips, móviles,
portátiles, torres de servidores...
todos los transistores interconectados...
todas las conexiones,
como las sinapsis de la web...
y todo el almacenamiento
que hay disponible en la red...
tendremos como resultado
un cerebro enorme.
La lógica de Kelly,
fundador de la revista "Wired"...
tiene sus raíces en el movimiento jipi
que tuvo lugar en California en los 60.
Esos fueron los cimientos
para el posterior éxito de Silicon Valley.
Gente como Steve Jobs encontró
parte de su inspiración...
en el catálogo de Kelly
"Whole Earth Catalog"...
también conocido
como la Biblia de los tecnooptimistas.
El catálogo contiene
ejemplos de herramientas...
que podían ayudar a los jipis
a sobrevivir en el campo...
y muchos lo consideran el predecesor
de los motores de búsqueda.
EMERGERÁ UNA SUPERINTELIGENCIA
QUE PRODUCIRÁ IDEAS...
QUE EL HOMBRE NO PODRÁ COMPRENDER
POR SÍ SOLO.
A partir de ese proceso
de pensamiento idealista...
Kelly interpreta
cada nuevo avance tecnológico.

Spanish: 
Sin miedo a pensar de forma diferente...
está convencido de que la tecnología sigue
el camino de la evolución natural.
Cada dispositivo es algo más
que un mero dispositivo.
Ahora mismo mi teléfono está conectado
con el tuyo a través de un concentrador...
que está conectado a un servidor
y que está conectado a tu portátil.
Si agrupamos todos los circuitos
que están interconectados...
y combinamos todo eso...
todas las máquinas, los móviles,
servidores y ordenadores...
como si fueran
un único y gran ordenador...
y lo conectamos
a 3.000 millones de mentes humanas...
todo eso a su vez se podría conectar...
con Gaia,
el sistema viviente del planeta...

French: 
N'ayant pas peur de penser différemment...
il est convaincu que la technologie
suit le chemin de l'évolution naturelle.
Chaque appareil
est plus qu'un simple appareil.
En ce moment, mon portable est connecté
à votre portable via un hub.
Et aussi à votre ordinateur portable
via un serveur.
On peut rassembler
tous les circuits interconnectés...
et considérer le tout...
toutes les machines, téléphones portables,
serveurs et ordinateurs connectés...
comme un gros ordinateur...
connecté à trois milliards
de cerveaux humains.
Et l'ensemble est aussi lié...
à Gaïa, le système vivant de la Terre...

French: 
par des capteurs et des choses
que nous intégrons à l'environnement.
À mon avis, ces trois couches constituent
un super-organisme planétaire unique.
J'appelle ça le système du holos, le tout.
Tous ces ordinateurs interconnectés.
La théorie de l'holos de Kelly semble être
la réalisation de son idéal.
Tout et tout le monde est connecté
et en même temps nourrit la machine...
avec des milliards de mégaoctets de données
qui émanent en permanence de notre cerveau.
Cette technologie nous offre
la possibilité...
pour la première fois
dans l'histoire de notre espèce...
de nous connecter par milliards,
en temps réel...
dans différentes dimensions.
Nous pourrons collaborer et coopérer
et faire de nouvelles choses...

Spanish: 
a través de sensores y cosas
que inventemos para el medioambiente.
Esas tres capas forman
un solo superorganismo planetario...
al que yo llamo Sistema Holos: el todo.
Todas esas máquinas interconectadas...
La teoría del Holos de Kelly parece ser
la consumación de su ideal.
Todo y todos están conectados
y, al mismo tiempo...
alimentan a la máquina
con miles de millones de GB de datos...
que fluyen constantemente
desde nuestro cerebro.
La auténtica oportunidad
que nos traen estas tecnologías es...
la posibilidad,
por primera vez en la historia...
de conectar a millones de personas
en tiempo real...
y en múltiples dimensiones...
para colaborar y crear cosas nuevas...

Spanish: 
que un solo individuo, empresa...
ciudad o país no podría crear
por sí mismo.
Son cosas que solo todo el planeta,
toda la especie, podría conseguir...
lo que supone un avance increíble.
¿Esa cosa podrá pensar por sí misma?
- Sí.
Sí seguimos añadiendo cerebros...
cerebros y memorias artificiales
a esa gran máquina...
podrá pensar por sí misma.
Probablemente ya lo haga...
y el problema es que no tenemos
buenas herramientas...
para detectar esos pensamientos
y entenderlos.
Aún está por ver
cómo interactuaremos con eso...

French: 
qu'un individu, un clan...
une ville ou un pays
ne pourraient pas faire.
Seule la planète entière,
la race humaine, peut le faire.
C'est une réalisation incroyable.
Ce cerveau sera-t-il capable de penser ?
- Oui.
Oui, si nous ajoutons continuellement
à cette machine de l'intelligence...
de l'intelligence
et de la mémoire artificielles...
alors, elle sera capable de penser.
Elle en est probablement déjà capable.
Le problème est que nous n'avons pas
les bons outils...
pour les déchiffrer et comprendre
la signification de ces pensées.
Mais quel genre d'interaction
pourrons-nous avoir avec cette machine ?

French: 
Si nous prenons l'idée
la plus abstraite d'une pensée...
si nous pouvons accepter l'idée
qu'une souris puisse penser...
et je pense que c'est le cas...
alors, ce cerveau global
est certainement capable de penser.
Si le super-cerveau est capable
de développer ses propres pensées ...
alors, il est facile d'imaginer que l'on
puisse perdre le contrôle de ce cerveau.
C'est cette éventualité
qui inquiète Yuval Harari.
Vous dites que nous entrons...
dans l′ère du dataïsme.
Qu'entendez-vous par là ?
En substance, le dataïsme est l'idée...
que si vous avez suffisamment de données
sur une personne...

Spanish: 
pero si tomamos
la idea más abstracta de un pensamiento...
si aceptamos la idea
de que un ratón puede pensar...
cosa de la que estoy seguro...
entonces, ese gran cerebro seguro
que también puede pensar.
Si el supercerebro es capaz
de desarrollar sus propias ideas...
ya no nos hace falta fantasear
para contemplar la posibilidad...
de que en algún momento podemos perder
el control sobre él.
Precisamente, Harari nos advierte de eso.
Usted habla del futuro...
o del siglo del dataísmo.
¿A qué se refiere con eso?
En esencia, el dataísmo es la idea
de que, si tienes suficientes datos...

Spanish: 
de una persona,
concretamente datos biométricos...
y suficiente potencial informático...
puedes entender mejor a esa persona
de lo que ella se entiende a sí misma.
Por lo tanto,
podrías controlar a esa persona...
manipularla y tomar decisiones por ella...
y estamos muy cerca del punto...
en el que Facebook,
Google, o el Gobierno chino...
conocerán mejor a las personas
de lo que ellos se conocen a sí mismos.
La democracia, el libre mercado,
el individualismo, el liberalismo...
todos ellos predican
desde la asunción básica...
de que nadie me conoce mejor
de lo que yo me conozco.
Así que nadie debería tomar decisiones
por mí...
porque nadie sabe realmente
cómo me siento y qué pienso...
y eso siempre ha sido así
a lo largo de la historia.

French: 
en particulier des données biométriques...
et si vous avez assez
de puissance de calcul...
vous pouvez comprendre cette personne
mieux que la personne elle-même.
Ensuite, vous pouvez
contrôler cette personne...
la manipuler
et prendre des décisions à sa place.
Nous nous rapprochons du moment...
où Facebook, Google
et le gouvernement chinois...
connaîtront bien mieux les gens que
ces derniers ne se connaissent eux-mêmes.
La démocratie, le marché libre,
l'individualisme et le libéralisme...
sont tous basés sur l'hypothèse...
que personne ne me connaît mieux que moi.
C'est pourquoi personne ne peut prendre
de décisions pour moi.
Personne ne sait vraiment
ce que je ressens et ce que je pense.
C'était vrai dans le passé.

Spanish: 
Nadie sabía quién eras realmente
ni cómo te sentías.
Aunque la Iglesia,
o la KGB en la URSS te siguiera...
a todos lados,
escuchara todas tus conversaciones...
y las analizara,
no podían saber quién eras.
No podían saber
cómo te sentías y qué pensabas...
porque no entendían
lo suficiente de biología...
y porque tampoco tenían
el suficiente potencial informático...
para interpretar
esa inmensa cantidad de datos.
Pero las cosas ahora son distintas.
De aquí a 10 o 20 años...
alguien como Google
o el Gobierno chino tendrá...
suficiente información sobre ti...
suficientes conocimientos de biología
y suficiente potencial informático...
para comprenderte mejor
de lo que lo haces tú.
Entenderán tus sentimientos,
tus pensamientos...

French: 
Personne ne savait vraiment
qui vous étiez et ce que vous ressentiez.
Même si l'Église catholique
ou le KGB en Union soviétique...
vous avaient suivi partout et
avaient écouté toutes vos conversations...
et les avaient analysées, elles n'auraient
toujours pas su qui vous étiez.
Elles n'auraient pas vraiment su ce que
vous ressentiez et ce que vous pensiez.
Elles n'avaient pas assez
de connaissances en biologie...
ni assez de puissance de calcul...
pour interpréter
cette énorme quantité de données.
C'était vrai dans le passé,
mais plus maintenant.
Ou ça ne le sera plus dans 10 ans.
Dans 10 ou 20 ans...
Google ou le gouvernement chinois
auront assez de données sur vous...
plus de connaissances en biologie
et suffisamment de puissance de calcul...
pour vous comprendre
mieux que vous vous comprenez vous-même.
Pour connaître vos émotions
et vos pensées...

English: 
Who am I?
No, what I actually mean is:
Where am I going?
No. Can I start again?

French: 
vos souhaits et vos obsessions.
Vous ne savez pas pourquoi
vous ressentez ce que vous ressentez...
mais Google
ou le gouvernement chinois le savent.
Qui suis-je ?
Non, ce que je veux dire c'est :
où vais-je ?
Non. Puis-je recommencer ?
- Réinitialisez votre identité.
Vous allez perdre vos points.
Continuer ?
Ce n'est pas une personne...
mais une société ou une entité...
que nous avons créée,
mais qui nous domine maintenant.
Elle définit notre société,
nos opinions et nos décisions.
Regardons cela concrètement,
ce n'est pas abstrait.

Spanish: 
tus deseos, tus obsesiones...
Tú no sabes
por qué te sientes como te sientes...
pero Google
y el Gobierno de China lo sabrán.
HAZ UNA PREGUNTA
¿QUIÉN SOY?
HAZ UNA PREGUNTA
¿HACIA DÓNDE VOY?
HAZ UN PREGUNTA
¿QUIERES REINICIAR TU IDENTIDAD?
PERDERÁS TUS PUNTOS DE FIDELIDAD
¿CONTINUAR?
No es una persona...
sino una corporación o entidad...
que nosotros hemos creado
y que ahora nos está controlando...
y que está modelando la sociedad,
nuestros juicios y nuestras decisiones.
Vamos a poner un ejemplo más específico.

Spanish: 
¿Cómo tomamos
las decisiones en nuestro día a día?
El individualismo, la ideología liberal,
te dice que pienses por ti mismo...
que sigas a tu corazón,
que hagas lo que sea bueno para ti.
Así que estás pensando
qué deberías estudiar en la universidad...
dónde deberías trabajar
o con quién deberías casarte...
el consejo es que te escuches a ti mismo.
Dentro de 20 años, el consejo será
que te olvides de tu corazón...
y que le preguntes a Google
porque te conoce mejor...
y podrá decirte qué estudiar,
dónde trabajar y con quién casarte.
La gente comete errores terribles
en los momentos más importantes...
porque no se conocen a sí mismos bien...
pero estos algoritmos sí
que nos conocen bien.
Quieren ser perfectos,
pero no les hace falta tanto.
Solo tienen que ser mejor
que el individuo promedio...
para poder hacerse con el control.

French: 
La question est la suivante : comment
prenez-vous des décisions dans la vie ?
L'idéologie individualiste et libérale
vous dit de penser par vous-même.
Écoutez votre cœur,
faites ce qui vous fait du bien.
Si vous vous dites :
"Que dois-je étudier ?
Où dois-je travailler,
qui dois-je épouser ?"
On vous conseille
d′écouter votre cœur.
Dans 20 ans on vous dira : "Oubliez
votre cœur, qu'est-ce qu'il en sait ?
Demandez à Google,
Google vous connaît mieux."
Il peut vous conseiller sur vos études,
votre travail et qui vous devez épouser.
Les gens commettent parfois
de grandes erreurs dans leur vie...
parce qu'ils ne se connaissent pas bien.
Mais ces algorithmes,
ces systèmes, nous connaîtront mieux.
Ils ne seront pas parfaits,
ils n'ont pas besoin d′être parfaits.
Il faut juste qu'ils soient meilleurs
que l'individu moyen...
pour prendre le pouvoir.

Spanish: 
Ese será el final
de todas esas viejas instituciones...
e ideologías...
como el individualismo,
el libre mercado, la democracia, etc.
Aun así, mucha gente sigue encontrando
respuestas sobre su destino...
porque todos los dioses son omniscientes,
por supuesto...
pero ahora está Google...
que con sus algoritmos
e IA nos conoce mejor...
que nosotros mismos.
¿Se ha convertido Google en un oráculo?
¿Lo ves como una nueva religión?
Habría que preguntarse qué es la religión,
Se cree que la religión va sobre Dios,
pero no es así.
La religión va sobre humanos.
En esencia, la religión es
una historia que da legitimidad...
a las normas, leyes y valores humanos...

French: 
Ce sera la fin de toutes
les vieilles institutions et idéologies...
comme l'individualisme,
le libre marché et la démocratie.
Pourtant, beaucoup de gens
trouvent des réponses dans leur foi...
parce que chaque dieu
est omniscient, bien sûr.
Mais il y a maintenant Google qui,
grâce à ses algorithmes et son AI...
nous connaît mieux
que nous ne nous connaissons nous-mêmes.
Le moteur de recherche
est-il donc devenu un oracle ?
Est-ce une nouvelle religion ?
Oui, car qu'est-ce que la religion ?
Les gens pensent que Dieu est au centre
de la religion. Ce n'est pas le cas.
Les gens sont au centre de la religion.
En substance, la religion est une histoire
qui donne de la légitimité...
aux normes, valeurs et lois humaines...

French: 
et cela légitime une source d'autorité.
La religion apporte une réponse
aux grandes questions.
Quelle est la source de l'autorité ?
La religion raconte une histoire
qui nous explique...
qui est l'autorité
qui peut répondre à notre question.
Nous sommes réunis ici ce matin
pour te rencontrer.
S'il te plaît Seigneur, ne nous laisse pas
partir les mains vides.
Selon le judaïsme, la parole de Dieu
dans la Bible représente l′autorité.
Si vous voulez savoir
si deux hommes peuvent se marier.

Spanish: 
y que ratifica el origen de su autoridad.
Religión es cuando tienes
una gran pregunta sobre la vida...
y necesitas una respuesta.
¿Quién es la fuente de autoridad?
La religión te lo explica
mediante una historia...
y te dice quién es la autoridad
que responderá a tus preguntas.
Estamos aquí esta mañana
para encontrarnos contigo.
Señor, no dejes que nos vayamos
con las manos vacías, por favor.
El judaísmo te dirá que la autoridad es
la palabra de Dios en la Biblia.
Si quieres saber
si dos hombres se pueden casar...

French: 
Vous êtes confronté au dilemme : "Puis-je
épouser mon ami en tant qu'homme ?"
Vous demandez à la Bible
et la Bible dit : "Non, c'est un péché."
Alors vous ne le faites pas.
C'est une source d'autorité.
Ensuite, vous avez une idéologie
moderne comme le libéralisme...
qui vous dit : "La Bible
n'est pas la source de l'autorité...
mais le sentiment humain.
Il faut écouter vos propres sentiments.
Si vous marier rend vous
et votre ami heureux...
et que vous ne faites de mal à personne,
alors il n'y a rien de mal à cela.
Mariez-vous."
Faites-le si ça vous rend heureux.
C'est ce que dit le libéralisme.
La plus haute source d'autorité
n'est pas Dieu ou la Bible...
mais les sentiments humains.
Si nous voyons la religion en général
comme une histoire sur l'autorité...
alors le dataïsme sera
la nouvelle religion du XXIe siècle...

Spanish: 
si tu dilema es
si te puedes casar con tu novio...
acudes a la Biblia,
y la Biblia te dice que es un pecado.
Así que no lo haces
porque es una fuente de autoridad.
Pero luego tienes las ideologías modernas,
como el liberalismo...
que te dicen que la Biblia no es
la fuente de autoridad...
sino que lo son los sentimientos humanos.
Solo debes consultar a tus sentimientos.
Si hay algo que a te hace feliz,
y que también hace feliz a tu pareja...
y con ello no haces daño a nadie,
entonces, no tiene nada de malo.
Si te hace sentir bien, hazlo.
Básicamente,
esa es la historia del liberalismo.
La mayor fuente de autoridad no es Dios
o la Biblia...
son los sentimientos humanos.
Si en general entendemos la religión
como una historia sobre la autoridad...
entonces, en el siglo XXI tendremos
una nueva religión dataísta...

French: 
ou nous aurons
une religion algorithmique.
Les gens penseront alors
que la source de l'autorité...
se trouve
dans les algorithmes du Big Data.
Si dans votre vie vous avez une grande
ou une petite question...
la source de l'autorité se trouve
dans les algorithmes du Big Data.
Voulez-vous dire que ceux qui possèdent
les données ou qui y ont accès...
sont les nouveaux prêtres ?
Les nouveaux prêtres, rois, dieux...
Peu importe le nom que vous leur donnez.
Les données sont la clé de presque tout.
C'est la possession la plus importante.
Il y a des centaines d'années,
des milliers d'années...

Spanish: 
o una nueva religión algorítmica...
que le dirá a la gente
que la fuente de autoridad son...
los algoritmos y los macrodatos.
Si tienes una pregunta vital,
bien sea pequeña o grande...
la fuente de autoridad serán
los algoritmos de macrodatos.
Entonces ¿los dueños de esos datos,
o los que tengan acceso a ellos...
serán una especie de nuevos sacerdotes?
Sí, los nuevos sacerdotes,
los nuevos reyes, como quieras llamarlos.
Ahora los datos son la clave,
son el recurso más importante.
En el pasado, hace miles de años...
el recurso más importante era la tierra...

Spanish: 
y el gran conflicto era
quién era el dueño de esa tierra.
Después, con la Revolución Industrial,
la importancia de la tierra cayó...
y la importancia pasó a las máquinas.
¿Quién es el dueño
de los medios de producción?
Entonces, tuvo lugar ese gran conflicto
cuyo centenario se celebra justo este año:
la Revolución comunista rusa...
la cual trató sobre quién era
el dueño de dichos medios de producción.
En el siglo XXI,
el recurso más importante serán los datos.
Con ello no estoy diciendo
que deba ser algo necesariamente malo.
Creo que va a ser algo muy bueno
en muchos aspectos.
HERIDA DETECTADA
¿REINICIAR IDENTIDAD?
PERDERÁS TUS PUNTOS DE FIDELIDAD
VERIFICACIÓN NECESARIA

English: 
What...
What is happening?
Oh no, I lost my points.

French: 
la terre était la possession la plus
importante. On se battait pour elle.
Après la révolution industrielle,
l'importance de la terre a diminué.
Posséder des machines
est devenu plus important...
posséder des usines,
des moyens de production.
Ça a engendré beaucoup de conflits.
Nous célébrons maintenant...
le centenaire de la révolution russe.
Ils se sont battus pour la possession
de ces moyens de production.
Au XXIe siècle, les données
sont la possession la plus importante.
Je ne dis pas que c'est nécessairement
une mauvaise chose.
À bien des égards,
ce sera une bonne chose.
Blessure détectée
Quoi ?
Réinitialiser votre identité ?
Vous allez perdre vos points. Continuer ?
Que se passe-t-il ?
Vérification requise.
Échantillon biométrique accepté.
Oh non, j'ai perdu mes points.

Spanish: 
Pero también es cierto
que conllevará ciertos peligros.
La gente perderá el control de su vida.
Será más mucho más fácil manipular
a las personas.
El significado mismo
de la vida humana va a cambiar.
Tradicionalmente,
la vida humana se veía...
como un proceso de toma de decisiones,
una sucesión de intersecciones.
Pensemos en el arte,
como "Historia de dos ciudades".
O pensemos en las obras de Shakespeare.
Estas casi siempre tratan
sobre decisiones.
¿Mató Macbeth al rey o no?
¿Romeo debe ir a por Julieta o no?

French: 
Que dois-je faire maintenant ?
Mais il y a aussi des dangers.
Les gens perdront le contrôle de leur vie.
Ce sera beaucoup plus facile
de les manipuler.
Le sens de la vie humaine va changer.
La vie humaine
est traditionnellement considérée comme...
étant un processus de prise de décisions.
On choisit une voie après l'autre.
Pensez au grand art, comme par exemple
"A Tale of Two Cities" .
Ou les pièces de Shakespeare.
La prise de décisions
est toujours au centre de ces œuvres.
Est-ce que Macbeth tue le roi ou pas ?
Est-ce que Romeo séduit Juliette ou pas ?

English: 
What do I do now?

Spanish: 
Las decisiones siempre están ahí...
y lo mismo pasa con la religión.
Si pensamos en el cristianismo...
la toma de decisiones siempre es
el gran drama.
Debes escoger entre el bien y el mal.
Si escoges el bien, irás al paraíso,
y si escoges el mal, irás al infierno.
Todo son decisiones.
Entonces
¿qué pasará con la vida humana...
cuando Google tome
todas las decisiones importantes?
Piensa en tu comedia favorita
de Hollywood...
o en tu obra favorita de Shakespeare.
Imagínate a Hamlet preguntándose
qué debe hacer...
y acudiendo a Google para que le diga
qué hacer porque lo conoce mejor.
Puede que la vida de Hamlet hubiera sido
más fácil y cómoda...
si hubiera permitido
que Google tomara las decisiones por él...
¿pero qué tipo de vida sería esa?
No lo sabemos.

French: 
Il faut toujours prendre des décisions.
C'est pareil pour la religion.
Regardez le christianisme.
Le grand drame tourne autour
de la prise de décisions.
Il faut choisir entre le bien et le mal.
Si on choisit le bien, on va au paradis.
Si on choisit le mal, on va en enfer.
Les décisions sont importantes.
À quoi ressemble la vie humaine...
si Google prend
toutes les décisions importantes ?
Imaginez votre comédie
hollywoodienne préférée.
Ou votre pièce préférée de Shakespeare.
Quand Hamlet ne sait pas quoi faire...
il dit : "Google, que dois-je faire ?
Tu me connais mieux."
La vie est peut être plus facile
pour Hamlet...
s′il laisse Google décider pour lui.
Mais quel genre de vie est-ce ?
Nous ne le savons pas.

Spanish: 
¿QUIÉN SOY?
Los Googles de este mundo
cada vez son más inteligentes...
gracias a los algoritmos
que usan con nuestros conocimientos.
La IA cada vez está más presente
en toda la tecnología que nos rodea...
lo que tendrá una gran
y continua influencia en nuestra vida.
¿Dónde termina ese desarrollo de la IA?
Todos los días se escuchan noticias...
sobre las IA haciendo cosas
que antes solo podía hacer un humano.
Todos los días hay una notica
sobre una nueva herramienta...
que se usa en biología
para modificar los genes.
Todos los días surge algo...
que nos hace dudar de nuestro conocimiento
sobre nosotros mismos...
y esta tendencia no dejará de aumentar.

French: 
Les Google de ce monde
deviennent de plus en plus intelligents...
en raison de l'algorithme
basé sur nos connaissances.
On intègre de plus en plus d'IA
dans les technologies qui nous entourent.
Ceci aura une influence ininterrompue
et plus grande sur notre vie quotidienne.
Jusqu′où ira le développement de l'IA ?
Chaque jour, on apprend que l'IA...
peut faire quelque chose que l'on pensait
que seuls les hommes pouvaient faire.
Chaque jour on apprend qu'il existe
un nouvel outil en biologie...
qui nous permet de modifier les gènes.
Chaque jour, il y a...
quelque chose qui accroît
notre compréhension de nous-mêmes.
Ce développement
ira de plus en plus vite...

French: 
et nous allons devoir repenser,
de manières différentes...
à notre rôle, à notre raison d′être
et à ce que nous faisons.
On est juste au début de la révolution
de l'IA et de la révolution génétique.
Dans la réalité virtuelle,
il existe...
toutes sortes de dimensions inconnues
qui remettent encore en question...
qui on est, où l'on est
et comment on se perçoit.
Je pense que ce sera le thème
du siècle à venir.
Nous allons devoir décider...
sur le plan individuel ou en tant
que société, ce que nous voulons être.
Qu'est-ce que être humain signifie ?
Qu'est-ce que l'homme devrait faire
ou veut faire ?

Spanish: 
Cada vez habrá más formas
en las que tendremos que reimaginar...
en qué son buenos los humanos,
por qué estamos aquí y qué hacemos.
Estamos solo al principio de todo esto.
La revolución de la IA
y de la genética acaba de empezar.
Cuando todo se mueva en realidad virtual,
tendremos que hacer distinciones...
entre muchas nuevas dimensiones
que desafiarán los conceptos...
de quiénes somos, dónde estamos,
cómo nos vemos a nosotros mismos...
Creo que esa será
la agenda para el próximo siglo.
Estaremos envueltos en la tarea...
a nivel individual o como sociedad,
de decidir quiénes queremos ser...
cuál es el sentido de ser humano...
qué deberíamos estar haciendo
y qué queremos hacer como humanos.

Spanish: 
Vamos a pasar del campo esotérico
y filosófico...
a tomar decisiones diarias...
sobre quienes somos,
y esas decisiones tendrán plazos.
Creo que eso será la norma.
Tendremos conversaciones en la comida
sobre el papel de los seres humanos...
y sobre adónde nos dirigimos como especie.
Todo esto va a pasar a ser
de vital importancia.
A finales del siglo pasado...
tuvo lugar la primera batalla
entre humanos y máquinas:
la famosa partida de ajedrez
entre Kaspárov y un superordenador.
La máquina ganó.
Ya no podíamos negar el papel de la IA.
Mira esa cara de resignación.
Garri parece... Su cara es...
¿Kaspárov está viendo algo en el tablero
que nosotros no vemos?
Garri Kaspárov era
campeón del mundo de ajedrez...

French: 
Toutes ces questions ésotériques
et philosophiques...
vont faire partie intégrante
de nos décisions quotidiennes...
et vont refléter notre incertitude
sur notre identité.
Et je pense
qu'il sera tout à fait normal...
de discuter dans les foyers
de ce qu'est l'homme...
s'il est en train de devenir une nouvelle
espèce et si cette espèce est humaine.
Cela va donc devenir très important.
Le 1er bras de fer entre l'ordinateur et
l'homme eut lieu à la fin du XXe siècle.
La célèbre partie d'échecs entre le grand
maître G. Kasparov et un superordinateur.
L'ordinateur gagna la partie.
Nous ne pouvions plus nier
le rôle de l'IA.
Il avait l'air résigné.
Garry n'est pas... Il a l'air très...
Kasparov voit-il quelque chose
sur l′échiquier que nous ne voyons pas ?
Garry Kasparov
était champion du monde d'échecs...

Spanish: 
y cuando perdió hace 15 años
contra el superordenador de IBM...
se quedó hecho polvo.
No se cree lo que está pasando.
Kaspárov ha abandonado
tras el movimiento C4.
Después volvió y dijo:
"Deep Blue tenía acceso
a todos los movimientos del mundo...
y eso no es justo.
Si yo hubiera tenido acceso
a esos movimientos, habría ganado".
Así que decidió crear
una nueva liga de ajedrez...
donde los humanos tienen acceso
a las bases de datos.
A este equipo formado por las IA
y los humanos lo llamó Centauro.
Un centauro es la combinación...
de la inteligencia humana y la artificial.

French: 
et quand le superordinateur IBM Deep Blue
a gagné il y a environ 15 ans...
il a été bouleversé.
C′était comme
s'il ne pouvait pas y croire.
Après le coup C4,
Kasparov abandonne.
Il a plus tard déclaré :
"Deep Blue avait accès à tous
les coups d'échecs jamais réalisés...
et c'est injuste.
Si j'avais eu cet accès pendant la partie,
j'aurais gagné."
Il a alors créé
un nouveau championnat d'échecs...
durant lequel vous pouviez avoir accès
à toutes les bases de données.
Il a appelé l'IA et l'équipe humaine
un centaure.
Les centaures étaient une combinaison...
d'intelligence artificielle
et d'hommes ensemble, en équipe.

French: 
L′idée est que nous ne nous opposons pas
aux machines...
mais que nous coopérons avec elles.
Votre salaire pourra dépendre
de cette coopération.
Il faut voir l'IA
comme une intelligence extraterrestre.
Comme si nous avions découvert
des extraterrestres sur une autre planète.
Ils penseront différemment de nous.
Ils nous seront utiles
parce qu'ils pensent différemment.
Mais on aura ce problème :
comment allons-nous les traiter ?
Faut-il les traiter comme s'ils étaient
des hommes, ou différemment ?
Ont-ils les mêmes droits que les hommes ?
Ont-ils plus de droits ?
Et la réponse est
que ça dépend d'eux.
S'il y en a plus d'un...
peut-être que nous traiterons certains
d'entre eux différemment.
Nous allons fabriquer des milliers
d'extraterrestres artificiels...

Spanish: 
Así que las máquinas no nos van a quitar
el trabajo...
sino que vamos a trabajar con ellas...
y nos pagarán por lo bien
que trabajemos con ellas.
La mejor manera de pensar en una IA es
como en una inteligencia alienígena.
Si entráramos en contacto
con otras formas de vida...
pensarían de forma distinta a nosotros...
y por eso mismo nos serían de utilidad.
Pero tendríamos
el problema de cómo tratarlas.
¿Las tratamos igual que a los humanos?
¿Tendrían nuestros mismos derechos?
¿Tendrían menos derechos?
La repuesta dependerá de los alienígenas.
Si conocemos
varios tipos de alienígenas...
quizá haya especies
a las que tratemos de forma distinta.
Nosotros vamos a crear
miles de inteligencias alienígenas...

French: 
et il nous faut décider
comment nous allons les traiter.
Hiroshi Ishiguro
est un constructeur de robots japonais.
Ses robots
ne sont pas encore très intelligents...
mais ils possèdent déjà
des caractéristiques humaines.
Il étudie principalement nos réactions
face à ces types de robots.
Vous pouvez me toucher
si vous le souhaitez.
Vous le faites déjà, n'est-ce pas ?
Parfois, un robot
est mieux qu'un être humain...
parce qu'on ne ressent pas de pression.
Lorsque nous parlons aux gens,
nous nous sentons parfois sous pression.
À cet égard, un robot est parfois mieux...
particulièrement pour les personnes âgées
et les enfants autistes.
N'ont-ils pas peur d'un robot ?
Trouvez-vous ce robot effrayant ?
- Non, pas effrayant. Assez étrange.

English: 
You can touch me if you want.
You're already doing that, right?

Spanish: 
y tendremos que decidir
cómo las vamos a tratar.
Iroshi Ishiguro es fabricante de robots.
Sus robots aún no son muy inteligentes,
pero poseen características humanas.
Está investigando nuestras reacciones
a este tipo de robots.
Podéis tocarme si queréis.
Ya lo estás haciendo, ¿verdad?
Los robots a veces son mejores
que los humanos...
porque no ponen nerviosos a la gente.
Cuando hablamos con otra persona,
a veces nos ponemos muy nerviosos...
y por eso los robots son mejores...
sobre todo para gente mayor
o para niños que tengan autismo.
¿A ellos no les asustan los robots?
¿Te parece que da miedo?
- No, pero es extraño.

French: 
Étrange ? Asseyez-vous et parlez-lui.
Il n'est pas si étrange que ça.
Une des choses qui m′inquiètent...
est que si nous traitions
les robots comme des esclaves...
cela aurait-il
un impact négatif sur nous ?
Cela nous ternirait-il ?
Cela...
affecterait-il notre âme
en quelque sorte ?
Même si ce ne sont pas des esclaves...
si nous les traitions comme tels,
cela aurait-il un impact sur nous ?
Oui, probablement.
Il nous faut donc réfléchir
à comment nous devons les traiter.
Aurons-nous de l'empathie ?
Comment s′intègrent-ils ?
Nous n'en n'avons aucune idée.
Nous ne savons pas.
Nous pouvons y réfléchir,
mais cela ne nous mène pas loin.
Nous serons en mesure de répondre
à ces questions...
avec l′expérience.
Regardez, on peut mettre son bras
autour de ses épaules.

Spanish: 
¿Extraño? Siéntate y habla con ella,
verás cómo no es tan extraña.
Una de mis preocupaciones es:
si tratamos a algunas IA como esclavos...
¿eso nos perjudicará?
¿Nos marcará de alguna forma?
¿Afectará a nuestra alma de alguna forma?
Si los tratamos como esclavos,
quizá nos afecte.
Yo creo que sí.
Hay muchas cuestiones
sobre la forma de tratar a las IA.
¿Qué tipo de empatía tendremos con ellas?
La respuesta ahora mismo es
que no tenemos ni idea.
No lo sabemos.
Podemos reflexionar sobre ello,
pero no sacaremos nada en claro.
Este tipo de preguntas
solo se pueden contestar...
a través del uso y de la experiencia.
Puedes darle un abrazo.

French: 
La toucher
est presque un geste intime.
Essayez. Venez.
- Je vais essayer.
Et après ? C'est bizarre.
Pourquoi ?
- Eh bien...
La toucher
me semble être un geste intime.
Comme si c′était un être humain.
- Oui, c'est vrai.
Elle est froide,
c'est la différence.
Elle est froide.
Ça vous dérange pas que je vous touche ?
- Non.
Très bien, merci.
Je suis un robot humain créé
par le laboratoire Ishiguro.
Je suis une femme androïde.
Nous créons de l'IA,
nous modifions nos gènes.

Spanish: 
Tocarla y eso se siente
como algo casi íntimo.
Deberías probar, vamos.
- De acuerdo.
Es una sensación muy rara.
¿Por qué?
- Bueno...
De algún modo, tocarla se siente íntimo.
¿Como a un humano?
- Sí, exacto.
Lo único es que está fría.
Sí.
¿Te molesta que te toque?
- No.
Gracias.
El Instituto Ishiguro me ha creado
como un robot humano.
Soy una mujer androide.
Estamos creando IA,
estamos modificando nuestros genes...

English: 
The Ishigoro Institute has developed me
as a human robot.
I am a female android.

French: 
Sommes-nous en train de devenir des dieux
ou construisons-nous de nouveaux dieux ?
Les deux.
L'histoire est chaotique.
On ne peut pas tout mettre
dans un compartiment unique.
Nous suivons deux chemins parallèles.
D'un côté, nous essayons d'améliorer,
de moderniser l'homo sapiens...
et de lui donner des qualités divines.
En même temps, nous créons aussi
de nouveaux dieux externes...
tels ces gros algorithmes de données.
Les conflits du XXIe siècle...
seront en partie des conflits
entre ces deux nouveaux dieux.
Qui va gagner : les humains modernisés
ou les algorithmes de Big Data ?
Tout le monde ne pourra pas se moderniser.

Spanish: 
¿estamos convirtiéndonos en dioses
o estamos creando nuevos dioses?
Estamos haciendo ambas cosas.
La historia es un poco desordenada.
Es difícil meterla toda
en un solo compartimento...
así que nos movemos a lo largo
de dos caminos simultáneos.
Por un lado,
intentamos mejorar al "Homo sapiens"...
para darle habilidades divinas...
pero, a la vez, también estamos creando
nuevos dioses externos...
como, por ejemplo,
los algoritmos de macrodatos.
Y parte del conflicto
del siglo XXI será...
el conflicto
entre estos dos nuevos dioses.
¿Ganarán los humanos mejorados
o ganarán los algoritmos de macrodatos?
No todo el mundo será capaz
de mejorarse...

French: 
Et tout le monde n'aura pas accès
ou n'aura pas le contrôle...
de ces nouveaux algorithmes de Big Data.
Sur huit milliards de personnes, la grande
majorité restera homo sapiens.
Et ils perdront probablement
leur valeur économique...
leur pouvoir politique
et le contrôle de leur vie.
Une société extrêmement inégale
émergera sans doute...
au sein de laquelle il y aura une
petite élite, de personnes modernisées...
ou de personnes
qui possèdent ces algorithmes maîtres...
comme l'algorithme de Google
ou l'algorithme de Facebook.
Cette petite élite contrôle le monde.
La grande majorité des gens
a très peu de valeur économique...
et très peu de pouvoir politique.
Encore quinze minutes.
On est là.

Spanish: 
y no todo el mundo tendrá control...
sobre los nuevos algoritmos de macrodatos.
La mayoría de humanos seguirá siendo
"Homo sapiens" normales y corrientes...
y, probablemente.
perderán su valor económico...
el poder político
y el control sobre sus vidas.
Seguramente, estaremos
ante una sociedad muy desigual...
en la que una pequeña élite,
compuesta por humanos mejorados...
y por esas personas
que controlen el algoritmo maestro...
como el algoritmo de Google
o el de Facebook...
controlará todo el planeta.
La mayoría de gente tendrá
muy poco valor económico...
y muy poco poder político.
Llevamos aquí 15 minutos.

French: 
Ça va être épique.
On a les meilleures places.
On est prêts pour la bataille.
Les gens ont peur que les robots
et l'intelligence artificielle...
rendent les gens superflus.
Il n'y aura plus de travail pour eux.
Quel sera alors le sens de la vie
en 2030, 2050 ?
Personne ne sait exactement à quoi
ressemblera le marché du travail en 2040.
Mais il est probable ou possible...
compte tenu
des développements technologiques...
qu'il sera possible et même facile
d'entretenir les gens...
même s'ils ne travaillent pas.

Spanish: 
Va a ser épico.
Tenemos unos asientos geniales
y estamos listos para la guerra.
La gente a la que le asuste
la robótica y las IA pasará a ser...
de algún modo, prescindible.
Se convertirán
en personas imposibles de emplear.
¿Cuál será el sentido de la vida
en 2030 o 2050?
Nadie sabe a ciencia cierta
cómo será el mercado laboral en 2040...
pero es posible, o muy probable...
dado todo el desarrollo tecnológico...
que sea viable, incluso fácil,
mantener a esa gente...
aunque no trabajen...

French: 
On pourra leur donner un revenu de base
et assez de nourriture et de médicaments.
Mais quel sera le sens de leur vie ?
Que vont-ils faire toute la journée ?
Ils passeront peut-être leur temps
à jouer à des jeux d'ordinateur.
Des jeux de réalité virtuelle.
Ils passeront de plus en plus de temps
sur les jeux de réalité virtuelle.
Ça leur apportera bien plus de joie
et d'implication émotionnelle...
que n'importe quoi d'autre
appartenant au monde réel.
Ce n'est pas une idée
complètement nouvelle.
On peut dire
que depuis des milliers d'années...
des millions de gens ont donné un sens
à leur vie grâce à la réalité virtuelle.
Nous avons donné à ces jeux
le nom de religion.
Une autre façon
de comprendre la religion...

Spanish: 
dándoles una renta básica universal,
comida, medicamentos, etc.
La pregunta es
qué hará esa gente todo el día...
y una de las respuestas es que se pasarán
el día jugando a videojuegos.
Videojuegos de realidad virtual.
Cada vez pasarán más tiempo jugando
a este tipo de juegos...
los cuales les proporcionarán
más emoción y compromiso emocional...
que cualquier otra cosa
que haya en el mundo real.
Esta idea no es completamente nueva.
Hace miles de años...
la gente encontraba sentidos jugando
a juegos de realidad virtual.
A esos juegos se les llamaba religiones.
¿Qué es una religión?
Otra manera de entenderla es...

French: 
est de la considérer
comme un jeu de réalité virtuelle.
Ils vous imposent toutes sortes de règles.
Priez cinq fois par jour...
avoir telle ou telle cérémonie.
Si vous suivez
les lois imaginaires du jeu...
qui n'existent que dans votre imagination,
ce ne sont pas des lois naturelles...
vous gagnez des points.
Si vous enfreignez ces lois,
vous perdez des points.
Si après votre décès,
votre solde est positif...
vous passez au niveau suivant :
vous allez au paradis.
Les gens jouent à ce jeu de réalité
virtuelle depuis des milliers d′années.
Alors pourquoi pas au XXIe siècle ?

Spanish: 
como un juego de realidad virtual.
Te dicen que hay una serie de leyes:
rezar cinco veces al día...
realizar un tipo concreto de ceremonia...
Si sigues
estas leyes imaginarias del juego...
un juego que solo existe
en la imaginación...
conseguirás puntos...
pero si rompes las reglas,
entonces, pierdes puntos.
Y si cuando mueras
tu balance es positivo...
pasarás al siguiente nivel: el cielo.
La gente lleva miles de años jugando
a estos juegos de realidad virtual...
así que por qué no iban a jugar
en el siglo XXI.

French: 
Pensez-vous que nous sommes
l'homme de Néandertal du futur...
voué à disparaître ?
Je doute que l'homo sapiens
soit encore là dans 200 ans.
Compte tenu de la rapidité
des développements technologiques...
soit nous nous autodétruisons avec
une catastrophe nucléaire ou écologique...
soit nous nous modernisons
et nous nous développons...
en quelque chose
qui n'a rien à voir avec l'homo sapiens.
Dans 200 ans, la Terre sera dominée
par des entités...
qui seront plus différentes de nous
qu'on ne l'est de l'homme de Néandertal.
Des corps, des cerveaux
et des esprits différents.

Spanish: 
¿Tienes la sensación
de que somos los neandertales del futuro?
¿Crees que nos extinguiremos?
Dudo que el "Homo sapiens" exista
dentro de 200 años.
Dado el ritmo de desarrollo tecnológico...
dentro 200 años,
o nos hemos destruido a nosotros mismos...
a través de una catástrofe nuclear
o ecológica...
o nos habremos mejorado
y nos habremos convertido...
en algo muy diferente a un "Homo sapiens".
Dentro de 200 años,
la Tierra estará dominada por entidades...
que serán más diferentes de nosotros...
de lo que nosotros lo somos
de los neandertales.
Tendremos cuerpos,
cerebros y mentes diferentes.

French: 
La technologie est une forme élargie
de cette même auto-organisation...
qui existe aussi
dans l'évolution naturelle.
J'aime le voir comme suit :
la technologie est un moyen
par lequel l'évolution...
invente des choses
qu'elle ne peut inventer avec des tissus.
Le tissu biologique...
a créé notre cerveau
qui, à son tour, crée d'autres choses.
D'autres formes,
d'autres façons de construire...
des robots multiplicateurs...
dans une zone inaccessible
aux formes de vie biologiques.
C'est un processus surhumain.

Spanish: 
La tecnología es una forma extendida...
de la misma autoorganización
que encontramos en la evolución natural.
Me gusta pensar
en ella de la siguiente manera.
La tecnología es
un medio para la evolución...
y para inventar cosas
que no se pueden crear solo con tejido.
Tejido biológico.
El tejido ha inventado nuestras mentes
para que puedan inventar otras cosas...
otras formas de crear...
o dispositivos autorreplicantes
como los robots...
dentro de un espacio
al que las formas biológicas no llegan.
Este es un proceso
que va más allá de los humanos...

Spanish: 
y que tiene su origen en el Big Bang,
en el mismo universo.
La tecnología es parte de una corriente...
que existía antes que los humanos
y que existirá más allá de nosotros.
Estamos en medio de eso
y hay que seguir adelante.
Si contemplamos la naturaleza
desde un punto de vista muy amplio...
mucho más amplio que la biología natural
y que la selección natural...
entonces, todo lo que pasa
en el universo es parte de la naturaleza.
Desde ese punto de vista,
la IA no es menos natural...
que una flor o que un ser humano.
Sigue obedeciendo
las leyes básicas de la física.
Sin embargo,
cuando se piensa en la naturaleza...
la mayoría de la gente piensa
en biología...
y si piensas en términos biológicos...

French: 
Il est né du Big Bang, de l'univers.
La technologie
fait donc partie d'un flux...
qui était là avant notre arrivée
et qui sera toujours là après nous.
Nous favorisons son développement.
Si l'on prend la nature
au sens très large...
bien plus large que la nature biologique
et la sélection naturelle...
alors tout ce qui se passe dans l'univers
fait partie de la nature.
L′intelligence artificielle
est tout aussi naturelle...
qu'une fleur ou une personne.
Elle obéit aussi aux lois de la physique.
Mais quand la plupart des gens
pensent à la nature...
ils pensent surtout à la biologie.
Et si vous pensez en termes de biologie...

French: 
en termes de biochimie, d'organismes
et de sélection naturelle...
alors l'IA et la technologie en général...
ne font pas partie du monde limité
de la biologie organique...
et créent quelque chose
de complètement nouveau.
Certains se demandent : "Les androïdes
menacent-ils notre sécurité ?"

Spanish: 
en términos de bioquímica,
de organismos y de selección natural...
la IA, y la tecnología en general...
se quedarán fuera de ese reino limitado
que es la biología orgánica...
y crearan algo completamente nuevo.
Alguna gente se está preguntando:
¿se han convertido los androides
en una amenaza para nuestra seguridad?
Gracias por ver este vídeo.
Para más vídeos sobre este tema,
consulta la lista de reproducción.
También puedes ver este vídeo recomendado.

Spanish: 
No te olvides de suscribirte al canal
y te informaremos de nuevos documentales.
