So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Cuando empecemos a debatir las ideas de una inteligencia artificial en el futuro, no solo deberíamos preguntarnos: "¿Podemos construirla?" También deberíamos preguntarnos: "¿Qué idea de lo humano desearíamos ver reflejada en nosotros?" Esta es una idea esencialmente filosófica que no puede responderse solo con software, sino que requiere un momento de reflexión existencial de la especie.