Well, I don't really know what wrong is, but I know that I don't want to do it. "So that's the first and second principles right there." So I should let the human switch me off. "And in fact you can calculate the incentive that the robot has to allow the human to switch it off, and it's directly tied to the degree of uncertainty about the underlying objective.
No tengo claro lo que es malo pero sé que no quiero hacerlo ". Ahí están el primer y el segundo principio." Así que debería dejar que el humano me desconecte ". De hecho se puede calcular el incentivo que tiene el robot para permitir que el humano lo apague. Y está directamente ligado al grado de incertidumbre sobre el objetivo subyacente.