When you're talking about superintelligent AI that can make changes to itself, it seems that we only have one chance to get the initial conditions right, and even then we will need to absorb the economic and political consequences of getting them right.
När man pratar om superintelligent AI som kan förändra sig själv, verkar det som att vi bara har en chans att få det rätt från början, och även då måste vi sätta oss in i och lösa de ekonomiska och politiska konsekvenserna.