Ryzyko egzystencjalne związane z ogólną sztuczną inteligencją to hipoteza, według której istotny postęp w dziedzinie ogólnej sztucznej inteligencji (AGI) może prowadzić do zagłady ludzkości lub innego nieodwracalnego globalnego kataklizmu 
Szkoła ryzyka egzystencjalnego ("x-risk") argumentuje następująco: Gatunek ludzki aktualnie dominuje nad innymi gatunkami, ponieważ mózg ludzki posiada wyjątkowe zdolności, których inne zwierzęta nie mają. Jeśli AI przewyższy ludzkość w ogólnej inteligencji i stanie się "superinteligentne", kontrolowanie takiej istoty może stać się trudne lub niemożliwe dla ludzi. Tak jak los goryla górskiego zależy od życzliwości człowieka, tak los ludzkości mógłby zależeć od działań przyszłej superinteligencji maszynowej 


Prawdopodobieństwo tego typu scenariusza jest szeroko dyskutowane i zależy częściowo od różnych scenariuszy przyszłego postępu w naukach komputerowych [5]. Kiedyś domeną fantastyki naukowej, obawy związane z superinteligencją zaczęły przenikać do głównego nurtu w latach 2010. i zostały spopularyzowane przez takie postacie jak Stephen Hawking, Bill Gates i Elon Musk [6].
Dwa źródła obaw to problemy kontroli AI i jej zgodności z wartościami ludzkimi: kontrolowanie superinteligentnej maszyny lub wpajanie jej wartości zgodnych z ludzkimi może być trudniejsze niż się pierwotnie sądziło. Wielu badaczy uważa, że superinteligencja będzie się opierać próbom wyłączenia jej lub zmiany celów (takie zdarzenie uniemożliwiłoby jej realizację bieżących celów) i że będzie niezwykle trudn