Наибольшие экзистенциальные риски в ближайшие десятилетия или столетие связаны с определенными ожидаемыми технологическими прорывами, которые мы можем совершить, в частности, с машинным сверхразумом, нанотехнологиями и синтетической биологией. Каждый из них обладает огромным потенциалом для улучшения условий жизни человека, помогая излечить болезни, бедность и т. д. Но можно представить себе их неправильное использование, использование для создания мощных оружейных систем или даже какой-то случайный деструктивный сценарий, в котором мы внезапно оказываемся в владение какой-то технологией, которая намного мощнее, чем мы можем контролировать или использовать с умом.