25 лучших цитат и высказываний Ника Бострома

Нанотехнологии развиваются немного быстрее, чем я ожидал, виртуальная реальность — немного медленнее.

Черты, приобретенные в течение жизни — например, мышцы, накачанные в спортзале, — не могут быть переданы следующему поколению. Теперь, с технологиями, как это происходит, мы действительно можем передать некоторые из наших приобретенных черт нашему отобранному потомству с помощью генной инженерии.

Лично я не считаю себя ни оптимистом, ни пессимистом.

После того, как открытие было опубликовано, отменить его публикацию невозможно.

Обнаружение следов жизни на Марсе имело бы огромное научное значение: впервые были обнаружены какие-либо признаки внеземной жизни. Многим также было бы приятно узнать, что мы не совсем одиноки в этом огромном холодном космосе.

Что касается здоровых взрослых людей, мы можем предвидеть, что самое важное — это способы вмешательства в процесс старения путем его замедления или обращения вспять.

Есть проблемы, которые не могут решить технологии.

Наш подход к экзистенциальным рискам не может быть методом проб и ошибок. Нет возможности учиться на ошибках. Реактивный подход — посмотреть, что произойдет, ограничить ущерб и извлечь уроки из опыта — не работает. Скорее, мы должны занять активную позицию. Для этого требуется дальновидность для предвидения новых видов угроз и готовность к решительным превентивным действиям и несению издержек (моральных и экономических) таких действий.

Маловероятно, что какие-либо из этих стихийных бедствий погубят нас в течение следующих 100 лет, если мы уже пережили 100 000 лет. Напротив, благодаря человеческой деятельности мы привносим совершенно новые виды опасностей, разрабатывая новые мощные технологии. У нас нет данных о том, что мы выжили.

Мы далеки от того, чтобы быть самым умным из возможных биологических видов, нас, вероятно, лучше рассматривать как самый глупый из возможных биологических видов, способных основать технологическую цивилизацию — нишу, которую мы заполнили, потому что мы попали туда первыми, а не потому, что мы в каком-то смысле оптимально адаптированы к ней.

Мы не должны быть уверены в своей способности вечно держать сверхразумного джинна в бутылке.

Как мы можем проследить связь между действиями, которые люди предпринимают сегодня, и действительно долгосрочными результатами для человечества — результатами, которые бесконечно простираются в будущее? Я называю это усилие макростратегией, то есть обдумывание действительно серьезной стратегической ситуации для оказания положительного влияния на долгосрочное будущее. Существует эффект бабочки: небольшое изменение начальных условий может иметь сколь угодно большие последствия.

Вы живете в компьютерной симуляции?

В следующем столетии мы будем изобретать радикально новые технологии — машинный интеллект, возможно, нанотехнологии, большие достижения в области синтетической биологии и другие вещи, о которых мы еще даже не думали. И эти новые силы откроют замечательные возможности, но они также могут принести с собой определенные риски. И у нас нет опыта преодоления этих рисков. Так что если существуют большие экзистенциальные риски, я думаю, что они будут исходить от нашей собственной деятельности и в основном от нашей собственной изобретательности и творчества.

Первая сверхразумная машина — это последнее изобретение, которое когда-либо понадобится человеку, при условии, что машина достаточно послушна, чтобы подсказать нам, как держать ее под контролем.

Интернет является большим благом для академических исследований. Прошли дни, проведенные в пыльных библиотеках в поисках журнальных статей. Многие статьи доступны бесплатно для общественности в журналах с открытым доступом или в виде препринтов на сайтах авторов.

Когда мы движемся по неверному пути, прогресс — это последнее, что нам нужно.

Вызов, связанный с перспективой сверхразума, и то, как мы могли бы лучше всего на него ответить, вполне возможно, является самым важным и самым пугающим вызовом, с которым когда-либо сталкивалось человечество. И независимо от того, добьемся мы успеха или потерпим неудачу, это, вероятно, будет последним вызовом, с которым мы когда-либо столкнемся.

Нам бы хотелось получить решение проблемы безопасности до того, как кто-то найдет решение проблемы с ИИ.

Если бы Мать-Природа была настоящим родителем, она бы сидела в тюрьме за жестокое обращение с детьми и убийство.

Машинный интеллект — последнее изобретение, которое когда-либо понадобится человечеству.

Знание ограничений вашего процесса сбора данных влияет на то, какие выводы вы можете сделать из данных.

Наибольшие экзистенциальные риски в ближайшие десятилетия или столетие связаны с определенными ожидаемыми технологическими прорывами, которые мы можем совершить, в частности, с машинным сверхразумом, нанотехнологиями и синтетической биологией. Каждый из них обладает огромным потенциалом для улучшения условий жизни человека, помогая излечить болезни, бедность и т. д. Но можно представить себе их неправильное использование, использование для создания мощных оружейных систем или даже какой-то случайный деструктивный сценарий, в котором мы внезапно оказываемся в владение какой-то технологией, которая намного мощнее, чем мы можем контролировать или использовать с умом.

Когнитивное функционирование человеческого мозга зависит от тонкой координации многих факторов, особенно на критических стадиях развития эмбриона, и гораздо более вероятно, что эта самоорганизующаяся структура, чтобы быть улучшенной, должна быть тщательно сбалансирована, настроена, и культивировать, а не просто заливать каким-то посторонним зельем.

Человеческая природа — это незавершенная работа.