113 лучших цитат и высказываний Элиезера Юдковского

Мы склонны видеть индивидуальные различия вместо человеческих универсалий. Таким образом, когда кто-то произносит слово «интеллект», мы думаем об Эйнштейне, а не о людях.

Человеческий вид не был рожден в условиях рыночной экономики. Пчелы не продадут вам мед, если вы предложите им электронный перевод средств. Человеческий род вообразил существование денег, и они существуют — для нас, а не для мышей или ос, — потому что мы продолжаем в них верить.

Все, что может привести к развитию более умного, чем человеческий интеллект, — в форме искусственного интеллекта, интерфейсов мозг-компьютер или улучшения человеческого интеллекта на основе нейронауки — бесспорно выигрывает, поскольку делает больше всего для изменения мира. Ничто другое даже в той же лиге.

Мои уже достигнутые успехи в основном заключались в том, чтобы взять существующую науку и заставить людей применять ее в своей повседневной жизни.

Мои родители были первыми последователями, и я был в сети с довольно раннего возраста. Вы должны рассматривать все, что было выпущено в 2001 году или ранее, как написанное другим человеком, которого также зовут Элиезер Юдковски. Я не разделяю его мнения.

Я хочу навсегда сохранить в своем сердце ключевое слово Олимпиады – «страсть».

Существует популярная концепция «интеллекта» как книжного интеллекта, такого как исчисление или игра в шахматы, в отличие, скажем, от социальных навыков. Поэтому люди говорят, что «для успеха в человеческом обществе требуется нечто большее, чем интеллект». Но социальные навыки находятся в мозгу, а не в почках.

Пусть ветры свидетельств носятся вокруг вас, как если бы вы были листом, не имеющим собственного направления. Остерегайтесь отступления арьергарда вопреки уликам, неохотно уступая каждый фут земли только под принуждением, чувствуя себя обманутым. Сдавайтесь правде как можно быстрее.

Трансгуманисты не любят смерть. Мы бы остановили это, если бы могли. С этой целью мы поддерживаем исследования, дающие надежду на будущее, в котором человечество победит смерть.

Мне все равно, где я живу, пока есть крыша, чтобы защитить мои книги от дождя, и высокоскоростной доступ в Интернет.

В наших черепах мы носим около 3 фунтов слизистой, влажной, сероватой ткани, гофрированной, как смятая туалетная бумага. Глядя на этот неаппетитный комок, вы бы и не подумали, что это один из самых мощных веществ в известной вселенной.

Я все время пытаюсь объяснить людям, что архетип интеллекта — это не Дастин Хоффман в «Человеке дождя»; это человек, и точка. Это мягкие штуки, которые взрываются в вакууме, оставляя следы на своей луне.

Я не удивлюсь, если завтра будет Последний Рассвет, последний рассвет перед тем, как Земля и Солнце превратятся в вычислительные элементы.

Хотя у меня много друзей в академических кругах, я сам не работаю в рамках академической системы.

Я штатный научный сотрудник Исследовательского института машинного интеллекта, небольшой общественной благотворительной организации 501(c)(3), которая поддерживается в основном за счет индивидуальных пожертвований.

Когда что-то достаточно универсально в нашей повседневной жизни, мы принимаем это как должное до такой степени, что забываем о его существовании.

Жгучий зуд познания выше, чем торжественная клятва стремиться к истине. Чтобы почувствовать жгучий зуд любопытства, необходимо, чтобы вы были невежественны и хотели избавиться от своего невежества.

Когда вы думаете об интеллекте, не думайте о профессоре колледжа; думайте о людях, а не о шимпанзе. Если у вас нет человеческого интеллекта, вы даже не в игре.

Быть умным в споре — это не рациональность, а рационализация.

Если наше вымирание будет происходить достаточно медленно, чтобы допустить момент ужасающего осознания, вершители деяния, скорее всего, будут весьма ошеломлены, осознав, что они на самом деле уничтожили мир. Поэтому я предполагаю, что если Земля и будет уничтожена, то, вероятно, по ошибке.

Самым чистым случаем интеллектуального взрыва будет переписывание Искусственным Интеллектом собственного исходного кода. Ключевая идея заключается в том, что если вы можете хоть немного улучшить интеллект, процесс ускорится. Это переломный момент. Это как пытаться сбалансировать ручку на одном конце — как только она хоть немного наклоняется, она быстро падает на оставшуюся часть пути.

Учебник науки прекрасен! Наука из учебников постижима, в отличие от простых увлекательных слов, которые никогда не могут быть по-настоящему красивыми. Учебники по элементарным наукам описывают простые теории, а простота — основа научной красоты. Очаровательные слова не имеют ни силы, ни смысла без математики.

Ничто из того, что вы прочтете как экстренные новости, никогда не сравнится с чистой красотой устоявшейся науки. Учебники по науке содержат тщательно сформулированные объяснения для новых учеников, пошаговые математические выкладки, множество экспериментов в качестве иллюстраций и тестовых задач.

Ученый, достойный лабораторного халата, должен уметь совершать оригинальные открытия в клоунском костюме или читать лекцию высоким скрипучим голосом, вдыхая гелий. В математике теории вероятностей нигде не написано, что можно не развлекаться.

Систематическое экспериментальное исследование воспроизводимых ошибок человеческого мышления и того, что эти ошибки говорят о лежащих в основе психических процессах, известно как программа эвристики и предубеждений в когнитивной психологии. Эта программа сделала открытия, имеющие большое значение для специалистов по оценке глобальных катастрофических рисков.

Средства массовой информации считают, что освещать заслуживают только передовые достижения науки, самые последние противоречия. Как часто вы видите заголовки вроде «Общая теория относительности по-прежнему определяет орбиты планет» или «Теория Флогистона остается ложной»? К тому времени, когда что-то становится твердой наукой, это уже не сенсационный заголовок.

Интеллект является источником технологий. Если мы сможем использовать технологии для улучшения интеллекта, это замкнет петлю и потенциально создаст цикл положительной обратной связи.

Вы не можете «рационализировать» то, что не является рациональным с самого начала — как если бы ложь называлась «правдоподобием». Подкупом, лестью или самым страстным спором невозможно получить больше истины для предложения — вы можете заставить больше людей поверить в предложение, но вы не можете сделать его более верным.

Не бойтесь событий, которые могут разрушить ваши убеждения. Мысль, о которой вы не можете думать, контролирует вас больше, чем мысли, которые вы произносите вслух. Подвергните себя испытаниям и испытайте себя в огне. Отбросьте эмоцию, основанную на ошибочном убеждении, и постарайтесь полностью прочувствовать ту эмоцию, которая соответствует фактам.

Безусловно, самая большая опасность искусственного интеллекта заключается в том, что люди слишком рано приходят к выводу, что они его понимают.

Цель моральной философии не в том, чтобы выглядеть восхитительно странной и противоречащей здравому смыслу или давать работу специалистам по биоэтике. Цель состоит в том, чтобы направлять наш выбор в сторону жизни, здоровья, красоты, счастья, веселья, смеха, испытаний и обучения.

Со времен возникновения Homo sapiens люди были самыми умными людьми. Но очень скоро — то есть в историческом масштабе — мы можем ожидать, что технология преодолеет верхнюю границу интеллекта, которая держалась последние несколько десятков тысяч лет.

Если бы я мог создать мир, в котором люди жили бы вечно или, по крайней мере, несколько миллиардов лет, я бы это сделал. Я не думаю, что человечество всегда будет застревать в той неловкой стадии, в которой мы сейчас находимся, когда мы достаточно умны, чтобы создавать себе огромные проблемы, но недостаточно умны, чтобы решить их.

Если вы хотите максимизировать ожидаемую полезность, вы пытаетесь спасти мир и будущее межгалактической цивилизации вместо того, чтобы жертвовать свои деньги обществу на лечение редких болезней и милых щенков.

Очевидный выбор не всегда лучший выбор, но иногда, ей-богу, он им и является. Я не перестаю искать, как только нахожу очевидный ответ, но если я продолжаю искать, а кажущийся очевидным ответ все еще кажется очевидным, я не чувствую себя виноватым за то, что сохранил его.

Антрополог не станет восторженно сообщать о недавно открытом племени: «Они едят пищу! Они дышат воздухом! Они используют инструменты! Они рассказывают друг другу истории! Мы, люди, забываем, насколько мы похожи, живя в мире, который лишь напоминает нам о наших различиях.

Не бывает удивительных фактов, есть только модели, которые удивляются фактам; и если модель удивлена ​​фактами, это не делает ей чести.

Ваша сила как рационалиста заключается в вашей способности больше сбиваться с толку вымыслом, чем реальностью. Если вы одинаково хорошо объясняете любой результат, у вас нулевые знания.

Если бы драконы были обычным явлением, и вы могли бы посмотреть на одного из них в зоопарке — но зебры были редким легендарным существом, которое, наконец, было решено сделать мифическим — тогда был бы определенный тип людей, которые проигнорировали бы драконов, которые никогда не удосужились бы взглянуть на них. драконов и гоняться за слухами о зебрах. Трава всегда зеленее по ту сторону реальности. Что скорее обрекает нас на вечное разочарование, а? Если мы не можем радоваться просто реальному, наша жизнь действительно будет пустой.

Многие стояли на своем и столкнулись с тьмой, когда она пришла за ними. Немногие приходят за тьмой и заставляют ее противостоять им.

Если бы людей каждую неделю били по голове бейсбольной битой, довольно скоро они бы изобрели причины, по которым удары по голове бейсбольной битой — это хорошо.

Безусловно, самая большая опасность искусственного интеллекта заключается в том, что люди слишком рано приходят к выводу, что они его понимают.

Вы найдете двусмысленность отличным союзником на пути к власти. Дайте знак Слизерина в один день и противопоставьте его знаку Гриффиндора на следующий; и слизеринцы смогут верить в то, во что хотят, в то время как гриффиндорцы также убеждают себя поддержать вас. Пока существует неопределенность, люди могут верить во все, что им кажется выгодным. И пока вы кажетесь сильным, пока вам кажется, что вы выигрываете, их инстинкты будут говорить им, что их преимущество в вас. Всегда ходите в тени, и свет и тьма будут следовать за вами.

Когда вы станете старше, вы узнаете, что первое и главное, что делает любой обычный человек, это ничего не делать.

Признать свою ошибочность, а затем ничего с этим не делать, — это не смиренно; это хвастовство вашей скромностью.

Благодаря рациональности мы станем крутыми, будем изобретать и тестировать систематические методы, чтобы сделать людей крутыми, и планировать оптимизацию всего, что попадется нам на глаза, и чем больше удовольствия мы будем получать, тем больше людей захотят к нам присоединиться.

Между предвзятостью задним числом, фальшивой причинно-следственной связью, предвзятостью в сторону позитива, привязкой/подготовкой и так далее и тому подобное, и, прежде всего, страшной предвзятостью подтверждения, как только идея проникает в вашу голову, она, вероятно, там и останется.

Вы несете личную ответственность за то, чтобы стать более этичными, чем общество, в котором вы выросли.

По моему опыту, журналисты сообщают об алгоритме ближайшего клише, который крайне неинформативен, потому что клише не так много, правда часто весьма далека от любого клише, и единственное, что вы можете сделать о реальном событии, это то, что это было ближайшее клише. Просто невозможно оценить всю ужасность репортажей основных средств массовой информации, пока кто-то на самом деле не сообщил о вас. Это намного хуже, чем вы думаете.

Реальность существовала задолго до того, как вы появились. Не называйте это неприятными именами, такими как «причудливый» или «невероятный». Вселенная распространяла сложные амплитуды через конфигурационное пространство в течение десяти миллиардов лет, прежде чем на Земле появилась жизнь. Квантовая физика не является «странной». Ты странный.

Попытка и получение травмы не может быть хуже для вас, чем... застревание.

Я задаю фундаментальный вопрос рациональности: почему вы верите в то, во что верите? Как вы думаете, что вы знаете и откуда, по вашему мнению, вы это знаете?

Трижды ультразапрещено реагировать на критику насилием. В человеческом искусстве рациональности очень мало предписаний, в которых нет «если», «и», «но» или оговорок. Это один из них. Плохой аргумент получает контраргумент. Не получает пулю. Никогда. Никогда никогда никогда навсегда.

Лакмусовая бумажка: если вы не можете описать закон сравнительного преимущества Рикардо и объяснить, почему люди находят его нелогичным, вы недостаточно знаете экономику, чтобы критиковать или хвалить «капитализм», потому что вы не знаете, что представляют собой другие люди. ссылаясь на то, когда они используют это слово.

Помните, если вы добиваетесь успеха во всем, за что беретесь в жизни, вы живете ниже своего полного потенциала, и вам следует браться за более сложные или смелые вещи.

Нет справедливости в законах природы, нет понятия справедливости в уравнениях движения. Вселенная не злая и не добрая, ей просто все равно. Звездам все равно, или Солнцу, или небу. Но они не должны! Мы заботимся! В мире ЕСТЬ свет, и это МЫ!

Правила Крокера не давали вам права говорить что-либо оскорбительное, но другие люди могли говорить вам потенциально оскорбительные вещи, и вы должны были не обижаться. Это было на удивление трудно объяснить людям; многие люди прочитают тщательное объяснение и услышат: «Правила Крокера означают, что вы можете говорить оскорбительные вещи другим людям».

Закон безумной науки Мура: каждые восемнадцать месяцев минимальный IQ, необходимый для уничтожения мира, падает на один пункт.

Полицейский, который рискует своей жизнью, не обладая сверхспособностями, рентгеновским зрением, сверхсилой, способностью летать и, прежде всего, неуязвимостью для пуль, демонстрирует гораздо большую добродетель, чем Супермен, который всего лишь супергерой.

- Каждый раз, когда кто-то кричит в молитве, а я не могу ответить, я чувствую вину за то, что я не Бог. - Звучит не очень хорошо. - Я понимаю, что у меня есть проблема, и я знаю, что мне нужно сделать, чтобы ее решить, хорошо? Я работаю над этим. Конечно, Гарри не сказал, в чем заключалось решение. Решение, очевидно, заключалось в том, чтобы поторопиться и стать Богом.