Денис Демахин (denis_demakhin) wrote,
Денис Демахин
denis_demakhin

  • Music:

Обзор "Эволюция разума. Как расширение границ разума позволит решить мировые проблемы", Рэй Курцвейл



Автор



Предполагаю, что это исключительно умный человек, т.к. он занимает должность "технический директор" в области машинного обучения и обработки естественного языка в компании Google.

Кстати: "Достаточно ли вы умны, чтобы работать в Google?", Уильям Паундстоун

Что он изобрел?

  • Сканер

  • Синтезатор

  • Технология распознавания устной речи

  • Технология распознавания письменной речи

  • Технология преобразования текста в речь

Чем знаменит?

В течение своей жизни он по годам предсказывал появление тех или иных технических прорывов, и почти всегда его предсказания попадали точно в цель. И напредсказывал еще много чего на года, до которых мы еще не дожили. И т.к. сбылись предыдущие предсказания, все следят за тем, сбудутся ли грядущие.

Очень заинтересован идеей бессмертия. Ему 70, и он очень следит за своим здоровьем, чтобы дожить до того дня, когда разум можно будет перенести в компьютер (по его предположением, это случится примерно 2045 году). Также, он завещал в случае его смерти заморозить его в криокамере, чтобы в будущем его труп разморозили (на случай: вдруг смогут оживить?)

О чем он пишет свои книги?

Меня интересуют темы, о которых пишет автор в своих книгах. Выживание Человечества во вселенной, бессмертие человека, как следить за здоровьем, как создать искусственный интеллект (Илон Маск против), как сделать "обратное проектирование" мозга.

      Обратное проектирование - это когда изделие изобретать не нужно. Оно уже перед нами. Но надо разобратся, как его воссоздать. Например, купить автомобиль конкурента и разобрать по винтикам в своем цехе, чтобы разобраться "как они его делают".

О чем книга?

Это научпоп, и разобрать его по деталям (и сказать, где правда, а где ошибка) может только специалист. Смотрим, как специалисты это делают. На обложке написано, что книга самая обсуждаемая и спорная. Я лишь удовлетворяю свое любопытство, поэтому всему написанному в этой книге мне нечего возразить.

Автор рассказывает, как устроен мозг и как устроено восприятие и память. И ломает голову над тем, как сделать искусственную копию мозга. Перечисляет, каких достижений наука уже успела добиться в этом отношении. Например, нейросеть "Ватсон", которая играла в телевикторину (в Америкаке называется "Джеопарди!", и, судя по всему, это то же самое, что у нас "Своя игра") и набрала больше очков, чем два лучших в мире игрока вместе.



Некоторые наблюдатели утверждают, что Ватсон на самом деле не «понимает» вопросов викторины или текстов в энциклопедиях, а только производит «статистический анализ». В книге я расскажу, что математические технологии, использующиеся для создания искусственного интеллекта (как у Ватсона или Сири), очень похожи на те, что эволюционировали естественным путем и воплотились в новой коре головного мозга. Если понимание языка и другие процессы, осуществляемые с помощью статистического анализа, не считаются «истинным пониманием», можно сказать, что люди тоже ничего не понимают.

Автор приводит множественные сходства мозга и интернета. Например то, что нейронная связь - это по сути как ссылка в интернете.

Сегодня я посмотрел на Ютубе невообразимо прекрасную вещь

Это была игра в Dota 2 (я в нее ни разу не играл) между одной из сильнейших в мире команд и нейросетью OpenAI.



Эта программа - не просто бот с алгоритмами. Это статистически-самообучающаяся нейросеть, которая тренируется играть по времени около 180 лет в сутки (много потоков одновременно) и накапливает опыт. Она постоянно играет, и тестирует те или иные движения и фиксирует их эффект. Так запоминает самые эффективные тактики и стратегии. Подсчитывает всё, что можно: например индекс полезности каждого из игроков (чтобы определять приоритетные цели), а также технически идеально проводит применение способностей в битвах. Нейросеть самостоятельно додумалась до некоторых тактик, которые люди никогда не использовали.

Она показала себя довольно успешно и битвах протих лучших команд.

Когда битва началась, люди сначала вырвались вперед, но через 15 минут искусственный интеллект очень сильно их задоминировал. Позже два комментатора немного отвлеклись и начали говорить, что народ заметил, что OpenAI практически никогда не идет убивать самого мощного монстра на карте. И, дескать, комьюнити задало этот вопрос разработчикам. Те ответили, что это произошло закономерно. Большинство игр нейросеть выигрывает за первые 20 минут, так что по часу длятся менее 1% ее партий. А Рошана в самом начале не убить - надо прокачаться. Игры нейросети настолько быстры, что они практически никогда не доходят до момента, когда Рошана уже можно идти убивать. Именно поэтому этот момент у нейросети не пронюхан, и она не очень стремится это делать. Кроме того, компьютер пока не может использовать некоторые творческие способности героев, поэтому эти герои были исключены из возможности выбора.

Тем временем представители Человечества стояли насмерть и продолжали сражаться в угнетенном состоянии. И им удалось загнать игру в более поздние стадии, продержавшись 40 минут игры. Тут нейросеть начала съезжать с катушек. Всё дело в том, что раз ее матчи часто заканчивались за 20 минут, она была очень неопытна в эндшпиле, когда герои более прокачаны и у них более сильные артефакты. Нейросеть просто так далеко не заходила. Только из-за этого человеки в итоге и победили. Измором взяли!!!

Таким образом люди снова победили непобедимого робота!))) Это было круто!

Из Википедии:

Илон Маск и Сэм Альтман запустили OpenAI в конце 2015.



Вернемся к книге

Далее автор много рассказывает о том, как устроено распознавание текста. Он много об этом знает, ведь он эту систему и разработал. Можно понять ответ на вопрос "как компьютеры видят".



И говорит о том, что новая кора головного мозга во многом нужна для возможности делать предсказание будущего на основе предшествующего опыта.

Поток информации не только поднимается по иерархической лестнице, но и опускается по ней. Например, если мы читаем слева направо и уже увидели и узнали буквы А, Р, Р и L, модуль, ответственный за распознавание слова apple, предскажет, что, скорее всего, в следующей позиции окажется буква E. Он отправит сигнал вниз модулю, ответственному за распознавание буквы E, и сообщит: «будь внимателен, вероятно, очень скоро возникнет образ буквы E». Модуль, распознающий букву E, скорректирует пороговые параметры в соответствии с высокой вероятностью появления буквы E. И если на месте следующей буквы возникает образ, напоминающий E, но искаженный таким образом, что «в нормальных условиях» он не был бы воспринят как E, теперь распознающий модуль узнает в нем E, поскольку таковы были его ожидания.

Одними из высших уровней восприятия компьютера автор считает восприятие таких сигналов как ирония, зависть, сарказм, метафоры.

Автор объясняет значение каждого из отделов мозга. Рассказывает, что при повреждении отдела, соседние отделы частично могут взять на себя функции поврежденного отдела (напрямую это не написано, но я так понял, что это относится только к неокортексу. При повреждении гиппокампа или таламуса их невозможно будет компенсировать. Однако, автор приводит прекрасные исследования о нейронных имплантантах, которые улучшали мнемонические способности у крыс, а также заменяли собой поврежденные отделы мозга.

Далее идет предсказание того, что в будущем у каждого человека будет возможность подключиться к облачному усилителю мозга (персональное расширение неокортекса), который будет повышать умственные способности, позволяя обойти природные ограничения. Также, он будет делать "резервное копирование" информации из мозга, а также обмен данными в объединеных частях облака.

Личность, сознание и свобода воли

Способность размышлять о собственной умственной деятельности.

Автор очень много рассуждает, что такое сознание, и может ли оно появиться у машины. Это очень длительные и запутанные рассуждения в итоге приходящие к тому, что достоверно не известно, что вообще такое сознание. Не понятно, у каких животных оно есть, а у каких нет. А также к тому, что если машина будет демонстрировать все видимые признаки сознания, то что это как не наличие сознания? В пример приводит, однако, героев кинематографа. Валл-И, Джонни-5 (Короткое замыкание), R2D2 (Звездные войны), Т-800 (Терминатор 2).

В общем то, я не согласен. Имитировать можно почти что угодно. Валл-И, Джонни-5 и R2D2, похоже, обладали сознанием. Но зрителю просто показывают факт, что оно есть. Но само собой оно не появится, как бы автор на это не надеялся.

Робот "заменитель мертвого мужа" из сериала "Черное зеркало"



Он как никто имитировал сознание, имитировал личность. В 1000 раз более убедительно, чем Терминатор. И всё равно женщина поняла, что это просто железка. Ей мужик был нужен, а она получила послушного робота "замесить и нарубить". Требовала от него, чтобы он вел себя как мужик. А бедный робот не знал, что ему делать, постоянно получая противоречивые сигналы "Выполни мой приказ. Нет, ты не должен был его выполнять. Надо было сказать "Нет, не буду!". Не было у него сознания, как бы он его ни имитировал. Ну а что она хотела? Завод, который их выпускал, должен был сделать их безопасными и управляемыми.

Поэтому, внешние признаки сознания - это не есть "сознание".

Но и этого инженера (автора) понять тоже можно. Ему нужно сделать то, что во-первых, непонятно, что такое и какие у него критерии. А во-вторых, совершенно непонятно, где это сознание находится и как устроено у человека.

Но сознание, всё-таки, нужно, конечно. Эта вселенная достойна наличия разумного наблюдателя. Сейчас непонятно, как это сделать, а потом поймут.

Эвоцюционный (генетический) алгоритм
Я опишу этот процесс в упрощенном виде. Сначала мы определяли способ кодирования возможных решений проблемы. Если проблема заключалась в оптимизации исходных параметров какой-то цепи, мы определяли список всех параметров. Этот список является своеобразным генетическим кодом алгоритма. Мы случайным образом создавали тысячи таких генетических кодов.

Далее мы оценивали каждый организм в среде, используя описанный метод определения каждого набора параметров. Эта оценка — ключ к успеху генетического алгоритма. Лучшим организмам (лучшим «решениям») разрешалось выжить, а остальные были элиминированы.

Далее мы заставляли выжившие организмы размножаться до определенной численности «особей». Для этого мы имитировали половое размножение: иными словами, мы создавали потомство, в котором каждая особь наследовала одну часть генетического кода от одного родителя, а другую — от другого. Обычно в нашей системе нет никакой разницы между женскими и мужскими организмами, потомство может давать любая пара условных родителей. По мере размножения наших модельных организмов мы допускали появление в их хромосомах случайных мутаций (изменений).

Далее мы повторяли все те же процессы для каждого следующего поколения: определяли, насколько улучшился дизайн (то есть рассчитывали среднее улучшение оценки для всех выживших организмов). Когда результаты оценки организмов из двух последовательных поколений практически переставали улучшаться, мы останавливали цикл и использовали лучшие образцы из последнего поколения.

Суть генетического алгоритма (ГА) заключается в том, что создатели программы не программируют решение, а позволяют ему сформироваться в результате многократных имитаций конкуренции и улучшений. Биологическая эволюция — процесс умный, но медленный, и мы попытались этот медленный процесс ускорить. Компьютер действует достаточно быстро, чтобы имитировать смену множества поколений за несколько часов или дней, а наши эксперименты длились несколько недель, так что мы могли наблюдать смену сотен тысяч поколений.

Еще одно важное требование для успешного применения ГА заключается в обеспечении надежного метода оценки всех возможных решений. Эта оценка должна быть быстрой, поскольку в каждом поколении приходится анализировать тысячи возможных вариантов. Метод ГА прекрасно подходит для нахождения точного аналитического значения в задачах с очень большим числом переменных. Например, при проектировании моторов приходится учитывать более сотни переменных и удовлетворять десяткам различных условий. Использование инженерами General Electric метода ГА при создании реактивного двигателя позволило добиться более точного соответствия необходимым требованиям, чем применение традиционных методов.

Данный метод выглядит совершенным, но это не так. В подтверждение этому можно сказать, что в человеческом теле есть сформировавшиеся в ходе эволюции ошибки, которые не могут быть устранены дальнейшей эволюцией.

Как стать небиологическим существом

Как они собираются заливать личность из живого мозга в искусственный? Пока что мне это видится лишь в лучшем случае копированием, а вовсе не переносом.


Культовое медитативное аниме "Призрак в доспехах" 1995 года

Представим себе, что находимся в будущем, где существуют гораздо более совершенные технологии. Когда вы спите, исследователи сканируют ваш мозг и отмечают все важные детали. Они делают это с помощью аппарата размером с клетку крови, которая перемещается по капиллярам вашего мозга, или посредством какой-то другой неинвазивной технологии, но они имеют всю информацию о вашем мозге в каждый конкретный момент времени. Они также регистрируют состояние тела, способное отражать состояние вашего разума, например активность эндокринной системы. Затем они устанавливают этот «файл» в небиологическое тело, которое выглядит и движется, как вы, и вполне способно выдать себя за вас. Утром вам сообщают о том, что было сделано, и показывают вам вашего «мозгового двойника» (возможно, так, что он вас не видит). Назовем его Вы-2. Вы-2 рассказывает о своей жизни так, как если бы это были вы. А также рассказывает, что сегодня утром он обнаружил, что его снабдили гораздо более надежным новым телом — версией 2.0. «Хм, мне это тело нравится!» — замечает ваш двойник.

Наш первый вопрос заключается в следующем: является ли Вы-2 сознательным существом? На вид он вполне сознателен. Если вы обладаете сознанием, то Вы-2 тоже.

Таким образом, если вы вдруг исчезнете, никто этого не заметит. Вы-2 заявит всем, что он — это вы. Все ваши друзья и близкие будут рады за вас, поскольку вы теперь счастливый обладатель нового, более надежного тела и ментального субстрата, чем раньше. Возможно, ваши более склонные к философствованию друзья окажутся слегка обеспокоены, но в целом все останутся счастливы, включая вас самого (ну или, по крайней мере, того, кто выдает себя за вас).

Так что же, нам больше не нужно ваше старое тело и старый мозг, так? Можно их выбросить?

Думаю, вы с таким положением вещей не согласитесь. Я сказал, что сканирование производилось неинвазивным способом, так что вы живы и находитесь в сознании. Более того, ваше самосознание с вами, а не с Вы-2, даже если Вы-2 думает, что является вашим продолжением. А возможно, Вы-2 даже не знает, что вы существуете или когда-то существовали. Да и вы бы ничего не узнали, если бы вам не сказали.

Какой вывод? Вы-2 обладает сознанием, но это другое существо, другая личность. Он чрезвычайно похож на вас, больше, чем генетический клон, поскольку обладает теми же, что и вы, неокортикальными образами и контактами. Точнее сказать, обладал в момент создания. С этого момента каждый из вас пошел своим путем, и новая кора мозга каждого из вас — тоже. Вы все еще существуете. У вас другой опыт, нежели у Вы-2. Вывод такой: Вы-2 — это не вы.

Ну хорошо, пока все ясно. Теперь проведем другой мысленный эксперимент. Вы подвергаетесь хирургической операции по замене очень маленького фрагмента мозга небиологическим материалом.

Это не такая уж фантастическая ситуация, поскольку данную процедуру уже сейчас рутинно используют для лечения людей с неврологическими и сенсорными нарушениями. Например, имплантаты нейронов при болезни Паркинсона или кохлеарные имплантаты при глухоте. C помощью компьютеризированного устройства мы эффективным образом усиливаем мозг и заменяем те его функции, которые больше не выполняются должным образом.

Вам провели необходимую процедуру, и все прошло успешно — улучшились некоторые ваши функции (например, память). Но остались ли вы самим собой? Ваши друзья в этом абсолютно уверены. Вы тоже в этом уверены. Нет никаких достаточных оснований полагать, что вы вдруг стали другим человеком. Конечно, вы подверглись данной процедуре, чтобы что-то изменить, но вы по-прежнему тот же самый. Ваша личность не изменилась. Никакое чужое сознание не завладело вашим телом.

Хорошо, ободренный результатом, вы решаетесь на следующую процедуру, в этот раз на другом участке мозга. Результат такой же: ваши функции слегка выправлены, но вы — по-прежнему вы.

Думаю, вам понятно, к чему я клоню? Вы рассматриваете возможность новых процедур. И, наконец, приходит момент, когда вы полностью заменили весь свой мозг. Каждый раз процедура проводилась так тщательно, что сохранились все образы и контакты, содержащиеся в новой коре, так что вы не потеряли никаких личных качеств, навыков или воспоминаний. Никогда не существовало двух персон — вы и Вы-2. Всегда существовали только вы. Никто, включая вас самого, не заметил, что вы перестали существовать. Вот вы тут.

Какой вывод? Вы по-прежнему существуете. Никакой дилеммы нет, все в порядке.

Лишь одно замечание: в результате постепенных замен фрагментов мозга вы стали полностью эквивалентны Вы-2 из предыдущего мысленного эксперимента. В результате сценария постепенных замен вы сохранили все образы и контакты новой коры, но только в небиологическом субстрате, что так же справедливо для Вы-2 из сценария сканирования и воспроизведения. В результате сценария постепенных замен вы получили некоторые дополнительные возможности и стали «здоровее», чем прежде. Но абсолютно то же самое произошло и в случае Вы-2 из сценария сканирования и воспроизведения.

Однако ранее мы пришли к выводу, что Вы-2 — это не вы. Но если вы в результате процесса постепенных замен полностью эквивалентны Вы-2, возникшему в результате сканирования и воспроизведения, то вы — это не вы.

Это, однако, противоречит только что сделанному выводу. Процесс постепенных замен состоит из множества стадий. Каждая стадия, казалось бы, не изменяет идентичности человека (по крайней мере, именно так мы рассуждаем сегодня в отношении пациента с болезнью Паркинсона, перенесшего процедуру имплантации нейрона).

После процесса постепенных замен вы становитесь эквивалентны Вы-2 из сценария со сканированием и воспроизведением, однако мы установили, что Вы-2 в том сценарии — это не вы. Что же это означает?

Это означает, что мы с вами нащупали свойство, которым обладают небиологические системы в отличие от биологических. Речь идет о возможности копирования, запоминания и воссоздания. Мы постоянно делаем это с различными устройствами. Когда у нас появляется новый смартфон, мы копируем в него все наши старые файлы, так что он во многом сохраняет особенности, навыки и память старого смартфона. Вероятно, у него есть новые возможности, но содержимое старого телефона по-прежнему с нами. Аналогичным образом, такие программы, как Ватсон, безусловно, запоминаются. Если вдруг завтра компьютер сломается, Ватсона легко будет восстановить из хранящихся в облаке файлов.

Такие возможности небиологических систем не реализуются в биологическом мире. Это достоинство, а не недостаток, и именно потому мы так стремимся продолжать загрузку всей нашей памяти в облако. Мы, безусловно, будем продолжать двигаться в этом направлении, поскольку небиологические системы перенимают у нашего биологического мозга все больше и больше способностей.

Я вижу такой путь разрешения проблемы: неправда, что Вы-2 — это не вы. Это вы. Просто теперь «вас» двое. Что не так плохо: если вы думаете о себе хорошо, то два хороших существа — это ведь еще лучше.

Я считаю, что мы действительно станем придерживаться сценария постепенных замен, пока большая часть нашего мыслительного процесса не начнет происходить в облаке. По вопросу о сохранении индивидуальности я считаю, что индивидуальность (личность) сохраняется через непрерывность хранящихся в нас информационных образов. Непрерывность не противоречит непрерывным изменениям, и если я сегодня чуть-чуть отличаюсь от того, каким я был вчера, я тем не менее сохраняю свою индивидуальность. Однако непрерывность образов, составляющих мою индивидуальность, не зависит от субстрата. Биологические субстраты прекрасны, они позволили нам продвинуться очень далеко. Но мы создаем еще более пригодные и надежные субстраты для очень хороших дел.

Закон ускоряющейся отдачи

Автор доказывает на примерах то, что развитие науки идет не линейно, а с ускоряющимся по экспоненте темпом.

Что осталось непонятным

В человеческом мозгу есть встроенные системы поощрения и наказания. Эмоции. Этому в книге внимания уделено очень мало. То есть рассказано только, как это устроено в организме. Подробнее: "Гормоны счастья. Как приучить мозг вырабатывать серотонин, дофамин, эндорф", Лоретта Бройнинг

Гормоны счастья подсказывают нам, что делать и чего не делать. В нейросети это реализовано прямой директивной задачей "Нужно делать вот это".

В общем, я сделал вывод, что они не знают, как это реализовать, и не продвинулись в этом отношении ни на миллиметр. Я даже не представляю, как именно механизм может испытывать удовольствие. Я могу это представить только для биомеханических андройдов как из фильма "Чужие" (потому что их анатомия была очень сильно похожа на человеческую, но с белой кровью).

Когда искусственный интеллект начнет не только мыслить как человек, но и испытывать эмоции как человек, тогда настанет эра, показанная в сериале "Черное зеркало". Там поднимаются все эти темы, но показаны они пессимистично и запредельно пугающе. Сериала страшнее этого я в своей жизни не встречал.



У бессмертия разума есть и недостатки (и это не из книги, а мой комментарий)

Станут бессмертными также и тираны у власти, а также богатейшие люди планеты, которые со временем сконцентрируют у себя 99,99% денежных средств.

Станут бессмертными научные авторитеты с соответствующими закостенелыми взглядами. Они не будут давать дорогу новым идеям из-за своих устоявшихся убеждений. Прогресс в науке во многом движется благодаря сменяемости поколений.

"Наука опирается на исследования и факты, это, казалось бы, должно оградить ее от консерватизма и косности: это иная, новаторская культура. Однако, когда Чарльз Дарвин обнародовал свое эволюционное учение, он столкнулся с более яростным сопротивлением со стороны коллег-ученых, чем церковных иерархов. Его теории бросали вызов слишком многим закоснелым идеям. Дж.Сэлк натолкнулся на такую же стену, пробивая свои открытия в области иммунологии, Макс Планк - со своими революционными идеями в физике.

Планк писал позднее о научной оппозиции: «Новая истина в науке торжествует не потому, что ее противники прозрели, увидев ее свет, а потому, что приходит время, когда противники, наконец, умирают, и на смену приходит новое поколение, успевшее с ней свыкнуться».

Книга "48 законов власти", Роберт Грин


Однако (моё мнение) многие личности достойны того, чтобы быть бессмертными.

Вывод:

Космологи обсуждают, каким будет конец света — закончится ли мир в огне (Большой взрыв в начале — Большой треск в конце) или во льду (смерть звезд в результате бесконечного расширения), но они не учитывают силу разума, как будто появление его было лишь побочным эффектом великой небесной механики, управляющей законами Вселенной. Сколько времени нам понадобится, чтобы распространить свой разум в небиологической форме по всей Вселенной? Если нам удастся преодолеть скорость света (безусловно, это очень серьезное «если»), например, путем использования кротовых нор  (существование которых вполне совместимо с нашим современным пониманием законов физики), на это уйдет несколько столетий. В противном случае гораздо больше. Но при любом варианте развития событий разбудить Вселенную и разумно распорядиться ее судьбой с помощью нашего человеческого разума в его небиологической форме — это наше предназначение.

Оценки:
Повышение общего кругозора: 4/5
Практическая польза: 0/5
Драйв при прочтении: 3/5



А у нас что по бессмертию делается?

[Убрал под кат]
У нас не густо. Если интересно, то вот активист по этой теме, которого я периодически читаю. Может быть, есть и другие, но мне попался этот. Раз уж я немного троллю у него в комментариях, то за это укажу его тут. В основном они занимаются тем, что ищут инвестиционные деньги для своих исследований. Но ваша подписка и внимание, может быть, им чем-то поможет (создаст политический вес).

Также, они выпускают видео-лекции по научно-обоснованным методам продления жизни. Я иногда их посматриваю.
Хорошее там то, что они еще и громят методы, которые не работают и препараты, которые не помогают (а не работает почти ничего). И всегда опираются на статистику и исследования.

Человек, который сделает технологию бессмертия разума, станет одним из величайших героев в истории. Это настолько же круто, как сделать Человечество мультипланетным видом.


Также по теме:

"Думай медленно, решай быстро", Даниэль Канеман




Subscribe

Recent Posts from This Journal

Buy for 20 tokens
Buy promo for minimal price.
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 0 comments