Сообщение от АМИ Я открыл глаза, я взглянул на мир,- Это не гроза, там кровавый тир: Бьет железный град, крошит землю в пыль, Обгоревший сад шепчет сказку-быль. Прямо из огня, зачерпнув рукой, Ты поднял меня, заслонил собой. Под твоей броней гулко сердце бьет... Я с тобою - в бой! я - бригадный Кот!

В ноябре 2015 года в Москве на пешеходном переходе через Софийскую набережную автомобиль насмерть сбил Романа Мазуренко — бывший арт-директор «Стрелки» и основатель стартапа Stampsy прилетел по делам на несколько дней из Калифорнии. Через полгода его друзья выпустили чат-бота [1], который воспроизводил манеру общения погибшего. Для этого генеральный директор стартапа Luka Евгения Куйда собрала сообщения из личных переписок, фотографии и статьи Мазуренко. На основе этих данных натренировали нейросеть. «Первое, что я написала @Роман: "Это твой цифровой памятник". Он ответил: "У тебя на руках одна из самых интересных головоломок в мире. Сиди и решай ее"», — написала тогда Евгения Куйда. Сейчас проект существует в форме «цифрового аватара» — программы, которую можно скачать из App Store [2]. Судя по всему, сейчас проект не развивается: последнее обновление было 3 года назад, а Роман все так же отвечает на вопросы невпопад, как и сразу после запуска. Задача, которую пытались решить друзья Романа Мазуренко, будет актуальна еще долгое время: могут ли современные технологии победить смерть? Концепция цифрового бессмертия, набравшая популярность в последние годы, подразумевает, что человечество в ближайшее время научится сохранять слепок сознания отдельного человека в виртуальном пространстве.

А если создать полную и точную «цифровую копию» всех нейронов мозга, и всех связей между ними? Если создать компьютерную модель всех структур и функций мозга? Тогда можно будет сохранить эту информацию, и потом воспроизводить ее. Но уже - на ином "субстрате", на ином материальном носителе информации. Более надежном, чем смертный биологический, белково-нуклеиновый. Например, на кремнии или на графене. И более производительный, чем биологический, ионно-электрохимический. Например, электронный, фотонный, или даже квантовый!

Если смотреть на ситуацию с позиций полного материализма, точная копия будет оригиналом. При этом все копии будут равноправны, то есть каждая из них будет иметь одинаковый субъективный опыт. К тому же существует так называемая индексная неопределенность, которая дает возможность решить проблему оригинала и копии за счет того, что и оригинал, и копия думают одинаковым образом. То есть мы одинаково не знаем, кто мы — оригинал или копия, — при этом находимся в одинаково выглядящем мире и будем принимать относительно одинаковые решения.

Надеюсь, вы насладились временем, пока все было безобидно, потому что с этого момента вся эта история с ИИ начнет становиться ненормальной и пугающей. Я хочу напомнить, всё, что я буду говорить, по–прежнему имеет реальные научные подтверждения и является прогнозом на будущее, который составили самые высокоуважаемые мыслители и ученые современности. Просто держите это в уме, пока читаете. Во всяком случае, как я уже сказал выше, большинство вариантов развития событий, по которым мы доберемся до AGI, подразумевают процесс самосовершенствования ИИ. И как только появится AGI, даже системы, которые разрабатывались с помощью методов, не включавших в себя самопрограммирование, станут достаточно умными, чтобы начать самостоятельно вносить в свою архитектору изменения, если они этого захотят. И вот тут вся концепция начинает становиться еще интереснее. Давайте введем новое понятие: рекурсивное самосовершенствование. Работает оно следующим образом: Система ИИ в какой–то момент, скажем, на уровне тупого деревенщины, программируется на самосовершенствование. Как только это происходит и она становится умнее, достигая уровня Эйнштейна, она продолжает развиваться, но уже обладая интеллектом Эйнштейна, на что будет требоваться меньше времени. По мере того, как скачки в развитии будут увеличиваться, AGI достигнет уровня ASI — это и называется Интеллектуальным Взрывом и служит окончательным примером действия Закона ускоряющейся отдачи. … Все, что мы привыкли воспринимать как некую магию, любая сила, считавшаяся нами чем–то божественным, станет для ASI простой, как выключение света. Создание технологии обратного старения человека, лечение болезней и голода, перепрограммирование погоды для защиты будущей жизни на Земле — все это станет возможным. Но также возможным будет и моментальное прекращение существования всех форм жизни на Земле. ASI станет всемогущий Богом на Земле, и самым важным вопросом для нас останется тогда этот: Будет ли этот Бог добрым?

Искусственная нейронная сеть является ярким примером компьютерной архитектуры, которая имитирует мозг. Она представляет собой сеть транзисторов — «нейронов», соединенных между собой, но изначально ей ничего не известно, подобно мозгу младенца. Способ, по которому она «учится», заключается в том, что сначала она пытается выполнить задание, например, распознать почерк. Поначалу нейронные импульсы и догадки в расшифровке каждой отдельной буквы будут абсолютно случайными. Но когда ей скажут, что она сделала это верно, соединения транзисторов в последовательности, которая помогла найти правильное решение, станут крепче, если же наоборот, ответ будет неверным, они ослабнут. После долгого процесса таких случайных попыток и их оценки, сеть, сама по себе, формирует «умные» нервные пути и машина становится оптимизированной для выполнения этой задачи.

Исследователи искусственного интеллекта начали понимать, что эмоции могут оказаться ключом к сознанию. Нейробиологи, такие как доктор Антонио Дамасио, обнаружили, что, когда связь между префронтальной долей (которая заведует рациональными мыслями) и эмоциональными центрами (т. е. лимбической системой) повреждена, пациенты не могут ничего оценивать. Они не в состоянии принять простейшее решение (что купить, на какое время назначить встречу, какого цвета ручку взять), потому что все вокруг, как им кажется, имеет одинаковую ценность. :unknw: Так что эмоции — это не роскошь; они абсолютно необходимы, и без них роботу трудно определить, что важно, а что нет. Эмоции, которые прежде виделись где-то на периферии искусственного интеллекта, сегодня выходят на первый план.

Если же у шмелей блокировали рецепторы дофамина, то никаких перемен в настроении у них не было, и те, которые поели сладкого, вели себя так же, как и те, которым ничего не давали. Дофамин, как известно, обслуживает систему подкрепления (которая в том или ином виде есть в нервной системе у очень многих животных), отвечающую за чувство награды, удовольствия и т. д., в том числе и удовольствия от еды.

Молекулярный биолог Галит Шохат-Офир из Университета имени Бар-Илана (Израиль) и ее коллеги выяснили, что плодовые мушки, лишенные возможности спариваться, для борьбы со стрессом целенаправленно ищут спирт, который широко представлен в природе в составе забродивших фруктов. Можно предположить, что в царстве животных широко распространено намеренное «регулирование ощущений» или даже «регулирование настроения», что подтверждает гипотезу о наличии у них субъективного опыта. Важно исключить альтернативные объяснения: поведение может изменяться через непосредственное влияние на передачу нервных импульсов или пищеварительную систему. Тем не менее влияние психотропных веществ на насекомых — многообещающее направление для будущих исследований. Ведь зачем организму искать вещество, изменяющее сознание, если сознания нет?

Шмель приближается к цветку в поисках нектара. Он какое-то время кружит над ним и вдруг понимает: что-то тут не так. Шмель цветок видит, но добраться до него не может. Дело в том, что "цветок" - вернее, синий пластмассовый диск с сахарным сиропом в центре - находится под листом прозрачного пластика. Однако есть выход: к цветку прикреплена веревочка, и всё, что шмелю нужно сделать - это потянуть за нее, вытащить цветок и выпить нектар. И что же? Именно так он и поступает! "Когда мы только начали эксперименты с цветком на веревке, все это напоминало хохму", - рассказывает Ларс Читтка из Лондонского университета королевы Марии (Великобритания). "Когда я впервые увидел это, то чуть не умер со смеху. Выглядело это очень смешно", - добавляет он. Но это еще не все. Как только шмель понимал, что нужно сделать для того, чтобы добраться до искусственного цветка, то этому трюку обучались и его собратья, наблюдавшие за его действиями. Этот метод даже пережил его изобретателя. Он стал частью набора навыков, которыми владела колония, и передавался от шмеля к шмелю уже после того, как впервые потянувший за веревочку погиб. "Я просто не мог поверить своим глазам", - говорит Читтка.

Изначально приятным для организма является то, что способствует выживанию этого организма и вида в целом, прежде всего еда и копуляция. То, что помогает достижению этих первичных наград, тоже воспринимается как приятное и тоже вызывает активацию системы вознаграждения. Например, немного примитивизируя, можно сказать, что люди так любят деньги потому, что деньги гарантируют их обладателю хорошее питание и повышают его шансы на сексуальный успех. Поэтому поведение многих людей изменяется таким образом, чтобы заработать как можно больше денег, и во многом это происходит благодаря системе вознаграждения.

Удивительная гипотеза состоит в том, что вы, ваши радости и ваши печали, ваши воспоминания и ваши амбиции, ваше чувство личной идентичности и свободной воли на самом деле являются не чем иным, как поведением огромного скопления нервных клеток и связанных с ними молекул

В экспериментах было показано, что вентромедиальная часть ПФК работает как фильтр, сдерживая порывы лимбической системы. Вентромедиальный участок ПФК постоянно общается с лимбической системой: именно он отвечает за обработку поступающих от нее желаний. Можно сказать, что вмПФК «очеловечивает» животные порывы лимбической системы, соотнося их с приемлемыми социальными нормами.

В тот момент, когда мы думаем, что делаем выбор в пользу совершения действия, наш мозг уже сделал этот выбор. Но это не означает, что этот выбор не был сделан свободно. Это просто означает, что мы не осознаём, что делаем выбор в этот, более ранний момент времени. Выбор был сделан свободно. Просто мы не всегда осознаем начало этого выбора. В выборе участвует еще и подсознание. Но ведь наше подсознание - это тоже мы. Это часть нас.

Однако если мы принимаем решения сознательно, автономно, без каких-либо помех, взвешивая за и против прежде, чем сделать окончательный выбор, — значит, мы в своих решениях свободны. Вполне корректно говорить о собственном решении, даже если оно было принято под влиянием генов, опыта и ценностных функций, которые под их воздействием зафиксировались в наших нейронных цепочках.

Главным является участие в механизмах сознания памяти. Постоянное сопоставление вновь поступившей информации с памятью определяет содержание сознания, как постоянную корректировку личного опыта, того, что можно определить, как чувство внутреннего «я».

Какие силы нам нужно приложить, если мы хотим, чтобы наша рука заняла определенное положение? У этой задачи нет единственного решения. Мы можем двигать рукой по разной траектории и с разной скоростью так, что в итоге она все равно окажется в одном и том же месте. Можно приложить силы многими способами – даже бесконечным числом способов, чтобы заставить руку в итоге занять требуемое положение. Как же мы выбираем, какие силы приложить? По счастью, когда мы двигаем руками, мы не осознаём этой проблемы. Ее решает за нас наш мозг. Одни возможные решения окажутся лучше других, и, основываясь на прошлом опыте, наш мозг очень неплохо умеет находить наилучшее.

Наше восприятие зависит от априорных убеждений. Это не линейный процесс, вроде тех, в результате которых возникают изображения на фотографии или на экране телевизора. Для нашего мозга восприятие – это цикл. Если бы наше восприятие было линейным, энергия в виде света или звуковых волн достигала бы органов чувств, эти послания из окружающего мира переводились бы на язык нервных сигналов, и мозг интерпретировал бы их как объекты, занимающие определенное положение в пространстве. Именно этот подход и сделал моделирование восприятия на компьютерах первого поколения такой сложной задачей. Мозг, пользующийся предсказаниями, делает все почти наоборот. Наше восприятие на самом деле начинается изнутри – с априорного убеждения, которое представляет собой модель мира, где объекты занимают определенное положение в пространстве. Пользуясь этой моделью наш мозг может предсказать, какие сигналы должны поступать в наши глаза и уши. Эти предсказания сравниваются с реальными сигналами, и при этом, разумеется, обнаруживаются ошибки. Но наш мозг их только приветствует. Эти ошибки учат его восприятию. Наличие таких ошибок говорит ему, что его модель окружающего мира недостаточно хороша. Характер ошибок говорит ему, как сделать модель, которая будет лучше прежней. В итоге цикл повторяется вновь и вновь, до тех пор, пока ошибки не станут пренебрежимо малы. Для этого обычно достаточно всего нескольких таких циклов, на которые мозгу может потребоваться лишь 100 миллисекунд (0,1 сек). Система, которая строит подобным образом модели окружающего мира, стремится использовать всю доступную информацию для совершенствования своих моделей. Ни зрению, ни слуху, ни осязанию не оказывается предпочтений, так как все они могут быть информативны. Кроме того, эта система стремится делать предсказания о том, как сигналы, поступающие от всех органов чувств, изменятся в результате нашего взаимодействия с окружающим миром. Поэтому, когда мы видим бокал вина, наш мозг уже делает предсказания о том, какие ощущения возникнут, когда мы возьмем его в руку, и какой вкус будет у этого вина. Представьте себе, как дико и неприятно было бы взять бокал сухого красного вина и обнаружить, что оно холодное и сладкое.

Знаете, кто больше всего вовлекает людей в потребление наркотиков? Другие наркоманы. Влекомые отчаянной жаждой «дури», они беззастенчиво прибегают к кошелькам еще не зависимых от нее людей, предлагая «попробовать» в первый раз. В итоге численность наркоманов растет и постепенно это бедствие достигает катастрофических масштабов.

Ровно такая же история с пополнением преступного сообщества. Никто не рождается вором, мошенником или киллером. Но однажды люди встают на преступную стезю, впечатленные примером уже искушенных уголовников, которым на руку появление нового собрата.

Мне кажется, что ситуация с призывами Дурова обходить блокировку Telegram в России через настройку прокси-серверов и VPN ровно из той же истории: один ради реализации собственных интересов совершает преступление и вовлекает в него окружающих. Почему преступление? Потому что есть закон о противодействии терроризму, и Telegram его нарушает. Потому что за это нарушение компания была подвергнута наказанию, определенному в судебном порядке. И потому же, почему помощь в побеге из тюрьмы – преступление, обход блокировки дуровского мессенджера – точно такой же правовой проступок.

Собственно, к чему это? Да просто Павел Дуров, собственник и создатель мессенджера Telegram, опубликовал на своей странице ВКонтакте свои планы насчет судьбы этой im-платформы в нашей стране:
«Я начал выплачивать биткоин-гранты администраторам proxy и vpn. В течение этого года буду рад пожертвовать миллионы долларов личных средств на эти цели. Призываю всех присоединяться и участвовать – настройкой прокси/vpn серверов или их финансированием».
Он не только сам, образно, говоря, «вызволяет из тюрьмы» свою опальную компанию, но и платит за то, чтобы другие оказались причастны к этому же правонарушению.

Дурова никогда нельзя было упрекнуть в отсутствии мозгов, а потому на нарушение закона РФ и вовлечение в преступные деяния третьих лиц он идет совершенно осознанно. Только вот Павел, проживающий за рубежом, избежит ответственности за свои противоправные действия. А вот тем жителям России, кто попадется на его денежную или идеологическую удочку, уж точно будет не отвертеться.

Учитывая, что в 2017 году Генпрокуратура выявила несвоевременную блокировку экстремистских ресурсов в интернете со стороны Роскомнадзора, и руководству этого регулятора сильно не поздоровилось, дуровским последователям действительно есть резон опасаться за свою свободу. Тем более, в свете борьбы за чистоту интернета, набирающей ход после фейковой вакханалии на трагедии в Кемерово. Наркотическое пост-телеграмное опьянение рано или поздно кончится, но многие ли из адептов антиблокировки не пожалеют о содеянном?

К сожалению, снова и снова действия Дурова в скандале с Telegram наводят на мысль, что ни безопасность людей, ни их репутация, ни конфиденциальность переписки пользователей для Дурова не важны. Он бизнесмен, и привык оперировать только терминами прибыли. Не удивлюсь, что свою внезапно возросшую известность Павел поспешит конвертировать в политическое реноме и подастся в оппозиционеры. Навальный отдыхает!