Искусственная нейронная сеть. Радуемся или боимся?

[полуэкт]

Сообщение от Martin

Глобальный ИИ нужен прежде всего как третейский судья , попробуй соврать ему ....

Последнее, что следует отдать в "руки" ИИ - это суд. Ничего хуже и не придумать. Соврать? - Запросто: а+в=с. Сможешь определить правда это или ложь? А после того, как ошибешься, еще определи мне - это уравнение добро или зло? И как за него следует наказать?

Сообщение от Martin

т.к. попадёт по сусалам любому аферисту и вруну !

Будет последняя глобальная война в истории человечества . А-ля "Терминатор"

Сообщение от Островок

На каком принципе строится искусственная "нейронная" сеть?

На логическом.

Сообщение от Островок

выбрать наиболее какой? вариант?

Какой задаст автор программы или ее пользователь.

Нейронная сеть может решать поставленные задачи, а не ставить их. Потому что алгоритмы логические, а не оценочные. Что такое "хорошо", а что такое "плохо" - это даже люди меж собой не определились до сих пор. Машина тем более не сможет определить. Она сможет лишь рассчитать в показателях последствия того или иного действия, а оценить в нравственных категориях не сможет.

[Островок]

Сообщение от полуэкт

Машина тем более не сможет определить. Она сможет лишь рассчитать в показателях последствия того или иного действия, а оценить в нравственных категориях не сможет.

Вот, собственно, из этого исходит и ответ на вопрос, радоваться ли. С одной стороны, технические возможности огромные, с другой, ограничение их меры - мотив разработчика. При том, что

Сообщение от полуэкт

Что такое "хорошо", а что такое "плохо" - это даже люди меж собой не определились до сих пор.

давать это на откуп кому-то определенному - означает, согласиться на манипуляцию. Это как с интернетом. Далеко не все голову включают, кушают, что дают.
Но этот снежный ком не остановить. Надо самим не плошать. Наша нейронная сеть совершеннее, у неё есть настроечный критерий, не подверженный ни одному из известных нам " разработчиков".

[Martin]

Как было уже сказано : ИИ может запоминать разные варианты решения поставленных задач . И выбирать из них .Всё , сеть оторвалась от разработчика и программиста . Дальше количество перейдёт в качество , а перестать использовать электронику уже нет возможности .
.

[УмНик]

Сообщение от полуэкт

Нейронная сеть может решать поставленные задачи, а не ставить их.

Вот. И пока она может только это, ни о каком искусственном разуме речь не идёт.

[Martin]

Сообщение от УмНик

ни о каком искусственном разуме речь не идёт

Какие прикажите завести цели ?

У живого существа цель только одна : самосохранение ! Но ИИ наше порождение. И он неизбежно
поставит цели вытекающие из общего императива .

Например заселение других планет солнечной системы ---как страховку от комет , далее освоение других систем как страховка .....( нужное вписать )

Да , о правосудии , если ИИ покажет и озвучит каждую секунду жизни любого фигуранта , как прикажите судить провинившегося ? И какие, звиняйте,адвокаты , ХИ!

[Островок]

Сообщение от Martin

если ИИ покажет и озвучит каждую секунду жизни любого фигуранта , как прикажите судить провинившегося ? И какие, звиняйте,адвокаты , ХИ!

Допустим, те, кто напомнит, что то, что русскому хорошо, то немцу - смерть (с). Ну, если еще этим будет кто-то озабочен, кроме гуманного ИИ.

[полуэкт]

Сообщение от Martin

И он неизбежно
поставит цели вытекающие из общего императива

Вовсе нет. Только если автор ему эту цель поставит, причем в приоритет перед целью не причинить вред. Если автор дебил. Именно об этом фантасты и твердят уже пол-века, что нужны законы робототехники, а не кто во что горазд.

Сообщение от Martin

Да , о правосудии , если ИИ покажет и озвучит каждую секунду жизни любого фигуранта , как прикажите судить провинившегося ? И какие, звиняйте,адвокаты , ХИ!

При чем тут ИИ? Для того, о чем ты сказал, нужны тотальная слежка и запись в базы данных. Для этого не нужно никаких нейронных сетей и ИИ, а просто огромные затраты на примитивные технические средства, которые уже давно существуют. Это совершенно разные проблемы. Но даже и тотальная слежка не препятствует правосудию. Если ты ничего противозаконного не совершил, то объективные средства контроля только помогут это подтвердить. И даже адвокат не понадобится. А если вор - так правосудие заключается не в том, чтоб его от тюрьмы спасти, а в том, чтоб наказание было неотвратимым и справедливым.

[Martin]

полуэкт, проблемы в том, что программы начали писать программы !О каком авторе может идти речь ?
И кто проектирует сами компы-они что не пользуются другими компами ?
Проблема уже ушла из под контроля конкретных людей .

[полуэкт]

Сообщение от Martin

программы начали писать программы !О каком авторе может идти речь ?

Машины уже давно делают машины. Но не сами, для них есть программа, по которой они это делают.
Так же и с программами - можно задать программе задачу по написанию кода, она эту задачу выполнит. Но Задачу-то она сама себе не поставит! Нет у программы ВОЛИ. Нет целеполагания и мотивации. Вот в чем коренное различие.

Вот создали программу игры в ГО. Программа обыграет любого, но она не может самостоятельно принять решение о том, чтобы, например, с полуэктом не играть. Или бросить к чёрту ГО и перейти на шахматы. Или вообще завязать с играми и начать проектировать подводные лодки. Почему не может? Да потому, что автор программы не заложил в нее такую возможность. Прога самосовершенствуется строго в рамках поставленных задач.

[Martin]

полуэкт, это всё так , НО новые виды программирования , ведь о них речь в названии темы, представляют опасность именно в смысле целеполагания .
А законы робототехники , хм, есть сами суть программы .
Старый закон перехода количества в качество ,притом все ( или почти все) (нейроны) компьютеры связаны (аксонами) интернет протоколами .

Тут есть чего испугаться .

[полуэкт]

Сообщение от Martin

новые виды программирования , ведь о них речь в названии темы, представляют опасность именно в смысле целеполагания .

До этого еще очень и очень далеко.

Сообщение от Martin

А законы робототехники , хм, есть сами суть программы .

Это, прежде всего, юридические законы, ограничивающие программотворчество. Автор нарушил закон и создал программу, которая первой целью ставит своё выживание и размножение, а жизнь человека для нее ценности не представляет. Этого автора на электрический стул, а программу считаем вредоносным "вирусом" и уничтожаем с помощью антивируса. В принципе, ничего нового, только постепенно растут риски и ответственность. Так же развивается и оружие, и гражданская техника.

Сообщение от Martin

Тут есть чего испугаться .

Все страхи от незнания. Цепная реакция деления ядра - страшная вещь, но когда знаешь и контролируешь, то можно жить и работать рядом с реактором, получать пользу от него, соблюдать меры безопасности, но не бояться.

[УмНик]

Сообщение от Martin

полуэкт, это всё так , НО новые виды программирования , ведь о них речь в названии темы, представляют опасность именно в смысле целеполагания .
А законы робототехники , хм, есть сами суть программы .
Старый закон перехода количества в качество ,притом все ( или почти все) (нейроны) компьютеры связаны (аксонами) интернет протоколами .

Тут есть чего испугаться .

"Не верю". Законы роботехники придумал человек. Причём, в рамках фантастического произведения. Мне непонятно, почему, например, никто не верит в разумные вирусы, но готов поверить в разумные компьютеры. Разум, это прежде всего, способность осознать себя. С какого бодуна самая продвинутая программа должна заявить "я мыслю, следовательно я существую" мне непонятно. Программист в неё этого не заложил. С чего бы ей вдруг озадачиться данным вопросом?

[Martin]

Сообщение от УмНик

Программист в неё этого не заложил. С чего бы ей вдруг озадачиться данным вопросом?

А симбиоз отметается полностью ?Компьютерная сеть как надстройка над человеческой базой ?
Я ведь об симбиозе таких разных вещей -биологии и вычислительной техники .
Или объявим поход под лозунгом :" Рибосомы вон из клеток !"

[УмНик]

Сообщение от Martin

А симбиоз отметается полностью ?Компьютерная сеть как надстройка над человеческой базой ?
Я ведь об симбиозе таких разных вещей -биологии и вычислительной техники .
Или объявим поход под лозунгом :" Рибосомы вон из клеток !"

Полностью - не полностью, но пока отметается. Или тебе известны тысячи граждан, вжививших себе чипы, или там разъёмы, как в кино? Матрица, это не просто не наша реальность, это вообще не реальность. И смысл? Уже существует куча гаджетов, выполняющих самые разные функции. Вон у меня молодой продвинутый коллега носит на запястье часики, которые, кроме времени, показывают его пульс, количество пройденных шагов, кто ему звонит, и ещё кучу всякой фигни. Стоят дорого, но это пока. Завтра подешевеют, да ещё с десяток функций добавится. Нужны ли ему дырки в черепе, если часики и на руке неплохо смотрятся?

[adrenalin]

Сообщение от Fatima

зачем?

Забавы ради. У вас такого нет? Все детки прилежны и законопослушны?

[полуэкт]

Сообщение от Martin

А симбиоз отметается полностью ?

Да сколько угодно. Сейчас самая простая прога и мозг уже взаимодействуют. Далее, по мере развития интерфеса "мозг-компьютер" уровень этого взаимодействия будет расти. Но в этом взаимодействии человек будет оставлять за собой роль "главного".
Вообще проблема не столько в возможностях программы, сколько в контроле за ее распространением и использованием. Если программа превращается в оружие, она должна контролироваться как таковое. Со всеми вытекающими последствиями: лицензирование, учет, охрана, ограничение оборота. А, может быть, и международный договор о полном запрете изготовления и использования таких программ, как, например, бактериологического оружия.

[adrenalin]

Сообщение от Островок

На каком принципе строится искусственная "нейронная" сеть? На принципе выиграть, выбрать наиболее какой? вариант?

Нет. Пока все проще. Мне удалось пару месяцев поучиться биофизике в МГУ в рамках программы Открытого образования. Там я выяснил, что в передаче сигналов нейронами участвуют ионные каналы, расположенные на мембране клетки. Причем именно потенциал-зависимые ионные каналы (введу сокращение ПЗИК), то есть каналы, которые открываются под воздействием внешнего электрического потенциала. Меня заинтересовали натриевые каналы.
Приведу выдержку из эссе, которое мне пришлось написать в качестве зачетного задания.

Особенностью данного канала является наличие двух ворот (одни на входе, другие на выходе). Когда первые ворота в ответ на воздействие сигнала открываются, вторые – закрываются. Но вторые закрываются медленнее, поэтому порция ионов натрия успевает проскочить. Указанный механизм ворот приводит к тому, что время, когда канал остается открытым (около 1 мс), постоянно для данного канала и не зависит от изменений деполяризации. Именно такого типа натриевые ПЗИК обеспечивают перемещение нервного импульса по мембране нейрона.
Интересной особенностью срабатывания ионного канала является принцип «все или ничего». Канал открывается лишь под действием сдвига электрического потенциала мембраны, превышающего некий критический уровень деполяризации. Заметьте «Все или ничего» - 1 или 0. Фиксированное время, когда канал открыт, не зависимое от изменения деполяризации, превращает потенциал действия в дискретный стабильный управляющий сигнал. Это наталкивает на мысль о перспективах создания нейрокомпьютерных систем.

Я думаю, что в настоящее время в нейронных сетях используется именно такая способность нейронов заменять транзисторы. То есть в нейронных сетях используется та же двоичная система: 1 и 0. Интерес к нейронной сети вызван не новыми возможностями обработки информации, а легкостью встраиваться в имеющиеся компьютерные устройства. Присоединять всякие чипы непосредственно к центральной нервной системе не представляется сложной задачей.

[полуэкт]

Сообщение от adrenalin

легкостью встраиваться в имеющиеся компьютерные устройства

Подключить легко, как я понял. А расшифровать сигнал? Прога ведь не может понять, что мозг кодирует, кроме самых примитивных сигналов, которые идут на вегетативную нервную систему. А мозг не может понять двоичного кода. Так что пока подключение на уровне проведения сигнала, а не обработки. Так?

[adrenalin]

Сообщение от Martin

Если по теме старттопика , рождаются глобальные мозги , вернее мозг . А люди обеспечивают его функционирование, так что становится очевидной зависимость ИИ от людей .

Вы забываете, что люди пытаются создать искусственный разум. Этим будут заниматься много людей и разных. Кто-то создаст такой разум, который научится обходиться без человека.
Но дело даже не в этом.

Сообщение от Martin

Задумаемся вот о чём : как можно представить идеального человека далёкого будущего ? И нет ли возможности реализовать эти хотелки в ближайшие сто лет ? Может мы не узнаем вариант " сбычи этих мечт "?

Ты задал любимый вопрос. Именно в ближайшие 100 лет люди смогут смоделировать человеческий мозг. Но не буду пугать вас сроками. Просто опишу наше будущее.
Думаю, никто не сомневается, что когда-нибудь, скажем через миллион лет, люди смогут:
Шаг 1 Смоделировать человеческий мозг,
Шаг 2 Перенести личность человека (душу, я бы сказал) на другой носитель (не обязательно человекообразный). Иначе говоря - физическая реинкорнация.
Шаг 3 Освоить систему "Аватар" (как в одноименном фильме)
Шаг 4 Поскольку душа может находиться в электронном виде, ее не обязательно переносить в другое тело. Ее можно будет просто поместить в мировой компьютерной сети, создать ей условия, и пусть себе живет виртуальной жизнью с другими такими же. Иначе говоря - души в раю.
Слушайте, про реинкарнацию, про рай я где-то уже слышал.

А теперь заикнусь и о сроках. Готов биться об заклад, что Шаг 1 будет реализован в этом столетии. Шаги 2 и 3 - в следующем. А рай - не позже, чем через 300 лет.

Сообщение от полуэкт

Так что пока подключение на уровне проведения сигнала, а не обработки. Так?

Пока так. Но для этого и разрабатывают нейронные компьютерные сети, чтобы сформировать интерфейс. Я думаю не за горами решение такой задачи: мозг дает задачу рассчитать чего-нибудь, нейрон передает сигнал на встроенный чип, тот быстро решает задачу и дает понятный для мозга ответ. Кстати, сам чип тоже может быть нейронным.

[Martin]

adrenalin, прелестно ,прелестно . Но вопрос проигнорирован : ладно , пусть его ....
"Вызывает интерес" вопрос о идеях Вернадского . А именно- о следующем шаге эволюции , ( прыжок в сторону) думаете почему нет связи с инопланетным разумом ?С кем ему разговаривать, с Жириновским ?
И такой вопрос , заповеди при рассмотрении, оказываются больше свойственны машинному разуму .