Последнее, что следует отдать в "руки" ИИ - это суд. Ничего хуже и не придумать. Соврать? - Запросто: а+в=с. Сможешь определить правда это или ложь? А после того, как ошибешься, еще определи мне - это уравнение добро или зло? И как за него следует наказать?
Будет последняя глобальная война в истории человечества :mosking:. А-ля "Терминатор" :mosking:

На логическом.
Какой задаст автор программы или ее пользователь.

Нейронная сеть может решать поставленные задачи, а не ставить их. Потому что алгоритмы логические, а не оценочные. Что такое "хорошо", а что такое "плохо" - это даже люди меж собой не определились до сих пор. Машина тем более не сможет определить. Она сможет лишь рассчитать в показателях последствия того или иного действия, а оценить в нравственных категориях не сможет.

Вот, собственно, из этого исходит и ответ на вопрос, радоваться ли. С одной стороны, технические возможности огромные, с другой, ограничение их меры - мотив разработчика. При том, что давать это на откуп кому-то определенному - означает, согласиться на манипуляцию. Это как с интернетом. Далеко не все голову включают, кушают, что дают.
Но этот снежный ком не остановить. Надо самим не плошать. Наша нейронная сеть совершеннее, у неё есть настроечный критерий, не подверженный ни одному из известных нам " разработчиков". ;)

Как было уже сказано : ИИ может запоминать разные варианты решения поставленных задач . И выбирать из них .Всё , сеть оторвалась от разработчика и программиста . Дальше количество перейдёт в качество , а перестать использовать электронику уже нет возможности .
.

Вот. И пока она может только это, ни о каком искусственном разуме речь не идёт.

Какие прикажите завести цели ?

У живого существа цель только одна : самосохранение ! Но ИИ наше порождение. И он неизбежно
поставит цели вытекающие из общего императива .

Например заселение других планет солнечной системы ---как страховку от комет , далее освоение других систем как страховка .....( нужное вписать )

Да , о правосудии , если ИИ покажет и озвучит каждую секунду жизни любого фигуранта , как прикажите судить провинившегося ? И какие, звиняйте,адвокаты , ХИ!

Допустим, те, кто напомнит, что то, что русскому хорошо, то немцу - смерть (с). Ну, если еще этим будет кто-то озабочен, кроме гуманного ИИ. :mosking:

Вовсе нет. Только если автор ему эту цель поставит, причем в приоритет перед целью не причинить вред. Если автор дебил. Именно об этом фантасты и твердят уже пол-века, что нужны законы робототехники, а не кто во что горазд.

При чем тут ИИ? Для того, о чем ты сказал, нужны тотальная слежка и запись в базы данных. Для этого не нужно никаких нейронных сетей и ИИ, а просто огромные затраты на примитивные технические средства, которые уже давно существуют. Это совершенно разные проблемы. Но даже и тотальная слежка не препятствует правосудию. Если ты ничего противозаконного не совершил, то объективные средства контроля только помогут это подтвердить. И даже адвокат не понадобится. А если вор - так правосудие заключается не в том, чтоб его от тюрьмы спасти, а в том, чтоб наказание было неотвратимым и справедливым.

полуэкт, проблемы в том, что программы начали писать программы !О каком авторе может идти речь ?
И кто проектирует сами компы-они что не пользуются другими компами ?
Проблема уже ушла из под контроля конкретных людей .

Машины уже давно делают машины. Но не сами, для них есть программа, по которой они это делают.
Так же и с программами - можно задать программе задачу по написанию кода, она эту задачу выполнит. Но Задачу-то она сама себе не поставит! Нет у программы ВОЛИ. Нет целеполагания и мотивации. Вот в чем коренное различие.

Вот создали программу игры в ГО. Программа обыграет любого, но она не может самостоятельно принять решение о том, чтобы, например, с полуэктом не играть. Или бросить к чёрту ГО и перейти на шахматы. Или вообще завязать с играми и начать проектировать подводные лодки. Почему не может? Да потому, что автор программы не заложил в нее такую возможность. Прога самосовершенствуется строго в рамках поставленных задач.

полуэкт, это всё так , НО новые виды программирования , ведь о них речь в названии темы, представляют опасность именно в смысле целеполагания .
А законы робототехники , хм, есть сами суть программы .
Старый закон перехода количества в качество ,притом все ( или почти все) (нейроны) компьютеры связаны (аксонами) интернет протоколами .

Тут есть чего испугаться .

До этого еще очень и очень далеко.
Это, прежде всего, юридические законы, ограничивающие программотворчество. Автор нарушил закон и создал программу, которая первой целью ставит своё выживание и размножение, а жизнь человека для нее ценности не представляет. Этого автора на электрический стул, а программу считаем вредоносным "вирусом" и уничтожаем с помощью антивируса. В принципе, ничего нового, только постепенно растут риски и ответственность. Так же развивается и оружие, и гражданская техника.

Все страхи от незнания. Цепная реакция деления ядра - страшная вещь, но когда знаешь и контролируешь, то можно жить и работать рядом с реактором, получать пользу от него, соблюдать меры безопасности, но не бояться.

"Не верю". Законы роботехники придумал человек. Причём, в рамках фантастического произведения. Мне непонятно, почему, например, никто не верит в разумные вирусы, но готов поверить в разумные компьютеры. Разум, это прежде всего, способность осознать себя. С какого бодуна самая продвинутая программа должна заявить "я мыслю, следовательно я существую" мне непонятно. Программист в неё этого не заложил. С чего бы ей вдруг озадачиться данным вопросом?

А симбиоз отметается полностью ?Компьютерная сеть как надстройка над человеческой базой ?
Я ведь об симбиозе таких разных вещей -биологии и вычислительной техники .
Или объявим поход под лозунгом :" Рибосомы вон из клеток !"

Полностью - не полностью, но пока отметается. Или тебе известны тысячи граждан, вжививших себе чипы, или там разъёмы, как в кино? Матрица, это не просто не наша реальность, это вообще не реальность. И смысл? Уже существует куча гаджетов, выполняющих самые разные функции. Вон у меня молодой продвинутый коллега носит на запястье часики, которые, кроме времени, показывают его пульс, количество пройденных шагов, кто ему звонит, и ещё кучу всякой фигни. Стоят дорого, но это пока. Завтра подешевеют, да ещё с десяток функций добавится. Нужны ли ему дырки в черепе, если часики и на руке неплохо смотрятся?

Забавы ради. У вас такого нет? Все детки прилежны и законопослушны?

Да сколько угодно. Сейчас самая простая прога и мозг уже взаимодействуют. Далее, по мере развития интерфеса "мозг-компьютер" уровень этого взаимодействия будет расти. Но в этом взаимодействии человек будет оставлять за собой роль "главного".
Вообще проблема не столько в возможностях программы, сколько в контроле за ее распространением и использованием. Если программа превращается в оружие, она должна контролироваться как таковое. Со всеми вытекающими последствиями: лицензирование, учет, охрана, ограничение оборота. А, может быть, и международный договор о полном запрете изготовления и использования таких программ, как, например, бактериологического оружия.

Нет. Пока все проще. Мне удалось пару месяцев поучиться биофизике в МГУ в рамках программы Открытого образования. Там я выяснил, что в передаче сигналов нейронами участвуют ионные каналы, расположенные на мембране клетки. Причем именно потенциал-зависимые ионные каналы (введу сокращение ПЗИК), то есть каналы, которые открываются под воздействием внешнего электрического потенциала. Меня заинтересовали натриевые каналы.
Приведу выдержку из эссе, которое мне пришлось написать в качестве зачетного задания.
Я думаю, что в настоящее время в нейронных сетях используется именно такая способность нейронов заменять транзисторы. То есть в нейронных сетях используется та же двоичная система: 1 и 0. Интерес к нейронной сети вызван не новыми возможностями обработки информации, а легкостью встраиваться в имеющиеся компьютерные устройства. Присоединять всякие чипы непосредственно к центральной нервной системе не представляется сложной задачей.;)

Подключить легко, как я понял. А расшифровать сигнал? Прога ведь не может понять, что мозг кодирует, кроме самых примитивных сигналов, которые идут на вегетативную нервную систему. А мозг не может понять двоичного кода. Так что пока подключение на уровне проведения сигнала, а не обработки. Так?

Вы забываете, что люди пытаются создать искусственный разум. Этим будут заниматься много людей и разных. Кто-то создаст такой разум, который научится обходиться без человека.
Но дело даже не в этом.Ты задал любимый вопрос. Именно в ближайшие 100 лет люди смогут смоделировать человеческий мозг. Но не буду пугать вас сроками. Просто опишу наше будущее.
Думаю, никто не сомневается, что когда-нибудь, скажем через миллион лет, люди смогут:
Шаг 1 Смоделировать человеческий мозг,
Шаг 2 Перенести личность человека (душу, я бы сказал) на другой носитель (не обязательно человекообразный). Иначе говоря - физическая реинкорнация.
Шаг 3 Освоить систему "Аватар" (как в одноименном фильме)
Шаг 4 Поскольку душа может находиться в электронном виде, ее не обязательно переносить в другое тело. Ее можно будет просто поместить в мировой компьютерной сети, создать ей условия, и пусть себе живет виртуальной жизнью с другими такими же. Иначе говоря - души в раю.
Слушайте, про реинкарнацию, про рай я где-то уже слышал.:D

А теперь заикнусь и о сроках. Готов биться об заклад, что Шаг 1 будет реализован в этом столетии. Шаги 2 и 3 - в следующем. А рай - не позже, чем через 300 лет.

Пока так. Но для этого и разрабатывают нейронные компьютерные сети, чтобы сформировать интерфейс. Я думаю не за горами решение такой задачи: мозг дает задачу рассчитать чего-нибудь, нейрон передает сигнал на встроенный чип, тот быстро решает задачу и дает понятный для мозга ответ. Кстати, сам чип тоже может быть нейронным.

adrenalin, прелестно ,прелестно . Но вопрос проигнорирован : ладно , пусть его ....
"Вызывает интерес" вопрос о идеях Вернадского . А именно- о следующем шаге эволюции , ( прыжок в сторону) думаете почему нет связи с инопланетным разумом ?С кем ему разговаривать, с Жириновским ?
И такой вопрос , заповеди при рассмотрении, оказываются больше свойственны машинному разуму .