Искусственная нейронная сеть. Радуемся или боимся?

[iosif]

Сообщение от adrenalin

искусственному интеллекту будут доступны эмоции

Эмо́ция (от лат. emoveo — потрясаю, волную) — психический процесс средней продолжительности, отражающий субъективное оценочное отношение к существующим или возможным ситуациям и объективному миру.

С моей точки зрения - эмоции (в своем базовом природном варианте) в первую очередь - это функции ощущений тела или отношений с сородичами. И уже потом субьективное отношение к окружающему миру (которое основано на личном опыте).
Поэтому эмоции ИИ в принципе будут отличаться от человеческих.

--------------------

Сообщение от Вега

Одному преподу говорили - А коллега Ваш сказал что не так, что можно по-другому.

И пока возникают такие вопросы - то ничего не потеряно.
Человек - такое существо, что если у него нет реальных проблем, то он себе придумает виртуальные. И будет биться над их решением. Так что ничего не измениться.

Вот например сейчас: терминатора еще нет, а уже думаем как его завалить.

[Вега]

Сообщение от adrenalin

Кстати, когда кореянке устраивали встречу с умершей дочерью, то голос последней моделировали из пяти детских голосов.

Видимо, не было достаточно записей с голосом девочки.

Похоже, время идентификации преступника по голосу уходит в прошлое.

[adrenalin]

Сообщение от iosif

С моей точки зрения - эмоции (в своем базовом природном варианте) в первую очередь - это функции ощущений тела или отношений с сородичами. И уже потом субьективное отношение к окружающему миру (которое основано на личном опыте).
Поэтому эмоции ИИ в принципе будут отличаться от человеческих.

Смотря какой ИИ мы будем создавать. Если узко специализированный, например для разминирования территории, то конечно. А если создавать человекоподобный, то и эмоции можно сделать вполне человеческие.
Как возникают эмоции у человека?
1. Через выделение химических веществ - гормонов.
страх - адреналин,
радость - дофамин,
эйфория - норадреналин
привязанность - окситоцин
и т.д.
2. Эти гормоны являются медиаторами в соответствующих нейронных цепочках, через которые передается электрический сигнал в соответствующие отделы мозга. Для каждого медиатора - своя нейронная цепочка. Она попадает в свой отдел мозга. Разные отделы мозга отвечают за свои эмоции. Мы можем вызывать разные эмоции у мышки, раздражая электродом разные участки мозга. Можем вызвать удовольствие, можем страх.
3. Отсюда понятно, как можно смоделировать человеческий ИИ. Создаем в искусственном мозге зоны: удовольствия, страха и т.п. А потом проводим воспитание. Устанавливаем, какие события должны давать сигнал в зону удовольствия или радости, какие - страха (предупреждение об опасности). Если сотрудничество с людьми или другими ИИ приводит к удаче, то сигнал поступает в зону привязанности. В программу закладываем, что ИИ старается поступать так, чтобы получать удовольствие и избегать страха. При этом расставляем приоритеты. Иногда надо идти на риск для выполнения задачи. Идти на риск или нет ИИ будет решать согласно заложенным приоритетам (иначе говоря, воспитанию). Лезть на высоковольтные провода, чтобы спасти птичку, рискуя при этом собой (дорогим устройством) емуне позволит это воспитание (система приоритетов).
Как то так.

[iosif]

Говорят, что ребенка еще можно воспитывать, пока он лежит поперек кровати. А когда уже вдоль - то уже поздно.
Так и с ИИ. Пока мы расставляем приоритеты. Но и этот ребенок растет. И рано или поздно он будет ставить и изменять приоритеты сам.
У человека эмоции прошиты на биоуровне и воспитанием лишь слегка корректируется этот процесс.
А в современном мире уже сейчас роботы производят роботов (пока еще под общим руководством человека, но это только пока).
Так что программные приоритеты - это что пальчиком погрозить коршуну, чтобы он куочек в деревне не трогал.

[Tresor]

Сообщение от iosif

У человека эмоции прошиты на биоуровне

Довольно спорный тезис.
Я не специалист, но о том, что эмоции являются непосредственной формой выражения чувств, мне известно. Чувства же технически являются процессом переживания человеком своего отношения к тому, что его окружает - делает ли он что-либо сам, включая познание; оказывает ли на него что-либо какое-либо воздействие.

(Мне в ВУЗе эта тема досталась при зачёте, отчего что-то и помнится)

[adrenalin]

Сообщение от iosif

У человека эмоции прошиты на биоуровне

Сообщение от Tresor

Довольно спорный тезис.

Конечно. На биоуровне прошиты инстинкты. А от чего он будет испытывать радость, прививается воспитанием. Кто-то будет испытывать радость от мучений другого живого существа.

[Вега]

Некоторые эмоции мы получаем рефлекторно - например, успокоение, удовольствие от поглаживания, что соответствует вылизыванию языком самки своих детёнышей в качестве массажа. Плакать и смеяться - два врождённых эмоциональных действия.

[adrenalin]

Сообщение от Вега

Плакать и смеяться - два врождённых эмоциональных действия.

А вот причина плача или смеха - вряд ли врожденная. Врач Мясников рассказывал такую историю. По молодости он работал врачом где-то в Африке. Его удивляло, что во время просмотра советских фильмов о войне, в момент, когда наши героически бросались с гранатой под танк, африканцы смеялись. Оказалось, что у них напрочь отсутствовало сопереживание чужой боли. Кому-то ногу оторвало. Ах, как смешно.
Не все африканцы такие. Но и такие тоже были. Причины: образ жизни, традиции - воспитание, одним словом.

[iosif]

Сообщение от adrenalin

африканцы смеялись. Оказалось, что у них напрочь отсутствовало сопереживание чужой боли.

В книге С.Никитина о криодинамике приводится такая информация: психологически индусы, европейцы и негроиды координально отличаются.
То что европеец воспринимает как психологическую встряску индуса может довести до смерти, а негр даже не обратит внимания. А уж вопрос это воспитания или физиологии или их комбинаций - вопрос для меня пока открытый.
В США белые и черные живут в одном обществе, в некоторых европейских странах чуть ли не массово усыновляют негритят - в принципе информация должна где то быть.

Когда я писал о биоуровне эмоций, то имел в виду, что за эмоции отвечает лимбическая система мозга. Она есть у всех млекопитающих. И это их принципиально отличает от рептилий. Забота о потомстве и стадные отношения - все построено на эмоциях.

[adrenalin]

Сообщение от iosif

И это их принципиально отличает от рептилий. Забота о потомстве и стадные отношения - все построено на эмоциях.

Да, конечно. Но я не вижу, что может помешать вложить такие эмоции в программу ИИ. Ведь в конечном итоге важно какой выбор сделает человек или ИИ. У человека на это будут влиять эмоции: и хочется, и колется, а еще есть слово "надо". У ИИ будет система приоритетов, которая будет приводить точно к такой же проблеме выбора.

[pois]

Сообщение от adrenalin

что может помешать вложить такие эмоции в программу ИИ.

Ведь внедрил кто-то понятие "компьютерный вирус". Вот так же и в ИИ какой-нюдь "умник" вставит извращённые эмоции. А потом никаким колом их оттуда не вышибешь.
Человеческий фактор никто не отменял. Из-за него и построение коммунизма невозможно.
Среди людей всегда найдётся скотина, которая это сделает.
Так устроен мир. Он без законов диалектики просто умрёт. Полная благоустроенность - это путь к краху, погибели. Возможно что ИИ один из компонентов такой гибели рода людского.

[Tresor]

Сообщение от adrenalin

У ИИ будет система приоритетов, которая будет приводить точно к такой же проблеме выбора.

Искусственно созданная система приоритетов - чистая математика, не позволяющая возникать проблеме - если решение есть, то его образ возникает тут же в зависимости от скорости реакций ИИ, но если решения не существует в рамках системы, то... проблема перестаёт быть таковой.
Человеческие личности индивидуальны, и человеческая система приоритетов так же весьма индивидуальна, хотя и отличается подчас едва-едва у некоторых индивидуумов. Она у нас гибка и изменяема в течение любого периода жизни.
Как сделать её такой же у ИИ?

[adrenalin]

Сообщение от Tresor

Искусственно созданная система приоритетов - чистая математика, не позволяющая возникать проблеме - если решение есть, то его образ возникает тут же в зависимости от скорости реакций ИИ

Согласен на 100%. "Проблема" в данном случае в применении к ИИ - термин не удачный.

Сообщение от Tresor

Она у нас гибка и изменяема в течение любого периода жизни.
Как сделать её такой же у ИИ?

Но он же самообучаемый. Например, поставили перед ИИ задачу - управлять массами людей. Первый вариант у него был: опубликуй фейк, массы купятся и пойдут за тобой. Раньше проходило. Нынче попробовал - не проходит. ИИ понимает - надо правду людям говорить.
Пример, может быть, не самый удачный (сходу трудно придумать), но смысл, я думаю, понятен.

Сообщение от pois

Вот так же и в ИИ какой-нюдь "умник" вставит извращённые эмоции. А потом никаким колом их оттуда не вышибешь.

Естественно. ИИ - создание человека. Каков создатель, таков и ИИ.

[Tresor]

Сообщение от adrenalin

смысл, я думаю, понятен

Да.
Но речь шла о системе приоритетов, вольно или невольно изменяемой в обстоятельствах непрямой зависимостью, а не об изменении логики в обстоятельствах - разные переменные.

[adrenalin]

Сообщение от Tresor

Но речь шла о системе приоритетов, вольно или невольно изменяемой в обстоятельствах непрямой зависимостью, а не об изменении логики в обстоятельствах - разные переменные.

Ну да, согласен. Приоритеты не меняются. Но это и хорошо. Все таки ИИ будет более предсказуем. Собственно это нам и надо. Зачем нам не предсказуемый ИИ?

[pois]

Сообщение от adrenalin

Ну да, согласен. Приоритеты не меняются.

Какие у ИИ приоритеты? Питание постабильнее? Чему он будет радоваться? Даже трудно предположить

[adrenalin]

Сообщение от pois

Какие у ИИ приоритеты? Питание постабильнее? Чему он будет радоваться? Даже трудно предположить

У человека есть зоны в мозге, отвечающие за удовольствие, за радость. Сигналы, попадающие туда по нейронам, вызывают эти ощущения. Можно просто зондом раздражать эти зоны, чтобы возникло ощущение удовольствия.
Так же и с ИИ. Ты определяешь круг событий, которые квалифицируются, как радость. Например:
Чтобы хорошо было хозяину - высшая степень радости.
Удачно выполненное задание - степень радости рангом ниже.
И т.п.

[iosif]

Сообщение от pois

Ведь внедрил кто-то понятие "компьютерный вирус". Вот так же и в ИИ какой-нюдь "умник" вставит извращённые эмоции. А потом никаким колом их оттуда не вышибешь.

Сообщение от adrenalin

Естественно. ИИ - создание человека. Каков создатель, таков и ИИ.

Даже у цыпленка часть эмоций завязана на инстинкты.
Первый биообьект, который видит цыпленок выходящий из яйца он считает своей мамой.
В природе это курица.
В инкубаторе - может быть оператор.
Цыпленок следует за своей "мамой". Если он от нее отстает - ему некомфортно.

А у ИИ эмоциями можно играть как заблагорассудится, поэтому такая система изначально нестабильна.

[Tresor]

Сообщение от iosif

Даже у цыпленка часть эмоций завязана на инстинкты.
Первый биообьект, который видит цыпленок выходящий из яйца он считает своей мамой.

Что такое "инстинкты"?
Рептильный мозг с его задачами - выжить (причём, любой ценой) и расплодиться (так же любой ценой и любой возможностью).

Что такое эмоции? Об этом было чуть выше...
...в ответ на Вашу реплику о "прошитых на биоуровне" эмоциях:

Сообщение от Tresor

эмоции являются непосредственной формой выражения чувств

Когда включаются инстинкты, в этот момент эмоции, чувства и ум вырубаются.
А у только-только родившегося цыплёнка, черепашки, динозавра или прочей живности нет ещё эмоций и чувств - этим проявлениям ещё предстоит образоваться через нейронные связи в мыслящем мозге, что происходит весьма быстро, но не мгновенно.
У взрослых особей, - людей ли, животных ли, - инстинкты лишь отдалённо напоминают уже имеющиеся в мыслящем мозге эмоции в их крайних точках, "превращая" страх в ужас или радость в эйфорию, не говоря уж о ярости "выросшей" из гнева...
Инстинкты включаются во время шоковых ситуаций или при длительных стрессах. Шок, собственно. При аппаратном обследовании мозг человека в шоковом состоянии, как пишут учёные, выглядит практически мозгом мёртвого человека, "работает" лишь рептилоидная часть - выжить, выжить, выжить.

[iosif]

Сообщение от Tresor

А у только-только родившегося цыплёнка, черепашки, динозавра или прочей живности нет ещё эмоций и чувств - этим проявлениям ещё предстоит образоваться через нейронные связи в мыслящем мозге, что происходит весьма быстро, но не мгновенно.

Так и я об этом же:

Сообщение от iosif

Первый биообьект, который видит цыпленок выходящий из яйца он считает своей мамой.

Это инстинкт.

Сообщение от iosif

Цыпленок следует за своей "мамой". Если он от нее отстает - ему некомфортно.

А это уже эмоции.

Между ними, как Вы и пишете проходит некоторое время. Но стартом для этой (одной из хорошо изученных биопрограмм) является инстинкт.

Ну предположим, что у ципленка нет эмоций. Но подобным образом работают биопрограммы и у более высших млекопитающих.