|
|
26.02.2020, 21:34
|
#281
|
Постоянный участник
Регистрация: 13.11.2012
Адрес: Тобольск
Сообщений: 6,142
|
iosif, что ты хочешь доказать? Я не понимаю. Что эмоции ИИ отличаются от человеческого, потому что последние являются продолжением инстинктов? Так?
Я возражу. Что нам мешает заложить в программу ИИ простейшие инстинкты? Он будет им подчиняться, если не поступят из его подкорки сигналы более высокого приоритета. Все как у человека. Есть инстинкт самосохранения, но человек ради высокой цели может пожертвовать жизнью.
__________________
Я вас внимательно слушал. Теперь позвольте, глупости говорить буду я.
|
|
|
27.02.2020, 00:28
|
#282
|
(фр.) сокровище, клад; (нем.) сейф
Регистрация: 17.11.2009
Сообщений: 46,424
|
Цитата:
Сообщение от iosif
Цитата:
Если он от нее отстает - ему некомфортно.
|
это уже эмоции
|
Нет, увы...
Это продолжение инстинкта... тот самый шок, о котором я писал чуть выше...
Цитата:
Сообщение от Tresor
Инстинкты включаются во время шоковых ситуаций или при длительных стрессах.
|
*
Цитата:
Сообщение от adrenalin
Что нам мешает заложить в программу ИИ простейшие инстинкты?
|
Это просто, наверное. Относительно...
Значительно сложнее отслеживать потом переменные, влияющие на степень подавления базовых инстинктов, что происходит у мыслящих...
|
|
|
27.02.2020, 08:41
|
#283
|
Постоянный участник
Регистрация: 13.11.2012
Адрес: Тобольск
Сообщений: 6,142
|
Цитата:
Сообщение от Tresor
Значительно сложнее отслеживать потом переменные, влияющие на степень подавления базовых инстинктов, что происходит у мыслящих...
|
Трудно не согласиться.
__________________
Я вас внимательно слушал. Теперь позвольте, глупости говорить буду я.
|
|
|
27.02.2020, 16:40
|
#284
|
Пользователь
Регистрация: 27.03.2018
Сообщений: 82
|
Цитата:
Сообщение от adrenalin
что ты хочешь доказать?
|
Человеческие эмоции хотя и могут меняться, но есть какая то моральная база которая относительно стабильна.
Например под гипнозом человека можно заставить сесть или встать. Но если человек никогда не воровал, то его нельзя заставить украсть. То есть есть какой-то барьер, который определяет степень подчиняемости человека. Определен ли он биологически или воспитанием - это может и частности.
Иногда можно сломать человека, но нельзя его подчинить. Во всяком случае сегодня.
Возможно есть у спецслужб и спец. методы, но террориста проще уничтожить, чем переубедить-перевоспитать.
А какая ситуация с ИИ?
Если все делается програмно (и даже аппаратные блокировки ставят другие роботы по другим программам), то любые эмоции, инстинкты, блокировки программно так же легко снимаются. И лишь в этом видится некоторая нестабильность (а соответственно и неуправляемость) таких систем.
Естественно будут какието антивирусы, но это лишь подчеркивает потенциальную уязвимость и неуправляемость.
|
|
|
27.02.2020, 17:22
|
#285
|
Постоянный участник
Регистрация: 13.11.2012
Адрес: Тобольск
Сообщений: 6,142
|
Цитата:
Сообщение от iosif
но есть какая то моральная база которая относительно стабильна.
|
Ах, вот оно что. У людей (не всех, но хотя бы у некоторых) есть моральный стержень (не важно с каким знаком: плюс или минус), а у ИИ - нет. Ну что ж, где-то ты прав. Мы, правда, эту сложность обойдем: будем считать, что перепрограммирование "морального стержня" ИИ - это просто убийство одного ИИ и создание другого.
__________________
Я вас внимательно слушал. Теперь позвольте, глупости говорить буду я.
|
|
|
27.02.2020, 17:29
|
#286
|
#Zамир #НетНацизму
Регистрация: 21.04.2009
Адрес: Москва
|
Цитата:
Сообщение от adrenalin
Мы, правда, эту сложность обойдем: будем считать, что перепрограммирование "морального стержня" ИИ - это просто убийство одного ИИ и создание другого.
|
Мы скажем, что ИИ был сломлен.
Ввиду того, что ИИ не имеет тела, то "подкреплением" правильного поведения и "табу" на неправильное может быть что угодно (в виде заложенных правил), а значит и результат обучения зависит от этих исходных данных. Если их поменять, то ИИ просто переобучится и превратится в другую "личность", с другими взаимосвязями между нейронами. Развивая мысль: совершенно не обязательно "убивать" предыдущую "личность" - ее можно сохранить, а это значит, что для ИИ может быть не чужда шизофрения, но не мешающая ему, а наоборот делая его универсальным.
Простой пример, Яндекс.станция обучается моим музыкальным вкусам, а недавно она научилась узнавать голос, а это, потенциально, позволяет учитывать вкусы именно того человека, который с ней разговаривает. Пока она этого еще не умеет, а слушает только "хозяина", но сделать это вполне реально.
|
|
|
27.02.2020, 17:36
|
#287
|
Постоянный участник
Регистрация: 13.11.2012
Адрес: Тобольск
Сообщений: 6,142
|
Цитата:
Сообщение от ADv
превратится в другую "личность", с другими взаимосвязями
|
Все правильно: одну личность убили, вторую родили. Человека ведь тоже надо идентифицировать не с телом, а с личностью (я еще называю ее душой).
__________________
Я вас внимательно слушал. Теперь позвольте, глупости говорить буду я.
|
|
|
27.02.2020, 18:12
|
#288
|
Пользователь
Регистрация: 27.03.2018
Сообщений: 82
|
Цитата:
Сообщение от adrenalin
будем считать, что перепрограммирование "морального стержня" ИИ - это просто убийство одного ИИ и создание другого
|
Или ИИ начнет обманывать.
В банках уже сейчас частенько бывают сбои ПО.
А можно ли будет узнать что ИИ перепрограммирован?
|
|
|
28.02.2020, 09:48
|
#289
|
#Zамир #НетНацизму
Регистрация: 21.04.2009
Адрес: Москва
|
Цитата:
Сообщение от iosif
А можно ли будет узнать что ИИ перепрограммирован?
|
Ну да. Например, с помощью контрольной суммы базовых правил.
|
|
|
28.02.2020, 14:23
|
#290
|
(фр.) сокровище, клад; (нем.) сейф
Регистрация: 17.11.2009
Сообщений: 46,424
|
Цитата:
Сообщение от iosif
есть какая то моральная база которая относительно стабильна
|
Это лишь до тех пор, пока окружающая система стабильна.
90-е хорошо показали цену стабильности моральных баз множества людей, растоптавших под действием событий вокруг них и взаимодействовавших с ними свои "моральные стержни" и принципы, заменив их другими, более соответствующими общественному моменту.
Цитата:
Сообщение от adrenalin
перепрограммирование "морального стержня" ИИ
|
Зачем же так радикально?!.
ИИ должен быть способен самоизменяться в обстоятельствах, но в рамках законов окружающих его человеческих сообществ - "моральным стержнем" ИИ должно быть (по идее) вложенное в него на базовом программном уровне законодательство, изменяемое лишь вместе с изменением самого законодательства.
|
|
|
28.02.2020, 15:09
|
#291
|
Пользователь
Регистрация: 27.03.2018
Сообщений: 82
|
Цитата:
Сообщение от iosif
А можно ли будет узнать что ИИ перепрограммирован?
|
Цитата:
Сообщение от ADv
Ну да. Например, с помощью контрольной суммы базовых правил.
|
А что произойдет когда уровень ИИ станет выше уровня интеллекта человека?
Кто кого будет перепрограммировать?
|
|
|
28.02.2020, 15:13
|
#292
|
#Zамир #НетНацизму
Регистрация: 21.04.2009
Адрес: Москва
|
Цитата:
Сообщение от iosif
А что произойдет когда уровень ИИ станет выше уровня интеллекта человека?
Кто кого будет перепрограммировать?
|
Не перепрограммировать, а проверять целостность исходных правил. Даже самого умного профессора в тюрьме способен держать и неграмотный охранник.
|
|
|
29.02.2020, 12:27
|
#293
|
Пользователь
Регистрация: 27.03.2018
Сообщений: 82
|
Цитата:
Сообщение от ADv
проверять целостность исходных правил.
|
В этом и вопрос.
Нынешние исходные правила сформулированы коллективным интеллектом человечества за многовековую историю.
Когда уровень ИИ превысит этот уровень, он естественно сформулирует новые исходные правила.
Ситуация в чем то напоминает взросление детей и старение родителей.
В одних странах позиционируется забота о престарелых, а в других - легализируют эвтаназию.
И не только легализируют, но и убеждают (перепрограмируют сознание), что это найлучший вариант.
Перспективы не столь однозначны.
|
|
|
29.02.2020, 21:34
|
#294
|
#Zамир #НетНацизму
Регистрация: 21.04.2009
Адрес: Москва
|
Цитата:
Сообщение от iosif
Нынешние исходные правила сформулированы коллективным интеллектом человечества за многовековую историю.
Когда уровень ИИ превысит этот уровень, он естественно сформулирует новые исходные правила.
|
Значит тогда контрольная сумма изменится и
Цитата:
Сообщение от iosif
можно ли будет узнать что ИИ перепрограммирован
|
Собственно в этом и заключался вопрос.
|
|
|
02.03.2020, 12:24
|
#295
|
Пользователь
Регистрация: 27.03.2018
Сообщений: 82
|
Цитата:
Сообщение от ADv
Значит тогда контрольная сумма изменится и
|
Вот сейчас я понял
ИИ будет крайне невыгодно любым образом нарушать контрольную сумму.
А что люди? Неужели в компании с ИИ и воровать перестанут?
Но что человечество стоит на грани изменения законов и морали - уже понятно.
Например: авто ведет ИИ, возникает ситуация когда ДТП неизбежно, ИИ должен принять решение иначе погибнет или пасажир(хозяин) или пешеход. Кто должен погибнуть?
С точки зрения современного законодательства ситуация патовая.
|
|
|
02.03.2020, 13:25
|
#296
|
(фр.) сокровище, клад; (нем.) сейф
Регистрация: 17.11.2009
Сообщений: 46,424
|
Цитата:
Сообщение от iosif
авто ведет ИИ, возникает ситуация когда ДТП неизбежно, ИИ должен принять решение иначе погибнет или пасажир(хозяин) или пешеход.
|
Ситуация "патовая" для ИИ ещё на уровне задаваемого вопроса. В теории. А на практике...
Современные средства слежения за дорогой, устанавливаемые (пока) на топовых марках автомобилей реагируют достаточно чётко на внезапные ситуации, связанные с необходимостью быстрой остановки автомобиля - человек столь быстро среагировать чаще всего не успевает. И это лишь средства. Если их подключить к ИИ, то будет ещё более впечатляющая картинка, потому что ИИ, в отличие от человека, вряд ли будет отвлекаться на посторонние мысли во время вождения автомобиля.
Дилемма, - пассажир или пешеход, - решается на самом деле довольно просто, как это ни печально: если нет никакой возможности избежать чьей-либо смерти, но есть выбор, то погибнуть "придётся" нарушившему закон (в качестве такого, вот, жестокого наказания). ПДД - это тот же закон... особенно, если он вложен в ИИ в качестве исполнительных правил.
|
|
|
02.03.2020, 16:52
|
#297
|
Постоянный участник
Регистрация: 28.02.2013
Адрес: Черновцы
|
Анекдот в тему. Экзамен в грузинском ГАИ. Строгий экзаменатор спрашивает будущего водителя. "Ты едэш па горной дарогэ. Справа скала, слэва обрыв. Виезжаешь за паварот и выдыш, что на дарогэ, прямо пэрэд машиной стоят бабушка и дэвушка - пэрсык. Справа скала, слэва обрыв. Паварачивать нэкуда. Каво давыть будэшь?" Экзаменуемый. "Бабушку давыть буду. Она ужэ жызн пражыла." Экзаменатор. "Ыдыот! Тормоз давыть нада! Тормоз!"
|
|
|
02.03.2020, 18:12
|
#298
|
(фр.) сокровище, клад; (нем.) сейф
Регистрация: 17.11.2009
Сообщений: 46,424
|
Цитата:
Сообщение от УмНик
Экзамен в грузинском ГАИ
|
Бен Бенецианов рассказывал этот анекдот на эстраде - рассказ длился порядка пяти минут - то ли в конце шестидесятых, то ли в начале семидесятых. Я его тоже при подобных разговорах вспоминаю...
|
|
|
02.03.2020, 21:50
|
#299
|
Постоянный участник
Регистрация: 27.04.2009
Сообщений: 54,930
|
Ученые создали систему, которая соединила искусственные и живые нейроны через мемристор. Примечательно, что три элемента этого гибрида находились в разных точках Европы и были связаны через интернет. Несмотря на расстояние, сеть функционировала и проявляла свойства живых нейронных систем, например, долговременную потенциацию. Статья опубликована в журнале Nature Scientific Reports.
Подробности https://nplus1.ru/news/2020/02/27/ne..._medium=Social
|
|
|
28.10.2020, 16:28
|
#300
|
#Zамир #НетНацизму
Регистрация: 21.04.2009
Адрес: Москва
|
Цитата:
Сообщение от ADv
Вчера на входе в магазин автоматическая дверь не открылась пока я не надел маску. Вот реально: отошел и подошел снова - не открывается, надел маску, подошел - открылась. Допускаю, что это был просто сбой в работе датчика движения, хотя, вполне допускаю, что в паре с ним работает и камера.
|
Нажмите для просмотра целиком
|
|
|
Здесь присутствуют: 1 (пользователей: 0 , гостей: 1)
|
|
Ваши права в разделе
|
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения
HTML код Вкл.
|
|
|
Часовой пояс GMT +3, время: 20:40.
|