Третья от Солнца планета Солнечной системы, крупнейшая по диаметру, массе и плотности среди планет земной группы, не присутствующая в данный момент в реальном мире, а созданная лишь игрой воображения человеческой мысли и искусством отдельно взятого программиста, являющаяся мероприятием, проводимым для коллегиального обозначения или решения каких-либо в достаточной степени значительных или не очень значительных, либо совсем не значительных проблем общественной группой существ из семейства гоминид в отряде приматов, обладающих критическим способом мышления, высокой степенью рефлексии, способностью к систематизации знаний и опыта (Интеллигентный форум, Terra intellegentium personarum).
Вернуться   Интеллигентный форум, Терра > Общество > Цифровой век

Важная информация

Ответ
 
Опции темы
Старый 26.02.2020, 21:34   #281
adrenalin
Постоянный участник
 
Аватар для adrenalin
 
Регистрация: 13.11.2012
Адрес: Тобольск
Сообщений: 6,141
Записей в дневнике: 11
Альбомов(фоток): 4(39)
adrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутацию
По умолчанию

iosif, что ты хочешь доказать? Я не понимаю. Что эмоции ИИ отличаются от человеческого, потому что последние являются продолжением инстинктов? Так?
Я возражу. Что нам мешает заложить в программу ИИ простейшие инстинкты? Он будет им подчиняться, если не поступят из его подкорки сигналы более высокого приоритета. Все как у человека. Есть инстинкт самосохранения, но человек ради высокой цели может пожертвовать жизнью.
__________________
Я вас внимательно слушал. Теперь позвольте, глупости говорить буду я.
adrenalin вне форума   Ответить с цитированием
Старый 27.02.2020, 00:28   #282
Tresor
(фр.) сокровище, клад; (нем.) сейф
 
Аватар для Tresor
 
Регистрация: 17.11.2009
Сообщений: 46,419
Tresor отключил(а) отображение уровня репутации
По умолчанию

Цитата:
Сообщение от iosif Посмотреть сообщение
Цитата:
Если он от нее отстает - ему некомфортно.
это уже эмоции
Нет, увы...
Это продолжение инстинкта... тот самый шок, о котором я писал чуть выше...
Цитата:
Сообщение от Tresor Посмотреть сообщение
Инстинкты включаются во время шоковых ситуаций или при длительных стрессах.
*

Цитата:
Сообщение от adrenalin Посмотреть сообщение
Что нам мешает заложить в программу ИИ простейшие инстинкты?
Это просто, наверное. Относительно...
Значительно сложнее отслеживать потом переменные, влияющие на степень подавления базовых инстинктов, что происходит у мыслящих...
Tresor вне форума   Ответить с цитированием
Старый 27.02.2020, 08:41   #283
adrenalin
Постоянный участник
 
Аватар для adrenalin
 
Регистрация: 13.11.2012
Адрес: Тобольск
Сообщений: 6,141
Записей в дневнике: 11
Альбомов(фоток): 4(39)
adrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутацию
По умолчанию

Цитата:
Сообщение от Tresor Посмотреть сообщение
Значительно сложнее отслеживать потом переменные, влияющие на степень подавления базовых инстинктов, что происходит у мыслящих...
Трудно не согласиться.
__________________
Я вас внимательно слушал. Теперь позвольте, глупости говорить буду я.
adrenalin вне форума   Ответить с цитированием
Старый 27.02.2020, 16:40   #284
iosif
Пользователь
 
Аватар для iosif
 
Регистрация: 27.03.2018
Сообщений: 82
iosif в начале пути
По умолчанию

Цитата:
Сообщение от adrenalin Посмотреть сообщение
что ты хочешь доказать?
Человеческие эмоции хотя и могут меняться, но есть какая то моральная база которая относительно стабильна.
Например под гипнозом человека можно заставить сесть или встать. Но если человек никогда не воровал, то его нельзя заставить украсть. То есть есть какой-то барьер, который определяет степень подчиняемости человека. Определен ли он биологически или воспитанием - это может и частности.
Иногда можно сломать человека, но нельзя его подчинить. Во всяком случае сегодня.
Возможно есть у спецслужб и спец. методы, но террориста проще уничтожить, чем переубедить-перевоспитать.

А какая ситуация с ИИ?
Если все делается програмно (и даже аппаратные блокировки ставят другие роботы по другим программам), то любые эмоции, инстинкты, блокировки программно так же легко снимаются. И лишь в этом видится некоторая нестабильность (а соответственно и неуправляемость) таких систем.
Естественно будут какието антивирусы, но это лишь подчеркивает потенциальную уязвимость и неуправляемость.
iosif вне форума   Ответить с цитированием
Старый 27.02.2020, 17:22   #285
adrenalin
Постоянный участник
 
Аватар для adrenalin
 
Регистрация: 13.11.2012
Адрес: Тобольск
Сообщений: 6,141
Записей в дневнике: 11
Альбомов(фоток): 4(39)
adrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутацию
По умолчанию

Цитата:
Сообщение от iosif Посмотреть сообщение
но есть какая то моральная база которая относительно стабильна.
Ах, вот оно что. У людей (не всех, но хотя бы у некоторых) есть моральный стержень (не важно с каким знаком: плюс или минус), а у ИИ - нет. Ну что ж, где-то ты прав. Мы, правда, эту сложность обойдем: будем считать, что перепрограммирование "морального стержня" ИИ - это просто убийство одного ИИ и создание другого.
__________________
Я вас внимательно слушал. Теперь позвольте, глупости говорить буду я.
adrenalin вне форума   Ответить с цитированием
Старый 27.02.2020, 17:29   #286
ADv
#Zамир #НетНацизму
 
Аватар для ADv
 
Регистрация: 21.04.2009
Адрес: Москва
Записей в дневнике: 27
Альбомов(фоток): 12(154)
ADv отключил(а) отображение уровня репутации
Отправить сообщение для ADv с помощью ICQ Отправить сообщение для ADv с помощью Skype™
По умолчанию

Цитата:
Сообщение от adrenalin Посмотреть сообщение
Мы, правда, эту сложность обойдем: будем считать, что перепрограммирование "морального стержня" ИИ - это просто убийство одного ИИ и создание другого.
Мы скажем, что ИИ был сломлен.

Ввиду того, что ИИ не имеет тела, то "подкреплением" правильного поведения и "табу" на неправильное может быть что угодно (в виде заложенных правил), а значит и результат обучения зависит от этих исходных данных. Если их поменять, то ИИ просто переобучится и превратится в другую "личность", с другими взаимосвязями между нейронами. Развивая мысль: совершенно не обязательно "убивать" предыдущую "личность" - ее можно сохранить, а это значит, что для ИИ может быть не чужда шизофрения, но не мешающая ему, а наоборот делая его универсальным.

Простой пример, Яндекс.станция обучается моим музыкальным вкусам, а недавно она научилась узнавать голос, а это, потенциально, позволяет учитывать вкусы именно того человека, который с ней разговаривает. Пока она этого еще не умеет, а слушает только "хозяина", но сделать это вполне реально.
ADv вне форума   Ответить с цитированием
Старый 27.02.2020, 17:36   #287
adrenalin
Постоянный участник
 
Аватар для adrenalin
 
Регистрация: 13.11.2012
Адрес: Тобольск
Сообщений: 6,141
Записей в дневнике: 11
Альбомов(фоток): 4(39)
adrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутациюadrenalin имеет неоспоримую репутацию
По умолчанию

Цитата:
Сообщение от ADv Посмотреть сообщение
превратится в другую "личность", с другими взаимосвязями
Все правильно: одну личность убили, вторую родили. Человека ведь тоже надо идентифицировать не с телом, а с личностью (я еще называю ее душой).
__________________
Я вас внимательно слушал. Теперь позвольте, глупости говорить буду я.
adrenalin вне форума   Ответить с цитированием
Старый 27.02.2020, 18:12   #288
iosif
Пользователь
 
Аватар для iosif
 
Регистрация: 27.03.2018
Сообщений: 82
iosif в начале пути
По умолчанию

Цитата:
Сообщение от adrenalin Посмотреть сообщение
будем считать, что перепрограммирование "морального стержня" ИИ - это просто убийство одного ИИ и создание другого
Или ИИ начнет обманывать.
В банках уже сейчас частенько бывают сбои ПО.
А можно ли будет узнать что ИИ перепрограммирован?
iosif вне форума   Ответить с цитированием
Старый 28.02.2020, 09:48   #289
ADv
#Zамир #НетНацизму
 
Аватар для ADv
 
Регистрация: 21.04.2009
Адрес: Москва
Записей в дневнике: 27
Альбомов(фоток): 12(154)
ADv отключил(а) отображение уровня репутации
Отправить сообщение для ADv с помощью ICQ Отправить сообщение для ADv с помощью Skype™
По умолчанию

Цитата:
Сообщение от iosif Посмотреть сообщение
А можно ли будет узнать что ИИ перепрограммирован?
Ну да. Например, с помощью контрольной суммы базовых правил.
ADv вне форума   Ответить с цитированием
Старый 28.02.2020, 14:23   #290
Tresor
(фр.) сокровище, клад; (нем.) сейф
 
Аватар для Tresor
 
Регистрация: 17.11.2009
Сообщений: 46,419
Tresor отключил(а) отображение уровня репутации
По умолчанию

Цитата:
Сообщение от iosif Посмотреть сообщение
есть какая то моральная база которая относительно стабильна
Это лишь до тех пор, пока окружающая система стабильна.
90-е хорошо показали цену стабильности моральных баз множества людей, растоптавших под действием событий вокруг них и взаимодействовавших с ними свои "моральные стержни" и принципы, заменив их другими, более соответствующими общественному моменту.

Цитата:
Сообщение от adrenalin Посмотреть сообщение
перепрограммирование "морального стержня" ИИ
Зачем же так радикально?!.
ИИ должен быть способен самоизменяться в обстоятельствах, но в рамках законов окружающих его человеческих сообществ - "моральным стержнем" ИИ должно быть (по идее) вложенное в него на базовом программном уровне законодательство, изменяемое лишь вместе с изменением самого законодательства.
Tresor вне форума   Ответить с цитированием
Старый 28.02.2020, 15:09   #291
iosif
Пользователь
 
Аватар для iosif
 
Регистрация: 27.03.2018
Сообщений: 82
iosif в начале пути
По умолчанию

Цитата:
Сообщение от iosif Посмотреть сообщение
А можно ли будет узнать что ИИ перепрограммирован?
Цитата:
Сообщение от ADv Посмотреть сообщение
Ну да. Например, с помощью контрольной суммы базовых правил.
А что произойдет когда уровень ИИ станет выше уровня интеллекта человека?
Кто кого будет перепрограммировать?
iosif вне форума   Ответить с цитированием
Старый 28.02.2020, 15:13   #292
ADv
#Zамир #НетНацизму
 
Аватар для ADv
 
Регистрация: 21.04.2009
Адрес: Москва
Записей в дневнике: 27
Альбомов(фоток): 12(154)
ADv отключил(а) отображение уровня репутации
Отправить сообщение для ADv с помощью ICQ Отправить сообщение для ADv с помощью Skype™
По умолчанию

Цитата:
Сообщение от iosif Посмотреть сообщение
А что произойдет когда уровень ИИ станет выше уровня интеллекта человека?
Кто кого будет перепрограммировать?
Не перепрограммировать, а проверять целостность исходных правил. Даже самого умного профессора в тюрьме способен держать и неграмотный охранник.
ADv вне форума   Ответить с цитированием
Старый 29.02.2020, 12:27   #293
iosif
Пользователь
 
Аватар для iosif
 
Регистрация: 27.03.2018
Сообщений: 82
iosif в начале пути
По умолчанию

Цитата:
Сообщение от ADv Посмотреть сообщение
проверять целостность исходных правил.
В этом и вопрос.
Нынешние исходные правила сформулированы коллективным интеллектом человечества за многовековую историю.
Когда уровень ИИ превысит этот уровень, он естественно сформулирует новые исходные правила.

Ситуация в чем то напоминает взросление детей и старение родителей.
В одних странах позиционируется забота о престарелых, а в других - легализируют эвтаназию.
И не только легализируют, но и убеждают (перепрограмируют сознание), что это найлучший вариант.
Перспективы не столь однозначны.
iosif вне форума   Ответить с цитированием
Старый 29.02.2020, 21:34   #294
ADv
#Zамир #НетНацизму
 
Аватар для ADv
 
Регистрация: 21.04.2009
Адрес: Москва
Записей в дневнике: 27
Альбомов(фоток): 12(154)
ADv отключил(а) отображение уровня репутации
Отправить сообщение для ADv с помощью ICQ Отправить сообщение для ADv с помощью Skype™
По умолчанию

Цитата:
Сообщение от iosif Посмотреть сообщение
Нынешние исходные правила сформулированы коллективным интеллектом человечества за многовековую историю.
Когда уровень ИИ превысит этот уровень, он естественно сформулирует новые исходные правила.
Значит тогда контрольная сумма изменится и
Цитата:
Сообщение от iosif Посмотреть сообщение
можно ли будет узнать что ИИ перепрограммирован
Собственно в этом и заключался вопрос.
ADv вне форума   Ответить с цитированием
Старый 02.03.2020, 12:24   #295
iosif
Пользователь
 
Аватар для iosif
 
Регистрация: 27.03.2018
Сообщений: 82
iosif в начале пути
По умолчанию

Цитата:
Сообщение от ADv Посмотреть сообщение
Значит тогда контрольная сумма изменится и
Вот сейчас я понял

ИИ будет крайне невыгодно любым образом нарушать контрольную сумму.

А что люди? Неужели в компании с ИИ и воровать перестанут?

Но что человечество стоит на грани изменения законов и морали - уже понятно.
Например: авто ведет ИИ, возникает ситуация когда ДТП неизбежно, ИИ должен принять решение иначе погибнет или пасажир(хозяин) или пешеход. Кто должен погибнуть?
С точки зрения современного законодательства ситуация патовая.
iosif вне форума   Ответить с цитированием
Старый 02.03.2020, 13:25   #296
Tresor
(фр.) сокровище, клад; (нем.) сейф
 
Аватар для Tresor
 
Регистрация: 17.11.2009
Сообщений: 46,419
Tresor отключил(а) отображение уровня репутации
По умолчанию

Цитата:
Сообщение от iosif Посмотреть сообщение
авто ведет ИИ, возникает ситуация когда ДТП неизбежно, ИИ должен принять решение иначе погибнет или пасажир(хозяин) или пешеход.
Ситуация "патовая" для ИИ ещё на уровне задаваемого вопроса. В теории. А на практике...
Современные средства слежения за дорогой, устанавливаемые (пока) на топовых марках автомобилей реагируют достаточно чётко на внезапные ситуации, связанные с необходимостью быстрой остановки автомобиля - человек столь быстро среагировать чаще всего не успевает. И это лишь средства. Если их подключить к ИИ, то будет ещё более впечатляющая картинка, потому что ИИ, в отличие от человека, вряд ли будет отвлекаться на посторонние мысли во время вождения автомобиля.
Дилемма, - пассажир или пешеход, - решается на самом деле довольно просто, как это ни печально: если нет никакой возможности избежать чьей-либо смерти, но есть выбор, то погибнуть "придётся" нарушившему закон (в качестве такого, вот, жестокого наказания). ПДД - это тот же закон... особенно, если он вложен в ИИ в качестве исполнительных правил.
Tresor вне форума   Ответить с цитированием
Старый 02.03.2020, 16:52   #297
УмНик
Постоянный участник
 
Регистрация: 28.02.2013
Адрес: Черновцы
УмНик отключил(а) отображение уровня репутации
По умолчанию

Анекдот в тему. Экзамен в грузинском ГАИ. Строгий экзаменатор спрашивает будущего водителя. "Ты едэш па горной дарогэ. Справа скала, слэва обрыв. Виезжаешь за паварот и выдыш, что на дарогэ, прямо пэрэд машиной стоят бабушка и дэвушка - пэрсык. Справа скала, слэва обрыв. Паварачивать нэкуда. Каво давыть будэшь?" Экзаменуемый. "Бабушку давыть буду. Она ужэ жызн пражыла." Экзаменатор. "Ыдыот! Тормоз давыть нада! Тормоз!"
УмНик вне форума   Ответить с цитированием
Старый 02.03.2020, 18:12   #298
Tresor
(фр.) сокровище, клад; (нем.) сейф
 
Аватар для Tresor
 
Регистрация: 17.11.2009
Сообщений: 46,419
Tresor отключил(а) отображение уровня репутации
По умолчанию

Цитата:
Сообщение от УмНик Посмотреть сообщение
Экзамен в грузинском ГАИ
Бен Бенецианов рассказывал этот анекдот на эстраде - рассказ длился порядка пяти минут - то ли в конце шестидесятых, то ли в начале семидесятых. Я его тоже при подобных разговорах вспоминаю...
Tresor вне форума   Ответить с цитированием
Старый 02.03.2020, 21:50   #299
Вега
Постоянный участник
 
Аватар для Вега
 
Регистрация: 27.04.2009
Сообщений: 54,903
Вега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутациюВега имеет неоспоримую репутацию
По умолчанию

Ученые создали систему, которая соединила искусственные и живые нейроны через мемристор. Примечательно, что три элемента этого гибрида находились в разных точках Европы и были связаны через интернет. Несмотря на расстояние, сеть функционировала и проявляла свойства живых нейронных систем, например, долговременную потенциацию. Статья опубликована в журнале Nature Scientific Reports.

Подробности https://nplus1.ru/news/2020/02/27/ne..._medium=Social
Вега вне форума   Ответить с цитированием
Старый 28.10.2020, 16:28   #300
ADv
#Zамир #НетНацизму
 
Аватар для ADv
 
Регистрация: 21.04.2009
Адрес: Москва
Записей в дневнике: 27
Альбомов(фоток): 12(154)
ADv отключил(а) отображение уровня репутации
Отправить сообщение для ADv с помощью ICQ Отправить сообщение для ADv с помощью Skype™
По умолчанию

Цитата:
Сообщение от ADv Посмотреть сообщение
Вчера на входе в магазин автоматическая дверь не открылась пока я не надел маску. Вот реально: отошел и подошел снова - не открывается, надел маску, подошел - открылась. Допускаю, что это был просто сбой в работе датчика движения, хотя, вполне допускаю, что в паре с ним работает и камера.
Нажмите для просмотра целиком
Можете сами побаловаться: https://dictor.mail.ru/create/model
ADv вне форума   Ответить с цитированием
Ответ Вверх   Новые сообщения  


Здесь присутствуют: 1 (пользователей: 0 , гостей: 1)
 
Опции темы

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Вкл.

Быстрый переход

Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Искусственная жизнь - имеет ли право на жизнь? Танцующая Дети и эти 54 24.07.2020 22:10
Cilantro, или Кинза, или Кориандр... Vivre Специи 54 18.03.2011 20:39


Часовой пояс GMT +3, время: 15:57.

Яндекс.Метрика

Powered by vBulletin® Version 3.8.2
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd. Перевод: zCarot