Интеллигентный форум, Терра - Искусственная нейронная сеть. Радуемся или боимся?

Интеллигентный форум, Терра (http://intellegens.ru/forum/index.php)

- Цифровой век (http://intellegens.ru/forum/forumdisplay.php?f=40)

Искусственная нейронная сеть. Радуемся или боимся?

~~Пиздец~~ Триумф подкрался незаметно.

В марте этого года прошел матч между программой AlphaGo и Ли Седолем — одним из лучших мировых игроков в Го. Компьютер победил без форы со стороны человека. Чемпион мира по игре в го сумел выиграть только одну партию из пяти.
Человечество проиграло в го
Го, игра, которая долгое время оставалась самым главным вызовом для разработчиков искусственного интеллекта по всему миру.
Компьютерное го
Сегодня разработчики Го программ торжествуют: до этого дня ни одна программа – а было их за последние 30 лет немало – не могла обыграть хорошего игрока без форы.

Это событие прошло практически незамеченным, так как преимущества компьютерных программ в большинстве игр, включая шахматы уже неоспоримо.
В каких играх человек уже никогда не победит компьютер
Но тем не менее, игра Го самая сложная и разветвленная по комбинациям игра человечества, гораздо сложнее и богаче шахмат.

Похожая, казалось бы, ситуация произошла в 1997 году, когда компьютер Deep Blue компании IBM победил чемпиона мира по шахматам Гарри Каспарова. Но на самом деле, разница есть.
Deep Blue воспользовался грубой силой, буквально просчитывая каждый ход и его результат. При игре в го такой подход требует слишком больших затрат — вариантов ходов в этой игре 10 в 170 степени. Для сравнения — число атомов всей нашей вселенной — всего 10 в 80 степени. Победа в го достигается не вычислениями. В случае с игрой Го, против человека сражалась искусственная нейронная сеть. А нейронная сеть способна самообучатся.
Искусственная нейронная сеть
Триумф искусственной нейросети значит для человечества очень многое.

Алгоритм обучения нейронной сети в го достаточно прост: Каждая партия, которую сеть играет сама с собой, подкреплена лишь правилами игры и не допускает запрещенных ходов. В остальном, это лишь случайное поочередное размещение фишек на поле, до победы той или иной стороны. Это и называется "процесс обучения".

Казалось бы, совершенно бездумное перемещение фишек в миллионах виртуально просчитанных игр не должно привести к победе, но на практике все оказывается иначе... и обученная нейронная сеть обыгрывает человека. Разработчики данной алгоритма сами удивлены такому результату – они знают, как работает программа, но почему она выигрывает, остается загадкой. Ведь миллионы случайно просчитанных игр есть лишь малая толика от действительно всех вариантов, а значит и статистика составляемая программой для каждого хода, весьма субъективна.

Человечество вплотную подошло если не к созданию искусственного человеческого интеллекта, то как минимум к созданию некого "обучаемого животного", что сулит человечеству, как очередные удобства так и очередные проблемы.

Цитата:

Сообщение от oleg (Сообщение 687188)

Казалось бы, совершенно бездумное перемещение фишек в миллионах виртуально просчитанных игр не должно привести к победе, но на практике все оказывается иначе... и обученная нейронная сеть обыгрывает человека. Разработчики данной алгоритма сами удивлены такому результату – они знают, как работает программа, но почему она выигрывает, остается загадкой. Ведь миллионы случайно просчитанных игр есть лишь малая толика от действительно всех вариантов, а значит и статистика составляемая программой для каждого хода, весьма субъективна.
.

На самом деле такие программы были созданы уже давно.
Имитация эволюционного процесса, когда случайные изменения под воздействием естественного (а в данном случае - искусственного, заданного программистом) отбора ведут к формированию у компьютерных моделей свойств полезных, а значит и разумных в заданной компьютерной среде, еще Докинз много писал об этом.

Цитата:

Сообщение от Одиссей (Сообщение 687191)

На самом деле такие программы были созданы уже давно.

Идеи и попытки были достаточно давно. Но известных мне результатов не было.

Цитата:

Сообщение от Одиссей (Сообщение 687191)

Имитация эволюционного процесса, когда случайные изменения

А почему "иммитация"? Это и есть эволюционный процесс для данной программы.
"Иммитация" это скорее программа-игрушка "жизнь" и то можно сказать что основные принципы природы в ней смоделированы верно.

Цитата:

Сообщение от oleg (Сообщение 687193)

Иммитация потому что мы не можем учесть ВСЕХ факторов влияющих на эволюцию.
В той же игре Го есть несколько простых правил которые можно учесть в компьютерной модели, человек то же ограничен этими правилами поэтому отличий между ними нет.
Компьютерная же модель биологической эволюции всегда останется моделью, мы сами не знаем ВСЕХ факторов эволюции, не знаем степень их влияния .. да и навряд ли когда сможем узнать, может определяющим фактором появления человека был какой то взрыв сверхновой в созвездии Лебедя 21 июня 1273849 года до нашей эры.
Что породит компьютерная эволюция нам неизвестно .., во всяком случае это не будет человеческий разум, а скорее какой то Голем, химера, учитывая ограниченность заданных нами параметров ..

Цитата:

Сообщение от Одиссей (Сообщение 687197)

Иммитация потому что мы не можем учесть ВСЕХ факторов влияющих на эволюцию.

Ну я так и сказал: эволюционный процесс для данной программы. Эволюция природы это такой же эволюционный процесс

Цитата:

Сообщение от Одиссей (Сообщение 687197)

Компьютерная же модель биологической эволюции всегда останется моделью, мы сами не знаем ВСЕХ факторов эволюции

Любое знание это "модель не учитывающая ВСЕХ факторов". Тогда и физику нужно звать "иммитацией физики природы". Не вопрос, нравится термин, можно его использовать. Но это некорректно. Слово "иммитация" предполагает скорее подделку, чем упрощение. Хотя возможно я не прав.

Цитата:

Сообщение от Одиссей (Сообщение 687197)

во всяком случае это не будет человеческий разум, а скорее какой то Голем, химера, учитывая ограниченность заданных нами параметров ..

Почему "Голем" или "химера"? Просто это будет другой разум или точнее другой инструмент исследования природы. Таким же макаром можно сказать, что калькулятор это Голем или химера таблицы умножения :D

Цитата:

Сообщение от Одиссей (Сообщение 687197)

учитывая ограниченность заданных нами параметров ..

Парамерты которые задаются нам природой, благодаря чему мы эволюцинируем, тоже ограничены и не включают ВСЕ параметры вселенной. Нам это мешает эволюцинировать?

В данном вопросе согласна с Хоккингом - человечество поджидают очередные проблемы.

Цитата:

Сообщение от Вега (Сообщение 687204)

человечество поджидают очередные проблемы.

очередные плюшки всегда порождают очередные проблемы. И то и другое несомненно будет.

Не радуемся и не боимся , создание электронного сверхразума есть этап развития человека как биологического вида . Этим решается старая как мир проблема " А судьи кто ?" .
Практика показывает страшненькую вещь - самоуправляться сообщества людей НЕ могут , стадные инстинкты зашиты в генах . Две мировых войны, для примера .

Цитата:

Сообщение от oleg (Сообщение 687188)

[S]
Человечество вплотную подошло если не к созданию искусственного человеческого интеллекта, то как минимум к созданию некого "обучаемого животного", что сулит человечеству, как очередные удобства так и очередные проблемы.

~~Волков~~ проблем бояться...
История человечества показала, что прогресс науки не остановить. Несмотря на предвидение возникновения опасных проблем

Дмитрий Гришин: «Роботами будет множество вещей: стулья, чашки, твой рюкзак»
(Сооснователь Mail.Ru Group о том, зачем умным лопатам нужен юридический статус)

Нажмите для просмотра целиком

Цитата:

Глава совета директоров Mail.Ru Group Дмитрий Гришин — специалист по системам автоматизации с дипломом Бауманского университета, создатель робототехнического венчурного фонда Grishin Robotics и большой энтузиаст отрасли. На днях он представил свой проект поправок в Гражданский кодекс, регулирующих правовой статус роботов. Закон уподобляет роботов не людям, животным или машинам, а виртуальным сущностям — юридическим лицам. В интервью «Секрету» Гришин рассказал, почему ему важно придумать базу для регулирования отрасли, что будут собой представлять роботы, ведущие хозяйственную деятельность, и в какие юридические коллизии будут попадать умные зубочистки.

— Зачем бизнесмену писать закон, регулирующий правоотношения роботов?

— Сейчас во всём мире хоть как-то пытаются систематизировать законодательство в области роботов. Это происходит хаотически, и все друг другу противоречат. Я разговариваю с большим числом людей, которые пытаются инвестировать в робототехнику, и у них у всех — особенно если говорить про крупные деньги — один вопрос: «Ребят, слушайте, вообще непонятно, беспилотники будут или не будут, их разрешат или запретят, кто будет нести за них ответственность в случае чего, поэтому лучше мы деньги инвестировать не будем». Главная мотивация, которая у меня есть: системно проработанные правила игры позволят привлечь намного больше инвестиций в эту область. Сейчас, если ты решишь делать сотовый телефон, есть понятная процедура сертификации, известно, сколько времени это занимает, куда идти, и, главное, не нужно менять законодательство.

Вторая важная мотивация — не упустить хорошие возможности. Все компании пытаются тыкаться в разные юрисдикции, потому что в разных местах можно делать разные вещи. Например, сейчас Uber открыл офис в Питтсбурге, чтобы Питтсбург разрешил тестировать автопилот. Они создали огромное количество рабочих мест и экономика начинает развиваться. Мне показалось, что это хорошая возможность для России попробовать стать законодателем моды в области регулирования.

— Технологическим офшором?

— Это ты сказал. Я бы сказал, скорее страной, дружественной к высокотехнологическому новому рынку. У прогрессивных людей нет сомнения, что робототехника будет драйвером роста экономики во всём мире. Будет новый рынок размером с триллион долларов. Мы должны быть на нём конкурентоспособными. Я реалист и понимаю, что, помимо законодательства, нужны инвестиции, экосистема, но это понятный чёткий первый шаг.

— Только в России все боятся новых законов. Все вздрагивают первым делом, и не без оснований.

— Именно по этой же причине, например, мы решили, что наш проект надо сразу отправлять куче наших великих юридических гуру, чтобы они концептуально с нами поспорили. Это не финальный текст, а концепция.

«Лопата — это отдельное юридическое лицо»

— Эта концепция вмещает некоторые представления о том, какими могут быть роботы. Для автоматического пылесоса не нужны законы, им можно пользоваться и так. Вы всё-таки предполагаете, что это автономный робот, который ходит по улице и, может быть, умеет симулировать человеческое поведение?

— Мы долго спорили о том, чем может быть робот с точки зрения права, и придумали несколько концепций. Первая концепция — «робот как человек», к нему применимы все те же принципы. Вторая концепция — «робот как домашнее животное». В таком случае оно обладает своим интеллектом, у него обычно есть владелец, как и у кошки. Бывают, наверное, и бездомные роботы, но в целом идея такая. Это интересный подход, и в мире наработано очень много соответствующей практики, но он нас тоже не устраивал. Тогда родилась третья мысль, которая сейчас кажется наиболее прогрессивной, — рассматривать роботов как своего рода юридическое лицо.

Когда концепция юридических лиц начинала появляться в римском праве, она была совсем не очевидной. Это достаточно абстрактная конструкция, в мире вещей её нет. Просто люди договорились, что существует такой виртуальный объект, у которого есть владелец, может быть, собственное имущество, собственные правила оперирования. Мы пришли к виду, что не стоит буквально понимать роботов как юридических лиц, но к ним удобно применять те же подходы. Юридическое лицо — чья-то собственность, но оно немножко отделено от производителя и владельца, это самостоятельный субъект права.

— Вы же смотрите сериал Westworld? Понятно, как ваш подход решает проблему ответственности роботов, но есть ли у них права?

— Тут тоже будет модель, близкая к юридическому лицу. Будет устав, в котором в момент создания робота будет прописано, какие права он имеет.

— У вас есть собственные предположения о том, когда роботы станут достаточно умны, чтобы вести хозяйственную деятельность?

— Есть очень большая дискуссия о том, что же называть словом «достаточно умный», потому что у людей эта планка всё время растёт. То, что мы считали умным 20 лет назад, сейчас таким не считается. Многие говорят, что машинное обучение уже есть интеллект, но я всё-таки больше склоняюсь к тому, что это очень правильный и интересный механизм обработки и анализа больших данных, который не позволяет придумать совершенно новый алгоритм. Робот, умеющий играть в шахматы, не научится сам играть в шашки. Всё немножко сложнее, машинное обучение нельзя назвать алгоритмом, но в целом эти подходы пока не способны самостоятельно изобрести что-то радикально новое. Поэтому я бы сказал, что ближайшие пять-десять лет нам не грозит встретить искусственный интеллект, который сам будет придумывать новые алгоритмы.

То, что мы считали умным 20 лет назад, сейчас таким не считается
— А физическая оболочка? Чтобы роботы начали представлять актуальный интерес для законодателей, нужен какой-то прогресс в актуаторах? Робот должен размахивать конечностями и толкаться?

— Не обязательно. Не надо думать о роботах как о человекоподобных существах, это будут совершенно другие технологии.

— Метафора юридического лица точна и тем, что иногда робот будет просто окошком в отделении банка, в которое ты подаёшь документы.

— Именно. Я понимаю, что достаточно тяжело это до рынка донести, но, мне кажется, концепция робота как юридического лица — очень новаторская и интересная вещь. Очень долго люди не понимали, что такое юридическое лицо, но модель стала привычной и в конечном итоге показала, что умеет решать большое количество многогранных и сложных задач. Если робот — это юридическое лицо, там генеральным директором может быть искусственный интеллект, у него могут быть определённые права, у него может быть устав, собственники, процедура ликвидации. Мы сами не до конца понимаем, к каким интересным выводам может привести этот взгляд.

— Одно следствие понятно: робот может быть просто куском программного кода.

— В этом одна из самых прикольных штук. Есть ещё много разных смешных следствий: например, юридическое лицо может владеть другим юридическим лицом, один робот сможет купить другого робота. Роботу-садовнику нужна, не знаю, умная лопата, и он сам понимает, где её купить. А лопата — это отдельное юридическое лицо.

Потенциально роботы смогут нанимать каких-то людей на работу, сами, почему нет? Ты сможешь работать у робота, например. Ты можешь даже не знать, что тебя робот нанимает на работу.

— Вы, таким образом, встаёте в скромную интеллектуальную позицию. Не собираетесь гадать, какими на самом деле будут эти роботы, и создаёте юридические механизмы, которые дадут им работать в любом случае.

— Да, именно.

— Чтобы это всё работало, конечно, нужна система идентификации?

— Аналог реестра юридических лиц, ЕРГЮЛ. Это во-первых. Во-вторых, конечно, нам не обойтись и без какого-то механизма сертификации. Нужно будет создавать некий реестр роботов, прописывать, какой уровень ответственности на кого налагается. Пылесос Roomba не может причинить большого вреда, и, если даже случится что-то неприятное, скорее всего, виноват производитель. Но есть и другой класс роботов. Про какой-нибудь огромный летающий самолёт мы изначально знаем, что он может причинить существенный ущерб человеку. Самим фактом использования этого робота, его покупкой ты уже принимаешь на себя ответственность, как и владелец обычного самолёта. Тут могут применяться другие принципы ответственности, и для каждого типа робота будет чётко определено, какой формат ответственности на ком лежит.

Главное, чтобы этот процесс, условно назовём его сертификацией, был более-менее чётко отрегулирован, чтобы существовал понятный механизм, какие процедуры надо пройти, чтобы вывести робота на рынок. Тогда предприниматель сможет сказать своим потенциальным инвесторам: смотрите, я сделал прототип, столько-то часов тестирования, такие-то характеристики. Не надо будет беспокоиться, что это законодательство тебе придётся менять, ждать годами. Понятно, что это может обрасти огромным числом деталей, и мы искренне хотим, чтобы сразу был отдельный закон и отдельные статьи в Гражданском кодексе, которые регулировали бы взаимоотношения роботов с людьми и между собой, ответственность и всё остальное.

«Могу ли я с дроном подлететь к кинотеатру и смотреть кино?»

— Вы инвестируете в робототехнические стартапы. Ваши портфельные компании сталкиваются с проблемами регулирования?

— У меня (в портфеле Grishin Robotics. — прим. «Секрета») есть компания Zipline, которая выпускает дронов, доставляющих кровь на длинные расстояния. Они сейчас получили разрешение на оперирование в Руанде, но не на оперирование в США.

— Руанда оказывается предпочтительной юрисдикцией для каких-то робототехнических экспериментов?

— У Руанды огромная проблема: практически нет других разработанных механизмов быстро доставлять кровь на длинные расстояния, только мотоциклисты на плохих дорогах. Не ищи здесь логики, логика бывает очень многогранна, какие-то кусочки регулирования где-то возникают по отдельности. Есть, например, университетские кампусы, которые разрешают беспилотное передвижение. Даже в границах одной страны применяются иногда противоположные подходы к тому, что разрешить или запретить. Это очень сильно всем вредит, лучше начать дискуссию сейчас, прийти к какому-то решению. Потому что если существует два основных подхода: или полностью запретить, или полностью разрешить — что делать инвесторам, что делать стартапам в этой области? Они просто не понимают.

— Ну как раз роботу легко понять, в какой юрисдикции он находится.

— Тут тоже много сложностей. Давай я простой пример приведу. У меня в портфеле есть компания Double Robotics, которая разрабатывает устройства для «удалённого присутствия» — роботов, которые где-то далеко за тебя смотрят по сторонам, слушают и транслируют твой голос. Вот простой вопрос: я беру и на этом роботе еду в Пушкинский музей. Ему надо билет покупать или нет?

— Наверно, надо.

— Почему? Там же прямо написано: студенты — столько-то, пенсионерам — скидка, взрослые так, дети эдак. А я еду на роботе удалённого присутствия.

— В идеале ещё нужны какие-то робототехнические активисты, которые будут это проверять, которые физически возьмут этого робота…

— Именно поэтому нам кажется очень важным, чтобы регулирование робототехники как можно быстрее появилось в гражданском праве. Этот вопрос носит именно экономический смысл. Это очень смешной вопрос, но действительно: могу ли я в роботе присутствия заехать в музей? Я же, в принципе, не пересекаю границы музея, сижу где сидел. Могу ли я с дроном подлететь к кинотеатру и смотреть кино? В конечном итоге всё равно это приведёт к гражданско-правовому регулированию.

Я очень надеюсь, что у меня получится донести до читателей, что я не хочу ничего зарегулировать, упаси боже. Я просто хочу чётко сформировать правила игры, потому что существуют такие ниши, где без правил игры можно легко развиваться, но не здесь — слишком много физических объектов.

Концепция робота как юридического лица — очень новаторская и интересная вещь
— Я правильно понимаю, что ваше видение состоит в том, что у каждого человека в доме будет миллион роботов?

— Не думаю, что миллион, но их будет очень много. Роботами будет огромное количество вещей, про которые мы даже помыслить не могли, что это роботы: стулья, чашки… Возможно, твой рюкзак будет роботом.

— Да, но мой рюкзак подаст в суд на мою чашку…

— Значит, будем разбираться. Важный вопрос: кто может представлять роботов в суде? Это часть той же самой дискуссии. Юридическое лицо тоже не может прийти в суд, от него приходит представитель.

— Есть такая популярная идея, что закон не обязательно формулировать в виде текста. Можно принять его через парламент в виде подробной формулировки, а можно просто написать, что любой робот должен иметь модуль А1. А модуль — это программный код.

— Сейчас много говорят об «умных контрактах». Это алгоритмы, которые сами проверяют, выполнены ли условия соглашения, и автоматически выполняют его, не спрашивая людей. Могут ли такие контракты получить широкое распространение — не знаю. Всё-таки право — это основа управления государством, самая консервативная область человеческой деятельности.

Я думаю, что это совершенно отдельный вопрос, насколько прогрессивно будет право. Давайте хотя бы в рамках старой, устоявшейся модели попробуем написать эти законы. А затем уже в будущем они будут носить всё более и более алгоритмизированный вид. Вместо того чтобы прописывать нормы, можно прописывать алгоритмы.

Цитата:

— В какой-то момент придётся разрабатывать и международное право?

— Роботы будут пересекать границы, оказывать услуги из одной страны в другую. Ты сможешь, например, сидя в Москве, управлять роботом в Калифорнии. Ты в данный момент налоговой резидент какой страны? Совершенно точно, всё должно прийти к неким международным соглашениям, международному регулированию.

— Лично вы уже страдаете от недостатков правовой базы?

— Для начала вообще непонятно, что делать с автопилотом в Москве.

— Вы скачаете следующее обновление программы в свою Tesla и не сможете пользоваться автопилотом?

— Если говорить про Tesla, это отдельная дискуссия — там сейчас все более-менее придумали, как минимум не законодательно, а идеологически. И их подход мне очень нравится. Они создали пятибалльную шкалу систем, ассистирующих водителю, начиная от «запорожца» и заканчивая полным автопилотом. Самый смешной уровень — четвёртый, когда машина уже едет сама, но может в какой-то момент остановиться и сказать: «Я запуталась». Мне кажется, это очень разумный и правильный подход.

У нас ездят роботы -почтальоны:)
http://rus.delfi.ee/daily/business/p...ij?id=76910384

Цитата:

Сообщение от Fatima (Сообщение 692539)

У нас ездят роботы -почтальоны

Любопытно. Развлечение для подсанов - всякие препятствия подставлять (совать палки в колеса):). Лучше почтальонов сделать летающими. Квадрокоптеры - более реальный проект, мне кажется. И не говорите мне, что подсаны начнут их из рогатки сбивать. :D

Цитата:

Сообщение от oleg (Сообщение 687188)

А нейронная сеть способна самообучатся.

Самообучаться способна не только нейронная сеть. Алгоритмы самообучения можно заложить в и в обычный компьютер. В результате игры с самой собой или с партнером, машина может выработать систему: сразу отсеивать заведомо не перспективные ходы, и тогда количество вариантов будет не 10¹⁷⁰, а 10²⁰ например.
Например, боязнь высоты у человека. Подходит он к краю высокого обрыва и понимает, что прыгать он не будет. Ему не надо перебирать тысячи вариантов: прыгнуть ласточкой или кульбитом, можно еще спиной вперед. Он не будет рассматривать, есть ли там песчаный склон, можно ли просто скользить по обрыву и проч. Он просто сразу отвергнет этот вариант.
Находится другой человек, который шьет себе вингсьюит и ныряет с высоты. Он победит первого.
Собственно, люди в этом и соревнуются. Кто найдет лучшую стратегию отметать лишние варианты.
В машину тоже можно ввести алгоритм самообучения и выработки стратегии. Это зависит от способности програмиста, а не от материала сети (биологическая или нет).
Еще один путь прогресса кибернетики вот в чем. Кто сказал, что мы должны ограничиться двоичной системой: 0 и 1. Надо создать кибернетику воьмиричной системы или более того. Можно создать не цифровую, а аналоговую кибернетику.
Кстати, я уверен, что в ближайшее время это случится, и задача моделирования человеческого мозга будет решена.

Цитата:

Сообщение от oleg (Сообщение 687200)

Ну я так и сказал: эволюционный процесс для данной программы.

Да.:aga: Тысячи самообучающихся программ будут соревноваться и отсеиваться. Это эволюционный процесс.

Цитата:

Сообщение от Tresor (Сообщение 692538)

«Лопата — это отдельное юридическое лицо»

Пока это - лопата, у нее есть хозяин. Он должен нести ответственность.
А вот когда появится электронный разум (а он появится), тогда надо писать, что-то вроде трех законов робототехники А.Азимова.:scratch_one-s_head:

А отвечая на главный вопрос темы, я бы сказал, что этого стоит остерегаться.

Цитата:

Сообщение от Вега (Сообщение 687204)

человечество поджидают очередные проблемы

:aga:

Цитата:

Сообщение от лида (Сообщение 687259)

прогресс науки не остановить. Несмотря на предвидение возникновения опасных проблем

:aga:
Бойся не бойся, а это случится. Нодо просто серьезно готовиться.:pardon:

adrenalin, как же я люблю тебя читать, друг мой! :girl_in_love:

Спасибо. Слово "читать" можно было бы и опустить. :blush2:

:D
Могу только добавить. :Connie_pull-pigtail

Цитата:

Сообщение от adrenalin (Сообщение 692574)

совать палки в колеса

зачем?

Цитата:

Сообщение от oleg (Сообщение 687206)

очередные плюшки всегда порождают очередные проблемы. И то и другое несомненно будет.

Google выпустил на волю секретный искусственный интеллект

]
Программисты компании Google сознались, что таинственный "мастер" игры в Го, победивший за последние несколько недель сотни топ-игроков в онлайн-играх, на самом деле является искусственным интеллектом
"Я лично думаю, что это отлично, что люди сыграли целую серию игр с AlphaGo, которые теперь можно внимательно изучить и просмотреть. В них есть множество крайне неожиданных и свежих ходов, которые очень интересны для нас", — заявил Найэлл Кардин (Niall Cardin), профессиональный игрок в Го
Напомним, в прошлом году программисты Google создали новую систему искусственного интеллекта AlphaGo, которая обыграла чемпиона Европы по игре в Го, древнюю китайскую настольную стратегию, и с которой согласился сыграть чемпион мира по Го из Южной Кореи. Это произошло в первые в истории.
А в конце декабря в двух крупных и популярных игровых системах Tygem и FoxGo появился новый игрок в Го, называвший себя "Master(P)". Он обыграл несколько десятков очень сильных мастеров и стал предметом дискуссий на форумах, посвященных этой древнекитайской игре, передает РИА Новости.
Подобное тайное испытание искусственного интеллекта "на воле", как пояснил Хассабис, является подготовкой к запуску новой версии AlphaGo.
Особенность созданного искусственного интеллекта в том, что он был построен на базе сразу двух нейронных сетей — особых алгоритмов, имитирующих работу цепочек нейронов в мозге человека. Первая анализирует позицию на игровой доске, вторая — принимает решение, исходя из анализа.
Кстати, большинство добровольцев не поняли, что они имели дело с историей, придуманной компьютером, а не реальным писателем.
Насчет искусственного интеллекта не раз высказывался ученый Стивен Хокинг. Он поведал о неоднозначности пользы использования искусственного интеллекта в нуждах человечества.
"ИИ преобразит все аспекты нашей жизни", — приводит слова Хокинга газета Daily Express. Однако вместе с тем, ИИ таит много опасностей, грозящих стать испытанием человечества.
Создание ИИ "может стать и последней (технологической революцией), если человечество не научится контролировать риски". "Наряду с выгодами искусственный интеллект также создаст угрозы", — полагает он.

Это может выразиться в появлении "нового мощного автономного оружия или возможностей для немногих угнетать большинство. В результате возникнут огромные проблемы в экономике", — утверждает он.
Еще одна угроза, которую таит в себе ИИ, это влияние на экономическое неравенство. Ученый отметил, что на него влияет, в частности, полная автоматизация фабрик, уменьшающая количество рабочих мест, и продвижение искусственного интеллекта. Хокинг говорит, что это прогресс, но социально разрушительный.
http://www.pravda.ru/news/science/09...1894-google-0/

Фантасты отдыхают:aga: а мы и радуемся, и боимся.

Какая странная идея - подходить к проблеме технического прогресса с позиции эмоций. Уместнее было бы просчитывать последствия и оценивать плюсы и минусы. В цифрах.

Если по теме старттопика , рождаются глобальные мозги , вернее мозг . А люди обеспечивают его функционирование, так что становится очевидной зависимость ИИ от людей .
Задумаемся вот о чём : как можно представить идеального человека далёкого будущего ? И нет ли
возможности реализовать эти хотелки в ближайшие сто лет ? Может мы не узнаем вариант " сбычи этих мечт " ?

Глобальный ИИ нужен прежде всего как третейский судья , попробуй соврать ему ....Тогда и военные расходы сведутся к нулю , т.к. попадёт по сусалам любому аферисту и вруну !

Цитата:

Сообщение от oleg (Сообщение 687188)

Человечество вплотную подошло если не к созданию искусственного человеческого интеллекта, то как минимум к созданию некого "обучаемого животного", что сулит человечеству, как очередные удобства так и очередные проблемы.

Мне кажется, проблема не в том, что возможности такой сети в техническом безбрежии почти бесконечны, а в том, что возможности своей, человеческой нейросети забиваются фундаментальным техническим мусором, переводя в грубую "цифру" все, на что требуется тонкий и развитый "нюх". И мы теряем нейрон за нейроном, оказавшиеся бесполезными, теряем способность различать, отличая только "цифру" от "цифры". Развивая "цифру", игнорируем собственные возможности, совершенно уверенные, что венец творения природы полностью изучен до молекул и аминокислот. )
На каком принципе строится искусственная "нейронная" сеть? На принципе выиграть, выбрать наиболее какой? вариант? Выгодный финансово, наиболее замаскированный? самый массовый? самый передовой? Куча вариантов - и ни одного не будет, основанного на общечеловеческой ценности. Откуда ему быть? От лучшей комбинации? И каковы будут критерии, которыми будут руководствоваться эти нейронные сети? Критерии разработчика? ;) Новая (старая) манипуляция.

Цитата:

Сообщение от Martin (Сообщение 692605)

Глобальный ИИ нужен прежде всего как третейский судья , попробуй соврать ему ....

Последнее, что следует отдать в "руки" ИИ - это суд. Ничего хуже и не придумать. Соврать? - Запросто: а+в=с. Сможешь определить правда это или ложь? А после того, как ошибешься, еще определи мне - это уравнение добро или зло? И как за него следует наказать?

Цитата:

Сообщение от Martin (Сообщение 692605)

т.к. попадёт по сусалам любому аферисту и вруну !

Будет последняя глобальная война в истории человечества :mosking:. А-ля "Терминатор" :mosking:

Цитата:

Сообщение от Островок (Сообщение 692609)

На каком принципе строится искусственная "нейронная" сеть?

На логическом.

Цитата:

Сообщение от Островок (Сообщение 692609)

выбрать наиболее какой? вариант?

Какой задаст автор программы или ее пользователь.

Нейронная сеть может решать поставленные задачи, а не ставить их. Потому что алгоритмы логические, а не оценочные. Что такое "хорошо", а что такое "плохо" - это даже люди меж собой не определились до сих пор. Машина тем более не сможет определить. Она сможет лишь рассчитать в показателях последствия того или иного действия, а оценить в нравственных категориях не сможет.

Цитата:

Сообщение от полуэкт (Сообщение 692613)

Машина тем более не сможет определить. Она сможет лишь рассчитать в показателях последствия того или иного действия, а оценить в нравственных категориях не сможет.

Вот, собственно, из этого исходит и ответ на вопрос, радоваться ли. С одной стороны, технические возможности огромные, с другой, ограничение их меры - мотив разработчика. При том, что

Цитата:

Сообщение от полуэкт (Сообщение 692613)

Что такое "хорошо", а что такое "плохо" - это даже люди меж собой не определились до сих пор.

давать это на откуп кому-то определенному - означает, согласиться на манипуляцию. Это как с интернетом. Далеко не все голову включают, кушают, что дают.
Но этот снежный ком не остановить. Надо самим не плошать. Наша нейронная сеть совершеннее, у неё есть настроечный критерий, не подверженный ни одному из известных нам " разработчиков". ;)

Как было уже сказано : ИИ может запоминать разные варианты решения поставленных задач . И выбирать из них .Всё , сеть оторвалась от разработчика и программиста . Дальше количество перейдёт в качество , а перестать использовать электронику уже нет возможности .
.

Цитата:

Сообщение от полуэкт (Сообщение 692613)

Нейронная сеть может решать поставленные задачи, а не ставить их.

Вот. И пока она может только это, ни о каком искусственном разуме речь не идёт.

Цитата:

Сообщение от УмНик (Сообщение 692627)

ни о каком искусственном разуме речь не идёт

Какие прикажите завести цели ?

У живого существа цель только одна : самосохранение ! Но ИИ наше порождение. И он неизбежно
поставит цели вытекающие из общего императива .

Например заселение других планет солнечной системы ---как страховку от комет , далее освоение других систем как страховка .....( нужное вписать )

Да , о правосудии , если ИИ покажет и озвучит каждую секунду жизни любого фигуранта , как прикажите судить провинившегося ? И какие, звиняйте,адвокаты , ХИ!

Цитата:

Сообщение от Martin (Сообщение 692641)

если ИИ покажет и озвучит каждую секунду жизни любого фигуранта , как прикажите судить провинившегося ? И какие, звиняйте,адвокаты , ХИ!

Допустим, те, кто напомнит, что то, что русскому хорошо, то немцу - смерть (с). Ну, если еще этим будет кто-то озабочен, кроме гуманного ИИ. :mosking:

Цитата:

Сообщение от Martin (Сообщение 692641)

И он неизбежно
поставит цели вытекающие из общего императива

Вовсе нет. Только если автор ему эту цель поставит, причем в приоритет перед целью не причинить вред. Если автор дебил. Именно об этом фантасты и твердят уже пол-века, что нужны законы робототехники, а не кто во что горазд.

Цитата:

Сообщение от Martin (Сообщение 692641)

Да , о правосудии , если ИИ покажет и озвучит каждую секунду жизни любого фигуранта , как прикажите судить провинившегося ? И какие, звиняйте,адвокаты , ХИ!

При чем тут ИИ? Для того, о чем ты сказал, нужны тотальная слежка и запись в базы данных. Для этого не нужно никаких нейронных сетей и ИИ, а просто огромные затраты на примитивные технические средства, которые уже давно существуют. Это совершенно разные проблемы. Но даже и тотальная слежка не препятствует правосудию. Если ты ничего противозаконного не совершил, то объективные средства контроля только помогут это подтвердить. И даже адвокат не понадобится. А если вор - так правосудие заключается не в том, чтоб его от тюрьмы спасти, а в том, чтоб наказание было неотвратимым и справедливым.

полуэкт, проблемы в том, что программы начали писать программы !О каком авторе может идти речь ?
И кто проектирует сами компы-они что не пользуются другими компами ?
Проблема уже ушла из под контроля конкретных людей .

Цитата:

Сообщение от Martin (Сообщение 692654)

программы начали писать программы !О каком авторе может идти речь ?

Машины уже давно делают машины. Но не сами, для них есть программа, по которой они это делают.
Так же и с программами - можно задать программе задачу по написанию кода, она эту задачу выполнит. Но Задачу-то она сама себе не поставит! Нет у программы ВОЛИ. Нет целеполагания и мотивации. Вот в чем коренное различие.

Вот создали программу игры в ГО. Программа обыграет любого, но она не может самостоятельно принять решение о том, чтобы, например, с полуэктом не играть. Или бросить к чёрту ГО и перейти на шахматы. Или вообще завязать с играми и начать проектировать подводные лодки. Почему не может? Да потому, что автор программы не заложил в нее такую возможность. Прога самосовершенствуется строго в рамках поставленных задач.

полуэкт, это всё так , НО новые виды программирования , ведь о них речь в названии темы, представляют опасность именно в смысле целеполагания .
А законы робототехники , хм, есть сами суть программы .
Старый закон перехода количества в качество ,притом все ( или почти все) (нейроны) компьютеры связаны (аксонами) интернет протоколами .

Тут есть чего испугаться .

Цитата:

Сообщение от Martin (Сообщение 692657)

новые виды программирования , ведь о них речь в названии темы, представляют опасность именно в смысле целеполагания .

До этого еще очень и очень далеко.

Цитата:

Сообщение от Martin (Сообщение 692657)

А законы робототехники , хм, есть сами суть программы .

Это, прежде всего, юридические законы, ограничивающие программотворчество. Автор нарушил закон и создал программу, которая первой целью ставит своё выживание и размножение, а жизнь человека для нее ценности не представляет. Этого автора на электрический стул, а программу считаем вредоносным "вирусом" и уничтожаем с помощью антивируса. В принципе, ничего нового, только постепенно растут риски и ответственность. Так же развивается и оружие, и гражданская техника.

Цитата:

Сообщение от Martin (Сообщение 692657)

Тут есть чего испугаться .

Все страхи от незнания. Цепная реакция деления ядра - страшная вещь, но когда знаешь и контролируешь, то можно жить и работать рядом с реактором, получать пользу от него, соблюдать меры безопасности, но не бояться.

Цитата:

Сообщение от Martin (Сообщение 692657)

"Не верю". Законы роботехники придумал человек. Причём, в рамках фантастического произведения. Мне непонятно, почему, например, никто не верит в разумные вирусы, но готов поверить в разумные компьютеры. Разум, это прежде всего, способность осознать себя. С какого бодуна самая продвинутая программа должна заявить "я мыслю, следовательно я существую" мне непонятно. Программист в неё этого не заложил. С чего бы ей вдруг озадачиться данным вопросом?

Цитата:

Сообщение от УмНик (Сообщение 692668)

Программист в неё этого не заложил. С чего бы ей вдруг озадачиться данным вопросом?

А симбиоз отметается полностью ?Компьютерная сеть как надстройка над человеческой базой ?
Я ведь об симбиозе таких разных вещей -биологии и вычислительной техники .
Или объявим поход под лозунгом :" Рибосомы вон из клеток !"

Цитата:

Сообщение от Martin (Сообщение 692672)

Полностью - не полностью, но пока отметается. Или тебе известны тысячи граждан, вжививших себе чипы, или там разъёмы, как в кино? Матрица, это не просто не наша реальность, это вообще не реальность. И смысл? Уже существует куча гаджетов, выполняющих самые разные функции. Вон у меня молодой продвинутый коллега носит на запястье часики, которые, кроме времени, показывают его пульс, количество пройденных шагов, кто ему звонит, и ещё кучу всякой фигни. Стоят дорого, но это пока. Завтра подешевеют, да ещё с десяток функций добавится. Нужны ли ему дырки в черепе, если часики и на руке неплохо смотрятся?

Цитата:

Сообщение от Fatima (Сообщение 692592)

зачем?

Забавы ради. У вас такого нет? Все детки прилежны и законопослушны?

Цитата:

Сообщение от Martin (Сообщение 692672)

А симбиоз отметается полностью ?

Да сколько угодно. Сейчас самая простая прога и мозг уже взаимодействуют. Далее, по мере развития интерфеса "мозг-компьютер" уровень этого взаимодействия будет расти. Но в этом взаимодействии человек будет оставлять за собой роль "главного".
Вообще проблема не столько в возможностях программы, сколько в контроле за ее распространением и использованием. Если программа превращается в оружие, она должна контролироваться как таковое. Со всеми вытекающими последствиями: лицензирование, учет, охрана, ограничение оборота. А, может быть, и международный договор о полном запрете изготовления и использования таких программ, как, например, бактериологического оружия.

Цитата:

Сообщение от Островок (Сообщение 692609)

На каком принципе строится искусственная "нейронная" сеть? На принципе выиграть, выбрать наиболее какой? вариант?

Нет. Пока все проще. Мне удалось пару месяцев поучиться биофизике в МГУ в рамках программы Открытого образования. Там я выяснил, что в передаче сигналов нейронами участвуют ионные каналы, расположенные на мембране клетки. Причем именно потенциал-зависимые ионные каналы (введу сокращение ПЗИК), то есть каналы, которые открываются под воздействием внешнего электрического потенциала. Меня заинтересовали натриевые каналы.
Приведу выдержку из эссе, которое мне пришлось написать в качестве зачетного задания.

Цитата:

Особенностью данного канала является наличие двух ворот (одни на входе, другие на выходе). Когда первые ворота в ответ на воздействие сигнала открываются, вторые – закрываются. Но вторые закрываются медленнее, поэтому порция ионов натрия успевает проскочить. Указанный механизм ворот приводит к тому, что время, когда канал остается открытым (около 1 мс), постоянно для данного канала и не зависит от изменений деполяризации. Именно такого типа натриевые ПЗИК обеспечивают перемещение нервного импульса по мембране нейрона.
Интересной особенностью срабатывания ионного канала является принцип «все или ничего». Канал открывается лишь под действием сдвига электрического потенциала мембраны, превышающего некий критический уровень деполяризации. Заметьте «Все или ничего» - 1 или 0. Фиксированное время, когда канал открыт, не зависимое от изменения деполяризации, превращает потенциал действия в дискретный стабильный управляющий сигнал. Это наталкивает на мысль о перспективах создания нейрокомпьютерных систем.

Я думаю, что в настоящее время в нейронных сетях используется именно такая способность нейронов заменять транзисторы. То есть в нейронных сетях используется та же двоичная система: 1 и 0. Интерес к нейронной сети вызван не новыми возможностями обработки информации, а легкостью встраиваться в имеющиеся компьютерные устройства. Присоединять всякие чипы непосредственно к центральной нервной системе не представляется сложной задачей.;)

Цитата:

Сообщение от adrenalin (Сообщение 692709)

легкостью встраиваться в имеющиеся компьютерные устройства

Подключить легко, как я понял. А расшифровать сигнал? Прога ведь не может понять, что мозг кодирует, кроме самых примитивных сигналов, которые идут на вегетативную нервную систему. А мозг не может понять двоичного кода. Так что пока подключение на уровне проведения сигнала, а не обработки. Так?

Цитата:

Сообщение от Martin (Сообщение 692605)

Если по теме старттопика , рождаются глобальные мозги , вернее мозг . А люди обеспечивают его функционирование, так что становится очевидной зависимость ИИ от людей .

Вы забываете, что люди пытаются создать искусственный разум. Этим будут заниматься много людей и разных. Кто-то создаст такой разум, который научится обходиться без человека.
Но дело даже не в этом.

Цитата:

Сообщение от Martin (Сообщение 692605)

Задумаемся вот о чём : как можно представить идеального человека далёкого будущего ? И нет ли возможности реализовать эти хотелки в ближайшие сто лет ? Может мы не узнаем вариант " сбычи этих мечт "?

Ты задал любимый вопрос. Именно в ближайшие 100 лет люди смогут смоделировать человеческий мозг. Но не буду пугать вас сроками. Просто опишу наше будущее.
Думаю, никто не сомневается, что когда-нибудь, скажем через миллион лет, люди смогут:
Шаг 1 Смоделировать человеческий мозг,
Шаг 2 Перенести личность человека (душу, я бы сказал) на другой носитель (не обязательно человекообразный). Иначе говоря - физическая реинкорнация.
Шаг 3 Освоить систему "Аватар" (как в одноименном фильме)
Шаг 4 Поскольку душа может находиться в электронном виде, ее не обязательно переносить в другое тело. Ее можно будет просто поместить в мировой компьютерной сети, создать ей условия, и пусть себе живет виртуальной жизнью с другими такими же. Иначе говоря - души в раю.
Слушайте, про реинкарнацию, про рай я где-то уже слышал.:D

А теперь заикнусь и о сроках. Готов биться об заклад, что Шаг 1 будет реализован в этом столетии. Шаги 2 и 3 - в следующем. А рай - не позже, чем через 300 лет.

Цитата:

Сообщение от полуэкт (Сообщение 692713)

Так что пока подключение на уровне проведения сигнала, а не обработки. Так?

Пока так. Но для этого и разрабатывают нейронные компьютерные сети, чтобы сформировать интерфейс. Я думаю не за горами решение такой задачи: мозг дает задачу рассчитать чего-нибудь, нейрон передает сигнал на встроенный чип, тот быстро решает задачу и дает понятный для мозга ответ. Кстати, сам чип тоже может быть нейронным.

adrenalin, прелестно ,прелестно . Но вопрос проигнорирован : ладно , пусть его ....
"Вызывает интерес" вопрос о идеях Вернадского . А именно- о следующем шаге эволюции , ( прыжок в сторону) думаете почему нет связи с инопланетным разумом ?С кем ему разговаривать, с Жириновским ?
И такой вопрос , заповеди при рассмотрении, оказываются больше свойственны машинному разуму .