Цитата:
Сообщение от adrenalin
Мы, правда, эту сложность обойдем: будем считать, что перепрограммирование "морального стержня" ИИ - это просто убийство одного ИИ и создание другого.
|
Мы скажем, что ИИ был сломлен.
Ввиду того, что ИИ не имеет тела, то "подкреплением" правильного поведения и "табу" на неправильное может быть что угодно (в виде заложенных правил), а значит и результат обучения зависит от этих исходных данных. Если их поменять, то ИИ просто переобучится и превратится в другую "личность", с другими взаимосвязями между нейронами. Развивая мысль: совершенно не обязательно "убивать" предыдущую "личность" - ее можно сохранить, а это значит, что для ИИ может быть не чужда шизофрения, но не мешающая ему, а наоборот делая его универсальным.
Простой пример, Яндекс.станция обучается моим музыкальным вкусам, а недавно она научилась узнавать голос, а это, потенциально, позволяет учитывать вкусы именно того человека, который с ней разговаривает. Пока она этого еще не умеет, а слушает только "хозяина", но сделать это вполне реально.