Права роботов

[xchgeaxeax]

Пусть сначала гаичников научат проверять права у беспилотных фур.

Но как и во всех случаях роботы приобретают права начиная исполнять какие-либо обязанности. Если робот пылится на складе, тогда зачем ему права?

[stikriz11]

У животных есть своя собственная влоя и то что я называю "самоощущение" (которое является некой предтечей самосознания) и некая часть ответственности за свое поведение они все-же несут сами и соответственно по этой причине есть у животных и некое слабое подобие прав.

Робот, даже если удастся эмулировать чувства, монопенсуально относится к наказанию и даже убийству его самого. Животное нет. Животное можно наказать. Оно испытывает боль, скуку, когда надолго в заперти. Страдания, если по отношению к нему поступают не справедливо. Роботу глубоко насрать. Он просто железка, даже если он биологическая субстанция. У робота всегда есть тот, кто несет ответственность за него. Это хозяин, производитель или страховая компания. Сам по себе робот не может нести ответственность, а значит и не может быть у него никаких прав. Права - это ответственность за не соблюдение норм, законов и правил.

Добавлено спустя 11 минут 5 секунд:

Из этих ваших эндырнетов:
"Предполагалось, что ИИ будет убирать снег, а люди - заниматься творчеством, а оказалось, что ИИ занимается творчеством, а люди убирают снег..."

ИИ не может творить. Он может заниматься плагиатом как русский рок и попса в 90-х. Это называется еще комбинация. Творчество - это анализ и синтез, а плагиат - это комбинаторика из уже синтезированного. Вот, диджеи ни разу не творцы. Или аранжировщики - тоже не творцы. Творцы - это композиторы. А что может сотворить поисковая машина кроме комбинации из того, что в неё когда-то скормили? Ничего.
Другое дело, что многим и так нормально. Им и "Мама, мама, что мы будем делать - УУУ!" Это творчество. Нас ждут времена дешевых интеллектуальных жвачек вроде "Попаданец"

Добавлено спустя 5 минут 4 секунды:

Но как и во всех случаях роботы приобретают права начиная исполнять какие-либо обязанности.

Есть тонкая грань между обязанностями и функцией. Я обязан соблюдать правила приличия. Или я иду каждый день на работу и выполняю функцию умного шуруповерта.
Рабы прекрасно выполняли все вмененные функции не имея никаких обязанностей. Обязанности были у граждан. Например, защищать демократию и законность.
Демократия - это когда каждый гражданин имеет не менее двух-трех рабов. Вот, мы с роботизацией туда и войдем второй раз за всю историю - в подлинную демократию.

[xchgeaxeax]

Демократия - это когда каждый гражданин имеет не менее двух-трех рабов. Вот, мы с роботизацией туда и войдем второй раз за всю историю - в подлинную демократию.

Если у вас уже есть робот-пылесос и умная колонка, тогда вы полноценный демократ.

Я же говорил о том, что права сами по себе не имеют смысла, а тем более не имеет смысла наделять ими роботов.
Надо рассматривать весь комплекс понятий: потребность, обязанность, право, наказание.

[Alex2013]

Счас это неведомое нечто, спотыкаясь, побежит отвечать за свое поведение перед Alex2013.

Не побежит но МОЖЕТ.
Суть в том что люди могут быть например "ответчиками в суде", а некий "кактус" в принципе не может.
Что такое возможность "нести ответственность"? Во первых для этого нужна это некая свобода воли, во вторых умение логично объяснить причины того или иного поступка.
То есть у людей всегда есть "презумпция вменяемости" ( если кто-то делает по мнению другого индивида что-то "умеренно странное" то по умолчанию считается что у него есть на это некие причины )

Например, если переходя пешком Мост Патона ( что кому-то тоже покажется странным, пешеходов там почти нет ), я вижу бегущего по нему "гражданина в плавках" я хмыкну( подумав "пловец не рассчитал силы") и пойду себе дальше (кстати реальный случай) ). Но, если бы я вдруг увидел медленно катящуюся с горы коляску, я бы реагировал совсем иначе. Почему? Потому что ОБЪЕКТ "коляска" в принципе не может отвечать за свои действия. Но уже с животными все сложнее: Важно вышагивающая по кромке высокого забора кошка тоже может рассматривается как СУБЪЕКТ, однако, кот уснувший на клавиатуре компьютера моментально будет "низведен до ОБЪЕКТА" и "безжалостно" скинут на пол . Почему? Потому что коту в принципе невозможно объяснить, что такое клавиатура.

С ИИ все будет еще сложнее : "Прокачанный ИИ" может во первых по соответствующему запросу достаточно достоверно имитировать человеческое поведение и гипотетически даже создать некую "виртуальную личность"(но обрати внимание не самостоятельно а исключительно "по команде" ), а во вторых точно сможет описать что именно он делает (даже примитивная нейросетка может например описать, что именно она намалевала по некому запросу или просто случайно ) и как приходит к определенным выводам описав по шагам весь путь своей дедукции.

Но фокус в том что "обычный ИИ" изначально лишен своей воли и никакой "свободы волеизъявления" у него нет и не может быть в принципе. Да имитация "виртуальной личность" может быть досточно свершена но к собственно ИИ она отношения иметь небудет . Путаница ? Ага и еще какая! Разум невозможен без интеллекта, а вот наоборот это запросто.

Вот я и пишу что распространение ИИ может капитально так "размыть грань" между субъектом и объектом которая и так достаточно не четко обозначена.

[stikriz11]

а тем более не имеет смысла наделять ими роботов.

Да. Согласен полностью.

Добавлено спустя 2 минуты 20 секунд:

во вторых умение логично объяснить причины того или иного поступка.

Этого недостаточно. Нужно, чтобы это нечто боялось смерти, реально переживало боль, мучилось в неволе. В общем, было не искусственно интеллектуальным.

Добавлено спустя 7 минут 36 секунд:

Почему? Потому что коту в принципе невозможно объяснить что такое клавиатура.

Даже ему можно объяснить, что так поступать нехорошо. Он, конечно, периодически будет доказывать, что имеет полное право лежать на клаве, но все-таки будет понимать, что поступает так, как не нравится человеку - источнику права. Робота наказывать за то, что он насрал на клавиатуру бессмысленно. Он выполнял приказ, либо сломался. И само наказание для него ничего не значит. Даже если он будет эмулировать раскаяние - это просто похожее поведение. Робота не кусала пчела в детстве, робота не ставили в угол, робот не разбивал коленку при падении. Робот станет полноценным индивидуумом только когда осознает что есть добро, а что зло. А для этого нужно райское дерево, Гад и яблоко познания. Мы еще такое не изобрели.

[sts]

Нужно, чтобы это нечто боялось смерти, реально переживало боль, мучилось в неволе. В общем, было не искусственно интеллектуальным.

у них это как минимум будет, отчасти уже есть. это побочные эффекты от алгоритмов необходимых для выполнения работы.
просто подумайте как сделать "робота", какие алгоритмы должны быть и сами придете к страху смерти и поиску смысла жизни.
более того станет понятно что животные тоже имеют подобные эффекты.

[stikriz11]

Если у вас уже есть робот-пылесос и умная колонка, тогда вы полноценный демократ.

Можно быть приверженцем демократии, но нельзя жить при демократии в индивидуальном порядке - только в демократическом обществе. У всех граждан должны быть 2 - 3 раба... Иначе никак

Добавлено спустя 5 минут 24 секунды:

у них это как минимум будет, отчасти уже есть. это побочные эффекты от алгоритмов необходимых для выполнения работы.

Это просто эффекты. Вот, Вы смотрите фильм где актер играет расстрел своего героя. Он даже если играет талантливо, не переживает реальные чуства человека, которого сейчас накажут высшей мерой. Эмулировать поведение алгоритмами - это несколько другое, чем реально переживать угрозу(!) наказания, а тем более само наказание. И еще. Допустим, есть алгоритм боязни наказания. И этот алгоритм не сработал в какой-то ситуации. И Вы, такой, накажете железку? Или программиста - истинного виновника? Или страховую компанию, которая взяла на себя риски? Ну, какой смысл пинать железяку за то, что её криво запрограммировали? Это как-то повлияет на естественный отбор? Нет. Естественного отбора у роботов нет.

Добавлено спустя 6 минут 12 секунд:
И еще. Нужно какое-то другое слово. Алгоритм не подходит. Должно быть слово наподобие "волновая функция" что-ли. Нейронная сеть - это не алгоритм. Это функция с огромным количеством подобранных при обучении коэффициентов.

[sts]

Это просто эффекты.

у нас тоже просто эффекты, запрограммированные эволюцией, при этом с разумом они не связанны

Эмулировать поведение алгоритмами - это несколько другое, чем реально переживать угрозу(!) наказания, а тем более само наказание

это не эмуляция, все как у нас.
это побочные эффекты от работы алгоритмов.

Добавлено спустя 2 минуты 37 секунд:

Алгоритм не подходит. Должно быть слово наподобие "волновая функция"

текстовое описание результата волновой функции, чем не алгоритм, программист же пишет программы, придумывает алгоритмы и все это результат работы его волновой функции

[Alex2013]

Этого недостаточно. Нужно, чтобы это нечто боялось смерти, реально переживало боль, мучилось в неволе. В общем, было не искусственно интеллектуальным.

Согласен недостаточно. Прикол в нюансах . Если вы научите искусственную нейросеть ( заметь даже не ИИ !) неотличимо изображать некую "покойную бабушку" то где грань когда "отражение личности" станет торжественно ей равно ? Упс? Еще какой! А если пойти чуть дальше и просто скрупулезно скопировать всю "нейросеть мозга" в "среду аналог" будет ли получившийся "кадавр" банальным "протезом мозга" или всё-же чем-то принципиально другим ? Как там? " В час, когда границы размыты, По рукам пробегает ток, На губах, вопроса открытый, Ядовитый пророс цветок!"(с) немного переделанная песня.

Добавлено спустя 21 минуту 16 секунд:

Робота не кусала пчела в детстве, робота не ставили в угол, робот не разбивал коленку при падении. Робот станет полноценным индивидуумом только когда осознает что есть добро, а что зло.

Это кстати запросто можно исправить ( множеством способов ) . Мне например понравился "рецепт Алисизации" там усредненную структуру "мозга младенца" скопировали в некий "лайткуб" (более фундаментальную "квантовую" реплику нейросети ) создали достоверные "ВР Аватары" и отдали на воспитание обычным людям при этом полностью имитировав "обычную жизнь обычных детей".

Как мне кажется это малость даже избыточно ( достаточно создать "дублирующую нейросеть" нужного "объема" и снабдить ее точно таким же потоком данных что получает мозг живого ребенка ( просто надеть на ребенка простую обвязку из датчиков и пары камер ) а обратную связь обеспечит простой "виртуальный аватар" или даже механический андроид ( подвешенный в "симулятор газонокосильщика") ) .

Добавлено спустя 37 минут 33 секунды:

И еще. Нужно какое-то другое слово. Алгоритм не подходит. Должно быть слово наподобие "волновая функция" что-ли. Нейронная сеть - это не алгоритм. Это функция с огромным количеством подобранных при обучении коэффициентов.

Разумеется работа нейросети не формализуется в "рамках четкой формальной логики" . Но модель нейрона это на 100% алгоритм . Это как голограмма там плоская фотопластинка создает объемное изображение, воспроизводя не только амплитуду(ч/б изображение) и чистоту(цвета) но и фазу (в продвинутых голограммах еще и плоскость поляризации ) предметной волны . То есть нейросеть умеет много больше чем просто такое же количество "плоских" нейрон не соединенных в сеть. (Нейрон это не более чем "триггер с памятью" и если их соединить как обычную "вентильную матрицу" то получим возможность прошить туда банальный "плоский алгоритм" ) Кстати как и голограмма "полносвязная нейросеть" сохраняет полный хотя и менне детальный образ данных даже в части сети . Возможно что лучший аналог нейросети будет именно голографическим .

[stikriz11]

текстовое описание результата волновой функции, чем не алгоритм,

Не алгоритм. Любое описание этой функции не алгоритм.

это не эмуляция, все как у нас.

Робот ничем не рискует даже если его выключат. У него нет целеполагания, которое он сам себе создал.
Актер не тождественен реальному человеку. И трагедия на сцене не тождественна реальной.
Не обманывайте себя.

Добавлено спустя 1 минуту 22 секунды:

Но модель нейрона это на 100% алгоритм .

Имеется в виду вся нейросеть. Количество перерастает в качество.

Добавлено спустя 4 минуты 7 секунд:

и снабдить ее точно таким же потоком данных что получает мозг живого ребенка

Не забывайте, что нейросеть живого организма все время перестраивается. Растут новые аксоны и дендриты, другие отмирают.
Кроме количества нейронов придется еще инженера с мотком проводов и паяльником как-то приспособить. В общем, нереально.
Если создать нейросеть где все нейроны соединяются со всеми, то ... Не хватит объема галактики чтобы вместить эти соединения.

Добавлено спустя 13 минут 59 секунд:
Просто напоминаю, что 100! = 93326215443944152681699238856266700490715968264381621468592963895217599993229915608941463976156518286253697920827223758251185210916864000000000000000000000000

Добавлено спустя 25 секунд:
А их там многие сотни миллиардов

[sts]

Не алгоритм. Любое описание этой функции не алгоритм.

описание того что надо сделать для достижения цели тоже алгоритм

Робот ничем не рискует даже если его выключат.

естественно рискует - тем что его не включат, естественно в роботе будут алгоритмы избегающие гибель, аварийное выключение, ведь иначе он не выполнит работу

У него нет целеполагания, которое он сам себе создал.

как раз для выполнения работы нужно сделать механизм целеполагания, ставится снаружи высокоуровневая цель а далее он сам разбивает ее на мелкие, это и есть целеполагание.

я ж говорю, сами попробуйте спроектировать робота "на пальцах" и быстро придете ко многим аспектам жизни.
просто сформулируйте какими свойствами должна система обладать, как реагировать, то се.

Не обманывайте себя.

вы спорите с реальностью - классический пример - боль - это просто сигнал а "эффект" - это то что он причиняет боль, это искусственная реакция на сигнал - просто мозг так запрограммирован эволюцией, от туда же - болевой порог - у людей он разный, потому что есть калибровка и она неточно работает, плавает, есть базовый уровень а также организм регулярно проходит калибровку, это касается любых сигналов, как следствие утром у вас повышенный болевой порог (калибровка прошла ночь и при низкой активности - меньше шума в сигнале - выше чувствительность) к вечеру пониженный, чегонибудь съели он другой, заболели еще более другой.
более того в случае сильных повреждений вводятся блокираторы боли чтобы дать возможность выжить а потом блокировка спадет и боль накажет чтобы избегал повреждений.

все это, так или иначе, будет в роботах, сделанных на замену человеку, ведь решают схожие задачи а устройство будет похоже потому что другого варианта для похожих систем нет, конечно если сделать крайне альтернативную систему (по сравнению с человеком) там возможны варианты, но это уже и не роботы.

[Alex2013]

Не забывайте, что нейросеть живого организма все время перестраивается. Растут новые аксоны и дендриты, другие отмирают.
Кроме количества нейронов придется еще инженера с мотком проводов и паяльником как-то приспособить. В общем, нереально.
Если создать нейросеть где все нейроны соединяются со всеми, то ... Не хватит объема галактики чтобы вместить эти соединения.

Так для эксперимента досточно удаленно подключить к датчиками достаточно приличных размеров дата центр . ( если дело выгорит можно будет определить где находится условное общее "коллективное бессознательное" и отделить его от личностной памяти ).

+ заметная часть мозга людей работает "информационной поддержкой физиологии" и "индуктивно воссоздаваемому искусственному разуму" очень многое из этого не понадобится никогда. (на пример зачем ИР биологический иммунитет,управление кровообращением или дыхательной функцией ) часть подобных вещей придется воссоздать по социальным причинам (например мимику или моргание ) но управление пищеварением и эндокринной системой ИР едва-ли понадобится .Значит будет воссоздана только та часть мозга что имеет связь с внешними органами чувств . А это как-бы не меньше половины нейронных сетей мозга. (Кроме того в медицине бывали случаи когда люди выживали и не становились идиотами даже при сохранении примерно четверти от исходного объема мозга )

Зы
Все нейроны мозга действительно соединяются со всеми (да еще и со спинным мозгом и прочей ЦНС ) но кто вам сказал что это соединение непосредственное? Если вы укололи палец это безусловно повлияет на состояние всей ЦНС, но разумеется это не значит что каждый болевой рецептор вашей кожи подключен к каждому нейрону мозга . Нейросети распределены и разумеется многослойно-иерархичны. Кстати и голограммам работает также то есть восстанавливая "предметный волновой фронт" она хоть и содержит неполное подобие в каждом "дифракционном узле"(зерне фотопластинки) но определенно имеет довольно четкую локализацию для каждой конкретной детали изображения. ( иначе голограмму нельзя было-бы например частично закрыть рукой или рассматривать через лупу или рамку ( получилась бы не часть изображения, а уменьшенная и/или ухудшенная копия всего кадра ))
Чем это оличается от фокуса с отрезанимем части голограммы ? Так фокус скорее всего в том, что и на "обломке" будет своя локализация для сохранившихся деталей, а "фантомная часть " появляется счет чего-то вроде "избыточного кодирования" и будет видна зметно хуже .

[stikriz11]

описание того что надо сделать для достижения цели тоже алгоритм

< АЛГОРИ́ТМ ВЫЧИСЛИ́ТЕЛЬНЫЙ - это последовательность действий, которая, начиная с заданных исходных данных, за конечное число шагов приводит к искомому результату. > - Никогда не приводит ни к какому результату, тем более искомому. Приводит к всем возможным результатам сразу. Бедным ученым приходится придумывать вплоть до ветвления вселенной.

естественно рискует

- нет. Он может эмулировать что угодно, но не рискует. С философской точки зрения, он вообще многократно повторенная копия. Он не индивид. Риска его смерти нет от слова совсем. Правила техники безопасности - это не осознание риска.

ставится снаружи высокоуровневая цель

- все. Целеполагания нет.

все это, так или иначе, будет в роботах, сделанных на замену человеку,

Вы все правильно говорите только если принять, что "когда я закрываю глаза, то мир исчезает". Ваша ошибка в том, что Вы считаете, что если внешне похоже, то так оно и есть на самом деле. А оно не так. Вы, наверное, один из тех, кто скопировав перед смертью личность бабушки в компьютер резиновой бабы с моторчиками, будет думать, что получил ту самую бабушку. Но, нет. Бабушка в гробу лежит.

Добавлено спустя 12 минут 24 секунды:

Все нейроны мозга действительно соединяются со всеми (да еще и со спинным мозгом и прочей ЦНС )

Нет. Не со всеми. Каждый день прорастают новые соединения и отмирают старые. Это и есть творческое мышление и самообучение. Только так мозг может создавать новое знание. Ничего подобного пока воспроизвести невозможно. Ни программно, ни в железе.
Я не говорю, что не надо дальше, типа, бесполезно. Надо. Просто не надо прельщаться и очаровываться. Место ИИ - рабско подчиненное в интересах хозяина. Прав ему не надо, даже вредно. Все его права - это права хозяина. Вся его ответственность - это ответственность хозяина. Вот и все.
А то понаделают Камазов беспилотных и на дорогу их. А кто будет отвечать? А знаете, никто не хочет отвечать. Программисты как всегда, типа, КАК ЕСТЬ - БЕРИ И НЕ ЖАЛУЙСЯ. ВОЗМЕСТИМ СТОИМОСТЬ НОСИТЕЛЯ. А отвечать будет кто? И еще. Водитель перед тем как сесть за руль, сдает на права. Роботы сдают на права? Нет? Их дядя из ГАИ не экзаменовал. А экзаменовал их манагер из группы тестировщиков. Я программист. Меня этот факт тревожит не на шутку.

[sts]

Вы все правильно говорите только если принять, что "когда я закрываю глаза, то мир исчезает". Ваша ошибка в том, что Вы считаете, что если внешне похоже, то так оно и есть на самом деле. А оно не так.

ваш взгляд поверхностный, иначе такого не писали, нет никакой связи с тем о чем я пишу.

[Alex2013]

Нет. Не со всеми. Каждый день прорастают новые соединения и отмирают старые. Это и есть творческое мышление и самообучение. Только так мозг может создавать новое знание. Ничего подобного пока воспроизвести невозможно. Ни программно, ни в железе.

Есть сеть целиком она гарантировано избыточна , суть что пока в "внизу" удается поддерживать достаточный уровень связности
(то бишь по научному превосходит некий "критерий зрелости " причем это не очень точно коррелирует с общим количеством нейрон ) На эту СЕТЬ, прейдя через множество уровней абстракции, может быть наложена(инсталлирована) "голограмма" когнитивных функций и сложнейшая "иллюзия восприятия" и ассоциативной памяти.

Как известно, на самом деле, мы не помним ни байта конкретной информации . Вся наша память просто клубок ассоциативный связей.
(Все проблемы с зазубриванием и редкостью связанны именно с этим )

Но это еще только верхушка айсберга , а суть в том, что мы действительно "распределенный призрак" причем в виртуальной машине . Знаменитые "Когнитивные функции" работают с "когами" некой условной информационно-системной сущностью (условно от 100 до 300 "виртуальных нейро-узлов" на самом деле работающей примерно как некий "составной кубит" )

Так вот оказывается, что сопоставить "виртуальные нейроузлы" и реальную "физическую нейросеть" практически невозможно .
То есть все чем мы живы, просто некое средне взвешенное значение взаимопересекающихся множеств.

Так что рассуждать о том как "прорастают новые соединения и отмирают старые" все равно как пытаться рассчитать расход и траекторию падения воды в душе используя для этого даже не отдельные капли "искусственного дождя ", а каждую молекулу воды .

К чему я веду, а к тому что с одной стороны попытка представить "творческое мышление и самообучение" как постоянное обновление связей "физической нейросети" есть прямо-таки чудовищное механистическое УПРОЩЕНИЕ, а с другой вполне возможно, что для достоверной "искусственной виртуализации" потока сознания, потребуется максимум уровень "капель" (и достоверная модель для описания "функционального поведения" одной единственной "капли" ).

Дикая избыточность живой нейросети мозга, объясняется тем, что она строго говоря не предназначена для поддержки уровня "когнитивных функций" и то, что он случайно развился у части приматов отнюдь не закономерность, а просто случайность. ( в природе есть животные с заметно большим и/или более плотным (по сравнению с тем что "установлен у людей") мозгом, но большинство из них даже "интеллектом" обычной обезьяны не обладают)

Но если за проектирование "физической основы искусственного разума" взяться целенаправленно практически наверняка можно начинать не "с нуля", а с условной середины .

Разум, самосознание и даже их предтеча и слуга по имени интеллект это и близко НЕ НЕЙРОСЕТЬ то что разум смогу развиться в нейросетевой среде не означает что он прибит к ней гвоздями.

Что касается современных потуг на создание ИИ то все что создано сейчас это просто слегка "умное зеркало" в котором отражается наш разум и наш интеллект. То бишь хитрое эхо в пустой "китайской комнате" .

Зы
Забавно, но несмотря кажущийся махровый-дарвинизм все эти рассуждения не исключают "гипотезу творца", то что наша вселенная в принципе может "поддерживать" жизнь и разум крайне не обязательное стечение обстоятельств хотя разумеется возможно, что это "ошибка выжившего "... Но идея изготовления "вселенной под ключ" все равно имет право на существование.
Как там? "Если звезды зажигают, значит это кому-нибудь нужно! "
.