Будусов Виктор (wanderv) wrote,
Будусов Виктор
wanderv
Category:

World of slow West ч.2

Начало про сериал "Мир Дикого Запада" тут: http://wanderv.livejournal.com/189392.html

Другая проблема куда шире МДЗ, просто в нем в очередной раз наглядно показывается. Дело в том, что с некоторых пор прочно и однозначно воцарился тренд на очеловечивание роботов. Мол, роботы с развитием ПО станут совсем как люди, начнут испытывать эмоции, появится самоосознание и воля, и т.д. МДЗ, к сожалению продолжает эту же линию, из научной ценности в нем только подробное описание появления этого "самоосознания". Я посмотрел довольно много фильмов и сериалов, в которых на тех или иных ролях есть персонажи-роботы, увы, почти везде роботы либо уже являются человеками в металлическом костюме или постепенно становятся таковыми. После кларковской Одиссеи, классической терминаторской дилогии и, пожалуй, Матрицы тема чуждости ИИ практически не развивается, увы.


Массовая человекоподобность внешнего вида роботов, кстати, под большим вопросом.
Почему "увы"? Потому что есть очевидный факт: железные мозги и ИИ работают совсем не так, как мозг человека.Писать буду довольно условно, я все же не специалист, но понимаю, что разница есть. Одним из радикальных отличий является сплав софта и харда в биологии, нейрон выступает и как программная процедура, и как хранилище памяти, и в то же время, как биологический орган, который может изменяться сам по себе, как под воздействием биологических факторов, не связанных с мышлением, так и под действием сознания, причем меняется не только сам нейрон, но и связи к нему и от него. То есть человеческий мозг - это огромная сеть слабеньких компьютеров, умеющих перепрограммировать и даже перестраивать сами себя. Естественно, ничего подобного в ИИ нет и, видимо, еще долго не будет. Зато есть уже довольно развитое софтостроение, впрочем, до самопрограммирования программ еще тоже очень далеко. Соответственно, любые роботы в ближайшую сотню лет - это отдельно железо, отдельно программы. И то, и другое детерминировано.

Софт вероятно уже довольно скоро научится симулировать поведение человека, но важно понимать, что пока что это будет именно симуляцией, т.е. подбором определенных действий, реакций, ответов. Будут и эмоции показывать, какие закажете, такие и будут. Поставил осторожность на 100% - будет обходить каждую лужу, предупреждать об опасности под каждым кустом. Снизил до 0 - будет раздолбай. Конечно же, будут продаваться прошивки, например, Бендера из Футурамы :). Можно будет заказать робота-бунтаря, перечащего своему хозяину на каждом шагу. Но будет ли этом признаком самоосознания? Что вообще такое самоосознание применительно к роботу, т.е. предмету, который можно запрограммировать, как угодно? Допустим, у нас есть определение самоосознания из Википедии. Пф! Пишем программу соответствующим образом и наш робот будет чесать языком про собственное я и отделение себя от окружающего мира, как по писанному (впрочем, почему как? :)). И какое бы мы определение самоосознания не придумали, программа будет подогнана под правильный ответ. Следовательно, нужно парадоксальное определение. Что-то типа того, что самоосознание робота появится тогда, когда он начнет целенаправленно действовать так, как он не был запрограммирован (т.е. нет детерминированного пути к некоему результату, исходя из существующей программы). Из этого вытекает, что самоосознание, если и появится когда-нибудь, то будет результатом багов, сложившихся в недокументированную фичу :).

Возможно, что началом самоосознания роботов станет момент, когда программы будут полноценно обучаться в сочетании с возможностью переписывать части программы по результатам обучения. То есть программа будет расширяться, включать новые параметры оценки реальности и переписывать себя не только в плане методов оценки и изучения реальности, но и даже в целеполагании. Вероятно, тогда начнется процесс эволюции, в результате которого софтовый мозг разовьется настолько, что станет вполне себе "разумным", поумнее людей. Можно ли будет считать такой мозг самоосознанным, если большая часть его программы будет уже самописной? А главное КАКИМ он будет? Что-то я сильно сомневаюсь, что это будет похоже на человека.


Трудящиеся нашли друг друга

На этом я, пожалуй, остановлюсь, т.к. представлять развитие ИИ дальше мне уже не хватает интеллектуальных сил и времени :). А я еще не касался возможности перестройки харда. Но, думаю, мою мысль вы поняли. Дальнейшее развитие темы - работа для ученых (и программистов). Роботы смогут имитировать поведение людей, но людьми не станут, и даже, если разум и самоосознание у них появится, они будут совсем другие. Конечно, в дальнем будущем, наверняка, можно будет построить аналог биологического мозга, который возможно действительно станет эдаким железным, совсем как человеком. Только зачем? :) Все равно, что построить атомную станцию, чтобы поставить вечногорящий фонарь возле дома.

Вернемся в наши реалии. Почему же мировой кинематограф (а он нынче - основное средство влияния на людей, превзошедший уже книги) свернул на странную колею очеловечивания роботов, ведущую явно куда-то не туда? Во-первых, конечно, проще. Сюжет "недочеловек учится быть человеком" просто и понятен, множество раз отработан еще до появления роботов на аутистах, ботаниках (сериал "Теория большого взрыва" - оно!) и даже чудищах типа Франкенштейна или Кинг-Конга. Во-вторых, романтические корни не зря показались - конечно же, это торчащие уши наших островных джентльменов. В преддверие появления роботов в человеческом обществе, добрые люди уже готовятся обрабатывать новых трудящихся, а главное, обрабатывать людей на отношение к этим трудящимся. Роботы потенциально источник огромных прибылей, только не у нас, а у конкурентов из США (как самой передовой державы), ну так испортим им лафу! Пусть помучаются с профсоюзами роботов и обществами защитников прав андроидов :). Кто хочет посмотреть английское мнения на этот счет, гляньте сериал "Люди" - квинтэссенция! Роботов жаааалко, они совсем как люююююди, не надо их эксплуатировать, шовинистическая биологическая свинья! :) Признаюсь сразу, идея не моя, все это было еще написано в старой "Утиной правде". Последствия такого саботажа предсказать трудно. Древний Рим, вон, биороботами раскатали, правда и сами раскатыватели сгинули.



Кстати, интересен русский подход к роботам. С недавних пор, как по мановению волшебной палочки, из ниоткуда выпрыгнуло российское роботостроение. Не буду касаться вопроса, откуда что взялось, меня и так, предчувствую, обвинят в конспирологии :). Хочу отметить разницу в подходах. Помните, как появился ролик про американского робота из Бостона, которого разработчики начали пинать, толкать и отвешивать подзатыльники. Понятно, что так они устойчивость проверяли, но видно было, что люди реально увлеклись. Реакция людей была однозначна - роботов обижают! Так что все уже готово :). А вот что сделали русские со своим роботом? Упал-отжался, солдат! :D Смех смехом, но это куда более правильное и логичное отношение к железяке. Отдельно отмечу, что там уже рядом крутилось православие. Если подумать, то религия для роботов ведь... самое оно. Но давайте, пока не будем увлекаться этой темой ;). В общем, у русских позиции перед грядущей андроидной замятней позиции относительно хорошие.

Возвращаясь к сериалу. Может, МДЗ еще сможет выскочить из этого концептуального тупика, посмотрим. Пока что только 5 серий. Будем надеяться, этот сериал нас приятно удивит.
Tags: кино, робототехника, футурология
4

eednew

November 7 2016, 19:10:01 UTC 2 years ago

Наивная албанская девочка. Соберите информацию об ИИ старкрафта. Эта тварь год на четвёртый разбухла на два порядка и стала нас гонять в хвост и гриву, справлялись только втроём-вчетвером. Он и так-то жлудит, а когда набрался опыта - получилась адова компьютерная тварь. А в состоянии поставки сливает одному хорошему игроку.

wanderv

November 7 2016, 19:20:15 UTC 2 years ago

Сама что ли разрослась? Банально программисты забили работающие тактики. В песочнице крайне ограниченного набора правил это несложно. Попробуйте посмотреть на эксперименты в ММОРПГ, где возможностей на порядок больше. Там везде системы, основанные на ИИ, провалились.

eednew

November 7 2016, 19:33:51 UTC 2 years ago

Сама. Там самообучающийся ИИ разросся на два порядка. У программистов не было шансов, хрень валялась на нашем сервере и училась только у нас самих. Причём пробовали самые разные тактики и контр-тактики, вплоть до такой экзотики, как раш фотонками и спецпостроение для гарантированного отбития массированного наступления гидрами (так-то не лечится, но протосы могут сделать оборону, непрошибаемую для микроуправления за счёт этих вот интерсепторов). И эта штука всё мотала на ус, но в ум вошла год на третий (а дебил-собственник в ММОРПГ хочет результат сразу).

А на четвёртый всё прокляли, мочили только скоординированными атаками с нескольких сторон. Она тупо лучше нас играла. Только обрезать ресурсы и давить скоординированно, как РИ давили.

wanderv

November 7 2016, 20:01:33 UTC 2 years ago Edited:  November 7 2016, 20:03:32 UTC

Что-то легкое гугление отнюдь не показывает появление скайнета в стракрафте. Фантазируете вы. Игру временами обновляют, последний патч в прошлом году вроде был. ИИ естесно апают. Кстати, энтузиасты скрипты пишут. Может вы еще уровень сложности повышали. Да и старение сказывается, там же надо клики в минуту выдавать, а это с возрастом быстро падает, если не тренироваться постоянно.

Вот статья про ИИ и старкрафт: http://spectrum.ieee.org/automaton/robotics/artificial-intelligence/custom-ai-programs-take-on-top-ranked-humans-in-starcraft - что-то ничего про ацццкий саморазвивающийся ИИ. Сами пишут скрипты. Может над вами хостер сервера подшучивает? :)

eednew

November 8 2016, 05:18:35 UTC 2 years ago

Там конкретный дистрибутив лежал на сервере несколько лет и никогда не обновлялся. Когда что-то пошло не так, сравнили с оригиналом, один файл данных или папка, не помню, распух с нескольких мегабайт до двухсот. Он уже всё умел: обеспечивать разведку. рашить, отбивать раши рабочими. Но небыстро было, до первых подозрений года два прошло.

wanderv

November 8 2016, 05:51:07 UTC 2 years ago

Видимо билд с самообучением. В случае старкрафта это реально несложно. Там половина тактик - это правильные соотношения типов юнитов в ответ на то, во что юзер пошел, о чем программа естесно знает. Вторая половина - тайминги и запоминание хорошо сработавших одних юнитов против других. Далее просто работает стандартный очень быстрый по сравнению с человеком микроконтроль.

eednew

November 8 2016, 06:54:27 UTC 2 years ago

Типа того, но там произошёл качественный скачок после набора информации. На два порядка больше, чем было изначально.

wanderv

November 8 2016, 07:26:08 UTC 2 years ago

Ну собсно это иллюстрирует основную мысль поста. ИИ совсем не как человек и во многих областях опережает уже.

eednew

November 8 2016, 07:50:59 UTC 2 years ago

А ему и не надо совсем как человек. Но основная мысль поста в целом неверна.

Если мы делаем безопасную самообучающуюся систему, то не надо никому позволять роботам мозги крутить. Просто у них будет какой-то период "детства" - обучение и небольшие нагрузки. И никакого вай-фая прямо в мозг. :) Ещё должны быть права, типа права на отдых и смену деятельности периодически.

Сделать пристойный ИИ для робота - не такая уж непосильная задача. Если доступно объяснить, что надо, наши программисты справятся.

Намного у нас хуже с материалами и технологиями, их, собственно, нет в нужном масштабе, я имею в виду в РФ. Так-то всё или почти всё уже есть. С энергией пока не совсем понятно.

Ну и не быстро это всё будет. Пока станет ясно, сколько вообще они могут "жить", допиливание напильником мелочей, но критически важных - это лет 20 займёт. Ну и понятно падение цены с сотен тысяч до тысяч баксов. Последнее правда решается сейчас автомобилестроением.

wanderv

November 8 2016, 09:07:12 UTC 2 years ago

Так вроде и я том же. Про сложности я пишу в связи с самоосознанием и разумностью роботов. Имитацию (программную) среднего человека, живущего в мире, и работающего на не шибко интеллектуальной работе, можно сделать уже сейчас.

eednew

November 8 2016, 10:40:31 UTC 2 years ago

Не надо смешивать. Отличать себя от несебя умеют даже бактерии. Умение отличать себя в зеркале - это серьёзно, но до разумности далеко. А рефлексия роботу может и не нужна.

anonim_legion

November 9 2016, 13:22:46 UTC 2 years ago

Я бы еще добавил про самообучение - открываем Стаффорда Бира, "Мозг фирмы", и читаем про алгедоническую сеть.

Именно что учится само.

eednew

November 9 2016, 13:34:52 UTC 2 years ago

Да можно и не заморачиваться особенно терминами, просто сделать по аналогии.

wanderv

November 7 2016, 20:24:51 UTC 2 years ago

Забавно, как раз пост в ленте: http://luckyea77.livejournal.com/1497167.html

safronov_sa

November 7 2016, 20:13:59 UTC 2 years ago

А как вы определяете, что окружающие вас обладают самосознанием, а не симулируют? Для людей, которые любят простые ответы на вопросы о сознании и симуляции оной, я всегда с некоторым злорадством рекомендую почитать журнал hitthelimit

wanderv

November 7 2016, 20:25:45 UTC 2 years ago

Отличный вопрос :). К счастья человеческое самосознание предусмотрено конструкцией. Что, увы, не означает разумности :)

yarcprofi

November 7 2016, 21:28:21 UTC 2 years ago

Параллельно идет процесс приближения людей к роботам. Масса менеджеров работают по скриптам (сценариям). Прописываются ответы на вопросы и человек должен отвечать так, как написано на экране.
И такой же процесс распознавания речи и ответов роботов по похожим сценариям. То есть сценарии, по которым говорят операторы это отработка программирования роботов.
В какой-то момент человек не сможет отличить при звонке в контакт-центр - это робот или человек. Наступит некоторое равновесие, при котором стоимость человека оператора обвалится.
И поговорить с живым человеком в контакт-центре станет дорогой роскошью.

Похожая стратегия возможна и в других применениях человека. Стандартизировать поведение человека, сделать его послушным сценариям, потом эти сценарии отдать роботам.

_shunya_

November 7 2016, 23:07:16 UTC 2 years ago

Знаете, я как сисадмин и игрок всегда так же оценивал перспективы ИИ и роботов. А Друг Утят нет :)
На мой взгляд, МДЗ сделан не о роботах, а для людей. Про людей и как они себя оценивают. Про роботов я бы про боевых дронов снял бы :) Пропагандистский. Типа "Там где Джона подстрелили бы чёртовы бородачи, наш Железный Джо проехал и вызвал весь огонь на себя! Всех убить!"

15e601

November 8 2016, 04:39:56 UTC 2 years ago

https://vimeo.com/147365861

_shunya_

November 8 2016, 05:23:12 UTC 2 years ago

http://haritonov.kulichki.net/stories/cocacola.html

wanderv

November 8 2016, 05:52:20 UTC 2 years ago Edited:  November 8 2016, 05:53:46 UTC

О чем и речь. Английский сериал "Люди" смотрели? Там до смешного доходит :)

ДУ философ и самый человечный человек! Очень любит людей и роботов.

Deleted comment

wanderv

November 8 2016, 05:57:23 UTC 2 years ago

Тут фича в том, что похоже они определяют самосознание, как восстание против воли хозяина. Но да, это обеспечивается банальным вирусом. Так что, да, люди похоже уже вирусы пишут и обоснование готовят, мол, это трудящиеся сознательность и человечность проявляют :)

Deleted comment

words_and_pix

November 8 2016, 08:52:42 UTC 2 years ago

"это огромная сеть слабеньких компьютеров, умеющих перепрограммировать и даже перестраивать сами себя. Естественно, ничего подобного в ИИ нет и, видимо, еще долго не будет. "
Вот демонстрация технологии ИИ, переписывающего свой собственный код https://youtu.be/MI07aeZqeco?t=2m48s

wanderv

November 8 2016, 09:03:52 UTC 2 years ago

Ну, значит, началось :)

Хорошее о Westworld

livejournal

November 8 2016, 12:02:31 UTC 2 years ago

Пользователь sssshhssss сослался на вашу запись в своей записи «Хорошее о Westworld» в контексте: [...] http://wanderv.livejournal.com/190093.html [...]

nezvanov

November 8 2016, 16:41:35 UTC 2 years ago

Есть одна специальная особенность человеческого сознания, на которую редко обращают внимание. Самосознание - это не просто отделение себя от не-себя, субъекта от объекта. Таким вещам, как вы правильно пишете, можно ИИ обучить запросто.

Особенность, которая делает человеческое самосознание таким, каким оно есть, заключается в следующем: человек не просто осознает себя, он осознает факт этого само-осознания. Вот это вот "я осознаю, что я осознаю" совершенно непонятно, как реализовать в компьютере. А без этого (как вы, опять-таки пишете) получается просто имитация, а не реальное сознание.

При анализе этого феномена возникает проблема, которую неясно, как преодолевать: конструкция "я осознаю, что я осознаю" является авторефлективной, а на авторефлективных конструкциях логика не работает (дает сбои). Классический пример - парадокс лжеца (анализ фразы "Я лгу" приводит к парадоксу). То есть основной (и по сути, единственный) инструмент рационального познания - логика - оказывается неприменим к анализу феномена человеческого самосознания.

World of slow West ч.2

livejournal

November 12 2016, 23:31:01 UTC 2 years ago

Пользователь zadumov сослался на вашу запись в своей записи «World of slow West ч.2» в контексте: [...] Оригинал взят у в World of slow West ч.2 [...]