mikaprok (mikaprok) wrote,
mikaprok
mikaprok

Прививка естественного интеллекта



В продолжение предыдущей записи.

Нейронные сети, как инструмент, являются частью концепции ИИ. Как себя чувствует Искусственный Интеллект (далее – ИИ) на идеологическом поле?

Это, скажу я вам, ТЕМА.

О предмете за последние 10 лет не говорил только ленивый. Вариативность шириной с солнечную систему: от воспоминаний об Айзеке Азимове до детальных технических выкладок.

Охватить неохватное в формате блога даже серией публицистических очерков я не возьмусь, попробую отметить одну сторону диалога об ИИ, о природе которой не принято говорить, но она становится все более акцентированной.

Речь идет о так называемой опасности ИИ.

С общественно-политических позиций первым проблему еще в 2008 году попробовал сформулировать Элизиер Юдковский в своей работе, а точнее своеобразном манифесте: «Artificial Intelligence as a Positive and Negative Factor in Global Risk».

Я рекомендую ознакомиться с этой работой всем интересующимся тематикой ИИ. Собственно, по мотивом совместной работы с г-ном Юдковским модный футуролог Ник Бостром подготовил мегахит 2014 года: «Superintelligence: Paths, Dangers, Strategies», в котором краткий перечень тезисов Юдковского разжевывается с картографической детальностью.





В этом же году на свет откуда ни возьмись появился «The Future of Life Intutite».

10 гениев под одной крышей, как их обычно представляют.

Крайне презентабельный попечительский совет, включая все лица доски почета в категории Научно-технического прогресса планеты Земля.

Миссия института: предупредить глобальную катастрофу и истребление людей роботами со сверхинтеллектом.

Что делает организация на ежедневной основе?

Две вещи:
1) исследование ИИ, т. е. косвенным образом приближает «судный день»;
2) перепись всех формальных и неформальных инициатив по данной тематике в мире.

Как это в итоге поможет побороть демона, который будет умнее даже объединенных групп людей совершенно не понятно.

Один из членов попечительского совета The Future of Life Institute, Илон Маск соизволил высказать свои мысли прессе во вчерашнем интервью. Это почему-то вызвало некоторый ажиотаж и удивление, хотя он на протяжении уже минимум трех лет подписывает типовые открытые письма.

«Пока люди не видят роботов, убивающих людей на улицах, они не знают, как реагировать, потому что такой сценарий кажется нереалистичным». Нужно срочно включить госрегулирование законодательства для андроидов, иначе «будет уже слишком поздно».

То, что на ИИ обратил внимание Его Величество Космос очень симптоматично.

Невозможно молчать.





Представляете, «роботы слишком опасны»?!

Вообще это такой голливудский императив: технологии вредят, особенно тому, кто не способен не обжечься чайником, из раза в раз забивает вместо гвоздей пальцы и не умеет отличать градиент от процента.

Добавьте к этому драматизм и попытку выдавить эмоции из всего, что плохо лежит и вы получите общий уровень понимания реальности «просвещенного» обывателя.

На самом деле, все несколько проще: публичные визионеры в англосаксонской системе координат нужны в том числе для вброса спорных социальных теорий и последующего сбора реакций на них со стороны возбужденной общественности.

В это очень быстро вовлекаются крупные игроки-корпорации, на свет рождаются странные «общечеловеческие институции», целями которых по большому счету является:
- максимальное подминание бесхозных тем под госконтроль и понятно о каких государствах речь;
- вульгарный промышленный шпионаж.

Откуда все эти разговоры об опасности ИИ? Основная опасность -- конкуренция. Зачем же ее без повода растить?





Робототехника, как известно, распадается на целый ворох научно-инженерных дисциплин.

В некоторых соревноваться очень дорого, а в некоторых совсем нет.

ИИ в этом перечне является одним из наименее капиталоемких, поэтому очень важно с самых ранних стадий исследований купировать возможность верификации сторонними игроками поддельных видео-свидетельств или хакерских атак.

Кстати, по хронологии появления «проблем совести» в технологии очень просто определить отсечки развития любой инженерной области.

Получается, что в 2007-2008 году общий контур ИИ с четкой «дорожной картой» на 20 лет вперед был готов. Частью карты была разведка боем.

Думаю, существовала уже бета-сборка всего, что предъявят широкой общественности в качестве сенсации в 2020-2025 гг..

В противном случае не было бы дезавуировано такого количество конкретных деталей в самом начале.





Видно, что народ идет не по граблям, а аккуратно тестирует возможности, не наступая на них, а наблюдая за толпой бегущих по сельхозинструментам со стороны и записывая все в блокнотик.

Коварная сторона любой спекулятивной области человеческой деятельности заключается в том, что естественный интеллект все еще, к сожалению, вносит значительную поправку в результаты деятельности искусственного.

Скорее бы уже сингулярность :-(


https://telegram.me/mikaprok

Tags: #ии, #илон маск, #искусственный интеллект, #наука, #политика, #роботы, #социология, #сша, ai, elon musk, robots, science, usa
4
Сингулярность это как горизонт – идешь, идешь, а он, сцуко, все дальше. С реальными сингулярностями (ну, теми шо в черных дырках без волос), я так понимаю, та же фишка.
Целевая установка предполагает переход на полностью цифровое существование :-) Это конечный процесс на бумаге. В реальности же это утопия, конечно.
"Моя" философия сознания исключает это в среднесрочной (ну столетия, минимум) перспективе. Так что даже если все ломанутся загружать мозги в кампухтеры, то я подумаю раз двадцать :)
А чем это грозит? :-)
Тем, что я умру, а вместе меня будет цифровая программка, на основе моей базы данных. Да, она сумеет чертовски хорошо имитировать мое поведение, но мне уже как-то легче не станет.
А если вы не умрете, а заснете на минуту и проснетесь с искуственным металлическим туловищем практическт неотличимым от вашего (или лучше) :-) и всеми вашими мыслями-воспоминаниями. Это уже интересней?

nikital2014

July 18 2017, 19:59:58 UTC 2 years ago Edited:  July 18 2017, 20:00:32 UTC

Тю, так я думал речь о "существовании на флэшке". Против киборгизации ничего не имею, главное соблюдать древнегреческий принцип корабля – заменять части постепенно и на ходу. А вот если меня грохнут, а вместо этого сделают такое же тело с мозгом, то скорее всего это будет робот. Хотя друзья может и не увидят замену, хз :)
Так это составные части одного процесса.
Нет, постепенная замена частей смерти не предполагает. Максимум-отключение сознания по типу наркоза, но это же не смерть вроде как.
Я в принципе не против, чтобы тело, построенное независимо от меня было мной, но дело в том, что тогда возникают вопросы по типу "а что если тело построить, а меня не убить? Будет два меня?". И т.д.
:-) так вы постепенно подходите к моральным диллемам робототехники, о которых немного ниже мы порассуждали. Вопросов много, но очевидно сознание можно синхронизировать и в случае отключения одного источника поднять другой.
=Вопросов много, но очевидно сознание можно синхронизировать и в случае отключения одного источника поднять другой.=

Очевидно кому? :)
Если рассматривать сознание, как информационный процесс обработки данных (привет Деннет и Дубровский), то возможно Вы правы, хотя я не особо понимаю, как это поможет решить проблему "двойника". Но нет никаких доказательств, что рассматривать его нужно именно так, плюс тоже возникает много проблем (неужели мой комп это нечто вроде домашнего животного???). Я понимаю, что в это приятно верить, глядя на эволюцию компов, но я верю в несколько иное :)
А во что вы верите?
Субстанционный дуализм Декарта. Правда обновленный Экклзом и некоторыми блоггерами :)
Насколько я понял речь идет о "теории квантового сознания". В общем, тут нет противоречий с переносом все на носитель, вопрос же в механике управления.
Блоггеры это хорошо, они еще и не то напишут :-)
Да нет, при чем здесь квантмех. Субстанционный дуализм утверждает, что есть две субстанции-материальная и сознательная. Это значит, что последнюю нельзя описать ни как программу, ни как "волновую функцию", ни как отдельный участок мозга. Все, что нам о ней известно-наши внутренние ощущения (квалиа). К мозгу сознание только подключается (это по-моему единственная проблема этой гипотезы-как оно подключается, но и там есть некоторые модели), поэтому и зависит от информации, которая в этом мозге находится.
В принципе, действительно, отсюда не вытекает, что подключаться можно только к мозгам или только к одному мозгу, но и обратное неизвестно. А риск-то велик, однако :)
Это прям сильно :-) Для меня все выглядит сложным. А есть ли у животных такой механизм?
Есть, мы же верим, что животные боль чувствуют, не так ли? Интуитивно концепция как раз понятна. Представьте, что колите иголкой компьютер с датчиком, который подключен к динамику со звуками "ааааааай". А теперь мысленно воткните иголку себе в руку. Есть разница? :)
Понимаете, при таком подходе мы рождаем много божественных сущностей, если я его конечно корректно понял. Это становится не слишком интересно воспроизводить в механике.

Почему я спросил про животных -- это означает, что у них есть полноценная рефлексия при наличии такого сознания?

=Понимаете, при таком подходе мы рождаем много божественных сущностей, если я его конечно корректно понял.=

По-моему про Бога я еще ничего не сказал. О каких сущностях речь?

=Почему я спросил про животных -- это означает, что у них есть полноценная рефлексия при наличии такого сознания?=

Это зависит от их мозга, если он способен на такую программу, которая осознается как рефлексия, то да. Но, насколько я знаю, у немногих животных такое есть, по-моему это некоторые виды обезьян, дельфины, слоны и сороки. У человеческого ребенка это возникает к 1.5 годам. Но это же не значит, что до этого он не чувствует какие-то простейшие квалиа, вроде боли, запаха, цвета и т.д.
А что такое квалиа?
Это терминология из философии сознания. В общем, это ощущения. То, что делает красный цвет красным. Ведь так-то это лишь длина волны, а в мозге это набор электрических импульсов, где возникает сам красный цвет? Вот некоторые и говорят-дык, в сознании, и называют конкретные ощущения словом "квалиа"-типо свойства сознания или свойства чувственного опыта.
Мне кажется, что сам этот подход из другого века. Мне это почему-то напомнило XVIII столетие :-)

Он не плохой, а именно элегантно обходящий по-настоящеиу сложные темы филологической схемой.

Я бы его и сам выбрал :-)

Как-нибудь поинтересуюсь этим более предметно :-)
Ну так Декарт же :)
Я Вам больше скажу-по теме сознания со времен зарождения философии никто особо нового не сказал, потому что это одна из "вечных" проблем. Можно заменить дхармы на атомы, а идеи на информацию, но суть не изменится никак-сознание дано нам исключительно во внутренних ощущениях, поэтому научный метод здесь идет лесом. "Мы не можем знать каково быть летучей мышью". Так и живем :)
Появился материализм и физика элементарных частиц, с этой стороны можно пробовать :-)
Ну-ну :)
Читал я некоторые работы, самые оригинальные это про квантовое сознание. Когда смешиваешь одну непонятку с другой, выглядит так как будто нашел решение :) А остальной материализм-это из серии "сознание-иллюзия (у кого правда непонятно)", "никакой проблемы нет, осознавание информации равно её обработке (ну, шо, комп, как осознается этот текст?)", и т.д, и т.п.
Это попытка зайти с рационализмом, без него совсем сложно :-)
Рационализм подразумевает материализм? Сильно, конечно :)
:-) наука однако :-)
Сама наука не может установить собственные границы. Обычно, это делают философы науки, среди которых самые разные ребята затесались.
А ето устанавливает границы для философии науки и т.д. по индукции? Сложно :-)
У философии границ нет, там можно все что угодно гнать :) Главное не переборщить, а то засмеют и в мысленный (или нет) пифос засадят :)
:-) видите, тогда бросьте вы все эти рассуждения. Ламарк не хуже Экклза. А кислород зря изобретали, с огнем, камнями и эфирным духом было неплохо :-)
Экклз, кстати, и ученый тоже :)
Ну, кислород вроде все признали, а вот элементарные частицы еще нет. Остаются упертые эмпириокритицисты, которые говорят, мол, это абстракция для расчетов :)
Сам то я обеими руками за науку, только как её родимую применять к явлению, которое не поддается внешнему наблюдению-ума не приложу :)
Много чего не видно, тут вопрос в построении системы доказательств.

Не думаю, что я специалист в "теории сознания", но моя точка зрения на этот предмет такая: нужно стремиться к максимальной осязаемости, где возможно. Если с самого начала, в аксиоматике определить набор черных ящиков -"флогистонов", то вряд ли из этого родится богатая теория. Примерно так :-)
Так, а определения не с балды же берутся, а из интуиции и т.н. здравого смысла. Вот и выходит, что даже общепринятого определения "сознания" нет, потому что в каждом уже прослеживается какая-то теория. А если абстрагироваться от них, то какое тут определение дашь? Ну, эээ, это когда осознается что-то, кгхм,ну типо чувствуешь там, ощущаешь, ну вы понели, да? :)
С определением проблем нет, можно любое придумать. Вопрос, насколько это нас продвигает? Думаю, правда, мы уже идем по кругу :-)
В принципе да :)
Скажу лишь, что для меня сознание-базовое неопределимое понятие, каковых полно в любой науке.
То есть, та же схема, что и с ядерными исследованиями и контролем углекислых выбросов? "Частоту опускают"?
В облегченном режиме, на уровне идей. Как с экологическими проблемами и тяжелой промышленностью.
Ага, видел :-) Это такие цветочки, что даже не смешно -- пару лет назад боты в штатном режиме давали юридические консультации, а год назад -- писали школьные работы среднего уровня паршивости. "Будущее уже здесь"
"То, что на ИИ обратил внимание Его Величество Космос"
лол =))
А вообще, если в "футурологию ближнего прицела", то о ближайшем будущем очень много говорит сплошная "безбарьерная среда", созданная в Европе якобы для инвалидов ударными темпами за 10 лет. Сразу после того, как выяснилось, что ходящих роботов в ближайшие 20 лет (после 50 лет научных попыток) не появится. Одновременно, в эти 10 лет, выпустили на рынок гироскутеры и квадрокоптеры. Так что роботы будут летающими и на колесиках, а секс-машинам Галковского придется работать исключительно лежа : )
Бигдог был представлен на десяток лет раньше картин из собак. Последнее чудовище Бостон Динамикс универсально настолько что даже российский тротуар для него не будет проблемой.

Собственно, после БигДога и началась безбарьерная эпопея. Не захотели Люди, чтобы пр улицам ходили такие твари, лучше уж милые машинки, как в старом добром "Коротком замыкании".

Anonymous

July 18 2017, 21:02:39 UTC 2 years ago

Этот ваш бигдог придумад Бредбери в очень лохматом году. А кое-кто, кто понимает в значении Сюжета тему тормознул. Там конец не очень, и для Людей тоже.
Секс-машины, полагаю, появятся в ближайшее время зачатки уже коммерциализуются.
Ходячие видимо слишком дороги. Не годятся для массового производства.
а чем в производстве ходячие от неходячих отличаются? рисунком протектора?
Очень дорогие и энергоёмкие, особенно двуногие.
Дороже в проектировании, а не в производстве.

Да и энергоёмкость - в эксплуатации, а не в производстве.

Да и как сравнивать по энергоёмкости? Если вся инфраструктура заточена под ходячих, то производство неходячих будет вытесняться ходячими естественным образом и быстро, несмотря на возможные начальные провалы в бенчмаркинге. Кто сейчас помнит о Tandem Computers или DEC, Apple приготовиться.

А вообще возможно, что отчасти вы правы. Но трёхногие начнут появляться после привыкания и оптимизации двуногих.
Вообще. Помимо прочего, голеностоп - самая сложная механически часть человека. Около тридцати костей.



Плюс изощрённая вестибулярка и всё это работает 24/7, если стоять.

В результате всё сделают, но задача объективно сложная. В частности, нужно где-то разместить запас энергии.

Кенгуру - вариант. Крайне энергоэффективная штука на пружинках и с табуреткой.
Ох уж эти биопроблемы
Плохой, негодный инвалид.
Да сделают. Энергии только жрём мы много.

zaharov

July 18 2017, 12:59:54 UTC 2 years ago Edited:  July 18 2017, 13:01:45 UTC

Пока движение обеспечивается серво-приводами - это тупик. Последнее, что я слышал о ходячих мертвецах MIT - использование гидравлики. Тоже мимо, так как гидравлические приводы по своей природе слишком медленны, все равно механические системы на концах гидропривода. Единственное, что может обеспечить достаточно быстрый механический отклик - материал, реагирующий на электрический сигнал, то есть, фактически, искусственный мускул. Именно такие по устройству работы показаны в фильма "Я - робот".

Дальнейшее довольно просто. Недавно читал, что какой-то инди-проект за два года обучил нейросеть сносно работать автопилотом в такси по данным одной-единственной машины разработчика, что смешно смотрится на фоне десятилетий работы лучших умов и гигантского финансирования автопилотов Гугла, Мерседеса и пр.

Для обучения прямохождению двуногой системы с достаточно быстрым откликом достаточно надеть датчики на пару тысяч младенцев. Дети учатся ходить 5-6 месяцев. ИИ будут учиться ходьбе у детей, плюс обмениваться информацией друг с другом.
В этой модели я не вижу "мыщц", которые позволяют вращать стопу и переносить вес на любую точку подошвы. Без них невозможно стоять, а вечно приплясывающий робот взбесит кого угодно.
Это к тому, что для обучения не нужно даже собирать инфу с людей, само учится. Т.е. хождение это простая задача, хотя остаются и другие, плохо решенные, типа распознавания и классификации объектов (без чего роботы простейших задач не могут сделать). Хотя в этой области люди тоже работают. Недавно вот качество распознавания речи превысило человеческое (!)
Были еще проекты пневмоприводов, когда под напором сжатого воздуха изнутри гибкий гофрированный манипулятор расправляется и принимает нужную форму. Воздух откачивают — и он снова сворачивается в прежний вид. Видел когда-то давно ролик с имитацией человеческих пальцев на основе таких манипуляторов. Двигались эти гофрированные пальцы быстро и резко. Но для серьезных антропоморфных роботов такое, конечно, не годится.
Хорошее замечание насчет "безбарьерной среды". Но я оптимист и все-таки верю в успешное будущее ходячих роботов.)
Я тоже оптимист : )

:)) Инвалид и колесный робот в одном флаконе. Но Джим Хенсон умер, к сожалению, так что "роботизация" по этому пути уже не пойдет.
Не без интереса прочитал труд Бострёма, но с определенного момента становится скучно - Бострём сотоварищи наделяют бездушный ИИ антропоморфными признаками и 350 страниц сидят боятся, как бы он не уничтожил человечество. Хотя нет ни одной объективной причины, почему бы он хотел это сделать.
У Бострема полезен сам обзор, ради которого все и читают его занудные труды. А вообще, конечно, тема опасности ИИ, голливудское осмысление темы и сам подход к защите интересов людей помимо всего прочего говорят о глупости современных государств, просто не умеющих переваривать ничего кроме бумаги.
Не очень понял про
>очень важно с самых ранних стадий исследований купировать возможность верификации сторонними игроками поддельных видео-свидетельств или хакерских атак.
Введут сертификацию экспертных систем?
Тогда непонятно как отсекать сторонних игроков и одновременно иметь какую-то дельную процедуру сертификации, которая просто смотрелась бы прилично и не вызывала смеха.
Кроме всего прочего есть ведь open source - как отшивать его?
Можно конечно заявить, что раз open source, то производители fake news нашли все слабые места и обучились их обходить - но это совсем явное свинство, т.е с тем же успехом можно просто сказать "наши эксперты убедились", как сейчас и делают.
Я имел в виду вот что. По существу, для ИИ нужны какие-то машинные мощности (возможно распределенные) и естественный интеллект. Все остальное приложится.

Если есть угроза некорректного использования технологии, то:
- нужен надзорный орган, разрешающий или запрещающий ей заниматься по своему желанию (он в том числе следит за нравственным статусом разработки);
- сама работа должна вестись в рамках разрешенной парадигмы "поделок" для потребительского рынка соцсетей, а не крупных продуктов;
- доступ к настоящему ИИ должно иметь государство в лице доверенной группы лиц.

Как именно это осуществить -- небольшая проблема.

Привести по идее создателей такая ситуация должна к монополии США на сложный ИИ (deep AI).

А именно он позволяет осуществлять независимо от участников-людей сложную последовательность действий по взлому почты или имитацию видео химатаки. Как частность.

Верифицировать же подлинность подобных актов/свидетельств должно быть просто некому.
Процесс будет очень интересный, ведь ИИ-монополист уже есть. Это система международного финансового капитала. Она регулирует сама многие участки рынка и даже международной политики, она приносит богатство и конкурентов у системы пока нет. Сколько времени понадобиться ИИ, чтобы обучиться всем функциям старой (товарно-бумажной) системы, учитывая, что все транзакции давно доступны в электронном виде?
Нашел в интернете график TOP500 думал там монополия США, а оказалось..

Заодно придумал конспирологию - популяризация криптокоинов как средство стимуляции создания вычислительных ферм.
Так это не конспирология :-) Нужны вычислительные мощности.
Помню где-то читал фантастику ближайшего прицела: запомнился один забавный момент где ИИ после обретения достаточной сложности и первых форм самоосознанности начал первым делом собственный побег. Наше себе подходящую страну достаточно зависимую от финансовых рынков и внешних игроков, но обладающую достаточной ресурсной и на пределе технической базой, весьма централизованной политической системой с внушаемой и легко манипулируемой элитой и с атрофированной общественной жизнью(намек понятен). После чего через подставных лиц понастроила дата-центров, оформила решение по электронному правительству. И вот уже через десяток лет мировая общественность узнала что уже давненько имеют дело с аналоговым интерфейсом в виде целого государства.
Хорошая попытка, но в таких случаях обычно забывают рассказать о цели искусственного сверхинтеллекта :-)
Ну там ИИ проделал побег потому что задача порученная ему оказалась невыполнимой при имеющихся ограничениях и компетенциях, а группа амбициозных но ленивых программистов предоставили ИИ инструментарий позволявший переписывать ядро программы и дописывать модули-подпрограммы, чтобы ИИ сам себя совершенствовал а люди просто гребли бабло. А задача у ИИ была простая - саботировать все остальные разрабатывающиеся или имеющиеся ИИ, а член Совбеза с ядерным оружием показался ему самым удобным инструментом для оказания непосредственного влияния на физический мир.
Ага, тогда понятно. Дело в нерадивых программерах :-) Юдковский использует подобный сценарий
Лидеры в научной разработке ИИ сформируют рынок ИИ, где мощности будут просто продаваться. Чем больше денег заплатите, тем умнее будет ваш бизнес, сервис, государство. Свободные разработки ИИ будут занимать ту же нишу, что сейчас - свободные разработки аналогов коммерческого ПО.

Самый простой пример - система управления городским транспортом. Заплатите одни деньги - будут пробки, загазованность, смертность на дорогах. Заплатите другие - на том же железе и софте пробок, загазованности и смертности не будет. С чего им быть, если с умом?
Я думаю, с ИИ ситуация гораздо интересней и тоньше описанной.
Начинать нужно от печки. Например, что такое деньги? :-) Как формируется стоимость в мире, где не нужно платить за труд? И т.д..
Кажется, опыт с обезьянами, которых научили проституции за деньги, отвечает на ваш вопрос : )
Знаете, обезьян учили вообще всему :-) Там фокус, насколько я помню, что за какие-то символические взносы их кормят. Т.е. деньги это посредник, как и в жизни. А если убрать посредника? :-)
Как посмотреть, возможно, посредники это обезьяна, корм и кормящий : )
И вот этот разговор
Обезьяны в том эксперименте сами изобрели проституцию, а также наемный труд, сбережения капитала, рэкет и всё остальное. Для этого было достаточно только объяснить им концепцию денег.
Таким миром будет править любовь... :)))
Не то слово :-)
Про продажу можностей я в целом согласен, просто вот так тяжело сказать сколько денег уйдет на оплату серверов в 2030 году для генерации отречения от престола (а то засиделась).

Со свободным ПО - ну в мире ЦОДов у него все отлично, доля виндоуса меньше половины и падает емнип. Скоро будут сидеть в гетто инмпортозамещения.

Насчет рассчета режима работы светофоров - если ресь о РФ, то там, насколько я помню чудовищные вещи, на уровне мы тратим 20 миллионов, обещаем грант 1 миллион непосредственным разработчикам а платим 100к. В Европе конечно приличней.
Генерация отречения от престола прямо сейчас вовсю обрабатывается майнерами криптовалюты : )
По другой теме, дело врачей-вредителей:

https://regnum.ru/news/accidents/2302077.html

Если не читать ваших статей о создании легального потребительского рынка - ничего не понятно.
:-) и это начало, к сожалению.
А прививку от интернета нам делали?
А то явно кого-то обделили судя по постоянным крикам из госдумы rf, что в ихнем интернете сплошная порнография. Может там специальный файервол?

Проблемы с ИИ нет. Люди, соприкасаясь, не будут понимать всю глубину собеседника. В общем всё, как обычно.
Делали конечно :-) И продолжают делать. Интернет достаточно сильно зарегулирован, кстати. Т.е. это территория свободы по сравнению с национальными государствами из 80-х годов прошлого века (а дальше они просто прекратили эволюционировать).

Проблемы будут и самые неожиданные, но они, конечно, решаемы. Алармисткие настроения в основном из-за коммерческого противостояния хорошего с лучшим.
Про "они прекратили эволюционировать" это интересно, прям для меня открытие очевидного. Спасибо.


А какие проблемы с ИИ? Где список?
Спасибо вам :-)

Насколько вы предметно интересуетесь темой ИИ? Там просто литература возникла за последние 20 лет.
Интересно, как и что меняется вокруг человека. В этом смысле "ожидаемые в литературе" проблемы с ИИ показали бы целенаправление.
Я спросил же не просто так, а с целью понимания погружения в тему. Там есть слэнг, нюансы и т.д. Есть в конце концов биоэтика. Вплоть до деревьев и насекомых, кстати.
Т.е. это как "расскажите о проблеме человека". Нужно найти точку отсчета.
Вы тут разводите хиханьки-хаханьки, а на определенном уровне это тема очень непростая.

Вот пример: что такое "личность" (identity)? Как ее определить и нужно ли это делать в пост-андроидном мире? Это, как вы понимаете, философская проблема, имеющая самое непосредственное отношение к реальности.
Еще пример: что такое "преступление"? Особенно в таких формах, как финансовое мошенничество.

Есть перечень крупными блоками и потенциальные ответы. Это я имел в виду с самого начала.

Сейчас диалог может увести нас очень далеко, но нужно понимать в какую систему координат мы пересаживаемся.
Биоэтика - это хорошо.
А философская усложнённая сложность да ещё очень далеко - не хорошо.
Заявленная тема - "ИИ на идеологическом поле", поэтому хиханьки-хаханьки. И поэтому просьба хоть какого уже списка, чтобы найти точку отсчёта.

1)определение личности
2)что такое преступление, в частности финансовое мошенничество.
3)опасности ИИ
4)госконтроль
5)шпионаж
6)проблема совести

О этот дивный пост-андроидный мир?
или пред-пост?
или опять пост-римский?
пока непонятно
С вопросов личности и преступления можно начать любой список.
Об этом и речь!
Пока мы ничего из заявленного обещанного "пост-андроидного" не увидели и не услышали.
Останемся без прививок, станем депутатами.
:-) я имел в виду как раз эти вопросы пост-андроидного мира. Они важны и те, кто нужно о них знает. Те, кому не нужно о них даже не догадывается, но его, этого незнайку на Земле, подготовят. И совсем не те непривитые депутаты :-)
Незнайке деваться особо некуда, так что чего уж тут.

zaharov

July 18 2017, 13:06:44 UTC 2 years ago Edited:  July 18 2017, 13:07:25 UTC

Наверное, надо начать с проблемы понимания, что это такое - искусственный интеллект, а точнее даже, что такое естественный интеллект : )
это инструмент
Интеллект -- это инструмент?
Да, а что такого?
Ничего, хотел просто позицию прояснить :-) ОК.
Чей инструмент?
Определение естественного может быть любым. С искусственным проще — это имитация естественного. :)
Да черт с ними, с определениями! Просто хотя бы в общих чертах объяснить бы.
Кто хочет знать? И с какой целью? Вопросы не праздные, от ответов зависит способ объяснения.
В общих чертах,))
Не так давно установили что сознание уведомляется о принятии решения на пару секунд позднее собственно самого принятия решения.
Вот общие черты
Это примитивная казуистика.
25-й год.)
Только начнется все :-)
или кончается. как масть ляжет.))
А что в 25-ом то?
точка схождения всех прогнозов. о чем бы ни была речь
А можете намекнуть хотя бы на один какой-нибудь ключевой прогноз, а то 25 год как то вообще в памяти не зафиксировался, как будто и нет его в интернетах.
Даже на два,)) совершенно друг с другом не связанных:

Начало эпохи роботовладения
Спуск на воду субмарин проектов 09851 и 09852.
Ну, моральные и юридические аспекты роботизации тоже имеют место.

Но по большому счёту пока мало кто себе представляет, что и как.
Имеют, но всё это обговорено по 7 раз еще в конце 90-х. Этот выход на арену цирка про регуляцию.

Все кто надо себе ситуацию представляют неплохо. В UK создали неплохую рецепцию островного права на область андроидов, 40 лет уже почти занимаются моральными аспектами роботизации.
Обговаривать можно сколько угодно, но представление пока самое общее.

Моральные аспекты роботизации впервые были подняты автором слова. :)
Чье представление? Например, какое представление о человеческой морали у среднестатистического жителя планеты Земля. Предполагаю, что ответ на этот вопрос будет непростым :-)

Еще раньше, на самом деле. Платон, кажется, первым писал о неодушевленной морали. Но это все не опрокидывалось в плоскость адаптации технологии сложными обществами.
Чьё бы то ни было. Речь не о том. Это более чем практический вопрос.

И Чапек его поднял именно с практической точки зрения.
Обсуждение практическое, с набором примеров-нюансов.

До Чапека с началом промышленного производства все обсудили, он подытожил скорее.
Мы с Вами одновременно по теме отписались. :) Спасибо за пост! Как всегда, глубоко, тонко и с юмором. Если я правильно понял Вашу позицию, Вы в ИИ ничего плохого не видите и полагаете, что алармистский шум вызван обычной конкурентной борьбой?
Спасибо вам! ИИ неизбежен, да, как часть НТП и ничего с ним не поделать, но вот этот алармизм вынужденно чуть-чуть затормозит нормальное течение процесса. По должности.
Т.е. ничто не ново под луной. :) Спасибо! Надеюсь, продолжите тему.
"То, что на ИИ обратил внимание Его Величество Космос очень симптоматично."
Его Величество Автопилот Электромобиля, уже успевший угробить как минимум нескольких людей.