В продолжение предыдущей записи.
Нейронные сети, как инструмент, являются частью концепции ИИ. Как себя чувствует Искусственный Интеллект (далее – ИИ) на идеологическом поле?
Это, скажу я вам, ТЕМА.
О предмете за последние 10 лет не говорил только ленивый. Вариативность шириной с солнечную систему: от воспоминаний об Айзеке Азимове до детальных технических выкладок.
Охватить неохватное в формате блога даже серией публицистических очерков я не возьмусь, попробую отметить одну сторону диалога об ИИ, о природе которой не принято говорить, но она становится все более акцентированной.
Речь идет о так называемой опасности ИИ.
С общественно-политических позиций первым проблему еще в 2008 году попробовал сформулировать Элизиер Юдковский в своей работе, а точнее своеобразном манифесте: «Artificial Intelligence as a Positive and Negative Factor in Global Risk».
Я рекомендую ознакомиться с этой работой всем интересующимся тематикой ИИ. Собственно, по мотивом совместной работы с г-ном Юдковским модный футуролог Ник Бостром подготовил мегахит 2014 года: «Superintelligence: Paths, Dangers, Strategies», в котором краткий перечень тезисов Юдковского разжевывается с картографической детальностью.
В этом же году на свет откуда ни возьмись появился «The Future of Life Intutite».
10 гениев под одной крышей, как их обычно представляют.
Крайне презентабельный попечительский совет, включая все лица доски почета в категории Научно-технического прогресса планеты Земля.
Миссия института: предупредить глобальную катастрофу и истребление людей роботами со сверхинтеллектом.
Что делает организация на ежедневной основе?
Две вещи:
1) исследование ИИ, т. е. косвенным образом приближает «судный день»;
2) перепись всех формальных и неформальных инициатив по данной тематике в мире.
Как это в итоге поможет побороть демона, который будет умнее даже объединенных групп людей совершенно не понятно.
Один из членов попечительского совета The Future of Life Institute, Илон Маск соизволил высказать свои мысли прессе во вчерашнем интервью. Это почему-то вызвало некоторый ажиотаж и удивление, хотя он на протяжении уже минимум трех лет подписывает типовые открытые письма.
«Пока люди не видят роботов, убивающих людей на улицах, они не знают, как реагировать, потому что такой сценарий кажется нереалистичным». Нужно срочно включить госрегулирование законодательства для андроидов, иначе «будет уже слишком поздно».
То, что на ИИ обратил внимание Его Величество Космос очень симптоматично.
Невозможно молчать.
Представляете, «роботы слишком опасны»?!
Вообще это такой голливудский императив: технологии вредят, особенно тому, кто не способен не обжечься чайником, из раза в раз забивает вместо гвоздей пальцы и не умеет отличать градиент от процента.
Добавьте к этому драматизм и попытку выдавить эмоции из всего, что плохо лежит и вы получите общий уровень понимания реальности «просвещенного» обывателя.
На самом деле, все несколько проще: публичные визионеры в англосаксонской системе координат нужны в том числе для вброса спорных социальных теорий и последующего сбора реакций на них со стороны возбужденной общественности.
В это очень быстро вовлекаются крупные игроки-корпорации, на свет рождаются странные «общечеловеческие институции», целями которых по большому счету является:
- максимальное подминание бесхозных тем под госконтроль и понятно о каких государствах речь;
- вульгарный промышленный шпионаж.
Откуда все эти разговоры об опасности ИИ? Основная опасность -- конкуренция. Зачем же ее без повода растить?
Робототехника, как известно, распадается на целый ворох научно-инженерных дисциплин.
В некоторых соревноваться очень дорого, а в некоторых совсем нет.
ИИ в этом перечне является одним из наименее капиталоемких, поэтому очень важно с самых ранних стадий исследований купировать возможность верификации сторонними игроками поддельных видео-свидетельств или хакерских атак.
Кстати, по хронологии появления «проблем совести» в технологии очень просто определить отсечки развития любой инженерной области.
Получается, что в 2007-2008 году общий контур ИИ с четкой «дорожной картой» на 20 лет вперед был готов. Частью карты была разведка боем.
Думаю, существовала уже бета-сборка всего, что предъявят широкой общественности в качестве сенсации в 2020-2025 гг..
В противном случае не было бы дезавуировано такого количество конкретных деталей в самом начале.
Видно, что народ идет не по граблям, а аккуратно тестирует возможности, не наступая на них, а наблюдая за толпой бегущих по сельхозинструментам со стороны и записывая все в блокнотик.
Коварная сторона любой спекулятивной области человеческой деятельности заключается в том, что естественный интеллект все еще, к сожалению, вносит значительную поправку в результаты деятельности искусственного.
Скорее бы уже сингулярность :-(
https://telegram.me/mikaprok
July 17 2017, 20:46:23 UTC 2 years ago