Константин Крылов (krylov) wrote,
Константин Крылов
krylov

Categories:

"их тоже следует убивать"

Армия США через 30 лет перейдет на беспилотники, управляемые искусственным интеллектом

В ближайшие тридцать лет армия США начнет использовать не управляемые людьми беспилотники, способные самостоятельно принимать решения о ликвидации объектов. Появление подобных роботов станет возможным благодаря разработке сверхбыстрых компьютеров и нового программного обеспечения, сообщает Reuters.

Дискуссия об этичности использования нового типа роботов разгорелась после того, как 26 января Пентагон объявил о закупке 100 тысяч беспилотников, широко применяющихся в Афганистане.

Сейчас машины управляются операторами удаленно из США, однако в будущем человеческий фактор планируется исключить, заменив его системами искусственного интеллекта, говорится в докладе ВВС США о плане развития беспилотных летательных аппаратов до 2047 года.

«Системы смогут принимать боевые решения и действовать в правовом поле без привлечения человеческого фактора», – говорится в докладе.

Беспилотники, согласно новой схеме работы, смогут самостоятельно функционировать по схеме «осмотр-ориентация-решение-действие», которая ранее была подчинена человеческому фактору. Военные смогут отменять решения, принятые беспилотниками.


Я об этой технической новинке уже читал. В детстве.

Бронированная машина-убийца за несколько дней многому научилась. У нее было одно-единственное назначение: убивать. Сейчас оно было направлено против совершенно определенного вида живых существ, металлических, как и сам Ястреб.
Но только что Ястреб сделал открытие: есть еще и другие разновидности живых существ...
Их тоже следует убивать.


)(
Tags: США, невсерьёз

Deleted comment

Не волнуйтесь, Константин, сами не летаем и другим не даем! ИИ гораздо уязвимей чем человек.
Точно. Ссылочка выше.
один из самых любимых моих писателей.
Ещё был какой-то рассказ в средневековом антураже, где из тела красавицы-аристократки появлялась жукоглазая машина-убийца. Не напомните?
падловить решили?
Я на русском языке читаю. А вы- понятно на аглицком?
Я вообще слышал что Вы -полиглот, не так?
Честно забыл(. Считал, что это Вы полиглот и эрудит))
ну -это к Галковскому.
а я к Шекли. Обнаружил пробелы.
Станислав Лем. Маска.
Точно. Запутал я эрудита(
Мощный рассказ, про влюбленного "терминатора".
обмен разумов
вспоминал Билет на планету Транай.
Куда там всяким кучеренкам-калашниковым-тоффлерам !
Вот эта классика фантастики ,которая и становится жизнью...
"Билет на планету Транай" описывает именно ту систему, которую стоило бы ввести у нас :) Это скорее утопия, чем анти-утопия :)
да ну!
вон прогрессивные страныЗапада Востока уже ввели -полковников и саддамов быстренько "взрывают".
Для женщин в во всём мире ныне главное - не СТАРЕТЬ.
Так и до заморозки(замедления метаболизма)дойдёт.
Преступность -посмотрите на ту же Америку. Зачищают только шум стоит.Без всякой правозащитности.
> Для женщин в во всём мире ныне главное - не СТАРЕТЬ.

Не за счет качества собственной жизни. Заморозка - выпадение из жизни со всеми вытекающими. Мужу проще держать жену подольше в статисе, выводя из него лишь для официальных визитов и семейных праздников. В остальное время проще иметь любовниц. Стасис = потеря контакта с мужем и детьми (потеря семьи), потеря профессии.
стасис! скажите тоже)
ныне женщины (конечно не все) мало(а то и вовсе) не работают и таких уже совсем немало.Занимаются дурью,макияжем , своим здоровьем во всех этих студиях омоложения и красоты и т.п.
Конечно -моложе выглядят тех же индуссок -ровесниц , вкалывающих на полях или советских теток.
Хе-хе: "потеря контакта с мужем и детьми (потеря семьи), потеря профессии."
Контакт-главное слово.Поконтактировала Ксюша с мужем пару раз и снова в солярий . Поцеловала дитя в щечку и бежать к подругам в фитнес или в клуб или на шоп...
Все люди разные. На всякий случай замечу, что в категорию "люди" также входят и женщины. У Вас довольно однобокая оценка. С тем же успехом можно заявлять, что нынешние мужики ничего не делают, только торчат на сайтах знакомств и порниках, постоянно квасят, понтуются без реальных оснований, обожают фотографироваться на фоне чужих крутых тачек.

Это точно такое же распространенное и далекое от реальности суждение о мужчинах как и то, что вы озвучили по поводу современных женщин.
это у меня однобокое???
Да я сама Объективность! Сам -с -усам!
Всё , что перечислил наблюдаю годами у всех своих знакомых,друзей,соседей и даже бывает на ходу( у совсем посторонних ) - в поезде. Мне хватает: я -прирождённый шпион))
Известный рассказ Роджера Желязны пересказали, о круге безсмертных и их выпадении из социума.
Это мечта либерастов. Несбыточная, к счастью.
Военные первые будут против. Получить пулю в результате программного глюка - не самая приятная перспектива. Читал, что в Ираке использовалось что-то вроде танкеток с дистанционным управлением оператора, но когда разработчики предложили ту же танкетку, но управляемую ИИ - военные их послали.
если воевать будут только роботы - некому будет получать пулю
Ну, до полного устранения из процесса людей ещё далеко.

Хотя, представил на минуту, что на территории оккупированной страны нет ни одного американского солдата, а только танкетки с беспилотниками, которые стреляют в кого считают нужным - мрачноватая картинка получается. А дома в США и правда будут довольны: не одного амерканского солдата не пострадало.
Вы смотрите в сторону, где почти ничего не происходит. Посмотрите в другую?

Не важно кто воююет. Важно что, пока война идет за интересы людей, людям есть чего опасаться. В частности из-за всяких ненадежностей. Это же ошибка, превращающаяся минимум в две проблемы. Ты лишаешься степени свободы, на которую так расчитывал. Кто-то приобретает еще одну степень контроля над тобой, чего ты мог не учесть.

А военные люди консервативные, они сильнее прочих повернуты на надежности. Пока им интересней разделимость оружия и стрелка, а не подмена второго первым.
Представьте себе ситуацию, когда война возможна без непосредственного участия человека.
В этом случае само понятие "война" переходит совсем в другую плоскость. По сути это уже становится ничем иным как "вложением средств". Т.е. захотела финансовая верхушка США изменить цены на нефть, посчитали, получилось что выгоднее всего послать туда энное количество "терминаторов" отбомбиться и отстреляться. Потери будут только материальные, что несущественно. Ни тебе инвалидов войны с психозом, ни их родственников с плакатами возле Белого дома - всё прошло "автоматом" или с привлечением операторов боевых машин, для которых такая войнушка что-то вроде в Counter Strike пострелять - весело и платят хорошо. Никакого общественного резонанса, кроме "как мы их лихо зарулили". А объяснить что растрелянные роботами арабы/югославы/китайцы изверги, фашисты и вообще не люди - проще простого.
Военными руководят политики, которые представляют интересы финансовых групп, поэтому стремление к надёжности со стороны военных легко преодолевается.
>без непосредственного участия человека
>становится ничем иным как "вложением средств

У вас противоречие. Без непосредственного участия или все таки вложение средств? Это противоположные явления, заказывающий участвует самым непосредственным образом.

>А объяснить проще простого

Тогда бы и Вьетнам оказался другим, и Нохчийчоь не вышло. Объяснять всегда просто, объяснить уже сложнее. Особенно людям, которые способны создавать примитивный разум или хотя бы поддерживать общество, умеющее таки штуки.

>посчитали, получилось что выгоднее всего послать туда

Туда это куда? =о

>поэтому стремление к надёжности со стороны военных легко преодолевается

Зачем делать ненужную работу? Я уже привык к мысли, что современные конфликты ведутся сугубо экономическими способами, а «военные» это прошлый век. То есть в прямом смысле средство для территорий, где еще не наступил 21й.
>У вас противоречие. Без непосредственного участия или все таки вложение средств? Это противоположные явления, заказывающий участвует самым непосредственным образом.

Нет противоречия. "Непосредственное участие" - это стрельба из окопа по противнику, понятно же.

>Тогда бы и Вьетнам оказался другим, и Нохчийчоь не вышло. Объяснять всегда просто, объяснить уже сложнее. Особенно людям, которые способны создавать примитивный разум или хотя бы поддерживать общество, умеющее таки штуки.

Объяснить становится гораздо проще, когда с войны не приезжают сумасшедшие безногие ветераны. Что непосредственно человека не касается, его не волнует.

>Туда это куда? =о

В любую точку планеты, куда нужно экспортировать "демократию".

>Зачем делать ненужную работу? Я уже привык к мысли, что современные конфликты >ведутся сугубо экономическими способами, а «военные» это прошлый век. То есть в >прямом смысле средство для территорий, где еще не наступил 21й.

Т.е. Ирак, Югославия, Афганистан, Ливия, Египет - это экономические методы? Ну ну.
В Ираке, Югославии, Афганистане, Ливии и Египте уже 21 век? 19-20 с вкраплениями средневековья в лучшем случае.
Сара Коннар недовольнуэ.
Сара коннар и лена боннар.
Интересно, а блок PR-поддержки принятия решений в эти беспилотники встроят? И вообще, мне одному пелевинские "Зенитные кодексы аль-Эфесби" вспомнились?
Только хотела про Пелевина сказать.
Пелевин оказываецо инсайдер. Константин, вы случайно Пелевина в НИТКОМе не встречали?
Да, читал. В свете творчества Пелевина и понимания, что "скайнет" не чужд пиару, можно было бы в пятом фильме про терминатора ввести в качестве персонажа бабу-ягу с "острова ржавого генерала". :)))
Эхм, могу только повторить своё давешнее утверждение. Отличие такой системы от мины или замаскированной ямы с колом на дне - количественное, а не качественное. И "правовое поле" для беспилотника такое же, как для той же ямы, то есть отвечает тот, кто выкопал/запустил.
Да-да помню, я читал.
Мина/яма атаковать не могут.

Deleted comment

7 миллиардов беспилотников, чтобы на каждого жителя Земли хватило. :)
Ничего страшного. Нас спасет капитан Пауэр.
А мне кроме "страж-птиц" еще и скайнет вспомнился... Чтобы выжить в мире, где обитают такие железные твари, человек сам должен обладать мгновенной и точной реакцией, а также дополнительными органами чувств, способных работать в недоступных глазу и уху диапазонах. Получается - или стань киборгом, или умри.
ИМХО, "скайнет" по американски туп, если судить по четвёртому фильму, где люди на вертолётах рассекают, а компьютер отстроил себе небоскрёб в Лос-Анжелесе и начал лепить БЧОР, не наигравшись в мелких терминаторов. :)))

Если всё будет также, то можно не переживать.
Забавно, но вполне можно предположить, что Скайнет действует в интересах человека - как он их понимает. У него нет задачи действительно уничтожить Человечество, он решает проблемы людей тем способом, который кажется ему оптимальным. Он борется с перенаселением. Заставляет Человечество быть в тонусе. Объединяет Человечество наличием внешнего врага. Заставляет человеческие мозги работать, изобретая новые технологии.

Ну а небоскреб и роботы - ему они не нужны, но нужно же просоответствовать ожиданиям людей, создав эдакий романтический антураж!
Вы знаете, ваша теория не лишена смысла. Более того, почти всё объясняет и исправляет огрехи предыдущих серий.

Гы-гы, радикальная борьба со старостью, ожирением, болезнью Альцгеймера и прочими косяками.

Вы знаете, вам надо написать сценарий для пятого терминатора. Честно-честно.
> Вы знаете, вам надо написать сценарий для пятого терминатора. Честно-честно.

В некотором роде я над этим работаю ;) http://habrahabr.ru/blogs/DIY/136262/
Это скорее из "универсального солдата". :)
Офигенно. Покажу знакомым.
Это был не канон. Канон только первые 2 фильма, остальное кал, который смотреть не надо.
Ну разве что фильм 3 из уважения к Шварцу только - но сюжет там липовый.
Батарейки доставили. Чего только первый терминатор на своих батарейках никак не подрывался? :)
будет камлать об угрозе американского империализма на митинге.
Хорошая компашка собралась: Кургиняшка, Максим Шевченка, Холмогоров и прочая телевизионная мразь, нерусь и вырусь, которая играет роль "интеллигенции" в нынешнем чекистском режиме. Все они этим режимом содержатся и кормятся с его рук. Сытненько так кормятся. До отвала.

А в это время роботы бороздят пространства... Ёпрст!!! Жуть, что делается. А через 30 лет чегой-та будет? Просто жуть!
Помню этот рассказ. Началось с защиты граждан от убийц.
Ура, ООО "Скайнет" зарегестрирован, ждем первых успехов. Что говорит губернатор Калифорнии?
А он разве все еще губернатор? Просрал все полимеры, какие только мог. Нет уж, если ты актер, то играй терминаторов, а не губернаторов!
Если воевать будут только беспилотники и роботы на земле, единственным методом сопротивления такой агрессии будет война малыми силами на территории противника, т.е. терроризм.
Через N десятков лет технологии психического воздействия тоже продвинутся, и тогда "арабы" будут воевать с "американцами", готовя "зомби" из американских же граждан.
Выше градус метафоричности текста! «Арабы» «будут» «воевать» с «американцами», «готовя» «зомби» из «американских» же «граждан»!
Или американцы будут покупать негров с арабами в качестве сырья для киборгов.
Вы забыли закавычить союзы. :)
Это общая тенденция, потому и кавычу. Так же будут демократизировать и других, и не только американцы.
Опоздал, почтенный. Пиндосы УЖЕ зомби. И безо всяких кавычек!


Официально - для испытания костюмов химзащиты.
никому не интересно!
)))
химзащита для лузеров
Шекли сильно преувеличил способности самообучающейся программы и слегка - тупизну разработчиков.

Deleted comment

Я имею в виду, что птицы все-таки не размножались, то есть не эволюционировали физически. Кто мешал встроить в ястребов на уровне железа запрет на уничтожение органических существ?
в спешке делали :)
Как обычно...
Добавление. Особенно после того, чем закончилось введение страж-птиц.

Deleted comment

Все верно, аж до слез.
А что до раптора, так говорят, палубный F35 гаком до тросов финишера не достает. И это при наличии стандарта на посадочные устройства и времени для разработки.

Deleted comment

Воспринимаю как иронию.
Это значительный недостаток, и несовместимость с оборудованием тут ни причем. Гак у F35 крепится слишком близко к основным стойкам, из-за чего при нормальном посадочном угле атаки не достает до палубы. В хвост вынести крепление нельзя - прочность не позволяет, удлинить гак тоже нельзя, будет большой опрокидывающий момент при зацепе (про удлинение мнение мое, но сложности там есть).
По хорошему, для использования в палубном варианте нужно делать новый самолет.
законы робототехники ведь еще никто не отменял
мне кажется, это прекрасно

Но ИИ будет Богом, потому что человеческое сознание, это лишь симулякр созданный телом.
Вы о каких законах? Законы, придуманные Азимовым, никто и не реализовывал. Позитронного мозга, в основу которого легли эти законы, и отмена которых в результате невозможна - не изобрели. А если изобретут - наверняка будут активно разрабатывать версии без "моральных ограничителей".
наеврно можно встроить систему проверки на чернокожесть

Deleted comment

вы боитесь? меня всегда привлекал киберпанк
Гибсон мой любимый

Deleted comment

машина уничтожения, конечно, не обязательно самоцель, интересней искусственный интеллект

вы знаете, что сознание просто моделируемый нашим телом пилот, для лучшего интерфейса с окружающим? сознание, это разница между тем, что мы есть на самом деле и чем себе кажемся
Вот и раскрыта тайна сознания! Хотелось бы еще обоснование его необходимости, или отсутствия таковой.
выживание, вот необходимость
интересней другое, если искусственный интеллект будет создан для выполнения миссии программиста, то он будет более развит, чем сам программист
возможно, что без функции выживания искусственное сознание вообще невозможно
Вот и вопрос, необходимо ли сознание для выживания? То, что у многих есть сознание, не аргумент.
На эту тему написана книга: Питер Уоттс, "Ложная слепота". Для скачивания где-то доступна.
Спасибо, я читал, отличная книга. Но даже Фрейд и Юнг, и Сартр пишут о том что сознания не существует. Только Ф и Ю отводят роль поводыря подсознанию, а Сартр - телу. Сознания не существует у всех)))

Deleted comment

каков процент ложных срабатываний на полях второй мировой?

Deleted comment

Ошибаться, конечно , не надо, но ошибки возможны. А ИИ просто интересно создать, как создать клона, искусственную жизнь, вечную жизнь,или мы не Боги?
А каков удовлетворительный процент friendly fire по причине ложной идентификации целей? Когда стреляют люди.

Deleted comment

Не легче - это точно. Говорят, потери от огня своих один из самых секретных показателей военной статистики.
Вроде бы 10%.
Погуглите "Белое Безмолвие".
Если бы вы только знали, кто я такой)
Когда начнется Сингулярность, скажи?!
Я так понимаю, это у вас: Господи, скажи, сколько мне всего осталось?)))

Если верить А.Д. Панову, то уже очень скоро, причем особенно приближение к точке С будет поразительно, каждый день будет нести что-то ужасно важное. Хорошая статья у него.
Кризис планетарного цикла и тд.
Неправильно понимаешь, Всевышний!

Урл статьи можно?
tinyurl.com
У меня в FF аддон есть, который короткий линк по щелчку мыши делает.

За на водку спасибо, будем читать.
Кстати, я интересующие меня веб-страницы сохраняю в базе писем в TB - просто копирую в новое письмо.
большое спасибо, изучу
я не очень часто даю ссылки)
А вы тоже поклонник Гибсона?
От Хайнлайна до Тедзуки.
Ложная Слепота, Питера Уотсса читали?
Камрад Вейдер навел.
Только язык слегка не понравился.
да, язык суконный, но может это перевод
кроме того Уоттс, он больше популяризатор знаний, чем писатель
> Я об этой технической новинке уже читал. В детстве.

А я - смотрел. В детстве. "Терминатор" кино называлось.
Смахивает на попытку попила бюджета.
Почему? В России - однозначно кончилось бы традиционным распилом. А в Штатах - будет создан вполне работающий продукт. Машины-то без водителя у них уже ездят по дорогам: http://www.google.com/url?q=http://www.rbcdaily.ru/2011/05/13/cnews/562949980236028&sa=U&ei=PT4pT5GCCIOc-waJ7L2iBQ&ved=0CAYQFjAB&client=internal-uds-cse&usg=AFQjCNH7TgKYayg8zSEctRqxYIcZtlJ_xA
В Штатах, кстати, F22 Raptor - вполне себе распил, может, и не слишком традиционный. Что-то все-таки летает.
Машины без водителей ездят по дорогам, которые специально построены и оптимизированы для езды; в частности, на них есть разметка. А военные действия ведутся в боевых условиях.

Вот интересно, как поведёт себя машина без водителя, если нарвётся на "подставу"? А если ей солнечным зайчиком в камеру засветить?
Тепеь Амерам будет удобно объяснять гибель мирных жителей во время авианалёта дронов, дескать ошибка ПО, приносим свои извинения.
Если не ошибаюсь, в лицензионном соглашении тех же виндов есть пункт, что компания готова возмещать ущербЮ причиненный сбоями системы - в объеме не более $5 (пяти долларов США). Полагаю, робот-убийца должен зачитывать лицензионное соглашение, в котором должны быть следующие строки "Если Вы вошли в физический контакт с нашим изделием, это автоматически означает, что Вы принимаете условия данного Лицензионного Соглашения". Ну и попадание пули в тело - это совершенно очевидный физический контакт.

Черт, надо бы это запатентовать - и продавать идею американским воякам!
Ага, когда самолёты в очередной раз воткнутся в небоскрёб, будут бубнить про ошибки ПО вызванные террористами.
Лем и Пелевин вприсядку пляшут.
>Системы смогут принимать боевые решения и действовать в правовом поле

Узнав о существовании РФ, ai получит столько парадоксальной пищи для размышлений, что это обязательно приведет его к качественным изменениям в худшую или лучшую из сторон.
Из разных сборок анекдотов:
На полигоне машина должна была в автоматическом режиме найти командный центр вероятного противника и уничтожить его ракетно-бомбовым ударом без участия человека. Поставили палатку, пару генераторов, несколько старых компьютеров, радиостанцию - всё работает, изображая штаб противника. Hawk заводят по телеметрии в зону учений, отдают бортовым системам управление и наблюдают. Через 20 минут машинка находит цель и отсылает на землю лог:
- Цель обнаружил.
- Выхожу на траекторию атаки.
- Вышел на траекторию.
- Готовлюсь к атаке.
Тут наблюдательная группа, которая тоже находится на полигоне, понимает: что-то идет не так. Координаты Global Hawk и «штаба противника» не совпадают! Нawk же продолжает бодро рапортовать:
- На цель вышел.
- Атаку произвёл.
Наблюдатели, сидевшие в быстровозводимом здании-ангаре, едва успели услышать свист реактивного двигателя, как потолок проломила 200-килограммовая болванка, призванная изображать авиационную бомбу. Оказывается, умная бортовая электроника беспилотника обнаружила и цель, и наблюдателей, после чего решила, что несколько десятков мощнейших компьютеров и спутниковый передатчик - более лакомая цель, чем комплект антиквариата в палатке-мишени.
Весь персонал группы наблюдения долго еще потом молился Богу, что «Ястреба» вооружили простой болванкой.