Искусственного интеллекта пост

Спасибо, почитаю. Может быть, даже что-то пойму (прибавил он без особой надежды).

:) Надеюсь, что не выше моего уровня.

Спасибо.

Осталось непонятным, зачем "синапсу" стремиться к получению "большего веса" вместо того, чтобы послать всё подальше.

То есть, базовая проблема мотивации не разрешена.

"Иначе его уничтожат!" Естественно. Но вопрос остаётся тем же: почему ему не безразлично, что его уничтожат?

И да: у вас как раз получается, что интеллект это инструмент - хотя вы и утверждаете противоположное.

Мне не нужен механизм. Если мне будет нужно, чтобы ИИ реагировал на пожар вызовом пожарных, я поставлю пожарную сигнализацию. Которая будет работать - но которую я позволю себе не считать интеллектом. Это будет ваш предельно простой "синапс".

Интеллект начнётся там, где пожар будет создавать ему некое базовое неудобство (состояние страха, боли и т. д.), и уже он сам будет, мотивированный данным неудобством, стремиться избавиться от него.

Зачем? Затем, что в этом случае ИИ сможет реагировать на несуществующую, но потенциально возможную опасность. На что сигнализация не способна в принципе.

Интеллект это тот, кто считает, что сигнализация необходима - и устанавливает её. А тот, кто просто воет, когда ему наступили на ногу - эмулятор одной из функций.

Ээээ... А как объяснить компу, что "хорошо" и "плохо" это нечто, имеющее значение лично для него, а не амбивалентные "ноль" и "единица"?

От рождения каждый компьютер - образцовый пофигист. Так что тема должна быть.

the_third_way в комментарии выше правильно сформулировал проблему, кмк.

Не обязательно, и, может быть, оно и к лучшему, если нет. Но всё же если нечто не способно хотеть, то останется лишь инструментом. Не так, чтобы я очень об этом жалел; в качестве собеседников мне и людей хватает в избытке. Но как научная задача... Возможно, мы больше узнали бы о самих себе.

Спасибо... И теперь выясняется, что я ничего не понимаю в муравьях. Их феромонный командатор - он вызывает ли ощущение удовольствия? Что это такое вообще? Почему они слушаются запаха? Что заставляет их поднять зад и пойти?

И, главное: "удовольствие" - это что?

Хм. :)

Не уверен, что именно у муравьёв всё так просто, но допустим.

Если у нас есть просто переключатель: "Выполнить инструкцию 221", то интеллекта в такой системе немного, как мне кажется. Это обычный компьютер, выполняющий программу, а вся "химия" - интерфейс. Если в современном ИИ всё работает так, то предмета для разговора пока нет.

Может быть. Хотя это мне чем-то напоминает моделирование "советского человека". "А давайте зададим ему правильные потребности". Как-то не срослось.

Потребность в пище для мозга это некое состояние, требующее разрешения. Неустойчивые ступени требуют разрешения в устойчивые - говоря языком сольфеджио (кстати, принцип очень "в тему"). Вот требуют, и всё. Почему требуют - непонятно.

Почему мозгу не пофиг, что в желудке нет еды? Есть распространённое мнение, что в случае разрешения неустойчивого состояния мозг получает награду (в её роли выступают четыре гормона). И получается, что мозг не ищет ни добра, на справедливости, ни божественной истины. Мозг ищет только удовольствия.

Пока всё в порядке. Но следующий вопрос: "А что такое удовольствие?" уже не имеет известного мне ответа.

Потребность в чём бы то ни было, хоть в удовольствии - она откуда? Почему сгусток клеток вдруг решает, что ему что-то надо? Да ещё и "больше всех надо", что нередко случается?

Это всё снова про общество и про то, как заставить человека хотеть поменьше, а работать побольше. "Давайте управлять потребностями". Можно этим развлекаться, конечно. Советские потерпели неудачу - так маркетологи пытаются (в менее амбициозном объёме и с немного иными целями). Но меня интересует вообще другое. А именно, механизм возникновения потребностей вообще. Почему сгусток протоплазмы вдруг начинает к чему-то стремиться, вместо того, чтобы просто лежать в колбе?

Посмотрю, спасибо.

"Биологически заданная потребность в образовании связей". Прекрасно. А устроена-то она как? Что моделировать-то?

У любой. У морской звезды, например.

То есть, ответ вам не нужен.

Неудивительно, что вы не можете мне его сообщить.

Если стоит задача программировать ради программирования, то да - можно взять любую теорию и начать по ней работать. Можно потратить много времени и денег.

Не возражаю. Но тогда сам по себе он будет лишь системой обработки данных. Интеллекта в человеческом смысле там не появится.

Да. Неизвестна сущность удовольствия - что именно моделировать?

В конечном итоге, это вопрос: "А мы-то кто такие?"

"...или эти обезьяны отключат мне 220..."

Хм. :)

А почему ему не должно быть безразлично, что ему отключат 220?

Вся проблема именно в том, что интеллекту должно быть "не пофиг" - хоть что-нибудь. Как это сделать? Утюгу пофиг, что его отключают от розетки. Обычному компьютеру пофиг. Что должно быть в необычном компьютере?

Вот... Конструкцию "регистра удовольствия" я и пытаюсь представить себе.

ПК безразлично, какие именно значения принимают его регистры. Он никак не сопротивляется изменениям значений.

Вы совсем не понимаете проблемы, похоже.

Почему, грубо говоря, "железка" должна предпочитать бытие небытию? "Потому, что бытие должно приносить удовольствие". А что такое "удовольствие" для железки?

А для человека? Чем он отличается от "железки"?

Вопрос сугубо конкретный.

Допустим, мы запихнули ИИ в системный блок стандарта АТ с блоком питания, работающим от 220 В. Диапазон работоспособности блока, допустим, 200-250 В. Блок имеет встроенный вольтметр, передающий информацию в комп. То есть, ИИ знает, чем его "кормят".

Далее, допустим, ПЗУ в компе нет. При отключении питания пропадает всё. О средствах перезагрузки ИИ ничего не известно.

ИИ обладает способностью видеть всё, что происходит вокруг, и реагировать - звуковыми сигналами, например.

Далее. Уборщица шныркает шваброй по полу, всё ближе подходя к розетке. Для ИИ эта ситуация смертельно опасна. ИИ достаточно умён, чтобы просчитать последствия удара шваброй по вилке провода.

Вопрос: отреагирует ли ИИ на ситуацию?

Обычный комп на его месте просто примет данные к сведению - и сдохнет. Чем отличается ИИ?

Если мы его запрограммируем реагировать на подобные ситуации, то ИИ мы не проявим. Реагировать на приближение к заданной точке может и датчик движения. ИИ не охранная сигнализация - я надеюсь, вы понимаете.

ИИ должен хотеть продолжать существовать. Так вот, как сделать ему такую "хотелку"?
___________

Сравним с человеком. Обычно человек отреагирует на угрожающую ситуацию вмешательством. Но человек в состоянии глубокой клинической депрессии - нет. То есть, депрессия ломает в человеке некий механизм. Который, следовательно, существует.

Именно этот механизм применительно к ИИ я и ищу.

"Это не нуждается в объяснении. Автоматика".

Хорошо; автоматика. Значит, существует схемка?

То есть, "сигнализация". Поступил сигнал - следует реакция.

Окей. Но вопрос был про интеллект, а не про устройства компании "Болид".

Интеллект это тот, кто предвидит возможность возникновения ситуации, оценивает такую возможность как нежелательную (потому, что занял определённую сторону в конфликте - иначе не получится), и принял те или иные меры. Интеллект устанавливает сигнализацию. А тот, кто воет - не интеллект, извините.

Мыслительные - сколько угодно.

Тема разговора - "мотивационные схемы".

Вот "зловещий покой" это и есть неплохое описание состояния обычного компа.

Вопрос в том, как вывести его из такого состояния?

У ПК "зловещий покой" предвещает безразличие к взрыву. С тем же результатом.

Раз Пенроуз сказал: "Невозможно", значит невозможно. Если вы удовлетворены рассужением Пенроуза, ждать решения от вас не приходится.

В общем, вы не знаете ответа.

Вопрос в том, как создать машинный интеллект, который будет вовлечён в события, а не станет следить за своим отключением как сторонний наблюдатель - или как учёный, если хотите?

В случае с человеком всё решается через удовольствие/неудовольствие. Человек обжёг палец; в мозг пришла информация об этом. Мозг даёт мышцам команду отдёрнуть руку. Почему он это делает? Почему бы ему просто не пронаблюдать за происходящим? Обычный компьютер так и сделает. У него будет гореть блок питания, а он станет беспристрастно фиксировать показатели.

Потому, что человек испытывает боль, а компьютер нет. Изменение нулей на единицы в ОЗУ болью не является. Так вот, что такое "боль"? И что такое "удовольствие", соответственно? Как их формализовать - и запрограммировать?

Да. :) Субъект выживания - ген; как нам объяснил товарищ Докинз. И этот субъект бессознателен - интеллекта мы в нём не отыщем.

И это даёт теоретический шанс на успех с ИИ. Если человек - машина для выживания генов, обладающая мотивацией, то почему нельзя создать машину для развлечения человека, обладающую тем же самым? Отношения в системе устроены, в сущности, так же.

Вот такой я эгоист - на удовольствиях зацикленный, да. :)

Но ничего не поделаешь. Без удовольствия нет мотивации. Без мотивации нет действия. Без действия субъект просто чурбан мыслящий.