Рефлексия в программировании

[Uri-NO_terapia]

Сообщение от Аватар

Что такое осознание своего существования? И должен ли осознавать?

Естественно должен. Это залог развития интеллекта. Как бы вы смогли использовать ваши знания, если бы вы не знали, что знаете эти знания? Единственной явно выраженной отличительной чертой человека от всех других живых существ, это осознание самого себя, как носителя определенных знаний. Без этого осознания нет выбора. Нет выбора - нет развития. Нет развития - явный признак отсутствия интеллекта. Инстинкты - программы без рефлексии. Сознание - доказательство рефлексии в человеке. Чем меньше мы используем второе, поддаваясь первому, тем больше мы похожи на животных. Сложно управлять инстинктами одним сознанием, поэтому человек придумал мнимую программу управления инстинктами, и назвал её мораль.

[Uri-NO_terapia]

Сообщение от Utkin

А что такое сознание? Ну и еще вопрос - вот собачке показывают зеркало. Она сначала пугается, навостряет уши, там пытается понять что за зверь. Потом привыкает/понимает, что это она сама. Вопрос - использует ли для этого собака программную рефлексию? Потому вопрос применения данного механизма в ИИ без подтверждений пока очень спорный.
Как часто это требуется в жизни? Ну то есть если есть не накладная лишняя фишка, то пусть будет. Ну допустим как побочный эффект какой-то концепции. А так, нафиг не упало.

Сознание - это знание о том, что я имею какое-либо знание. На счет собаки не уверен, что в итоге она понимает, что это не она. Рефлексия в данном случае не используется, потому как не направлено на неё саму, а на окружающую среду.
В жизни, возможно, это нигде и не требуется. Я просто выразил своё ИМХО, сказав что невозможен искусственный интеллект, который не может осознать самого себя.

[Utkin]

Сознание - это знание о том, что я имею какое-либо знание.

и

Я просто выразил своё ИМХО, сказав что невозможен искусственный интеллект, который не может осознать самого себя.

То есть представить себя как знание? Вот если сказать "я себя осознаю" это значит я имею какое-то знание о себе? Ну тогда собачка имеет о себе знание - она имеет кучу рецепторов в которые попадает информация о своем состоянии (в частности внутреннем, например, хочу жрать, под хвостом зачесалось и т.д.). Аналогично для всех животных и возможно кучи низших, типа простейших и т.д. Тут сложный и очень интересный вопрос, поэтому я и придираюсь к словам. Я хочу понять. Вообще вот эти вещи как сознание, осознание, разум, интеллект имеют очень размытые, непонятные и путанные определения. Тест на интеллект еще не создан.

[Atoris87]

По моему, имеет место подмена и смешение понятий. Одно дело - рефлексия как аномалия синтаксиса в коде языка программирования, другое дело - рефлексия как отражение действительности.

Такой подход и ограничивает создание ИИ по моему - философская безграмотность тех, кто их пытается создавать, приводят к ошибочному принципиально подходу.

Кстати, вопрос а надо ли, чтобы ИИ себя осознавал? Это, имхо, может быть только случайным свойством хорошего ИИ. А на практике вполне достаточно было бы ИИ уровня "Китайской комнаты" Сёрла. Он же, практически, будет справляться с задачей симуляции интеллекта, так и какая разница тогда, осознает он себя или нет?

[Uri-NO_terapia]

Сообщение от Utkin

и
То есть представить себя как знание? Вот если сказать "я себя осознаю" это значит я имею какое-то знание о себе? Ну тогда собачка имеет о себе знание - она имеет кучу рецепторов в которые попадает информация о своем состоянии (в частности внутреннем, например, хочу жрать, под хвостом зачесалось и т.д.). Аналогично для всех животных и возможно кучи низших, типа простейших и т.д. Тут сложный и очень интересный вопрос, поэтому я и придираюсь к словам. Я хочу понять.

Не себя как знание. А себя как носителя знаний. Вот смотрите, вы знаете что 2+2 = 4
Знание без осознания: вы не будете использовать 2+2 = 4 нигде, кроме тех случаев, когда не увидите или вам не покажут 2+2 = ... т.е. пока в реальной жизни вам не встретится ситуация в которой аудиально или визуально возникнет потребность уравнять 2+2, то вы и не вспомните про эти знания. Вам знаком такой прием манипуляции, как "щелк - зажужжало"? Жужжит только после щелчка. Нет щелчка - не жужжит Этот принцип основан на бессознательности. Ничего не напоминает? Это программирование человека, на неосознанный вызов определенного участка памяти. Так управляют животными, и также манипулируют людьми.
Осознанное знание: вы понимаете что имеете знания 2+2=4, и можете это обдумывать в любой момент времени - идя по улице, перед сном, во время еды. Что вы можете с этим сделать? Оперировать. Прибавить еще 2, понять, что 2+2+2 !=4 а значит вам нужно придумать новую цифру, почему бы не 6? И начинаются последствия развития знаний, получения новых знаний, посредством СОзнания.
Попробуйте оперировать следующими выражениями:
1) Знание = знание
2) Сознание = знание над знанием
Какие результаты у вас получились? Из 2 пункта можно написать целое произведение, основываясь на сухой логике.

[Uri-NO_terapia]

Сообщение от Atoris87

По моему, имеет место подмена и смешение понятий. Одно дело - рефлексия как аномалия синтаксиса в коде языка программирования, другое дело - рефлексия как отражение действительности.

Такой подход и ограничивает создание ИИ по моему - философская безграмотность тех, кто их пытается создавать, приводят к ошибочному принципиально подходу.

Кстати, вопрос а надо ли, чтобы ИИ себя осознавал? Это, имхо, может быть только случайным свойством хорошего ИИ. А на практике вполне достаточно было бы ИИ уровня "Китайской комнаты" Сёрла. Он же, практически, будет справляться с задачей симуляции интеллекта, так и какая разница тогда, осознает он себя или нет?

Конечно, все зависит от того, что мы вкладываем в понятие ИИ. Если мы говорим об ИИ как аналоге человеческого разума, то без рефлексии не обойтись. Если нам нужен ИИ как водитель маршрутки, не способный к развитию за пределами области дорожного движения, то нам все равно нужна рефлексия, как средство самоанализа. Если мы говорим об ИИ в котором нет рефлексии, то мы подразумеваем ИИ без способности развития, если такое развитие не заложено программно. Но если оно заложено программно, то я бы не стал называть это искусственным Интеллектом, скорее это Имитация интеллекта.

[Utkin]

Но это просто речь о обратной связи. Зачем все усложнять? Есть объект управления (тело, щупальце и т.д.), есть субъект который управляет объектом (мозг, надглоточный нервный узел, еще что). Объект передает информацию о своем состоянии и состоянии своих рецепторов информацию субъекту, на основании которого субъект снова воздействует на объект. Если это осознание, ну тогда половина радиоэлектронных устройств имеют осознание того что с ними происходит. И никакой разумностью или там ИИ не пахнет.

вы понимаете что имеете знания 2+2=4

Откуда Вам известно, что Вы это понимаете? Вот Вы такой думаете, че там 2 + 2, все понятно, простейшая арифметика, 4 действия все легко и просто. А потом бац 2 / 0. И все приплыли. Вы уверены что Вы понимаете? Может Вы так думаете просто потому что Вам все вокруг говорят что 2 + 2 = 4, Вас учили этому в школе и т.д. Но факта осознания это не подтверждает. Ну и по-Вашей логике животные сами не должны учится. Ведь у них просто знания получаются. Но они способны не только запоминать команды, но и вырабатывать новые, локальные решения. Например, собака может научится открывать дверь, а кошка морозилку - в инете полно роликов с таким добром. Есть у них осознание того, что происходит.

Что вы можете с этим сделать? Оперировать. Прибавить еще 2, понять, что 2+2+2 !=4

Потому что этому Вас тоже программировали. Смогли бы Вы сами дойти до этого, без посторонней помощи? Людям на это потребовалась эволюция в тысячи лет, что бы Вы вот так сейчас могли спокойно об этом говорить. И под воздействием чего получились знания? Это тоже вопрос. Вполне возможно что человек долго наблюдал прежде чем дошел до этого. То есть не факт, что человек сам придумал эту абстракцию. Ему вполне это могли навеять явления природы какие-нибудь.

[Smitt&Wesson]

Но они способны не только запоминать команды, но и вырабатывать новые, локальные решения. Например, собака может научится открывать дверь, а кошка морозилку - в инете полно роликов с таким добром. Есть у них осознание того, что происходит.

Называется - антропо-шовинизм. В основном, этим страдают ВСЕ религии. Мол, кроме нас ничего не существует, только верьте в наши забобоны...
Шовинизмов, есть бессчиленное множество. Почему наш, должен главенствовать?

[Uri-NO_terapia]

Весьма лестно.

Сообщение от Utkin

Но это просто речь о обратной связи. Зачем все усложнять? .

"Я могу управлять" и "Я знаю, что я могу управлять" - это совершенно разные концепции. Если вы не сможете увидеть контраст между ними, написанное ниже, для вас будет также бессмысленно, как и разница между ними. Это сложно понять, потому что вы не можете отделить себя от сознания.
И что, собственно, я усложнил? Я лишь сказал о том, что самообучение\саморазвитие невозможно без самосознания, следовательно искусственный Интеллект, в качестве обязательного атрибута должен иметь самоосознание. Если я скажу, что при расчете мощности двигателя самолета нужно учитывать силу гравитации, это тоже усложнение?

Есть объект управления (тело, щупальце и т.д.), есть субъект который управляет объектом (мозг, надглоточный нервный узел, еще что). Объект передает информацию о своем состоянии и состоянии своих рецепторов информацию субъекту, на основании которого субъект снова воздействует на объект. Если это осознание, ну тогда половина радиоэлектронных устройств имеют осознание того что с ними происходит.

Ни в коем случае это не сознание. Вы описываете безсознательную концепцию.
В сознательной есть еще одно звено, которого не хватает в вашей модели.

Откуда Вам известно, что Вы это понимаете?

Ну хотя бы потому, что так устроены все люди. Достаточный аргумент? Вы можете оперировать своими знаниями об информатике, купаясь в реке? Можете. Не думаю что животные на такое способны. Они привязаны к тому, что их окружает в настоящий момент. Мы решаем эту проблему усилием воли, которое есть ничто иное, как часть сознания.

Вот Вы такой думаете, че там 2 + 2, все понятно, простейшая арифметика, 4 действия все легко и просто. А потом бац 2 / 0. И все приплыли. Вы уверены что Вы понимаете?

Откуда я это узнаю? У меня есть только 2+2=4. Никакого 0 или / для меня не существует. Я должен к этому прийти логичным путем, исходя из того, что имею.

Может Вы так думаете просто потому что Вам все вокруг говорят что 2 + 2 = 4, Вас учили этому в школе и т.д. Но факта осознания это не подтверждает.

В самоосознании нет никаких других. Иначе это уже не рефлексия, а влияние или внушение. В рефлексии есть только я и мои знания. И я единственный человек на этой планете. Рефлексию нужно рассматривать в замкнутой системе одного человека.

Ну и по-Вашей логике животные сами не должны учится. Ведь у них просто знания получаются. Но они способны не только запоминать команды, но и вырабатывать новые, локальные решения. Например, собака может научится открывать дверь, а кошка морозилку - в инете полно роликов с таким добром. Есть у них осознание того, что происходит.

У животных другой протокол реализации возможностей. То, что они видят как все вокруг устроено, лишь подтверждает у них наличие глаз, ушей и моторики, но никак не осознания. Вот если бы собака в один момент решила набрать группу для обучения других собак как открывать входную дверь, вот это было бы осознание. Но почему она этого не делает? Причина одна - она не понимает, что обладает этими знаниями. Но дверь открывать умеет.

Потому что этому Вас тоже программировали.

А вот это правда. Но слава Богу, у меня есть сознание, которое позволило мне самому понять, что давать людям ответы вместо подсказок - губительно для их жизни. Меня этому никто не учил. Это мой собственный вывод. Какое животное на это способно?

Смогли бы Вы сами дойти до этого, без посторонней помощи? Людям на это потребовалась эволюция в тысячи лет, что бы Вы вот так сейчас могли спокойно об этом говорить.

Простите, а вы не могли бы конкретизировать, до чего "до этого"? Вполне возможно, что "до этого" я дошел сегодня утром. Вы чувствуете разницу, между информацией и выводом информации? Информация есть. Вывод информации - это продукт её обработки, который является тоже информацией, но полученной не из вне, а изнутри вас.

Вполне возможно что человек долго наблюдал прежде чем дошел до этого. То есть не факт, что человек сам придумал эту абстракцию. Ему вполне это могли навеять явления природы какие-нибудь

Просто получать информацию - недостаточно. Её получают все - рыбы, птицы животные. Её нужно еще и обработать. А чтобы её обработать, нужно понимать, что она у нас есть.

[Uri-NO_terapia]

Не моё, но первая половина статьи по нашей теме:

«Познание сознания» Угол обзора 360°
Часть 1. Инструмент познания объективного мира, как средство изобретения альтернативного.
«В познании смысла существования человечества, за отправную точку принято считать зарождение всего живого, но я глубоко убежден, что начинать поиск нужно с момента появления сознания в человеке»
Кто-то пытается понять Бога, кто-то измерить цену человеческой жизни, кто-то её смысл. В итоге у кого-то опускаются руки, кто-то приходит к тому, что понять что-то выходящее за рамки привычного нам, можно только через самих себя. Все хаят "объект" который пытаются понять, говоря мол он слишком сложный, но почему-то никому не приходит в голову, что мы просто не умеем пользоваться инструментом для понимания. Взять к примеру планшет, у которого множество функций, дать его человеку, который о нём никогда и не слышал. Что будет? Кто-то начнет использовать его как доску для резки, кто-то додумается включить и повесит на стенку как картину, кто-то откроет для себя калькулятор и т.д. Все эти действия объединяют одно - поиск возможностей для использования, и как только найденная возможность удовлетворяет их требованиям, поиски останавливаются. Все поиски идут наперед, на будущее применение. Но большинство возможностей планшета открывается в поисках прошлого этого предмета. Когда мыслишь назад - кто его изобрёл? Какова история его происхождения? Для чего он был создан? Копнув назад, вы открываете новые горизонты впереди. С сознанием, как инструментом понимания, всё тоже самое. Чтобы что-то понять, нужно понять то, чем мы пытаемся понять что-либо. Мы должны понять, что это, кем создано, как и для чего. И начать поиски, естественно, нужно с самого начала, если ничего не можем понять там, двигаемся чуть ближе от прошлого, в сторону настоящего, не забывая брать с собой все выводы, сделанные нами даже там, где до конца не понятно. Поэтому я начну с создания мира, где конечно же понятного мало. И если мир имеет божественное начало, то понять весь божественный замысел просто нереально, поэтому я иду дальше. Глупо идти в момент создания человека, потому что там нет ничего такого, за что могло зацепиться моё сознание, мир был и до него, и его появление вряд ли сильно изменило вселенную. Но что если попробовать рассматривать не происхождение мира, или появление человека, а появление сознания у человека. Появление того самого инструмента, которым я сейчас пытаюсь понять его само. И чтобы понять его, нужно понять частью чего он является. Поэтому я возвращаюсь к прародителю всего, что известно человеку - вселенной, где всё подчинено своим законам где обратная сторона - есть только в физической форме. И где мир сам по себе, объективен. Где существует только материя. Где нет альтернатив. И если антиматерия и существует, то она отделена очень четкими границами, попасть за пределы которой материальному - практически нереально. Вариативность толкования или объяснения каких-либо жизненных процессов объясняется возможным отсутствием полноты знаний и подразумевает под собой субъективность. Отделяем от человека сознание, убираем человека, а его сознание помещаем, например, в обезьяну. С точки зрения сознания, мир все еще субъективен. Значит человек сам по себе, вполне реальная часть объективного мира. А если полностью убрать сознание, то мир становится объективным. Значит, чтобы увидеть объективный мир, не обязательно стирать с лица земли человечество, достаточно лишить его сознания. Индивидуального сознания. Отсутствие сознания в человеке, лишает его возможности обдумывать свои поступки, действия, строить теории, предположения. Он всё будет делать интуитивно, полностью поддаваясь своим внутренним инстинктам.