"Скайнет" не за горами.

[MihalNik]

Люди не научились еще понимать как искусственная нейронная сеть приходит к тому или иному выводу, только в очень простых случаях, но например если НС использовалась для доказательства теоремы, то понять как она это сделал, т.е. последовательность умозаключений не получится, а вы хотите контролировать эти самые умозаключения if'ами.

С чего Вы это взяли? Опять Вы все смешиваете. Исследования человеческого мозга (т.е. физических данных, конкретных структур, их развития) технически и организационно (законодательно) ограничены. Работа искусственных сетей прекрасно известна, можно раскрутить любую с точностью до этих самых if'ов.

Теория управления, сейчас повсеместно используются адаптивные системы управления.

Опять забиваете на кучу технических требований к соответствующим устройствам и алгоритмам их работы. Можно подумать кто-то допустит чтобы они выходили за рамки выполнения своих обязанностей.
P.S. Любому начальнику нужно чтобы другие люди "тупо выполняли свою работу". И Ваших роботов никто не разрешит, пока Вы не докажите, что они достаточно тупые Оставьте уже киберпанк в покое.

[Utkin]

Ваше право! Но как на счет роботов строителей?

А никак - их сотрудничество предполагает алгоритм, а не интеллект. Пример - ДНС сервера - о каком сотрудничестве здесь может идети речь? Они изначально созданы с определенной целью - помогать другим . Никакого интеллекта и никакого обучения. Еще пример - конвеер, каждый агрегат работает независимо от остальных и не нуждается в обучении. И все отлично работает без всяких саморганизаций .

[Kostia]

Опять забиваете на кучу технических требований к соответствующим устройствам и алгоритмам их работы. Можно подумать кто-то допустит чтобы они выходили за рамки выполнения своих обязанностей.

Просто некоторые усомнились в качестве алгоритмов обучения. Выйти за рамки дозволенного, а точнее начать делать то что изначально не заложено невозможно. Т.е. изначально закладываются операции которые может совершить программа находясь в некотором состоянии, т.е. походить пешкой вперед если перед ней стоит другая фигура не получится, т.к. на множестве допустимых действий в таком состоянии не действия походить пешкой вперед или оно есть с вероятность 0 для данного состояния. И более того, выйти за пределы среды в которой работает эта программа в принципе невозможно, т.е. программа играющая в шахматы не будет пытаться захватить наш мир, потому как мир с ее стороны это только шахматная доска.

С чего Вы это взяли? Опять Вы все смешиваете. Исследования человеческого мозга (т.е. физических данных, конкретных структур, их развития) технически и организационно (законодательно) ограничены. Работа искусственных сетей прекрасно известна, можно раскрутить любую с точностью до этих самых if'ов.

Раскрутить то можно, но толку от этого 0, это и ежу понятно что можно проследить каждую итерацию работы сети, но как это проецировать на человеческий язык, как это упросить до понятной для человека формы, как понять что означает то или иное преобразование? Т.е. обычная многослойная сеть(ака многослойный персептрон) это просто функция, большая функций, которую требуется упростить, существуют методы, которые отбрасывают маловажные части этой функции(уже обученной сети), но конечный результат так и остается громадной функцией.
Функция двухслойного персептрона с m1 нейронов в первом слое и одним нейроном во втором:

И естественно если управление работа происходит на наборе элементарных действий направленных на совершение какого либо высокоурожайного действия, т.е. управляя моторчиками механической руки заставляем ее перекладывать грузы, как вы планируете запретить роботу что-то делать с помощью if?

Да естественно часто делают несколько "думающих" элементов, когда один, который находится на вершине задает высокоурожайное действие, а те что ниже раскладывают его на элементарные. Но если хочется создать действительно сильный ИИ с свободой выбора, то на самом высоком уровне его не нужно ограничивать, набором состояние-действия, иначе это так и останется машина, хоть и способная к обучению но за рамки дозволенного она никогда не вылезет.

[MihalNik]

на самом высоком уровне его не нужно ограничивать набором состояние-действия

Это только Вы так считаете. Другие могут посчитать это недопустимым.
Почему бы сразу не испытать на ракетах с боеголовками? Подключить их к интернету, пусть смотрят новости и если где-то неспокойно - мир будет установлен, если ОНО решит, что таким образом кол-во человеческих жертв будет даже меньше
Преувеличиваю, конечно, но Ваше утверждение сводится примерно к такому.

иначе это так и останется машина, хоть и способная к обучению но за рамки дозволенного она никогда не вылезет.

Иное и не предполагается (и м.б. наказуемо)

как это проецировать на человеческий язык, как это упросить до понятной для человека формы, как понять что означает то или иное преобразование?

Это как бы намекает, что делается попытка сомнительной работы - сначала решить осмысленную задачу путем неосмысленных преобразований, потом попытка их все же осмыслить На лицо непонимание задачи и алгоритмов, значит нельзя доверять что-либо серьезное. Поэтому играют в шахматы

[Utkin]

Просто некоторые усомнились в качестве алгоритмов обучения.

Некоторые усомнились в эффективности использования подобных алгоритмов. Такое ощущение, что вы как-то неадекватно воспринимаете некоторые посты - я уже неоднократно был вынужден Вас поправлять...

[Kostia]

А никак - их сотрудничество предполагает алгоритм, а не интеллект. Пример - ДНС сервера - о каком сотрудничестве здесь может идети речь? Они изначально созданы с определенной целью - помогать другим . Никакого интеллекта и никакого обучения. Еще пример - конвеер, каждый агрегат работает независимо от остальных и не нуждается в обучении. И все отлично работает без всяких саморганизаций .

Порекомендую книженцию: "Модели и алгоритмы коллективного управления в группах роботов" Каляев И.А., Гайдук А.Р., Капустин С.Г. 2009 г.

Это как бы намекает, что делается попытка сомнительной работы - сначала решить осмысленную задачу путем неосмысленных преобразований, потом попытка их все же осмыслить На лицо непонимание задачи и алгоритмов, значит нельзя доверять что-либо серьезное. Поэтому играют в шахматы

Я уже сказал, что адаптивные системы управления используются уже давно. Например в тех же PID регуляторах для динамической корректировки коэффициентов.
И если проецировать на человека, то как много осознает младенец?
В детсаде пока раз 100 эти счетные палочки не на перекладывается и не получит вознаграждение(похвалу) за правильно сложенные палочки, считать так и не научится.
Вдобавок Пенроуз в одной из своих работ приводил пример теоремы, которую так и не доказали в строгой форме, но она понятна на интуитивном уровне и в ее адекватности все уверены и используют ее.

Из реальных применений в робототехнике алгоритмов обучения с подкреплением можно посмотреть [Сonnell & Mahadevan 1993]
Также обучение с подкреплением используется в системах управления лифтом.
В задачах планирования тоже используется обучение с подкреплением. Например в NASA решалась проблема загрузки космического корабля, в которой требуется составить план задач, необходимых для монтажа и тестирования единиц полезной нагрузки в грузовом отсеке корабля.
Программа играющая в нарды TD-Gammon 1992

Теперь про управление в группах роботов. Очевидно есть ресурс, роботы, например роботы уборщицы, очевидно что если каждый из них будет работать сам по себе, то одни и те же участки будут убираться несколько раз подряд, поэтому задача об распределении целей должна решаться всем "коллективом". Существуют алгоритмы коллективного улучшения плана. При этом этот алгоритм один и тот же для меняющегося количества роботов.
На тех же складах, стоит задача об коллективном управлении группой складских роботов.
Или управление группой роботов-лифтов.

На счет военной техники и ракет молчу, тут уже давно используют адаптивные алгоритмы. Иногда ракеты поворачивают и летят обратно, а все из-за того что не до конца протестировали систему или не учли некоторых факторов в моделируемой среде.

[MihalNik]

Очевидно есть ресурс, роботы, например роботы уборщицы, очевидно что если каждый из них будет работать сам по себе, то одни и те же участки будут убираться несколько раз подряд, поэтому задача об распределении целей должна решаться всем "коллективом"

Та же задача гораздо эффективнее будет решена внешним диспетчером-системой.
Самоорганизация всегда неэффективна, если только не люди организуются за свой счет (это может быть выгодно кому-то извне).
Те адаптивные системы управления, про которые Вы говорите, никакого отношения к человеческому сознанию не имеют. То что алгоритмы настраиваются (а механические детали тоже специально притираются друг к другу) ровным счетом ничего не значит.

[Utkin]

Порекомендую книженцию: "Модели и алгоритмы коллективного управления в группах роботов" Каляев И.А., Гайдук А.Р., Капустин С.Г. 2009 г.

Зачем она мне? Я примел пример коллективной работы систем не имеющих интеллекта. Это работает и не требует нейронных сетей и прочей фигни.

Я уже сказал, что адаптивные системы управления используются уже давно.

Тем более минус ввиду малой распрастранненности

Например в NASA решалась проблема загрузки космического корабля, в которой требуется составить план задач, необходимых для монтажа и тестирования единиц полезной нагрузки в грузовом отсеке корабля.

Например NASA избретала ручку для того чтобы писать в космосе, наши писали карандашами. Nasa вбухала кучу бабок, а результат одинаков. Так что НАСА совсем не авторитет в решении подобных вопросов .

Программа играющая в нарды TD-Gammon 1992

Мне интересны реально используемые проекты. ОК, объяснюпо другому - каково соотношение использование программ играющих в нарды к общему использованию программ?

Иногда ракеты поворачивают и летят обратно, а все из-за того что не до конца протестировали систему или не учли некоторых факторов в моделируемой среде.

Чудненько, Вы предлагаете использовать те же методики . Пусть лифт ради сомнительного поощрения зажмет голову пассажиру

[Kostia]

Те адаптивные системы управления, про которые Вы говорите, никакого отношения к человеческому сознанию не имеют.

Ну как бы =)

Та же задача гораздо эффективнее будет решена внешним диспетчером-системой.

Даже если эти вычисления будут проходить на сервере(т.е. централизованный подход), это проблема.
Задачу управления группой роботов можно проецировать на многопроцессорную систему, где все процессоры выполняют действия для достижения одной цели.
Мало того существует задача управления неоднородной группой роботов, т.е. роботов выполняющих разные функции имеющие разные габариты но объединенных общей целевой задачей.
Тем более сейчас идет тенденция ослабевания централизованного управления к распределенному. В общем во введении "Модели и алгоритмы коллективного управления в группах роботов" все расписано.

То что алгоритмы настраиваются (а механические детали тоже специально притираются друг к другу) ровным счетом ничего не значит.

То что нейроны в мозгах настраиваются ровным счетом ничего не значит =)

Чудненько, Вы предлагаете использовать те же методики . Пусть лифт ради сомнительного поощрения зажмет голову пассажиру

Вах, программы во время эксплуатации не обучаются(ну не совсем так, потому как есть программы которые обучаются в процессе ее эксплуатации, те же поисковые системы), используются уже отработанные обученные системы, а то что при обучении была допущена ошибка и не было все до конца проверенно это прямая ошибка человека.

[Utkin]

Даже если эти вычисления будут проходить на сервере(т.е. централизованный подход), это проблема.

Где это проблема?

Задачу управления группой роботов можно проецировать на многопроцессорную систему, где все процессоры выполняют действия для достижения одной цели.

В данном случае это не требуется.

То что нейроны в мозгах настраиваются ровным счетом ничего не значит =)

Ну начинается. Опять смешиваем понятия? Работа нейронов головного мозга практически никак не связана с приведенными Вами алгоритмами. Вы уже определитесь как-нибудь - то у Вас математические модели, то имимтация живых нейронов.