ИИ и иже с ним

[Smitt&Wesson]

Много раз, на этом форуме, поднималась тема "искуственного интеллекта".
Это заставило меня задуматься, а правдали он так опасен? Боюсь не оправдать чаяния фантастов-фаталистов, но нет. Сам по себе ИИ, никакой опасноси, для человечества не представляет. Опасность, предствляет человек, сам для себя. Не будем говорить о милитаристьских планах применения ИИ (отдельная тема). Предположим, что мы создали ИИ, способный решать проблемы юрирдического плана (морально-этические, оставим в стороне).
В отличии от SETI, здесь проблема другого порядка. Надеясь на ИИ, люди, ввиду своей лени, начнут на него опираться в своих суждениях. ИИ, об этом может знать, может не знать, но вынесенное, им, суждение в 99% будет правильным (или прибижённым к правильности). Я это к чему? Человек, и так уже подчиняется "монстрам", которых сам и создал.
Инет, мобильная связь... На повестке дня (спорно), полёты экспедиций к другим планетам.
Если не вдаваться в фатализм и не считать ИИ за врага, то что-бы он ещё смог породить?

[rpy3uH]

Например, есть робот с интелектом достаточным чтобы с 99% отличить одного человека от другого. Его задача вытирать задницу и кормить человека. Восстания не будет. Аналогично с боевым роботом способным отличить своего солдата от вражеского, понимать словесные приказы. Ты ему говоришь "убей вот того", он пойдёт и убьёт, "держи позицию до последнего" он будет держать позицию. Восстания и в этом случае не будет.

ИИ должен быть исполнителем, в этом случае ничего не произойдёт. В этом случае мы получаем в распоряжение что-то вроде пистолета, он является инструментом для решения задач человека.

Все сценарии с восстанием машин созданы людьми совершенно не знающими матчасть.

[Smitt&Wesson]

Сообщение от rpy3uH

Все сценарии с восстанием машин созданы людьми совершенно не знающими матчасть.

Предисловие, я затёр. Вот именно. Если робот предназначен, подтирать зад, он это и будет делать. Вопрос об ИИ. Т.е. Самообучающейся системе. Может, в предыдущем посте, несколько сумбурно выразился, но, если ИИ настроен на подтирание Ж..., оружие в захваты, он не возмёт.

[Человек_Борща]

Роботы не будут угрозой, пока не могут думать сами и предпринимать альтернативный и не стандартные решения, или пока они не начнут думать за нас.

[bitix]

если это будет ИИ, то это значит, что роботы вполне могут самообучаться, точнее, без помощи людей, начнут существовать самостоятельно. Для этого он и является ИИ. А если ИИ увидит угрозу в человеке?

[Smitt&Wesson]

Сообщение от Человек_Борща

Роботы не будут угрозой, пока не могут думать сами и предпринимать альтернативный и не стандартные решения, или пока они не начнут думать за нас.

Так и я о том-же. Но, вопрос не в роботах (андроидах). Вопррс в классическом понимании ИИ. Моё ИМХО, - ИИ, это некая база знаний (от базы данных отличается тем, что постулаты неоднородны), которую человек и сформировал. Значит она и будет выражать стремления и чаяния её создателей (опять-же милитаризм в рассмотрение не берём (хотя, х.. знает)).

[s-andriano]

Сообщение от rpy3uH

Ты ему говоришь "убей вот того", он пойдёт и убьёт, "держи позицию до последнего" он будет держать позицию. Восстания и в этом случае не будет.

ИИ должен быть исполнителем, в этом случае ничего не произойдёт. В этом случае мы получаем в распоряжение что-то вроде пистолета, он является инструментом для решения задач человека.

Все сценарии с восстанием машин созданы людьми совершенно не знающими матчасть.

Вообще говоря, интеллект подразумевает свободу выбора.
Нет свободы выбора - нет интеллекта.
Ты ему говоришь "убей вот того", он решает, что убивать негуманно, и отказывается выполнять приказ.
Ты ему говоришь "держи позицию до последнего", ав он решает, что это противоречит его функции самосохранения.
Интеллект, понимаешь!

В общем, нужно определиться, говорим мы об идеальном исполнитее или об ИИ - это не обно и то же.

[Человек_Борща]

Пока не поймем как работает наш мозг, не сможем создать ИИ который будет самостоятельно воспринимать мир, адаптироваться и мыслить самостоятельно.
Когда мы будим это уметь, найдется 1000 причин, почему мы не нуждаемся в ИИ.


Не зачем создавать ИИ способный полноценно мыслить. Вот к примеру, была бы полезна система управления на дороге аля из фильма "Я робот"(если кто помнит такой), где компьютер сам рулит на дороге безопасно перевозя пассажира из точки А в точку Б, быстро, без аварий, на высокой скорости.
Сейчас такое есть, но в малых маштабах(система доставки рукописных писем, бандероллей) for example.

Или же система ИИ, которая не допускала бы опасных ситуаций для авиа-самолетов в воздушном пространстве, раньше было только радио, т.е. пилоты полностью слепые, сейчас GPRS + Спутник и все шикарно, но не фонтан.

ИИ регулирования мировой экономики бы...

[bitix]

только инопланетяне могут вполне создать ИИ, а не человек они из будущего руки, если кто верит

[Larboss]

только инопланетяне могут вполне создать ИИ

Черкани в лс, если они его все-таки создадут.