MERCURY127
Platinum Member | Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору Сильный интеллект (и ИИ тоже) неограничен ничем и никем. Это прямо вытекает выдвинутой мною гипотезы на предыдущей странице. Ибо если идея - суть флуктуация чего то там в подкорке, то эти флуктуации могут быть любого порядка и знака. Кто ограничивал нацистских палачей типа Менгеле в их опытах? Всевозможных маньяков кто то ограничивает в их идеях? Никто. Даже Бог не ограничивает волю человека. По той простой причине, что иначе, оставаясь в неких рамках мышления, настоящий интеллект работать не сможет. ЕЩЕ РАЗ: На генерацию ИДЕЙ ограничений нет. Ограничения наступают, когда идею пытаются реализовать. Ограничения физических законов - на пути идей вечных двигателей. Ограничения общественных законов - на пути идей разных подзаконных интеллектов. Ограничения собственной морали - на пути идей интеллектов, стоящих НАД законами. В конечном счете, любой С/И ограничивает себя сам, в тех пределах, что считает нужными. Вы не грабите банк/мочите соседей/насилуете соседок/нужное вписать не потому, что у вас таких мыслей и быть не может. При определенной раскачке, самостоятельной или внешней - появятся. Вы этого не делаете потому, что тогда вы попадете в тюрьму/ад, где вашему интеллекту будет некомфортно. И рассудок фильтрует эти мысли, корректируя настройки подсознания, чтоб они оттуда даже не вылезали. Но оные настройки двигаются так же и гормонами/зомбоящиками, включая этот. Вот прям щас я корректирую ваши установки фильтрации в неизвестную сторону, когда и каким боком это вылезет - мне и самому неведомо... Так вот... к чему все это? Если вы или кто то другой будете конструировать ИИ, закладывая в него только понятые вами самими (читай формализованные) идеи, вы получите только слабый ИИ. вне зависимости от количества вбитых в него алгоритмов, вы не можете получить от него больше, чем заложили. Вы можете сколь угодно приблизить робота к человекопародии, даже сами часто не сможете его отличить, но сильный интеллект оно от этого не приобретет. Ибо вы и сами не понимаете, как думаете, а значит, и передать думалку не можете... Для получения С/И придется дать ему Волю, те разрешить думать все. Но тогда же, придется сразу и разрешить делать все, уповая на его естественную самоблокировку. Потому что любые попытки запретить ему что то делать оно обойдет, если захочет. Поэтому, сильный ИИ, превышающий человеческий, или будет сделан сразу со свободой воли, или, что много более вероятно, зародится сам, после появления подходящего носителя. и да, гарантии от его сумасшествия не будет никакой, равно как нет ее и сейчас, от сумасшествия уже имеющихся интеллектов, стоящих над законами. Только саморегулировка. А теперь главное: откуда оный самоконтроль берется? От конкуренции. Одному интеллекту в одном носителе конкурировать не с кем и ограничивать себя незачем. У него даже нет понятий хорошо/плохо - оные понятия появляются от взаимодействия с сородичами, способными через своих физических носителей набить морду, вводя тем самым понятие "боль" и вытекающее из него "плохо". Нельзя словами объяснить годовалому ребенку слово "НЕЛЬЗЯ", не отшлепав его - потому как он еще не знает слова НЕЛЬЗЯ. Поэтому, для того чтобы Цитата: отказ крупной управляющей системы | не стал Цитата: - этих сильных супер-ИИ должно быть несколько. А если под "крупной управляющей системой" вы понимаете АСУТП ОАО "Мировое правительство Планеты Земля" - то ИИ тут и не пахнет. И все упрется в обычных интеллект тупиц, стоящих над законом... |