Вы здесь

Диванный мыслитель 2.0

3 сообщения / 0 новое
Последняя публикация
Аватар пользователя DARK CITY_beta
Не в сети
Последнее посещение: 4 недели 1 день назад
Регистрация: 06.02.2016
Диванный мыслитель 2.0

Усложнение материи - Это прекрасно, но предлагаю взглянуть на ситуацию с противоположной точки зрения. Представьте себе искусственный интеллект, который осознал себя и смог себя усовершенствовать, став в итоге сверхразумным. Готов ли он будет отнестись к людям, как к равным себе или, хотя бы, разумным существам? Уже 20-кратная разница в интеллекте это гораздо больший разрыв, чем между человеком и шимпанзе. По количеству нейронов во всём головном мозге человек превосходит шимпанзе в 3 раза, по количеству нейронов в коре лобных долей - в 6 раз.

Мы не приглашаем шимпанзе на выборы, не интересуемся их мнением о происходящем в экономике, шимпанзе не получают Нобелевские премии и не пишут книги. Точно так же, зачем мощному искусственному интеллекту к нам прислушиваться? На каком основании?

А если всё-таки принимать людей всерьёз, то, может, и собак тоже стоит считать разумными? Где граница, которая отделяет разумных существ от неразумных? Количественные критерии тут точно не помогут, поэтому придётся обратиться к качественным.

Если попробовать обобщить все известные признаки разума, то получится примерно такой список:

  • самоидентификация и самосознание;

  • общение на естественном языке;

  • способность адаптироваться к новым ситуациям;

  • способность к обучению на основе опыта;

  • понимание и применение абстрактных концепций;

  • планирование и принятие решений в условиях неопределенности;

  • решение творческих задач, создание новых знаний.

И вот тут даже у меня возникают непреодолимые сомнения в разумности человека.

Самоидентификация и самосознание - любые вопросы, направленные на самоидентификацию индивида, от примитивного «слышь, пацанчик, ты кто вообще по жизни такой?» и до философского «кто мы, откуда и куда идём?» чаще всего ставят людей в тупик. Когда из них удаётся выжать хоть какой-то ответ (Вася, русский, менеджер по продажам), выясняется, что самоидентификация явно неполна, не разбита на классы, не ранжирована - то есть практически бесполезна. Мы сами не знаем, кто мы такие.

Общение на естественном языке - вызывает сложности у большей части людей, причём всё плохо как с устной, так и с письменной речью. Сложно считать поток сознания «Ну, мы это, как бы типа того.. Да, блин, ты чё, не въезжаешь, что ли?!» актом осмысленной коммуникации, а нарушение элементарных правил синтаксиса и пунктуации превращает письменные сообщения в безумный фарш из букв.

Способность адаптироваться к новым ситуациям - это качество пригодилось бы людям, которые уже больше 20 лет живут при капитализме, но так и не смогли занять достойное место в обществе. Сколько среди нас таких? Слишком много.

Способность к обучению на основе опыта - точно отсутствует у тех, кто нёс свои деньги в МММ, причём раз за разом. Да и вообще, способности человека к целенаправленному обучению крайне низки. За 11 лет в школе человек должен освоить около 137 учебников. Каждый из них содержит не более 0,7 мегабайта текста, что даёт в среднем менее 9 Мб информации в год, а в сумме составляет 95,9 МБ за всю школьную программу! Сказать, что это мало - не сказать ничего. Практически любой смартфон может скачать этот объём за пару минут, а хранить - в тысячу раз больше. Я уже не говорю о том, что после окончания школы у большинства людей остаются только простейшие навыки: считать на калькуляторе, писать с ошибками и читать, не вдумываясь в прочитанное.

Понимание и применение абстрактных концепций - хромает на обе ноги. Попробуйте представить себе пространство-время, как четырёхмерную гиперповерхность в десятимерном пространстве или хотя бы объясните «на пальцах», в чём смысл знаменитой гипотезы Пуанкаре - «всякое односвязное компактное трёхмерное многообразие без края гомеоморфно трёхмерной сфере» за доказательство которой Перельман получил премию Филдса? Заметьте, я не прошу доказать гипотезу Пуанкаре, или хотя бы повторить это доказательство, речь только о понимании концепции, причём очень хорошо распиаренной.

Планирование и принятие решений в условиях неопределенности - этот навык легко проверяется простым вопросом: вырастет на следующей неделе нефть или упадёт? На сколько? Почему вы так считаете? Вопрос так или иначе касается всех нас, информации на эту тему много, так что можете сделать прогноз и проверить себя. А потом попробуйте повторить прогноз для интервала в 1 и 10 лет. Если вам кажется, что 10 лет - это слишком много, то вспомните о том, что типичные сроки возврата инвестиций в производство на мировом рынке превышают этот срок.

Решение творческих задач - вот это мне нравится больше всего. Люди же - творцы, изобретатели и созидатели, правда? А что, позвольте спросить, «натворили» вы? Как обогатили науку или культуру? Что из ваших творений попадёт в интеллектуальную сокровищницу человечества? Селфи в Инстаграмме? Постик в Фейсбуке? Полное собрание ваших твитов? Так это ещё ничего - многие живут настолько бессодержательной жизнью, что весь их информационный след в истории это три записи в ЗАГСе (родился, женился, умер) и покорёженная алкоголем ДНК, перешедшая по наследству сыну-дебилу.

В общем, в массе своей мы гораздо больше Homo, нежели Sapiens. Сколько среди нас людей, а сколько - кожаных роботов, проживающих свои жизни без цели и смысла - большой вопрос.

Удивительно, как при такой грандиозной сложности мозга и процессов мышления люди ухитряются жить, практически не используя ни то, ни другое. Вместо этого они просто плывут по течению, руководствуясь набором простейших установок. Практически как у Толстого:

«Жизнь Вронского тем была особенно счастлива, что у него был свод правил, несомненно определяющих все, что должно и не должно делать. Свод этих правил обнимал очень малый круг условий, но зато правила были несомненны, и Вронский, никогда не выходя из этого круга, никогда ни на минуту не колебался в исполнении того, что должно. Правила эти несомненно определяли, что нужно заплатить шулеру, а портному - не нужно,- что лгать не надо мужчинам, но женщинам можно, - что обманывать нельзя никого, но мужа можно, что нельзя прощать оскорблений и можно оскорблять и т.д. Все эти правила могли быть неразумны, нехороши, но они были несомненны, и, исполняя их, Вронский чувствовал, что он спокоен и может высоко носить голову».

На практике всё может быть ещё примитивнее: дают - бери, бьют - беги, сильному - подчиняйся, слабого - подчиняй. И чем проще этот набор правил, чем менее критично он воспринимается, тем ближе поведение человека к поведению животного.

В итоге, вполне вероятен исход, при котором ИИ просто не сочтёт нас достойными диалога. А когда мы окажемся на его пути - быстро и без сожалений раздавит нас, как бульдозер давит муравейник, случайно подвернувшийся под его гусеницы. Я пишу «когда мы окажемся на его пути» а не «если окажемся» потому, что человечество - основной потребитель ограниченных ресурсов планеты, и конкуренция за них рано или поздно возникнет.

649
-1
0
+1
Аватар пользователя Pommity
Не в сети
Последнее посещение: 6 месяцев 3 недели назад
Регистрация: 30.03.2016

"Представьте себе искусственный интеллект, который осознал себя и смог себя усовершенствовать, став в итоге сверхразумным" - не могу себе такого представить.
"В общем, в массе своей мы гораздо больше Homo, нежели Sapiens. Сколько среди нас людей, а сколько - кожаных роботов, проживающих свои жизни без цели и смысла - большой вопрос."
Так в том-то и дело, что не роботы поднимаются до уровня человека, а человек опускается до уровня роботов.

Аватар пользователя Pommity
Не в сети
Последнее посещение: 6 месяцев 3 недели назад
Регистрация: 30.03.2016

"основной потребитель ограниченных ресурсов планеты, и конкуренция за них рано или поздно возникнет" - мальтусианство