July 10th, 2020

Глупости от профессора физика Рагнара Фьелланда - 1

------------------
Везде будет использоваться гугл-перевод, так легче будет потенциальным читателям. Знатоки английского могут всегда сравнить перевод с оригиналом статьи.

Почему общий искусственный интеллект не будет реализован. Рагнар Фьелланд.
Why general artificial intelligence will not be realized
Ragnar Fjelland
https://www.nature.com/articles/s41599-020-0494-4
Collapse )

Глупости от профессора физика Рагнара Фьелланда - 2

предыдущая часть
Глупости от профессора физика Рагнара Фьелланда - 1
https://deep-econom.livejournal.com/676076.html

----------------------
Неявное знание.

1-4 абзацы. Неявное знание.
Идут экскурсы в историю и ссылки на древние авторитеты, чтобы показать, что существует явное и неявное знание.
Все достаточно грамотные люди знают это, особенно те, кто занимается проблемами искусственного интеллекта. Пример, для баз данных это обычное дело, например, число записей вв базе уже неявное знание. Не говоря уже о человеке.
Профессор начинает путать навыки и знания. Все по причине того, что он сам не знает что такое знание и не давал определения. Лучше бы вместо экскурсов в историю, дал определение, тогда бы можно было более предметно рассуждать.

Далее идут глупости про навыки и знания со ссылками на Поланьи (Полани)
***Позже Поланьи сформулировал эту мысль как «… мы можем знать больше, чем можем сказать » (Polanyi, 2009 , с. 4, курсив в оригинале).

Ну мы можем и сказать больше, чем знаем. Навыки и знания вещи разные и не обязано одно должно быть подмножеством другого. Чтобы грамотно разобрать вопрос надо дать определения, надо уточнить определения, а потом уже обсуждать. Профессор видимо этого не знает.
Знания можно классифицировать по разному зависит от целей классификации. Любая классификация условна. Каков критерий классификации, такова и сама классификация. Обычное дело.

Пример. Винда. Загружаем диспетчер задач, смотрим, что нам доступно для наблюдения. Перечень приложений запущенных, на другом уровне, можем посмотреть перечень процессов, еще уровнем ниже список служб. Разные уровни, разные процессы доступны для наблюдения. Обычное дело. А если нет вкладки "службы", то часть процессов будет недоступна для наблюдения. Будем говорить, что это неявное знание! Сарказм.

Не все процессы в организме мы можем наблюдать, не всеми процессами мы можем управлять. Обычное дело.
Еще дополнение.
Часть алгоритмов определяется структурой организма или вычислительного устройства, калькулятора например. Их тоже можно считать неявным знанием.

последний абзац раздела:
***Важной частью экспертизы является молчаливый. Проблема, стоящая перед разработкой экспертных систем, то есть систем, которые позволяют компьютеру имитировать экспертные результаты (например, медицинская диагностика), заключается в том, что важной частью экспертных знаний является молчаливый. Если эксперты пытаются сформулировать знания, которые они применяют в своей работе, они обычно возвращаются к более низкому уровню. Поэтому, по мнению Хьюберта и Стюарта Дрейфуса, экспертные системы не способны овладеть навыками опытного исполнителя (Dreyfus and Dreyfus, 1986, п. 36). Мы знаем это явление из повседневной жизни. Большинство из нас являются экспертами по ходьбе. Однако, если мы попытаемся сформулировать, как мы ходим, мы, безусловно, дадим описание, которое не отражает навыки, связанные с ходьбой.

Нет, конечно нет.
Во-первых, это особенности организма человека, у него нет мониторинга многих процессов, т.е. это особенность конструкции.
Во-вторых, не обязательно возвращаться к более низкому уровню. Например, доказательство теоремы, рецепт приготовления чая.

***Поэтому, по мнению Хьюберта и Стюарта Дрейфуса, экспертные системы не способны овладеть навыками опытного исполнителя (Dreyfus and Dreyfus, 1986, п. 36).

Не обоснован вывод. Вполне способны, если конструкция будет подходящая. Современный пример - нейросетки, идет обучение, приобретение опыта, формулировка знаний нейросетки.
-----------------

Глупости от профессора физика Рагнара Фьелланда - 3. Окончание.

предыдущая часть
Глупости от профессора физика Рагнара Фьелланда - 2
https://deep-econom.livejournal.com/676526.html
Будет еще послесловие.

-----------------
Три «вехи» в исследованиях ИИ

***Я упомяну три «вехи», которые привлекли внимание общественности и создали впечатление, что AGI просто «за углом».

На самом деле всё это, что упомянуто не является AGI на мой взгляд. ОН не понимает, что можно называть AGI и что нет. Это всё узкие ИИ, специализированные ИИ, хотя и выполняют какие-то интеллектуальные функции, пример альфа-го (AlphaGo).
Я писал у себя неоднократно, что AlphaGo всего лишь калькулятор, чуть усовершенствованная нейросетка со своими особенностями.
Чтобы AGI был AGI нужна правильная когнитивная архитектура, а не абы какая.
Чтобы машина стала ездить, а телефон звонить, нужна правильная соответствующая архитектура.
Альфа-го не имеет такой.
------------------------
Collapse )

Глупости от профессора физика Рагнара Фьелланда - 4. Послесловие.

предыдущая часть
Глупости от профессора физика Рагнара Фьелланда - 3. Окончание
https://deep-econom.livejournal.com/677181.html
----
эх, не сохранил вовремя, пропал пост, придется восстанавливать, но будет уже короче ))

----------------
выжимка-перевод Короткова по статье профессора физика Рагнара Фьелланда
Невозможность ИИ общего назначения
https://evan-gcrm.livejournal.com/1530379.html

Кратко пройдусь по выводам.

***• Компьютеры, у которых нет тела, нет детства и нет культурной практики, вообще не могут приобрести интеллект – это тупик.

У компа есть корпус, есть мат.носитель. При подходящей когнитивной архитектуре нет никаких проблем развиваться единственному экземпляру. Можно наделать много экземпляров. Роевой интеллект вспоминаем.
Человек тоже может обучать.

***• И это не просто тупик, а весьма опасный тупик. Вера в возможность реализации сильного ИИ вредна, т.к. переоценивает возможности технологий и недооценивает возможности людей. Результатом этой веры во многих случаях будет замена того, что хорошо работает, на то, что работает хуже.

Опасный тупик заключается в недооценке технологий и в переоценке. Почувствуйте разницу.
Вера вообще тут не нужна. Тут нужны рабочие гипотезы и рабочие проекты. Веру оставьте себе. Нам она не требуется.

1.
***А. Компьютерная мощь никогда не разовьется в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие - способность принимать правильные решения в конкретных ситуациях, и мудрость - способность видеть целое.

Нет фундаментальных различий. И то и другое из атомов.
Мышление вполне алгоритмично. Часть алгоритмов зашито в мясо, в конструкцию. Никаких проблем. Профессор не понимает что такое алгоритм и что такое мышление, что такое мудрость. У меня в блоге есть ответы на подобные темы под рубрикой "что такое".

2.
***Б. Важная часть человеческих знаний является неявными (невербализуемыми - tacit) знаниями. Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, - ошибочны.

Все знание вербализуемы, формализуемы и алгоритмизируемы.
То, что профессор не может или не умеет, или не знает, не означает, что есть принципиальный запрет. Нейросети и так учатся без явных инструкций.

3.
***В. Вера в обретение бессмертия путем создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру. Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.

Веры нет. Есть рабочая гипотеза, есть рабочий проект, который постепенно разрабатывается. Пока теоретических препятствий не видно. Все, якобы запреты, которые мне попадались, легко опровергаются, они обычно следствие непонимания их авторов.
Многие интеллектуальные и физические действия машины и компы/программы делают лучше человека, примеров валом.
Проще говоря: переоценка человека тесно связана с недооценкой технологий и знаний конкретным профессором.

4.
***Г. Попытки строить ИИ лишь на основе корреляций, а не причинности – тупиковы. Причинность – важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определенной культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.

Не надо строить на основе одних корреляций, используй и другие методы, которых математики разработали достаточно много, включая весьма общие. Ничто не препятствует компу выявлять закономерности, ничто.
Компы вместе с программным обеспечением физический объект, который может взаимодействовать с физическими объектами и интеллектуальными. Примеры, куча роботов, управление машинами и механизмами, сенсорами и датчиками, автопилоты и прочее.
Комп с подходящей когнитивной архитектурой вполне действующий самостоятельно интеллектуальный агент.
Ничто не мешает компам учиться друг у друга и у людей.

***Мы являемся телесными и социальными существами, живущими (чувствующими, думающими и действующими) в материальном и социальном мире.
Наш разум – основной механизм, позволяющий это.
Ну а компьютерный ИИ (слабый или сильный) вообще не имеет к этому отношения.

Все тоже самое относится и к компу с когнитивной архитектурой.

Знания профессора о сильном ИИ не имеют отношения к сильному ИИ. Сборник глупостей.
Надергал цитат у громких имен по большому счету неспециалистов в области сильного ИИ, все перемешал историческими экскурсами, взболтал и выдавил равномерно на офигевших читателей.
-----------------------

ps
evgeniirudnyi:
Разница с Фьелландом состоит в том, что у вас вообще не видно аргументов. Вы только не обижайтесь, но вы не можете написать связный текст, который выражает вашу позицию. Именно поэтому получается по известной пословице - «В чужом глазу соринку видишь, а в своем бревна не замечаешь».
https://deep-econom.livejournal.com/675201.html?thread=4399489#t4399489

Вы только не обижайтесь, но разница состоит в том, что мне моих знаний хватает отличить сборник глупостей от неглупых мыслей, а вам не хватает, поскольку вам понравилась статья профессора.

Специально для вас написал связный текст.
Потратил часа 3 на опровержение несвязных глупостей, текст профессора надерганный салат из цитат к месту и не к месту.