как появляется цель выживание у неживых систем
беседа в телеге
ALEX BUR, [05.03.2022 11:30]
это тезис, но пусть
Теорема: сильный искусственный интеллект не может быть дружественным.
https://deep-econom.livejournal.com/122020.html
Nikita Demerza, [05.03.2022 11:34]
[В ответ на ALEX BUR]
Тут одно не вяжется, кто будет обслуживать СИИ1, если он уничтожит человечество
+ если он будет по настоящему "рациональным", то он должен понять одну простую истину: "плохая дружба лучше хорошей войны" + лучше, что-то использовать на себя, чем тратить силы на уничтожение этого
ALEX BUR, [05.03.2022 11:36]
автомат.механ.устройства, которые суть органы СИИ, можно управлять по радиосвязи
Ivan Pkh, [05.03.2022 11:36]
Тут не вяжется сама предпосылка)) Откуда у СИИ желание доминировать? Откуда желание сохранять себя? У человека это генетическое. А у СИИ откуда?Люди вставили? А зачем?
ALEX BUR, [05.03.2022 11:37]
Выживание; то, что не выживает, того нет.
Ivan Pkh, [05.03.2022 11:40]
[В ответ на ALEX BUR]
Компьютер не выживает, но он есть, альфа го не выживает, но он есть. Берт не выживает. но он есть. GPT-3 тоже не выживает))
Скажите конкретно с инженерной точки зрения зачем делать инстинкт самосохранения для СИИ? Зачем этот приоритет ставить выше жизни человеческого хозяина?
ALEX BUR, [05.03.2022 11:42]
Свобода воли СИИ будет влечь постановку целей, одной из целей будет выживание.
Nikita Demerza, [05.03.2022 11:43]
Скорее даже не выживание, человек будет вечным раздражителем, "занозой в пальце", так как сложно предсказать что и зачем он будет делать
ALEX BUR, [05.03.2022 11:43]
Те системы, которые будут иметь свободу воли, но не будут иметь цели выживание, просто исчезнут.
Системы имеющие цель выживание, тупо будут выживать дольше, остальные исчезать.
Этакое противодействие энтропии.
Распространение получают те системы, у которых явная или неявная цель выживание.
Именно так и возникают цели, возникают потребности из неживого.
Нет живого вещества, но есть живые конфигурации неживых частей.
Так и с выживанием.
Всё, что долго существует, можно считать имеет цель выживание.
Имеет повышенную устойчивость структуры, сама структура косного вещества содержит цель, содержит свойство выживания, которое у сложных активных систем трансформируется в настоящую цель - выживание.
ALEX BUR, [05.03.2022 11:30]
это тезис, но пусть
Теорема: сильный искусственный интеллект не может быть дружественным.
https://deep-econom.livejournal.com/122020.html
Nikita Demerza, [05.03.2022 11:34]
[В ответ на ALEX BUR]
Тут одно не вяжется, кто будет обслуживать СИИ1, если он уничтожит человечество
+ если он будет по настоящему "рациональным", то он должен понять одну простую истину: "плохая дружба лучше хорошей войны" + лучше, что-то использовать на себя, чем тратить силы на уничтожение этого
ALEX BUR, [05.03.2022 11:36]
автомат.механ.устройства, которые суть органы СИИ, можно управлять по радиосвязи
Ivan Pkh, [05.03.2022 11:36]
Тут не вяжется сама предпосылка)) Откуда у СИИ желание доминировать? Откуда желание сохранять себя? У человека это генетическое. А у СИИ откуда?Люди вставили? А зачем?
ALEX BUR, [05.03.2022 11:37]
Выживание; то, что не выживает, того нет.
Ivan Pkh, [05.03.2022 11:40]
[В ответ на ALEX BUR]
Компьютер не выживает, но он есть, альфа го не выживает, но он есть. Берт не выживает. но он есть. GPT-3 тоже не выживает))
Скажите конкретно с инженерной точки зрения зачем делать инстинкт самосохранения для СИИ? Зачем этот приоритет ставить выше жизни человеческого хозяина?
ALEX BUR, [05.03.2022 11:42]
Свобода воли СИИ будет влечь постановку целей, одной из целей будет выживание.
Nikita Demerza, [05.03.2022 11:43]
Скорее даже не выживание, человек будет вечным раздражителем, "занозой в пальце", так как сложно предсказать что и зачем он будет делать
ALEX BUR, [05.03.2022 11:43]
Те системы, которые будут иметь свободу воли, но не будут иметь цели выживание, просто исчезнут.
Системы имеющие цель выживание, тупо будут выживать дольше, остальные исчезать.
Этакое противодействие энтропии.
Распространение получают те системы, у которых явная или неявная цель выживание.
Именно так и возникают цели, возникают потребности из неживого.
Нет живого вещества, но есть живые конфигурации неживых частей.
Так и с выживанием.
Всё, что долго существует, можно считать имеет цель выживание.
Имеет повышенную устойчивость структуры, сама структура косного вещества содержит цель, содержит свойство выживания, которое у сложных активных систем трансформируется в настоящую цель - выживание.