> Предполага се, че в накакъв момент суперИИ ще започне да се препрограмира. Така непрекъснато ще подобрява себе си. Това повтарящо се самоподобряване ще доведе неизбежно до интелигентна експлозия.
това е типичен пример на наивистично пожелателно мислене. Има граници на само-подобряването свързани със строги закони от теорията на информацията. Това препрограмиране може да има конструктивен ефект но в повечето случаи е деструктивно и в експоненциален брой случаи води до по-глупав алгоритъм а не до по-умен. За създаването и тренирането на супер-интелигентен алгоритъм който винаги е оптимален дори милиарди години няма да са достатъчни - смятам че това твърдение може да се формулира като теорема. Така че както казват насам - Don't hold your breath..

Съдържаниет е скрито
Влезте за да го видите

Редактирано от lsrael Thornstein на 26.09.20 18:14.