не мисля че лесно може да се направи умен малък робот, със сложно поведение, просто няма да му стигнат атомите. ако се ползват конструкции от адрони, може и да стане, но поне за сега изгледите за нещо такова са никакви.
а на въпроса:
- когато се появят ИИ и се наложи да им се признаят естествените права като на всички разумни същества – как ще съжителстваме с тях? как ще ОЦЕЛЯВАМЕ?

ми никак
за много хора, разума е двузначна величина - или го имаш или го нямаш. всички които го имат са равни, и ако случайно някой изглежда по-тъп, това е защото го мързяло. това разбира се са глупости, разума си е величина, която може да заема всякакви стойности. ако някой ден можем да дадем произволна стойност на тая величина, както днес можем да построим произволно мощен двигател, повече няма да има място за нас. не че ще ни избият или нещо такова, но не виждам начин да запазим някакво приемливо състояние на нещата, ако знаеш че колкото и да се пънеш, никога няма да проумееш неща, които за ИИтата са очевидни и прости.
много ще ми е интересно наистина какво ще стане, но мисля че със сигурност няма да стане това което пише в повечето книги - да живеем доволно, а домашния робот да ходи на пазар.

а, и още нещо - компютрите не са по-бързи от мозъка. в един мозък имаш по груби сметки поне 10^14 операции с плаваща заперая в секунда. компютъра прави по-малко от милиард. това че за да сметнеш колко е 51*63 ти трябват няколко секунди, не е защото мозъка е бавен, а защото смятането се извършва във виртуална машина, нещо като тая която ти плейва джавата. докато смяташ колко е отговора, в мозъка ти са извършени не знам колко умножения, събирания, сравнения (това са операциите от които се нуждае най-простия неврон за да работи).




NE SUTOR ULTRA CREPIDAM