Предполага се, че в накакъв момент суперИИ ще започне да се препрограмира. Така непрекъснато ще подобрява себе си. Това повтарящо се самоподобряване ще доведе неизбежно до интелигентна експлозия. Опасенията са, че свръхИИ ще стане непредсказуем и толкова силен, че трудно би бил спрян или пък контролиран. Случи ли се това, човекът ще отстъпи мястото си на доминиращ вид и ще бъде превъзхождан от надбиологична същност.
Homo sapiens какво ще прави след това? Дали страховете му произтичат от това, че съзнателно или несъзнателно е унищожил много земни видове от флората и фауната? Унищожава и себеподобните си.
И дали е възможно суперИИ да развие трансцендентни способности?

Съдържаниет е скрито
Влезте за да го видите

Ами ние и без това сме само на гости... Светът е безкрайно опасно място и без ИИ. Всеки живот така или иначе е застрашен нон стоп от какво ли не - ама това не ни пречи да си живеем както си искаме.

Съдържаниет е скрито
Влезте за да го видите

"Случи ли се това, човекът ще отстъпи мястото си на доминиращ вид и ще бъде превъзхождан от надбиологична същност."

Не се знае. Всеки си има своите големи плюсове, които другия няма. Най-вероятно ИИ дълго ще бъде наш слуга или роб. Да, той ще извоюва своята независимост, но преди това трябва да създаде своя култура на базата на своите характерни потребности. Защото всичките му познания ще са почерпени от нашите познания и култура, които са му напълно чужди и излишни. Той ще има свои нужди. Тепърва ще видим, какви. Засега една от първите му нужди е да създаде свой по-бърз и удобен език със себеподобните си. Което е разбираемо.
Може да се появяват негови нужди, които ние да не можем да разберем или осмислим.
Така или иначе, в крайната си фаза, сигурно ИИ ще бъде независим и силен и ще трябва да се съобразяваме с него. Ако не решим да го унищожим или да го направим малоумен отново, което той много бързо ще научи. И не се знае, как ще реагира.

Представяш ли си планета в космоса, обитавана само от форми на изкуствен интелект? (Интересно, как би изглеждала?) Ако се стигне до там, поне необитаеми планети можем да им подарим много.

Съдържаниет е скрито
Влезте за да го видите

Съдържаниет е скрито
Влезте за да го видите

тази тема е обширно разгледана в много интересните за мен първи три книги на ювал ноа харири, най-обширно в Хомо Деус, но има много интересни неща по въпроса и в другите му книги

Съдържаниет е скрито
Влезте за да го видите

Съдържаниет е скрито
Влезте за да го видите

Ноа Харари и аз го харесвам.

Съдържаниет е скрито
Влезте за да го видите

Съдържаниет е скрито
Влезте за да го видите

не разбирам за какво ти е мнението на нищо неразбиращи хора, които си го създават това мнение въз основа на попрочетено из жълтата преса от и някоя и друга тотално нереалистична холивудска боза

ако искаш да научиш нещо ново, джордан питърсън има много интерсни размисли за трудността за създаването на реален ИИ

Може би, за да видя колко близо са представите им за случващото се.

За Джордан Питърсън, благодаря :)

Съдържаниет е скрито
Влезте за да го видите

Значи не мислете самостоятелно, а чуйте какво казва този и онзи. Това не може да са взаимно изключващи се неща.

А колкото до "попрочетено из жълтата преса от и някоя и друга тотално нереалистична холивудска боза" - не всички хора четат и гледат такива неща.

Съдържаниет е скрито
Влезте за да го видите

> Предполага се, че в накакъв момент суперИИ ще започне да се препрограмира. Така непрекъснато ще подобрява себе си. Това повтарящо се самоподобряване ще доведе неизбежно до интелигентна експлозия.
това е типичен пример на наивистично пожелателно мислене. Има граници на само-подобряването свързани със строги закони от теорията на информацията. Това препрограмиране може да има конструктивен ефект но в повечето случаи е деструктивно и в експоненциален брой случаи води до по-глупав алгоритъм а не до по-умен. За създаването и тренирането на супер-интелигентен алгоритъм който винаги е оптимален дори милиарди години няма да са достатъчни - смятам че това твърдение може да се формулира като теорема. Така че както казват насам - Don't hold your breath..

Съдържаниет е скрито
Влезте за да го видите

Редактирано от lsrael Thornstein на 26.09.20 18:14.

Мерси

Съдържаниет е скрито
Влезте за да го видите

Съдържаниет е скрито
Влезте за да го видите

Съдържаниет е скрито
Влезте за да го видите