Re: AI / Взаимопомощ / Психоанализа и психотерапия

Не знам, дали новината е същата. Аз не съм я чела във facebook. Но съм я записала някъде заедно с имената на хората, които са се занимавали с това. Сега не ми се рови. Българите го бяха превели, че програмистите са се изплашили. Но дори и да не са, при първа възможност машините си създават техен неразбираем за нас език, а това е независимост и неизвестност. Разбира се, ако им го позволим и ги обучим да го правят. Но хората ще стигнат до крайности и то бързо, защото искат всичко, любопитни са за възможния максимум.
А и ако се съди по съществуването на програмни вируси сега, значи ще има достатъчно програмисти, които ще преследват свои и различни цели с изкуствения интелект.

Общо взето това е като едно наше бебе - все едно да се притесняваме, че може да стане масов убиец, престъпник или психопат. Да, възможно е, но ще стане такова, каквото ние го възпитаме.
Въпреки всичко злото съществува и най-вероятно ще продължи да съществува дори в компютърния свят.

Разбира се, това не е "непосредствена и краткосрочна заплаха". Просто говоря по принцип за AI.

" Изкуственият интелект е напълно ограничен е от ресурсите, които са на негово разположение, и от дизайнът, който се влага в него. Волята, която диктува резултата от неговата работа, не е под негов контрол".

Това най-вероятно ще се промени. Още сега много от програмите се самопоправят, самопрограмират, самообучават и генерират. ИИ има достъп до интернет - което е напълно отворена възможност за получаване на всякаква информация (със светкавична скорост при машините). При положение, че се прави самообучаващ се, не се знае, какво и как може да научи и какви изводи може да си направи. Но пък може да ги изпълни светкавично.

Ами ако поредния умник-хакер реши да обучи ИИ в хакерство - това сигурно е почти неизбежно. Представяш ли какво може да сътвори ИИ-хакер? При положение, че ИИ в по-голямата си част няма да е една програма, а ще е колективен ИИ - съвкупност от много милиони или милиарди програми по света със свой, неразбираем за нас, език.
Да, ние можем да променим много неща и ще го правим постоянно. Но се съмнявам, че може да има интелект, който да не е независим.

С това не искам да всявам страх от ИИ. Аз съм от хората, които много обичат компютрите, електрониката и идеята за ИИ. Просто, когато си поставяме такава висока цел, въпросът неизбежно ще стане и философски, както и ще научим много.

Но опитът (дори само с елементарните ни персонални компютри) показва, че нищо не върви толкова чисто, гладко и не е само добро (имам предвид сегашните вируси и хакерството).