|
Имаше една новина преди 1-2 години, че разработчици на изкуствен интелект развивали две програми. Направили ги да имат елемент на самообучение и им доставили свободен достъп до интернет. Дотук добре.
Програмират ги, учат ги, тестват ги постоянно. Но в един момент решили да ги свържат и да им позволят да обменят информация. Двете програми започнали да си комуникират и да обменят информация. Програмните езици, които ползват човеците са много тромави и са предназначени за хора. Затова двете програми започнали да си правят съкращения и да общуват с други кратки знаци. В един момент програмистите започнали да не разбират, какво си говорят двете програми (техния програмен език станал съвсем друг, много по-бърз, опитимален и удобен за тях). Когато програмите общували и с интернет и помежду си, изведнъж потокът на информация станал светкавично бърз, обработвали и обменяли с огромна скорост терабайти информация, като все по-лесно се разбирали и оптимизирали езикът между тях (вече напълно неразбираем за хората). Програмистите се изплашили и изключили двете програми.
Това е напълно истинска новина.
О, да, помня, че бях чул за тази новина и сега в сайта на БиБиСи. Доколкото успях да разбера, не са го спрялии защото са се уплашили от нещо, а защото не са били заинтересовани от резултата от експеримента.
Изкуственият интелект (ако решим да го разработваме) наистина ще излезе извън нашия контрол. Както може би ние сме излезли извън контрола на създателя си и ще трябва да се осланяме на добрата им воля, на саморегулиращите закони за добро и зло, на някакъв морал и най-вече на способността СИ винаги да им дръпнем шалтера (докато го можем или те не го направят с нас преди това - защото много лесно могат да ни оценят като заплаха за тях, а ние сме доста лесно уязвими биологични същества).
Ще трябва да се осланяме на чия добра воля? Ако приемем, че си имала предвид изкуствения интелект, тоест да се осланяме да добрата му воля – но той няма нито добра воля, нито лоша воля... Той има само краен брой от инструкции – който може или може и да не е променлив, както и техният вид – които изпълнява! Напълно ограничен е от ресурсите, които са на негово разположение, и от дизайнът, който се влага в него. Волята, която диктува резултата от неговата работа, не е под негов контрол – един изкуствен интелект може или може и да не бъде управляван от друг, по-висш такъв, но тази верига от изкуствени интелекти в края на краищата стига до човешки ръце.
Мисля, че т.нар. "машина", тоест компютризацията на съвремието – била тя с или без изкуствен интелект – е създадена, за да работи в полза на обществото, а не срещу него. Имам предвид, че ако човекът (ползвам думата като олицетворение за някаква група от хора, например народът на една държава, съюз, континент или принадлежащите към дадена фракция, субкултура, микрообщество и т.н.) се придържа в границите на разума де юре и де факто, тогава единствено природните закони и изобщо несъвършенството на самия живот биха могли да подкопаят устоите на човешката цивилизация, например ако бъдем поразени от гигантски импактор или пък някакъв особено смъртоносен вирус се надигне.
Скептичен съм относно заплахата от изкуственият интелект, защото не е той, който има природните ресурси от тази планета в ръцете си, ами самият той е един такъв (изчислителен), който се впряга като един своего рода добитък за извършването на някаква работа, в неговия случай – умствена. Единствената непосредствена заплаха за човечеството, която виждам в краткосрочен план, е тази от нова световна война, която ако се беше случила, щеше да е невъобразимо по-ужасна от последната, взимайки под внимание това уникално изчислително средство наречено дигитален компютър, което не само теоретично би могло да се окаже решаващо в хипотетичната ситуация, която изправя надигащите се суперсили срещу текущата суперсила САЩ (или по-скоро текущите суперсили срещу текущата хиперсила САЩ) – което никога няма да се случи, тъй като ако какъвто и да е спор възникне, силите биха просто стиснали ръце поради тяхното взаимно осигурено разрушение чрез ядрен арсенал – но също така претърпява експоненциално развитие във формата на квантовото изчисление. То е съвсем очевидно и ненужно да се каже, че ако който и да е е да бъде прицелен, това биха били нарушителите на този мир – по същество престъпници – чието идентифициране и проактивно образоване на съвременни ценности се случва както си говорим.
Вярвам, че 20-ти век ще е бил последният в цялата история на човешкия род, в който такива безпрецедентни безсмислици са се случвали, и че единственият довод, до който винаги съм прибягвал досега, за да браня статуквото на относителеня мир, в който светът има невероятния късмет да се намира през последните 3 четвъртини от столетие – идеята за Пакс Американа и световен мир, който се охранява по същия начин, както една държава е посредством нейните институции – в никоя точка от бъдещето би станал несъстоятелен, да не би Земята да изгори преди нейната венерификация от Слънцето – последното бидещо неизбежно в рамките на около 1 млрд. години – което би дало безпрецедентно човешко страдание за всички живи създания на това единствено райско място в слънчевата система... Алтернативи, които всеки би могъл да проумее. Така да се каже – по-добре да изчакаме най-близката звезда до нас да произнесе нашата гибел, отколкото да насилваме тази обреченост върху нас. Тя ще се случи във всеки случай, но защо бихме си я причинили?!
Аз вярвам безусловно в идеята на глобализацията и се надявам, че обединяването на целокупността от човешките същества в един общ информационен поток би усилило катализиацията на техния личен прогрес; в допълнение към това, съзнавам кристално ясно, че суверенитетът на всеки индивид е изконна човешко право.
Вярвам, че 20-ти век ще е бил последният в цялата история на човешкия род, в който такива безумни безсмислици са се случвали, и че единственият довод, до който винаги съм прибягвал досега, за да браня статуквото на относителния мир, което светът има поразително невероятния късмет да се наслаждава в продължението на последните 3 четвъртини от столетие – идеята за Пакс Американа и световен мир, който се охранява подобно на това как една държава е чрез нейните институции – не ще в която и да е точка от бъдещето, под под каквото и да е обстоятелство, под каквото и да е условие, стане несъстоятелен, да не би Земята да изгори преди нейната венерификация от Слънцето – последното бидещо неизбежно в рамките на около 1 млрд. години – което би дало безпрецедентно човешко страдание за всички живи създания на това единствено райско място в слънчевата система... Алтернативи, които всеки би могъл да проумее. Така да се каже – по-добре да изчакаме най-близката звезда около нас (или парниковият ефект) да формира думите на нашата ужасна участ във коректния ред, отколкото да насилваме тази учст върху нас сами на себе си. Тя ще се случи във всеки случай, така че защо бихме си я причинили?!
|
Re: AI [re: Luchezara]
