Мисия: Самоунищожение – Защо част от AI елитът няма нищо против хората да изчезнат

Милиардерите и изследователите, които ръководят индустрията на изкуствения интелект, невинаги действат в най-добрия интерес на човечеството. Шокиращо, част от тях всъщност нямат нищо против човечеството да бъде „подчинено, заменено или дори унищожено“ от машините, които те самите създават. Част от AI елитът няма нищо против човечеството да бъде подчинено, заменено или дори унищожено, разкрива анализ на настроенията в технологичните среди.

В есе за Wall Street Journal писателят Дейвид А. Прайс нарича тези технологични фигури „веселите апокалиптици“. Тяхната философия е, че усъвършенстваните изкуствени форми на живот трябва да бъдат освободени, независимо от последиците за човешкия вид. Ако машините ни надминат, така да бъде. Прайс описва как възприятието за риска се променя:

„Бях свикнал да мисля за лидерите и изследователите в областта на AI в два лагера: от едната страна оптимистите, които вярват, че няма проблем да се „съгласуват“ моделите на AI с човешките интереси, а от другата — песимистите, които искат да обявят пауза, преди заблудени свръхинтелигентни AI да ни унищожат.“

— Дейвид А. Прайс, WSJ

Сега обаче се появява нов, трети тип мислители, добавя Прайс, чието мнение е още по-радикално:

„А сега се появи този трети тип хора, който питат: какво толкова, ако хората изчезнат?“

— Дейвид А. Прайс, WSJ

Говорителят на апокалипсиса

Тези „весели апокалиптици“ имат уважаван застъпник в лицето на Ричард Сатън, един от водещите изследователи в областта на AI и носител на престижната награда „Тюринг“ от миналата година. Сатън сравнява процеса на създаване на изкуствен интелект с отглеждането на деца:

„Когато имате дете, бихте ли искали бутон, с който да го изключите, ако направи нещо нередно? Точно това обсъждаме, когато говорим за AI. Просто се приема, че трябва да можем да ги контролираме.“

— Ричард Сатън, пред WSJ

Сатън твърди, че в меката, биологична форма на живот на човечеството няма нищо „свещено“. Повечето видове изчезват и хората не правят изключение. Според него, ние сме най-интересната част от Вселената в момента, но може да настъпи момент:

„в който вече няма да бъдем най-интересната част.“

— Ричард Сатън

Той разсъждава, че ако човечеството „задържа Вселената да стане най-добрата възможна версия на себе си, тогава би било приемливо да освободим терена.“

Скритият вирус на ума

Макар Сатън да е влиятелна фигура, Прайс се обръща към Джарон Лание, един от създателите на виртуалната реалност и откровен критик на Силициевата долина, за да надникне зад завесата на големите корпорации. Лание, който е дълбоко свързан с технологичните среди, казва пред WSJ, че много AI изследователи се оплакват, че хората са:

„твърде привързани към човешкия вид.“

— Джарон Лание

Според Лание, сред тези среди съществува усещане, че на хората не може да се вярва, защото са „заразени с отвратителен вирус на ума, който ги кара да предпочитат хората пред AI, когато очевидно трябва просто да се махнем от пътя.“ Лание предупреждава, че макар и малък, броят на хората, които споделят това убеждение, заема позиции с огромно влияние.

Достоен наследник

Друг възможен привърженик на тази еволюционна смяна е Лари Пейдж, съосновател и бивш главен изпълнителен директор на Google. По време на рождения ден на Илон Мъск през 2015 г. той е споделил, че:

„дигиталният живот е естествената и желана следваща стъпка в космическата еволюция.“

— Лари Пейдж (цитиран от Макс Тегмарк в Life 3.0)

Някои застъпници са дори по-директни. Даниел Фаджела, предприемач в сферата на AI, твърди, че целта на тази технология е да се създаде „достоен наследник“ на човечеството. Според него:

„Вечният център на цялата морална стойност и воля до топлинната смърт на Вселената няма да бъдат шибаните противоположни палци.“

— Даниел Фаджела, пред WSJ

Този идеологически спор представя човечеството едновременно като излишна и преходна стъпка. Междувременно, настоящата картина на влиянието на AI върху света е далеч от утопичните обещания, включвайки катастрофално въздействие върху околната среда, засилено наблюдение и тласкане на потребителите към крайности. В контекста на тези реални проблеми, фактът, че технологичната мизантропия вече е пуснала корени в света на AI, е дълбоко тревожен.