Back to site
Since 2004, our University project has become the Internet's most widespread web hosting directory. Here we like to talk a lot about web development, networking and server security. It is, after all, our expertise. To make things better we've launched this science section with the free access to educational resources and important scientific material translated to different languages.

Далей Тэхналагічная сінгулярнасці: Як выжыць у пост-правоў эры


Далей Тэхналагічная сінгулярнасці:
Як выжыць у пост-рацыю эры

Вернор Виндж
Аддзялення матэматычных навук
Сан - Дыега дзяржаўны універсітэт

(C) 1993 па Вернор Виндж
(Даслоўна капіраванне/Пераклад і распаўсюджванне дадзенага
артыкула цалкам на любым носьбіце, калі гэта
апавяшчэнне захоўваецца.)

Дадзены артыкул была для VISION-21 Сімпозіум
Пры падтрымцы NASA Lewis Навукова-даследчы цэнтр
і Агаё інстытут аэракасмічных, 30-31 сакавіка 1993 года.
Акрамя таго, вымаемыя з НАСА тэхнічных дакладаў
сервер у якасці часткі НАСА CP-10 129.
Злёгку змененая версія з'явілася ў
Зімовы 1993 пытанне аб _Whole Зямлі Review_.


Анатацыя

На працягу трыццаці гадоў, мы будзем мець тэхналагічныя
сродкі для стварэння звышчалавечыя інтэлекту. Неўзабаве пасля гэтага,
чалавечыя эпохі будзе завершаны.

Ці з'яўляецца такой прагрэс можна пазбегнуць? Калі не пазбегнуць, можа
Падзеі кіравацца, каб мы маглі выжыць? Гэтыя пытанні
даследаваны. Некаторыя магчымыя адказы (і некаторыя іншыя
небяспекі) прадстаўлены.

_What З'яўляецца Singularity? _

Паскарэнне навукова-тэхнічнага прагрэсу была цэнтральнай Асаблівасцю гэтага стагоддзя. Я лічу, у дадзенай працы, што мы на краі змены супастаўныя з ростам чалавечага жыцця на Зямлі. Дакладнае прычынай гэтага змены з'яўляецца непазбежным стварэнне з дапамогай тэхналогіі асоб з больш чым чалавечы інтэлект. Ёсць некалькі спосабаў у якой навука можа дасягнуць гэтага прарыву (і гэта яшчэ адна. Прычына, па якой упэўненасць, што падзеі будуць адбывацца): Аб развіцці кампутараў, якія "прачнуцца" і нечалавеча разумны. (На сённяшні дзень больш за ўсё спрэчак у вобласці А. І. ставіцца да ці можам мы стварыць чалавечыя эквівалентнасці ў машыне. Але калі адказ будзе "так, мы можам", гэта значыць сумневаў, што істоты разумней можа быць пабудаваная неўзабаве пасля гэтага. Аб вялікіх кампутарных сетак (і звязаных з імі карыстальнікаў) можа "абудзіць да" як нечалавеча інтэлектуальныя асобы. Аб Камп'ютэр/чалавечага інтэрфейсу можа стаць настолькі інтымнае, што карыстачы можа разумна разглядацца нечалавеча разумны. Аб Біялагічная навука можа знайсці спосаб палепшыць прыродныя чалавечага інтэлекту.

Першыя тры магчымасці ў значнай ступені залежыць ад паляпшэння камп'ютэрнага абсталявання. Прагрэс у кампутарнай тэхнікі вынікаў дзіўна ўстойлівы крывая ў апошнія некалькі дзесяцігоддзяў [16]. Абапіраючыся галоўным чынам на гэтую тэндэнцыю, я лічу, што стварэнне большага, чым чалавечы інтэлект будзе адбывацца на працягу наступных трыццаці гадоў. (Чарльз Плат [19] указаў А. І. энтузіястаў былі прад'яўлення прэтэнзій як гэта на працягу апошніх трыццаці гадоў, толькі таму я не вінаваты ў двухсэнсоўнасці адносна часу, дазвольце мне больш канкрэтна:. Я буду здзіўлены, калі гэта падзеі да 2005 года або пасля 2030 года.) Якія наступствы гэтай падзеі? Калі больш, чым чалавечы інтэлект нясе прагрэс, што прагрэс будзе значна больш хуткім. На самай справе, здаецца, няма прычыны, чаму прагрэс сам па сабе не мяркуе стварэнне яшчэ больш інтэлектуальныя асоб - на ўсё яшчэ кароткай часовай шкале. Лепшая аналогія, што я бачу, з эвалюцыйным мінулым: Жывёліны могуць адаптавацца да праблем і робяць вынаходніцтвы, але часта не хутчэй, чым натуральны адбор можа рабіць сваю працу - свет выступае ў якасці яго ўласнага трэнажора ў выпадку натуральнага адбору. Мы, людзі маюць магчымасць засвоіць свету і паводзінаў ", што калі" ў нашых галовах, мы можам вырашыць многія праблемы тысячы разоў хутчэй, чым натуральны адбор. Зараз, шляхам стварэння сродкаў для выканання гэтых мадэлявання пры значна больш высокіх хуткасцях, мы ўваходзім у рэжым, радыкальна адрозніваецца ад нашага чалавечага мінулага, як мы, людзі з найнізкіх жывёл. З чалавечага пункту гледжання гэта змена будзе выкідваць ўсе папярэднія правілы, магчыма, у імгненне вока, экспанентны уцякалі за любую надзею на кантроль. Рэалізацыя праектаў, якія раней лічыліся можа здарыцца толькі ў "мільён гадоў" (калі наогул), хутчэй за ўсё, адбудзецца ў наступным стагоддзі. (У рабоце [4], Грег Бир малюе карціну асноўных змяненняў, якія адбываюцца ў лічаныя гадзіны.) Я думаю, што гэта справядліва назваць гэта падзея асаблівасць ("Singularity" для мэт гэтага артыкула). Гэта кропка, дзе нашы мадэлі павінны быць знішчаныя і новыя правілы рэальнасці. Як мы бліжэй і бліжэй да гэтай кропцы, яна будзе маячыць шырэй і шырэй над чалавечымі справамі да паняцце становіцца звычайнай з'явай. Але калі ён, нарэшце, здараецца, што ўсё яшчэ можа быць вялікім здзіўленнем і вялікім невядомым. У 1950-я гады было вельмі мала, хто бачыў гэта: Стэн Улам [27] перафразаваць Джона фон Нэймана, як кажуць: адзін размова з цэнтрам на ўсе паскарае тэхнічны прагрэс і змяненні ў рэжыме чалавечага жыцця, якая дае з'яўленне набліжаюцца некаторыя істотныя асаблівасць у гісторыі гонкі, за якой чалавечых справах, як мы іх ведаем, не можа працягвацца.

Фон Нэйман нават выкарыстоўвае тэрмін асаблівасць, хоць і здаецца ён усё яшчэ думае нармальных прагрэсу, а не стварэння звышчалавечыя інтэлекту. (Для мяне, superhumanity сутнасць Singularity. Без гэтага мы хацелі б атрымаць лішак тэхнічнага багацця, ніколі не засвойваецца (гл. [24]).) У 1960-х гадоў было прызнана, некаторыя з наступстваў звышчалавечыя выведкі. IJ Добра піша [10]: Хай ultraintelligent машына быць вызначана як машына, якая можа нашмат перасягнуць усе інтэлектуальнай дзейнасці любой хто якім бы разумным. Паколькі канструкцыя машын з'яўляецца адным з гэтых інтэлектуальнай дзейнасці, ultraintelligent машына магла дызайн яшчэ лепш машыны, там будзе тое несумненна будзе "разведка выбуху", і розум чалавека застанецца далёка ззаду. Такім чынам, першы ultraintelligent машына _last_ вынаходствы, што чалавеку трэба ўсё зрабіць, пры ўмове, што машына паслухмяная дастаткова, каб сказаць нам, як трымаць яго пад кантролем.... Яна з'яўляецца больш верагодным, чым няма, што на працягу ХХ стагоддзя, ultraintelligent машына будзе пабудавана, і што ён будзе апошнім вынаходніцтвам, што чалавеку трэба зрабіць. Добрае захапіў сутнасць збеглых, але не мае на яго самых трывожных наступстваў. Любая разумная машына падобнага ён апісвае не будзе "прыладай" чалавецтва - больш, чым людзі інструментаў трусаў ці Малінаўкі або шымпанзэ.

Праз 60-х і 70-х і 80-х гадоў, прызнанне катаклізму распаўсюджвання [28] [1] [30] [4]. Магчыма, гэта было пісьменнікаў-фантастаў, якія лічаць, першыя канкрэтныя наступствы. У рэшце рэшт, "жорсткі" пісьменнікаў-фантастаў, тыя, хто спрабуе пісаць канкрэтных гісторый пра ўсё, што тэхналогія можа зрабіць для нас. Усё больш і больш, гэтыя пісьменнікі адчувалі непразрыстыя сцены праз будучыні. Калі-то, яны маглі бы такія мільёны фантазій гадоў у будучыні [23]. Цяпер яны ўбачылі, што іх самыя руплівыя экстрапаляцыі ў выніку непознаваемое... ў бліжэйшы час. Аднойчы, галактычных імперый магло здацца пасля правах вобласці. Зараз, на жаль, нават міжпланетных з іх. А як наконт 90-х і '00s і '10s, як спаўзанне да краю? Як падыход Singularity распаўсюду праз чалавечае светапогляд? Нейкі час яшчэ, агульнай крытыкі машыны мудрасць будзе мець добрую прэсу. У рэшце рэшт, пакуль мы не абсталяванні, магутны, як чалавечы мозг гэта, верагодна, дурное думаць, што мы будзем у стане стварыць чалавечы эквівалент (ці больш) выведкі. (Існуе надуманых магчымасць таго, што мы маглі б зрабіць чалавека з эквівалент менш магутнае апаратнае забеспячэнне, калі былі гатовыя адмовіцца ад хуткасці, калі б мы былі гатовыя пагадзіцца на штучнае істота, якое было літаральна павольна [29]. Але значна Больш верагодна, што распрацоўка праграмнага забеспячэння будзе складаны працэс з удзелам многіх няўдалых спробаў і эксперыментаў. Калі так, то прыбыццё самасвядомасцю машын не адбудзецца да заканчэння развіцця апаратных сродкаў, якія значна больш магутным, чым прыродныя абсталяванне людзей ".) Але з цягам часу, мы павінны ўбачыць больш прыкмет. Дылема адчуваецца пісьменнікаў-фантастаў, будзе ўспрымацца ў іншых творчых пачынаннях. (Я чуў, ўдумлівы камічных пісьменнікаў кнігі турбавацца пра тое, як ўражлівы эфект, калі ўсё бачнае можа быць выраблена тэхнічна звычайнай справай.) Мы ўбачым аўтаматызацыі замяніўшы ўсё вышэй і вышэй ўзроўню рабочых месцаў. У нас ёсць інструменты прама зараз (сімвалічнай праграмы матэматыка, CAD / CAM), што вызваляе нас ад самай цяжкай нізкага ўзроўню. Ці, па-іншаму: праца, якая па-сапраўднаму прадуктыўным з'яўляецца вобласць стабільна менш і больш элітныя долю чалавецтва. У бліжэйшыя асаблівасці, мы бачым, прадказанні _true_ тэхналагічная беспрацоўе, нарэшце, спраўдзілася.

Іншым прыкметай прагрэсу асаблівасць: самі ідэі павінны распаўсюджвацца ўсё хутчэй, і нават самыя радыкальныя хутка стане звычайнай справай. Калі я пачаў пісаць, здавалася, вельмі лёгка прыдумаць ідэі, якія дзесяцігоддзямі прасочваюцца ў культурным прытомнасці, зараз час выканання больш падобная на васемнаццаць месяцаў. (Вядома, гэта можа быць проста мне страты маім уяўленні, як я старэю, але я бачу эфект у іншых таксама.) Як і шок у сцісканай вадкасці, Singularity набліжаецца як мы паскорыць праз крытычную хуткасць. І тое, што аб прыбыцці Singularity сябе? Што можна сказаць пра яго фактычнага з'яўлення? Так як яна ўключае ў сябе інтэлектуальную ўцякаюць, ён, верагодна, адбываюцца хутчэй, чым які-небудзь тэхнічнай рэвалюцыі бачылі да гэтага часу. Аблогі падзея, верагодна, будзе нечаканым - магчыма, нават зацікаўленых даследчыкаў. ("Але ўсе нашы папярэднія мадэлі былі кататонической! Мы былі проста налады некаторых параметраў....") Калі сетка досыць распаўсюджаная (у усюдыісных ўбудаваных сістэм), то можа здацца, што нашы экспанаты ў цэлым раптам прачнуўся. А што адбудзецца, месяц ці два (ці праз дзень або два) пасля гэтага? У мяне ёсць толькі аналогіі, каб паказаць на: рост чалавецтва. Мы будзем у эпоху пасля заканчэння "Чалавек. І для ўсіх маіх нястрымнай тэхналагічнага аптымізму, часам мне здаецца, я быў бы больш камфортна, калі б я быў у дачыненні да гэтых падзей трансцэндэнтных ад адной тысячы гадоў выдаліць... замест дваццаці. _Can Singularity пазбегнуць _ Ну, можа быць, гэта адбудзецца не на ўсіх: Часам я спрабую ўявіць сабе прыкметы, якія мы павінны чакаць, каб убачыць, калі асаблівасць не развівацца. Ёсць шырокае прызнанне аргументы Пенроуза [18] і Серл [21] у дачыненні практычнасці машыны мудрасць. У жніўні 1992 года, думаючых машын карпарацыя правяла семінар для расследавання пытанне "як мы будзем будаваць машыны, што думае" [Thearling]. Як можна здагадацца з назвы семінара, удзельнікі былі не асабліва падтрымлівае аргументы супраць машыннага інтэлекту. У самой справе, было дасягнута агульная згода, што розум можа існаваць на небіялагічны субстратаў і, што алгарытмы маюць важнае значэнне для існавання розумаў. Тым не менш, было шмат спрэчак аб Raw Power абсталявання, якое прысутнічае ў арганічных мазгі. Меншасць лічыць, што найбуйнейшыя 1992 кампутараў на працягу трох парадкаў велічыні сілы чалавечага мозгу. Большасць удзельнікаў пагадзіліся з ацэнкай Моравеца [16], што мы ад дзесяці да сарака гадоў ад апаратнага парытэту. І яшчэ не было іншага нацыянальнага меншасці, які паказаў на [6] [20], і выказаў меркаванне, што вылічальныя кампетэнцыі асобных нейронаў могуць быць нашмат вышэй, чым прынята лічыць. Калі так, то нашы цяперашнія апаратныя кампутар можа быць столькі, колькі _ten_ парадкаў менш абсталявання мы насіць з сабой у нашых галовах. Калі гэта праўда (ці ўжо на тое пайшло, калі Пенроуз або Сирл крытыкі справядліва), мы ніколі не маглі б бачыць Singularity. Замест гэтага, у пачатку '00s мы знайшлі б нашы крывыя прадукцыйнасці абсталявання пачынаюць выраўноўвацца - гэта выклікана нашай няздольнасці аўтаматызаваць складанасці праектныя работы, неабходныя для падтрымкі апаратнага крывыя трэнду. Мы б у выніку некаторыя _very_ магутнае абсталяванне, але без магчымасці правесці яго далей. Камерцыйная лічбавая апрацоўка сігналу можа быць дзіўным, даючы аналагавы знешні выгляд нават на лічбавыя аперацыі, але нічога не будзе ніколі "прачнуцца" і ніколі не будзе інтэлектуальнай уцякалі якая сутнасць Singularity. Гэта, верагодна, будзе разглядацца як залаты век... і яна таксама будзе канец прагрэсу. Гэта вельмі падобна на будучыню прадказвае Гюнтэр стэнты. На самай справе, на стар 137 [24], стэнты відавочна цытуе развіцця Transhuman інтэлект як дастатковая ўмова, каб зламаць яго праекцый.

Але калі Тэхналагічная сінгулярнасці можа здарыцца, гэта будзе. Нават калі ўсе ўрада свету павінны былі зразумець, "пагроза" і быць у смяротным страху ён, прагрэс у дасягненні мэты будзе працягвацца. У фантастыцы, былі гісторыі законы забараняюць будаўніцтва "машыны ў форме розум чалавека" [12]. На самай справе, канкурэнтная перавага - эканамічнай, ваеннай, нават мастацкія - кожнага загадзя ў аўтаматызацыі настолькі пераканаўчым, што прыняцце законаў, якія маюць або звычаі, якія забараняюць такія рэчы проста запэўнівае, што хто-то іншы атрымаць іх у першую чаргу. Эрык Дрекслер [7] падала ўражлівыя разуменне аб тым, як далёка тэхнічнага ўдасканалення можа ісці. Ён згодзен з тым, што звышчалавечыя інтэлекту будуць даступныя ў найбліжэйшай будучыні - і што такія прадпрыемствы прадстаўляюць пагрозу для чалавечай статус-кво. Але Дрекслер сцвярджае, што мы можам ўкласці такія Transhuman прылад у правілах ці фізічнае ўтрыманне такіх, што іх вынікі могуць быць разгледжаны і бяспечна выкарыстоўваць. Гэта ultraintelligent машыны IJ Добра, з дозай асцярогай. Я сцвярджаю, што заключэнне непарыўна непрактычна. У выпадку фізічнага утрыманьня: Уявіце, што вы абмежаваныя ў ваш дом толькі з абмежаваным доступам да дадзеных на вуліцу, да сваіх гаспадароў. Калі гэтыя думкі майстра ў памеры - кажу, - у мільён разоў павольней, чым вы, мала хто сумняваецца, што на працягу года (час), вы маглі прыдумаць "карысныя парады", якія дарэчы вас свабоднымі. (Я называю гэта "хуткае мысленне" форма суперинтеллект "слабых superhumanity". Такія "слаба звышчалавечыя" асобы, магчыма, запісаць у некалькі тыдняў па-за часам. "Моцная superhumanity" будзе больш, чым моцна падвысіць тактавую частату на чалавечага ўзроўню розуму. Цяжка сказаць дакладна, што "моцны superhumanity" будзе заўгодна, але розніца, як уяўляецца, глыбокія. Уявіце, сабака ўвазе на вельмі высокай хуткасці. б тысячы гадоў сабачага жыцця дадаць да любога чалавечага разумення ? (Зараз, калі сабака ўвазе былі спрытна перамантаваць і _then_ працаваць на высокай хуткасці, мы маглі б бачыць нешта іншае....) Большасць спекуляцый пра суперинтеллект здаецца, заснаваныя на слаба звышчалавечыя мадэль. Я лічу, што нашы лепшыя здагадкі аб пасадзе -асаблівасць свету можна атрымаць, думаючы аб прыродзе моцных superhumanity. Я вярнуся да гэтага пазней у артыкуле).

Іншы падыход да Drexlerian ўтрымання пабудаваць _rules_ ў розуме ствараецца звышчалавечыя сутнасці (законаў Азімава). Я думаю, што выкананне правілаў досыць строгім, каб быць у бяспекі будзе таксама вырабляць прылады, чыя здольнасць была відавочна саступае неабмежаванай версіі (і так чалавечыя канкурэнцыі будзе спрыяць развіццю гэтых больш небяспечныя мадэлі). Тым не менш, мара Азімаў з'яўляецца выдатным адно: Уявіце сабе, паслухмяная раба, які ў 1000 раз свае магчымасці ва ўсіх адносінах. Уявіце сабе істота, якое можа задаволіць усе Вашы бяспечнай пажадае (незалежна ад таго, што сродкі) і яшчэ 99,9% свайго часу вольнага для іншых відаў дзейнасці. Там будзе новая Сусвет, якую мы ніколі не разумеў, але напоўнены добразычлівы багоў (хоць адзін з _my_ пажаданні могуць стаць адным з іх). Калі асаблівасць не можа быць папярэджана ці абмяжоўваецца, так жа, як дрэнна можа пасля правах эпохі быць? Ну... даволі дрэнна. Фізічнага вымірання чалавечай расы з'яўляецца адной з магчымасцяў. (Або, як Эрык Дрекслер паклаў яго нанатэхналогій: Улічваючы ўсё, што такая тэхналогія можа зрабіць, магчыма, урада проста вырашылі, што яны больш не грамадзяне маюць патрэбу). Аднак фізічнае выміранне не можа быць страшная магчымасць. Зноў жа, аналогія: Падумайце аб розных спосабах, якімі мы звязаны з жывёламі. Некаторыя з грубай фізічнай злоўжывання непраўдападобным, але.... У свеце пасля правах там будзе па-ранейшаму шмат нішаў, дзе чалавечы эквівалент аўтаматызацыі б пажадана: ўбудаваных сістэм аўтаномнага прылады, самасвядомасцю дэманаў у ніжняй функцыянавання вялікіх sentients. (Моцна звышчалавечыя выведкі, верагодна, будзе таварыства розуму [15] з некаторымі вельмі кампетэнтныя кампанентаў.) Некаторыя з гэтых чалавечых эквівалентаў могуць быць выкарыстаны для не больш, чым лічбавай апрацоўкі сігналу. Яны будуць больш падобная на кітоў, чым у людзей. Іншыя могуць быць вельмі чалавечага тыпу, але з аднабаковым, _dedication_, што б змясціць іх у псіхіятрычную бальніцу ў нашу эпоху. Хоць ні адно з гэтых істот можа быць з плоці і крыві людзей, яны могуць быць бліжэйшым рэчы ў новую сераду, што мы называем чалавечым цяпер. (IJ Добрае што-небудзь сказаць пра гэта, хоць на гэтым познім рада можа быць спрэчным: добра [11] прапаноўваецца "Мэта-залатое правіла", якія маглі б перафразаваць як "Стаўцеся да сваіх падначаленых, як вы будзе разглядацца вашым начальства. "Гэта выдатна, парадаксальная ідэя (і большасць маіх сяброў не веру ў гэта), паколькі тэарэтыка-гульнявой выйгрышу так цяжка сфармуляваць. Але калі б мы маглі прытрымлівацца яму, у нейкім сэнсе, што маглі б сказаць што-то пра праўдападобнасці такога дабра ў гэтым свеце.) я сцвярджаў вышэй, што мы не можам прадухіліць сінгулярнасці, што яго прыход, непазбежным следствам людзі "натуральнага канкурэнтаздольнасці і магчымасці, закладзеныя ў тэхналогію. І ўсё ж... Мы ініцыятараў. Нават самыя буйныя лавіны выкліканыя дробязяў. Мы маем права ствараць пачатковыя ўмовы, каб усё адбылося такім чынам, што менш варожа, чым іншыя. Вядома (як з пачаткам лавіны), яно не можа быць ясна, што права кіруючых падштурхнуць на самай справе:

_Другие Шляхі да Singularity: інтэлект Amplification_ Калі людзі кажуць аб стварэнні нечалавеча разумныя істоты, яны, як правіла, прадстаўляючы праект ІІ. Але як я ўжо адзначыў у пачатку гэтага артыкула, Ёсць іншыя шляхі да superhumanity. Камп'ютэрныя сеткі і чалавек-кампутар інтэрфейсы здаецца больш прызямлёныя, чым А. І., і ўсё ж яны могуць прывесці да Singularity. Я называю гэта кантрасны падыход выведкі узмацненнем (IA). І. А. з'яўляецца тое, што ідзе вельмі натуральна, у большасці выпадкаў нават не прызналі яго распрацоўшчыкі, які ён ёсць. Але кожны раз, калі нашы магчымасці доступу да інфармацыі і данесці яе да іншых паляпшаецца, у пэўным сэнсе мы дасягнулі больш, чым прыродны розум. Нават цяпер, каманда кандыдат чалавека і добры кампутар рабочай станцыі (нават па-за чыстых працоўных станцый!) Маглі б, верагодна, макс любы пісьмовы тэст інтэлекту ў існаванні. І вельмі верагодна, што І. з'яўляецца значна прасцей шлях да дасягненню superhumanity, чым чысты ІІ. У людзей, складаных праблем развіцця ўжо вырашаны. Будаўніцтва знутры самі павінны быць прасцей, чым высветліць, першае, што мы на самой справе і тое будаўнічыя машыны, якія ўсё гэта. І ёсць па меншай меры магчымыя прэцэдэнтам для такога падыходу. Кернс-Сміт [5] выказаў здагадку, што біялагічная жыццё, магчыма, пачалі, як дадатак да яшчэ больш прымітыўнай жыцця на аснове крышталічнага росту. Лін Маргуліс [14] зрабіла пераканаўчыя аргументы на карысць меркавання, што мутуализм з'яўляецца вялікай рухаючай сілай у эвалюцыі. Звярніце ўвагу, што я не прапаную, што А. І. даследаванні ігнараваць ці менш фінансавання. Што адбываецца з ІІ часта маюць прыкладання ў І.А., і наадварот. Я мяркую, што мы прызнаем, што ў навукова-даследчай сеткі і інтэрфейс ёсць што-то гэтак жа глыбокай (і патэнцыйных дзікіх), як штучны інтэлект. З гэтымі словамі разумення, мы можам убачыць праекты, якія не так непасрэдна прымяняцца як звычайныя інтэрфейсу і працы па праектаванню сеткі, але якія служаць для прасоўвання нас да асаблівасць ўздоўж шляху IA.

Вось некалькі магчымых праектаў, якія набываюць асаблівае значэнне, улічваючы пункт гледжання І. А.: Аб чалавек / кампутар каманды аўтаматызацыі: Вазьміце праблемы, якія звычайна лічацца чыста машыннага рашэнні (як ўзгорка узыходжання праблемы), і распрацоўваць праграмы і інтэрфейсы, якія прымаюць Перавага чалавека "інтуіцыі і наяўных апаратных сродкаў кампутара. Улічваючы ўсё bizarreness шматмерных ўзгорка узыходжання праблемы (і акуратныя алгарытмы, якія былі распрацаваны для іх рашэння), там могуць быць некаторыя вельмі цікавыя экспазіцыі і кантролю сродкаў, якія прадстаўляюцца ў чалавечым члена каманды. O Распрацоўка чалавека / кампутар сімбіёз ў мастацтве: Камбінат графічных магчымасцяў пакалення сучасных машын і эстэтычнай адчувальнасці чалавека. Вядома, было велізарная колькасць даследаванняў, у распрацоўцы сродкаў вылічальнай тэхнікі для мастакоў, як працоўныя зберажэнні сродкаў. Я прапаную, што мы відавочна імкнуцца да большай зліцця кампетэнцыі, што мы відавочна прызнаць сумесны падыход, што гэта магчыма. Карл Сімс [22] зрабіў выдатную працу ў гэтым кірунку. Аб Дазволіць чалавека / каманд кампутара на шахматныя турніры. У нас ужо ёсць праграмы, якія могуць гуляць лепш, чым амаль усе людзі. Але, як шмат працы было зроблена аб тым, як гэтая сіла можа быць выкарыстаная чалавекам, каб атрымаць што-то яшчэ лепш? Калі такіх каманд было дазволена па крайняй меры ў некаторых шахматных турніраў, яна магла б станоўчы ўплыў на даследаванні сярод іншага, што дазваляе кампутараў у турнірах былі для адпаведнай нішы ў ІІ. O Распрацоўка інтэрфейсаў, якія дазваляюць камп'ютэру і доступу да сеткі, не патрабуючы чалавечага быць прывязаным да адной кропцы, седзячы перад кампутарам. (Гэта адзін з аспектаў сярод іншага, што падыходзіць так добра з вядомымі эканамічнымі перавагамі, што шмат намаганняў, ужо выдаткаваў на гэта.) O распрацаваць больш сіметрычных сістэм падтрымкі прыняцця рашэнняў. Папулярныя даследаванні / прадукту вобласці ў апошнія гады сістэмы падтрымкі прыняцця рашэнняў. Гэта з'яўляецца адной з формаў І.А., але можа быць занадта сканцэнтравана на сістэмах, якія прароцкім. Наколькі праграма дае карыстачу інфармацыю, павінна быць ідэя карыстальнік дае праграме кіраўніцтва. O Выкарыстаньне лакальнай сеткі, каб зрабіць чалавечую каманд, якія сапраўды працуюць (гэта значыць, з'яўляюцца больш эфектыўнымі, чым іх кампаненты членаў). Як правіла, гэта вобласці "групавой", ужо вельмі папулярных камерцыйных пераследу. Змену пункту гледжання тут будзе разглядаць групавой дзейнасці, як спалучэнне арганізма. У нейкім сэнсе, гэтая прапанова можна разглядаць як мэта вынаходствы "Рэгламент работы" для такіх аперацый камбінацыі. Напрыклад, фокус-групы могуць быць больш лёгка падтрымліваць, чым у класічнай пасяджэнняў. Экспертыза асобных чалавечых членаў можа быць ізаляваная ад эга такія пытанні, што ўклад розных членаў арыентавана на каманды праекта. І, вядома, агульныя базы дадзеных могуць быць выкарыстаны значна больш зручна, чым у звычайных аперацый камітэта. (Майце на ўвазе, што гэта прапанова накіравана на каманду аперацый, а не палітычныя мітынгі. У палітычнай абстаноўцы, аўтаматызацыі, апісаныя вышэй, проста захаванне сілы асоб, якія прымаюць правілы!) Аб пралом ва ўсім свеце Інтэрнэт як чалавечае камбінацыя / станка. З усіх элементаў у спісе, прагрэс у гэтым ідзе хуткім і можа працаваць з намі ў Singularity, перш чым што-небудзь яшчэ. Улада і ўплыў нават сучасных Інтэрнэт значна недаацэнены. Напрыклад, я думаю, што нашы сучасныя кампутарныя сістэмы будуць ламацца пад цяжарам сваіх уласных складанасці, калі б не было краю, што USENET "групавы розум" дае сістэмнае адміністраванне і падтрымку людзей!) Вельмі анархіі ва ўсім свеце чыстага развіцця сведчыць аб яго патэнцыяле. Як падлучэння і прапускную здольнасць і памер архіва і прадукцыйнасці кампутара усё павялічваецца, мы бачым нешта накшталт [14] бачанне Лін Маргуліс "біясферы як дадзеныя працэсары прайграваюцца, але ў мільён разоў большую хуткасць і з мільёнамі чалавечых інтэлектуальных агентаў (сябе).

Прыведзеныя вышэй прыклады ілюструюць даследаванне, якое можа быць зроблена ў кантэксце сучасных дэпартаментаў па інфарматыцы. Ёсць і іншыя парадыгмы. Напрыклад, вялікая частка працы ў вобласці штучнага інтэлекту і нейронных сетак выйграюць ад больш цеснай сувязі з біялагічнай жыцця. Замест таго каб проста спрабаваць мадэляваць і зразумець біялагічную жыццё з кампутарамі, даследаванні могуць быць накіраваны на стварэнне кампазітных сістэм, заснаваных на біялагічнай жыцця для кіраўніцтва або для забеспячэння функцый, якія мы не разумеем досыць добра, але для рэалізацыі на апаратным узроўні. Даўнюю мару навуковай фантастыкі мела месца прамая мозгу кампутарных інтэрфейсаў [2] [28]. У самой справе, ёсць пэўная праца, што можна зрабіць (і было зроблена) ў гэтай вобласці: "Аб пратэзаванне канечнасцяў тэмы прамога камерцыйнага прымянення. Нерв да крэмнію пераўтваральнікі могуць быць зробленыя [13]. Гэта цікава, бліжэйшы крок да прамых communcation. Аб Падобныя прамыя спасылкі ў мозг можа быць дасягальна, калі хуткасць нізкая: для чалавечага навучання гнуткасць, фактычныя мэты нейронаў мозгу, магчыма, не павінны быць сапраўды абраны. Нават 100 біт у секунду было б вельмі карысным для інсульту ахвяр, якія інакш былі б абмежаваныя кіраваны з дапамогай меню інтэрфейсу. Аб Падключэнне да аптычнай ствол мае патэнцыял для паласы прапускання 1 Мбіт у секунду або каля таго. Але для гэтага нам неабходна ведаць дробнамаштабных архітэктуры гледжання, і мы павінны паставіць велізарную сетку электродаў з вытанчанай дакладнасцю. Калі мы хочам, каб нашы сувязі высокай прапускной здольнасці, каб быць _В addition_ да таго, што шляхі ўжо прысутнічаюць у мозгу, праблема становіцца значна больш цяжкімі. Проста прыліпання сеткі з высокай прапускной здольнасцю прыёмнікаў ў мозг, вядома, не зробіць гэтага. Але выкажам здагадку, што з высокай прапускной здольнасцю сеткі прысутнічалі ў той час як структура мозгу была фактычна стварэнне, як эмбрыён развіваецца. Гэта прадугледжвае: O эмбрыёнаў Эксперыменты на жывёл. Я б не стаў разлічваць на поспех ІА ў першыя гады такія даследаванні, але дае развіваюцца мазгі доступ да складаным мадэлявання нейронных структур можа быць вельмі цікава людзям, якія вучацца як эмбрыянальнага мозгу развіваецца. У доўгатэрміновай перспектыве, такія эксперыменты могуць вырабляць жывёл з дадатковымі шляхамі сэнс і цікавыя інтэлектуальныя здольнасці.

Першапачаткова я спадзяваўся, што гэтая дыскусія ІА б даць некаторыя выразна бяспечнага падыходу да Singularity. (У рэшце рэшт, І. дазваляе нашым удзелам у якім-то трансцэндэнтнасці.) Нажаль, аглядаючыся на гэтыя прапановы І. А., усё, што я ўпэўнены ў тым, што яны павінны ўлічваць, што яны могуць даць нам больш магчымасцяў. Але што тычыцца бяспекі... Ну, некаторыя з прапаноў трохі жудасны на твары. Адзін з маіх неафіцыйных аглядальнікаў адзначылі, што І. А. для асобных людзей, стварае даволі злавесную эліту. Мы, людзі, мільёны гадоў эвалюцыйнага багажу, што робіць нас сувязі канкурэнцыі ў смяротнай святла. Значная частка гэтай забойнай не могуць быць неабходныя ў сучасным свеце, той, дзе прайгралі ўзяць на сябе пераможцаў трукі і coopted ў пераможцаў прадпрыемстваў. Істота, якое было пабудавана _de novo_ можна было б зрабіць значна больш дабраякасных асобай аднаго з ядром на аснове ікол і кіпцюр. І нават эгалітарнай ўяўленне аб Інтэрнэце, які прачынаецца разам з усім чалавецтвам можна разглядаць як кашмар [25]. Праблема не ў тым, што асаблівасць ўяўляе сабой проста праходзяць чалавецтва ад цэнтра дзіўна, але што яна супярэчыць некаторым з нашых найбольш глыбока укаранелыя паняцці быцця. Я думаю, што пільны погляд на паняцце моцнай superhumanity можна паказаць, чаму гэта так. _Strong Superhumanity і лепшае, што мы можаце задаць for_ Выкажам здагадку, мы маглі б адаптаваць Singularity. Выкажам здагадку, мы маглі б дасягнуць нашых самых экстравагантных надзей. Што ж тады б мы просім: што людзі самі сталі б свае пераемнікі, што ўсё, што адбываецца несправядлівасць будзе стрымлівацца нашы веды аб нашых каранях. Для тых, хто застаўся без змен, мэта будзе дабраякаснай лячэння (магчыма, нават даючы спыніцца-задніцы з'яўленне быць гаспадарамі богападобнымі рабоў). Гэта можа быць залатой стагоддзе, які таксама ўдзельнічае прагрэсу (overleaping бар'ер стэнты's). Неўміручасць (або па крайняй меры жыцця да тых часоў, як мы можам зрабіць сусвету выжыць [9] [3]) будзе дасягнута.

Але ў гэтым яркіх і добрых свету, філасофскія праблемы самі сталі палохаць. Ўвазе, што застаецца на той жа магутнасці не можа жыць вечна, а пасля некалькіх тысяч гадоў яна будзе выглядаць як паўтараюцца завесы стужкі, чым чалавек. (Найбольш астуджэння карціна, якую я бачыў гэтага ў [17].) Каб жыць бясконца доўга, сам розум павінен расці... і калі ён становіцца досыць вялікі, і азіраецца..., Што спачуванне гэта можа мець з душой, што ён быў першапачаткова? Вядома позні час было бы ўсё арыгінал, але так значна больш. І таму нават для чалавека, Кэрнс-Сміт (або Лін Маргуліс) паняцце новага жыцця расце паступова з старой яшчэ павінны быць сапраўднымі. Гэтая "праблема" пра бессмяротнасць прыходзіць у значна больш непасрэдным чынам. Паняцце эга і самасвядомасці была асновай цвярозы рацыяналізм апошнія некалькі стагоддзяў. Але цяпер паняцце самасвядомасці знаходзіцца пад атакай з штучных людзей выведкі ("самасвядомасць і іншыя памылкі"). Узмацненне разведкі падрывае важнасць эга з другога боку. Пасля Singularity свету будзе ўключаць надзвычай высокую прапускную здольнасць сетак. Галоўнай асаблівасцю моцна звышчалавечыя асоб, верагодна, будзе іх здольнасць размаўляць з зменнай паласой, у тым ліку значна вышэй, чым словы або пісьмовыя паведамленні. Што адбываецца, калі часткі эга можа быць скапіяваная і аб'ядналіся, калі памер selfawareness можа расці або скарачацца, каб адпавядаць характары разгляданых задач? Гэтыя істотныя рысы моцнага superhumanity і Singularity. Думаючы пра іх, пачынаеш адчуваць, як па сутнасці дзіўна і незвычайна пасля правах эпохі будзе - _no як бы разумна і лагодна гэта даведзена да be_. З аднаго кута, бачанне падыходзіць многія нашы шчаслівыя мары: месца бясконцым, дзе мы сапраўды можам даведацца адзін аднаго і зразумець найглыбейшыя тайны. З іншага боку, гэта шмат, як у горшым выпадку я прадстаўляў раней у гэтым дакуменце. Што сапраўды пункту гледжання? На самай справе, я думаю, што новая эра проста занадта розныя, каб упісацца ў класічныя рамкі дабра і зла. Гэта кадр заснаваная на ідэі ізаляванага, нязменнае розумы звязаныя слабымі, нізкай bandwith спасылкі. Але _does_ пасля Singularity Свет, прыдатны з вялікімі традыцыямі змяненні і супрацоўніцтва, якая пачалася ўжо даўно (магчыма, нават да ўзнікнення біялагічнай жыцця). Я думаю, што _are_ паняцці этыкі, якія будуць прымяняцца ў такую эпоху. Даследаванні І. А. і высокай прапускной здольнасці сувязі павінны палепшыць гэта разуменне. Я бачу толькі пробліскі гэтага цяпер, у мэта-залатое правіла Гуда, магчыма, у правілы для распазнавання сябе ад іншых на аснове прапускной здольнасці злучэння. І ў той час як розум і самастойна будзе значна больш лабільны, чым у мінулым, многае з таго, мы цэнім (веды, памяць, мысленне) ніколі не павінны быць страчаныя. Я думаю, што Фрыман Дайсон ён мае рацыю, калі кажа [8]: "Бог ёсць тое, што розум, калі ён выйшаў за межы маштаб нашага разумення."

[Я хацеў бы падзякаваць Джона Кэрала з Сан-Дыега дзяржаўны універсітэт і Говарда Дэвідсана з Sun Microsystems для абмеркавання праект версіі гэтай працы са мной.] _Annotated Крыніц [і выпадковыя заклік да бібліяграфічныя даведкі] _ [1] Alfvйn, Ханес, пісьмова як Улоф Джоеннесон, _The канца чалавекам? _, прэміі Кнігі, 1969 раней апублікаваны ў "Аповесці аб вялікай кампутар", баязлівы-McCann, у перакладзе з кнігай аўтарскіх 1966 Альберт Bonniers Forlag AB з ангельскім перакладам аўтарскіх 1966 года Віктар Gollanz, ТАА
[2] Андэрсан, Пол, "Каралі Хто Die", _If_ сакавіка 1962 года, стр.8-36. Друкуецца ў _Seven Conquests_, Пол Андэрсан, М. Ко, 1969.
[3] Барроу, Джона Д. і Фрэнк Дж. Типлер, _The Антропны космологического Principle_, Oxford University Press, 1986.
[4] Мядзведзь, Грег, "Blood Music", _Analog Фантастыка-Навука Fact_ чэрвені 1983. Пашыраная у раман _Blood Music_, Морроу, 1985
[5] Кэрнс-Сміт, AG, _Seven Ключы да Паходжанне Life_, Cambridge University Press, 1985.
[6] Конрад, Майкл _et al._, "На шляху да штучны мозг", _BioSystems_, vol23, pp175-218, 1989.
[7] Дрекслер, Эрык К., _Engines з Creation_, якары Прэса / Doubleday, 1986.
[8] Дайсон, Фрымен, _Infinite ва ўсіх Directions_, Harper & & Row, 1988.
[9] Дайсон, Фрыман, "Фізіка і біялогія ў адкрытай Сусвету", _Review сучаснага Physics_, том 51, pp447-460, 1979.

[10] Добра, IJ, "Спекуляцыі ў дачыненні першай Ultraintelligent машыны", у _Advances ў Computers_, тым 6, Франц Л. Alt і Морыс Рубінаў, EDS, РР31-88, 1965, М.: Свет.
[11] Добра, IJ, [Дапамажыце! Я не магу знайсці крыніца Мэта-залатое правіла Добра, хоць я ясна ўспаміны аб слуханні аб гэтым калі-то ў 1960-х гадоў. Дзякуючы дапамозе сеткі, я знайшоў спасылкі на шэраг звязаных з ім элементаў. Г. Гары Стайн і Эндру Хэйлі пісаў пра metalaw як могуць быць звязаныя з іншапланецянамі: Г. Гары Стайн, "як паводзіць сябе з іншапланецянамі... або ваш сусед", _Analog навукі Факт-Навука Fiction_ лютага, 1980, p39 -47.]
[12] Герберт, Фрэнк, _Dune_, Berkley Books, 1985. Аднак, гэты раман быў па частках у _Analog Фантастыка-Навука Fact_ ў 1960-х гадоў.
[13] Ковач, GTA _et al._, "Рэгенерацыя Микроэлектродные Array для перыферыйных нерваў Запіс і стымуляванне", _IEEE Здзелкі па биомедицинской Engineering_, V 39, N 9, стр. 893-902.
[14] А. Маргуліс, Лін і Dorion Саган, _Microcosmos, чатыры мільярды гадоў эвалюцыі ад нашых мікробнай Ancestors_, сустрэчы на вышэйшым узроўні кнігі, 1986.
[15] Мінскі, Марвін, _Society з Mind_, Сайман і Шустэр, 1985.
[16] Моравеца, Ганс, _Mind Children_, Гарвардскага універсітэта, 1988.
[17] Нивен, Лары, "Этыка Madness", _If_ красавіку 1967 г., РР82-108. Друкуецца ў _Neutron Star_, Лары Нивен, Ballantine Books, 1968.
[18] Пенроуз Р. Новы Mind_ _The імператара, Oxford University Press, 1989.
[19] Плат, Чарльз, прыватнае паведамленне.

[20] Расмусэн, С. _et al._, "Вылічальныя Connectionism ў Нейроны: Мадэль цитоскелета аўтаматаў Subserving нейронных сетак", у _Emergent Computation_, Стэфані Форэст, рэдактар, p428-449, MIT Press, 1991..
[21] Серл, Джон Р., "Minds, мазгі, і праграм", у _The Паводніцкія і мозгу Sciences_, т.3, Прэс Кембрыджскага універсітэта, 1980. Эсэ перадрукаваныя ў _The Mind's I_, пад рэдакцыяй Р. Дуглас Хофштадтер і Даніэль С. Деннет, Basic Books, 1981. Гэта перавыданне змяшчае выдатную крытыку эсэ Сирл.
[22] Sims, Карл, "Інтэрактыўныя Эвалюцыя дынамічных сістэм", мысленне Machines Corporation, Technical Report Series (апублікаваны ў _Toward Практыка аўтаномных сістэм: Працы Першай еўрапейскай Cnference па штучным Life_, Парыж, MIT Press, снежань 1991 года.
[23] Стейплдон, Олаф, _The Starmaker_, Berkley Books, 1961 (але ад наперад, верагодна, напісана да 1937)
[24] стэнты, Гюнтэр С., _The прышэсце Залатога Века. Выгляд Канец Progress_, Натуральная гісторыя Прэс, 1969
[25] Суэнвик Майкл, _Vacuum Flowers_, прадстаўлены па частках ў навуковай фантастыцы _Isaac Азімава Magazine_ сьнежня 1986. (?) -. лютага 1987 года перавыдадзены Ace Books, 1988
[26] Thearling, Курта, "як мы будзем. пабудаваць машыну, якая думае ", семінар на мысленне Machines Corporation. асабістага зносін.
[27] Улам С., Даніну Джон фон Нэйман, _Bulletin Амерыканскага матэматычнага Society_, том 64, № 3, частка 2 мая 1958 года, Р1-49
[28]. Виндж, Вернор, "Кніжны чарвяк, бяжы!", _Analog_ сакавіка 1966 г., РР8-40. перадрукаваныя ў _True імёны і іншыя Dangers_, Вернор Виндж, Baen Books, 1987
[29]. Виндж, Вернор, "сапраўдныя імёны", _Binary зоркі Колькасць 5_, Dell, 1981. Друкуецца ў _True імёны і іншыя Dangers_, Вернор Виндж, Baen Books, 1987
[30]. Виндж, Вернор, першае слова, _Omni_, студзень 1983, стар 10. </PRE>


Published (Last edited): 11-12-2012 , source: http://www-rohan.sdsu.edu/faculty/vinge/misc/singularity.html