Ca un elev de liceu, am început să citesc o parte din Isaac Asimovs povestiri scurte şi romane. Unul dintre scriitorii cei mai prolifici Science Fiction vreodată, Asimov însuşi de credite ca fiind persoană să îşi utilizeze la termen în robotică de imprimare. Ca adult, am bucura de cartile sale si a decis sa aruncam o noua privire la cei care se ocupă cu o pasiune a mea profesională: roboti. Desigur, lucrul care robotii Asimovs sunt cele mai cunoscute pentru aderarea lor este infailibilă de a Trei Legi ale Roboticii introdus în 1942 lui poveste, Runaround:
- Un robot nu poate prejudicia o fiinţă umană, sau, prin inacţiune, să permită o fiinţă umană de a veni la rău.
- Un robot trebuie să asculte ordinele date de către fiinţele umane, cu excepţia cazului în cazul în care astfel de ordine ar intra în conflict cu prima lege.
- Un robot trebuie să protejeze propria existenţă, atât timp cât o astfel de protecţie nu intră în conflict cu prima sau a doua lege.
Fără a eşua, dacă Asimov a fost scris despre roboţi, atunci linia de poveste sunt incluse, şi, adesea, centrat în jurul valorii, limitele acestor legi în condiţii extreme. În timp ce poveştile lui subliniat imperfectiunile legilor, ei, de asemenea, a subliniat cât de neobişnuit a fost faptul că un robot ar putea părea chiar să fi ascultat de legi pentru orice motiv. Impresia că vine din toate acestea este faptul că cele trei legi sunt aproape perfecte şi numai în situaţiile cele mai improbabile ar putea eşua un robot.
În lectură unele dintre eseuri Asimovs despre gândurile sale despre robotica, am ajuns să descopăr că pe deplin Asimov credea că Legile lui va fi pus în aplicare în roboţi din viitor. Nu din cauza unor convingeri egoist în importanţa sa proprie, ci pentru că el a văzut actele cu putere ca doar o formulare explicită a măsurile de siguranţă utilizate în orice instrument uman. Am început să mă întreb dacă el nu ar putea avea un punct şi dacă alţi cercetători în domeniul de AI şi Robotica au avut fiecare într-adevăr considerat cele trei legi dintr-o perspectivă gravă punere în aplicare. Pentru a afla, am trimis o mână de e-mail-uri pentru cercetători şi AI Robotica că am ştiut de la lucrări sau au întâlnit anterior. Spre meritul lor, aproape toate dintre ei au răspuns şi toate, cu răspunsuri foarte interesante. Mai jos este e-mail pe care am trimis-o, mai mult sau mai puţin. Acesta a fost personalizat, desigur, pentru cei care am întâlnit personal, dar aspectele individuale au fost eliminate din ambele adresa mea de e-mail-uri şi a lor. Aici a fost prima mea de e-mail:
Sunt un cercetator la Institutul de Tehnologie din FedEx de la Universitatea din Memphis lucrează în prezent în domeniul roboticii. Deoarece Im-vă că sunt conştienţi, pare să existe o teama generala de roboţi inteligenţi din perspectiva publicului alimentate de mass-media şi, mai acut, la Hollywood. Isaac Asimov, pe de altă parte, a formulat cele trei legi ale roboticii, care, din nou, eu sunt sigur că vă sunt conştienţi de, dar le va reafirma pentru clarificare:
1. Un robot nu poate prejudicia o fiinţă umană, sau, prin inacţiune, să permită o fiinţă umană de a veni la rău.
2. Un robot trebuie să asculte ordinele date de către fiinţele umane, cu excepţia cazului în cazul în care astfel de ordine ar intra în conflict cu prima lege.
3. Un robot trebuie să protejeze propria existenţă, atât timp cât o astfel de protecţie nu intră în conflict cu prima sau a doua lege.
Acestea au fost menite să descurajeze temerile omului şi menţineţi-roboţi sub control ca sa spunem asa. Asimov privit nu ca aceste norme verbale, ci ca matematic / sistematic încorporat într-un creier roboţi la un nivel scăzut, care nu le-ar putea rupe. Am încercat să ecartament opinii ale cercetătorilor robotică şi AI cu privire la modul în care implementabile aceste legi ar putea fi în viitor roboţi inteligenţi. Pentru o mai în profunzime, discuţii a actelor cu putere, Wikipedia are un articol destul de bine pe ea: http://en.wikipedia.org/wiki/Three_Laws_Of_Robotics
Ştiu că timpul dumneavoastră este valoros şi eu apreciez foarte mult tot ce poţi da la schimb opinia dumneavoastră cu privire la această chestiune.
Aici sunt de răspuns am primit nici o ordine, în special. Toate autorii au dat acordul lor pentru mine de a publica e-mailurile lor.
David Bourne, cercetator principal de Robotica de la Carnegie Mellon a scris:
Ei bine, este o întrebare bună! problema primara de robotica in acest moment este dacă robotul înţelege semantica / pragmatica a acţiunii sale. Un robot cu siguranţă, poate urmaţi instrucţiunile acesteia, la fel cum un computer urmează instrucţiunile acesteia. Dar, este o instrucţiune dată de gând să prăbuşirii unui program sau o unitate printr-un robot de o fiinta umana? În absolut, acest răspuns este de necunoscut! Dar asta nu este punctul. Este rezonabil pentru robotul pentru a încerca şi de a determina consecinţele unei acţiuni de către unele mijloace independente. Este un om în modul de bratul robotului în timpul meu o mişcare rapidă? Voi arăta înainte să acţioneze. Desigur, aşa cum am menţionat deja, căutarea poate nu reuşesc să vadă pericolul. Dar uite cum ar trebui. Observaţi că, chiar în căutarea este o acţiune şi poate la rândul său avea consecinţe suplimentare într-o spirală se termină niciodată de îndoială de sine / verificare. De aceea, este de necunoscut în limita.
De asemenea, aş dori să subliniez faptul că legea a treia nu este unul foarte bun. La acest moment la oameni timp de eroare sunt foarte predispuse atunci când vine vorba de calculatoare de programare şi / sau roboţi. Prin urmare, considerăm că este rezonabil pentru calculator / robot pentru a verifica dubla pentru a vă asigura că nu se va dăuna prin acţiunea. De exemplu, simplul act de a şterge un fişier este sa întâlnit cu tot felul de obiecţii şi gardieni în condiţii de siguranţă. Acest lucru este valabil în special, atunci când comandă un robot să călătorească mai repede sau pot genera momente mai mare din partea sa decât design-robotul permite. Cei mai mulţi roboţi interzice această - aşa cum ar trebui!
Desigur, Asimov presupune că destul de mult tuturor actorilor (oameni şi roboţi) să înţeleagă consecinţele acţiunilor lor. În plus, a treia lege este menit să reprezinte o componentă în lanţul de comandă (de exemplu, lanţ, militar de comandă). Privat ar trebui să meargă la moarte dacă comandat de un ofiţer. Acest lucru presupune faptul că ordonatorul de credite are cunoştinţe superioare despre toate aspectele situaţiei. Chiar şi acest lanţ de comandă permite excepţii pentru comandanţii din teren care poate avea cunoştinţe mai detaliate locale. Toată lumea are cele mai bune, iar în cazul în care regulile sunt încălcate un tribunal militar decide care a luat decizia corectă. Toate aceste complicaţiile se aplică în robotică.
Suntem încă departe de drum lung de la o aplicare fidelă a lui Asimov 3 legi ale roboticii.
Cu stimă, David
Cercetător principal, tehnica de lucrare
Carnegie Mellon
din Pittsburgh, PA
Doug Blank, profesor asociat de Informatică de la Bryn Mawr College a răspuns:
Întrebare despre cele trei legi este un punct de vedere interesant în cazul în care fiction şi science-fiction sunt foarte departe unul de altul. Problema este că roboţii nu au clare simboluri şi reguli cum ar fi cele care trebuie să fie imaginat necesară în lume SF. Cei mai mulţi roboţi, nu au capacitatea de a privi la o persoană şi de a le vedea ca o persoana (un "om"). Şi asta este cel mai uşor conceptul de necesare în vederea să urmaţi regulile. Acum, imaginaţi-vă că acestea trebuie să fie, de asemenea, capabil să recunoască şi să înţeleagă "rău", "intenţii", "alte", "de sine", "auto-conservare", etc, etc, etc Apoi vine partea cea mai grea. Acum, acestea trebuie să fie în măsură să counterfactualize despre toate aceste concepte, şi să decidă pentru ei înşişi în cazul în care o acţiune să rupă regula sau nu. Ei ar trebui să aibă o idee aa foarte bună din ceea ce se va întâmpla atunci când fac o anumită acţiune.
Chiar dacă un robot ar putea face toate cele de mai sus, atunci există o problemă mare de niveluri la care normele trebuie să se aplice. De exemplu, dacă aţi avut un robot care ar putea face cele de mai sus, atunci probabil că nu este în urma unui set de uşor de înţeles "reguli", dar comportamentul său este un fenomen mult mai complex emergente care rezultă din mai multe sisteme de nivel inferior. Acestea ar urma regulile vorbit despre cât şi la oameni respecte reguli vorbite. Pe de altă parte, dacă a încercat să pună în normele de hardware-ul, nu ştii limba sistemului de interne, şi nu a putut hardwire să faci ce vrei (la fel ca noi nu putem face operatii pe creier pentru a face pe oameni să nu încalcă legea --- câte milioane de neuroni ai avea nevoie să se adapteze?)
-Doug
Maja Mataric la USC a scris:
Sunteţi corect că toate roboticienii sunt conştienţi de legile lui Asimov de robotica, dar nu ceva care este luată în serios suficient pentru a fi chiar incluse în orice manuale robotică, care vă spune ceva despre rolul său în domeniu. Idei generale sunt foarte bune, dar noţiunile de bază ale siguranţă nu sunt atât de simple ca să fie codificat în norme succint şi independent care poate interfera cu fiecare alte Asimov ingenios descris în multe dintre povestirile sale. În practică, robot software de control, care are de a face cu problemele de siguranţă este complexă, distribuit, şi nu atît de uşor defalcate într-o ierarhie a normelor.
Cu toate acestea, obiectivele generale ale normelor Asimov sunt, desigur, o prioritate a oricărui sistem de robot care interactioneaza cu oamenii, astfel încât spiritul este foarte mult în viaţă şi bine.
Sper că acest lucru ajută.
Cheers,
<> Maja
Maja J Mataric "
Profesor de Informatică şi Neuroscience Director fondator, USC, Centrul de Robotica si Embedded Systems (cres.usc.edu) preşedintele ales, Senatul Academic Director, USC Robotics Research Lab (robotics.usc.edu) înfiinţarea Catedrei de Calculatoare si Neuroscience Programul de Universitatea din California de Sud
James Kuffner, profesor asistent la Institutul de Robotica CMU a declarat:
Vă mulţumim pentru e-mail. Este cu siguranţă un interesant subiect de discutie. Problema cu aceste legi este aceea că ei folosesc concepte abstracte şi ambigue, care sunt dificil să pună în aplicare ca o bucată de software. Ce înseamnă să "vină de a face rău"? Cum pot codifica că, în digitale de calculator? În cele din urmă, computerele de astăzi ocupa numai cu probleme logice sau numerice şi a rezultatelor, astfel încât excepţia cazului în care aceste concepte abstracte, pot fi codificate în conformitate cu aceşti termeni, aceasta va continua să fie dificil. Am o mulţime de alte gânduri în această privinţă, dar aceasta este doar un scurt rezumat.
Cele mai bune complimente,
-James
-
James Kuffner
Asistent universitar
Robotica Institutul
Carnegie Mellon University
Aaron Sloman, profesor de inteligenţă artificială şi a ştiinţelor cognitive de la Universitatea din Birmingham a pune sus un site web despre cele trei legi la scurt timp după schimbul nostru. În e-mail lui la mine, el a scris:
> Aşa cum am Sunt sigur că eşti conştient, pare să existe o teamă generală a
> roboţi inteligenţi din perspectiva publicului alimentate de
mass-media> şi, mai acut, la Hollywood.
Ori de câte ori jurnaliştii etc mă întrebaţi despre faptul că am răspuns ceva de genul:
Este foarte puţin probabil ca masini inteligente, eventual, ar putea produce un comportament mai înspăimântătoare faţă de om, decat oamenii deja produc faţă de celălalt, tot în lume, chiar şi în ţările civilizate şi se presupune că cele mai avansate, atât la nivel individual şi la nivel naţional sau sociale.
În plus, mai inteligente maşini sunt mai puţin probabil acestea sunt de a produce toate comportamentele îngrozitoare motivate de intoleranţă religioasă, naţionalismul, rasismul, lăcomia, şi plăcerea sadică de suferinţa altora. Ei vor avea obiective mult mai bine să continue.
> Isaac Asimov, pe de altă parte, a formulat "Cele Trei Legi ale
Roboticii> "că, din nou, eu sunt sigur că vă sunt conştienţi de, dar va
reafirma> le pentru clarificare:...
Întotdeauna am crezut că acestea sunt destul de stupide: ele exprimă doar o formă de rasism sau speciesism.
În cazul în care robotul este la fel de inteligent ca tu sau eu, a fost în jurul valorii de atâta timp cât tu sau eu, are atât de mulţi prieteni şi persoane aflate în întreţinere ca tu sau eu (dacă oameni, roboti, străinii inteligente de pe alta planeta, sau orice altceva), atunci nu există nici un motiv, la toate de ce ar trebui să fie obiectul unor legi etice care sunt diferite de ceea ce ar trebui să constrânge tu sau eu.
1978 mea carte, revoluţia computerului în filosofia a avut un epilog pe cruzimea de roboţi:
http://www.cs.bham.ac.uk/research/cogaff/crp/
> Acestea au fost menite să descurajeze temerile omului şi menţineţi-roboţi sub control
> ca sa spunem asa. Asimov Vizualizata de aceste reguli nu verbală, ci ca
> punct de vedere matematic / sistematic integrate in creierul unui robot de la
> un astfel de nivel scăzut care nu le-ar putea rupe. Am încercat să
> ecartament opinii ale roboticii şi a cercetătorilor în ceea ce priveşte modul în care AI
> implementat aceste legi ar putea fi în viitor roboţi inteligenţi.
Există o întrebare înainte dacă acestea ar trebui să fie * * puse în aplicare, aşa cum este indicat mai sus. Aş în vedere că, lipsite de etică, în unele cazuri.
Principalul obstacol în calea punerii în aplicare este caracterul vag în legile. De exemplu, ceea ce contează ca "rău". Sunt multe lucruri care sunt considerate ca fiind un comportament parental bună faţă de copiii lor care ar putea fi considerate ca fiind rău dacă este făcută de către un străin (de exemplu, cu înverşunare spune off, sau cu forţa imobilizarea, un copil care a început să facă ceva potential foarte periculos pentru el / ea).
Un alt obstacol în calea implica eventualele contradicţii ca filosofii vechi utilitarist găsite cu secole în urmă: ceea ce dăunează s-ar putea beneficia de altul, etc, şi prevenirea efectelor nocive la o persoană poate provoca daune la altul. Există, de asemenea, conflicte între termen scurt şi la daune pe termen lung şi de a beneficia de acelaşi individ. Nu este nimic în formularea lui Asimov despre modul în care contradicţiile ar trebui să fie rezolvată, deşi ştiu că şi alţii au observat probleme de explorat şi unele opţiuni.
(Poti sa te uiti la istoria "utilitarismului", ca o teorie etică, dacă doriţi să aflaţi mai multe exponent principal a fost John Stuart Mill,. Dar mulţi au provocat sau au încercat să se extindă teoriile lui.)
Dar răspunsul meu principal rămâne: oamenii sunt printre lucrurile de pe pământ pentru a fi mai de temut. Daca putem gasi modalitati de a educa şi de a socializa-le astfel încât să nu mai produce monştri umane, culturi sau monstru, apoi aceleaşi metode ar trebui să se aplice în cazul maşinilor cu Huma-cum ar fi inteligenta.
În cazul în care roboţii nu sunt om ca, atunci responsabilităţile designerii nu sunt diferite de responsiblities de alti designeri de sisteme complexe care sunt potenţial nocive, de exemplu, centralele nucleare, instalaţiile chimice periculoase, baraje gigantice, care perturba ecosistemele, arme care pot fi folosită în rău, sau care poate provoca accidental dezastre, etc În comparaţie cu acestea, majoritatea ameninţărilor de roboţi în viitorul apropiat vor fi mici, parţial din cauză că progresul AI-ul este atat de greu (pentru motive am fost scris despre!)
Sper că acest lucru este de folos pentru tine.
Cele mai bune urări
Aaron
Sunt foarte recunoscător tuturor celor care au avut timp să răspundă, un cuplu de care am avut discuţii în curs de desfăşurare cu privire la acest subiect, cât şi subiecte care au fost ridicate în hârtie care rezultă. Salut comentarii suplimentare cu privire la această pagină sau de hârtie, atâta timp cât eu le pot posta pe această pagină:-)
Published (Last edited): 09-11-2011
