úterý 23. března 2010

Proč nás budoucnost nepotřebuje 6

Drexlerova představa také vede k velké legraci. Já občas popisuji lidem zázraky nanotechnologie těm, kteří o ní ještě neslyšeli. Potom co je poškádlím se všemi věcmi co Drexler popisuje, dám si domácí úkol: „Použiji nanotechnologii k vytvoření upíra, za extra příspěvek vytvořím protilék”
S těmito zázraky přichází jasné nebezpečí, kterých jsem si byl silně vědom. Jak jsem řekl na konferenci o nanotechnologii v roce 1989 „Jednoduše nemůžeme dělat naši vědu, aniž bychom se obávali etických otázek” 5 Ale následně po rozhovorech s fyziky mě přesvědčilo, že nanotechnologie, ani nebude použitelná, nebo minimálně, ze nebude použitelná v nejbližší době. Krátce po té, jsem se přestěhoval do Colorada, k dokončení titěrné práce na softwaru pro internet, konkrétně k nápadům, které vzali jméno Java a Jini.
Minulé léto, Brosl Hasslacher mě pak oznámil, že nano molekulární elektronika je prakticky k použití. To byla nová zpráva, tedy pro mě a myslím, že i pro mnoho lidi – a radikálně to změnilo názor na nanotechnologii. Vrátilo mě to zpět ke knize „Motory Stvoření”. Čtení Drexlerové knihy více jako po 10 letech, mě upozornilo na fakt, jak jsem s lehkovážností dříve četl kapitolu „Hrozby a Naděje”, obsahující diskuzi jak nanotechnologie mohou být „motorem destrukce”. Zajisté, že v mém znovu čtení v této varovné knize, jsem cítil jak naivní jsou Drexlerovi návrhy jistot, s porovnáním s tím, kam se tyto nebezpečí jsou schopny dostat z dnešního pohledu.(S očekáváním a vylíčením mnoha technických a politických problémů z technologií, Drexler založil „The Foresight Institute / Institut Předvídavosti” v 80. letech, pomoci připravit společnost pro očekávání pokrokových technologií – a nejvíc na nanotechnologii.
Možný průlom montérů, vypadá více než pravděpodobně v průběhu dalších 20 let(10 let, článek je z roku 2000). Molekulární elektronika – nové podpole nanotechnologie, kde jednotlivé molekuly jsou jako obvod prvků – měla by rychle vyspět a stát se vysoce lukrativní během tohoto desetiletí, rozpoutat velké vklady k získům ve všech oborech nanotechnologií.

Bohužel, s porovnáním nukleární technologie, je mnohem jednodušší vytvořit použití destruktivní nanotechnologie, než použití té užitečné. Nanotechnologie má jasné užití ve vojenství a terrorismu a nemusíte být sebevrah, pokuď chcete zařízení, které má masivně destruktivní použit – takové zařízení může být vyvinuto k selektivní destrukci, poznamená, například, jen určitou geografickou oblast, nebo skupinu lidí, která je geneticky jiná.
Bezprostřední následek Faustova obchodu je, že zde běží o smrtelné riziko z držení obrovské moci nanotechnologie – riziko, které může zničit naši biosféru, na které zcela závisíme.
Jak Drexler popisuje:
„Rostliny” s „listy” už nejsou za potřebí, než dnešní solární panely, které by mohli přemoci rostliny, zaplňování biosféry s nepoživatelným listovým. Odolné všežravé „bakterie” by mohli přemoci opravdové bakterie: Mohli by se rozšiřovat jak lítající pyl, rychle by se rozmnožovali, a přeměnili by biosféru v prach, v řádu dnů. Nebezpečné rozmnožovače mohou být jednoduše tak odolní, malý a rychle se šířící, že je nebude možné zastavit – o to jednodušeji, pokuď neučiníme nějaké přípravy. Už tak máme dost starostí s kontrolou virusů a ovocných mušek. Mezi zasvěcenci nanotechnologie, tento problém zvaný jako „problém šedivýho bláta” Taková masa nekontrolovaných rozmnožovačů nemusí být šedivá nebo mazlavá, označení “šedivý bláto” zdůrazňuje, že rozmnožovači jsou schopni vyhladit život a mohou být tudíž méňě fascinující jak některý z druhu travní zeleně. Mohou být evolučně nepřemožitelní, ale proto zde není nutnost je za to cenit.
Hrozba šedého bláta činí jedno jasné stanovisko: Nemůžeme si dovolit žádnou nehodu s množícimi se montéry.
Šedé bláto, by byl velmi depresivní konec lidského dobrodružství na planetě Zemi, mnohem horší než mráz nebo požár a mohlo by to být prostě jedním lidským „úps” z nějaké laboratoře. 6
To je nejničivější samočinně množící se moc v genetice, nanotechnologii a robotice, která by nám měla dát pauzu. Sebe replikace je operační metoda genetického inženýrství, která je kopíruje funkci dělení buněk a takto představuje primární hrozbu šedého bláta. Příbehy robotů, kteří dostali amok, například jako Borg ve Star Treku, množící se a mutující od etických principů, které nastavili jejich tvůrci jsou velmi dobře zakotveny v knihách a komiksech ze sci-fi. Sebe replikace může být více zásadní, než jsme si mysleli, a proto těžší, nebo nemožná kontrole. Nedávný článek Stuarta Kauffmana v časopise Nature nazván „Sebe replikace: Dělají to i peptidy”, pojednává o objevu 32 amino kyselin – peptide může „sebeoživit svoji syntézu” Nevíme jaké toto rozšiřování dovednosti je, ale Kauffman poznamenává, že to může narážet na „cesta k sebe reprodukci molekulárních systému na základě mnohem větším než Watsonovi-Crickov teorie párování”|

Po pravdě, měli jsme po léta v rukou jasné varování o nebezpečích rozšíření vědomostí genetického inženýrství – možnost znalostí, které sami o sobě mohou masově zabíjet. Ale tyto hrozby nebyli vůbec na veřejnost publíkovány. Diskuze veřejnosti byla jasně nevyhovující. Není zde žádný zisk, z publíkování těchto nebezpečí.
Nukleární, biologické a chemické technologie ve 20. století byli široce používány ve vojenství jako zbraně hromadného ničení, vyvinuty ve vládních laboratořích. Při větším zaostření, ve 21. století geneticko-nano-robotické technologie mají jasný komerční záměr pro obchodní trh. V tomto věku komercionalismu, technologie s vědou jako služka – přináší sérii magických vynálezů, které jsou fenomenálně výnosné. Agresivně usilujeme o naděje těchto nových technologií, společně s nenapadnutelným globálnímy systémy kapitalismu a jejich pesrté finančně stimulující a soutěživé tlaky.
Toto je poprvé v historii naši planety co nějaký druh, jeho dobrovolnými činy, se stal nebezpečný sám sobě – stejně jako mnohým dalším.
Může to být známý progres, projevující se v mnoha světech – planeta, nově zformovaná, klidně se otáčí kolem její hvězdy, život se pomalu tvoří, kaleidoskop procesů rozvíjících živočichy, objevuje se inteligence, která se projeví a radí se o ohromné hodnotě přežití, a náhle se objeví technologie. Prokazuje, že je zde něco jako Zákon Přírody, že tyto zákony mohou být dokázány pokusy a že tyto pokusy mohou být uchovány a použity v životě, v nebývale velkém rozsahu. Věda rozpozná přínosy obrovské moci. V bleskosti, přetváří svět svými vynálezy. Některé planetární civilizace vidí jejich počínání, nastaví hranice co mohou a co nesmí být učiněno, a bezpečně překonají časy nebezpečí. Druzí nejsou tak šťastní nebo tak prozíravý, zemřou.
________________________________________
5 First Foresight Conference on Nanotechnology (první konference předvídavisti) Říjen 1989, přednáška nazvána "The Future of Computation (Budoucnost výpočtů)" Publiokováno v Crandall, B. C. a James Lewis, editors.Nanotechnology: Research and Perspectives.(Nanotechnologie: Výzkum a předpovědi) MIT Press, 1992: 269. Podívejte se www.foresight.org/Conferences/MNT01/Nano1.html.
6 V jeho 1963 novele Cat's Cradle(Kočičí kolébky), Kurt Vonnegut představujea šedé bahno-jako nehodu kde forma ledu nazvána ice-nine (led devět) , která bude tak vysoká, že zamrznou oceány.
7 Kauffman, Stuart. "Self-replication: Even Peptides Do It." (Sebe-replikace: Dělají to i peptidy)časopis Nature, 382, Srpen 8, 1996: 496. podívejte se www.santafe.edu/sfi/People/kauffman/sak-peptides.html.

pátek 19. března 2010

Proč nás budoucnost nepotřebuje 5

Sen robotiky, je za prvé, že inteligentní stroje za nás budou pracovat a tak nám dovolí žít pohodlný život, a tak obnovit život v Edenu. Z historie takových ideí je například úryvek, z knihy od George Dysona, „Darwin mezi stroji”, kde varuje: „ Ve hře života a evoluce jsou ve hře na stole tři hráči: lidské bytosti, příroda a stroje. Já jsem pevně na straně přírody. Ale příroda, jak předpokládám, je na straně strojů.” Jak vidíme, Moravec souhlasí, věří, že lidé nebudou asi schopni přežít nad dokonalými druhy robotů.
Za jak dlouho takový to roboti mohou být sestrojeni? Přicházející pokrok v počítačové výkonosti předpokládá do roku 2030. A jakmile bude existovat inteligentní robot, je to jen malý krůček k robotickému druhu, jako takovému – inteligentní robot, který je schopen vyrábět sám sebe.
Druhý sen robotiky je, že se postupně budeme přetvářet v robotickou technologii, která bude blízko nesmrtelnosti díky možnému stažení našeho vědomí, toto je proces který si myslí Danny Hills, že si na něj budeme postupně zvykat a jak Ray Kurzweil elegantně popisuje ve „Věku duchovních strujů”. (Začínáme si toho všímat už v dnešní době, jako například vkládání elektronických zařízení do našich těl, jak je ilustrováno no obalu časopisu Wired 8.02)
Ale pokuď budeme stahováni do našich technologií, tak jaké pak jsou šance, že budeme ještě námi samotnými, nebo dokonce vlastně lidmi? Připadá mi, že s větší pravděpodobností robotická existence nebude za jedno s lidmi v tom smyslu jak bychom si přáli. Roboti neboudou v žádném smyslu našimi dětmi, že touto cestou naše lidskost bude možná ztracena.
Genetické inženýrství slibuje revoluci v zeměděltsví zvýšením výtěžnosti sklizně a omezení použití pesticidů, vytvoření desítky tisíc nových druhů bakterií, rostlin, virusů a zvířat; nahradit rozmnožování, , nebo ho doplnit klonováním, vytvoření léků na mnoho chorob, prodloužení našeho vyhrazeného času k životu a jeho kvalitu a mnohem a mnohem víc. S jistotou teď už víme, že tyto zásadní změny v biologických vědách jsou bezprostředně blízko a budou vyzývat k naše představy, co vlastně život je.
Technologií jako je lidské klonování, vznáší naši pozornost k zásadním otázkám etiky a morálky. Například, když bychom přetvořili sami sebe v několik oddělených a nerovnoprávných druhů, použitím genetického inženýrství, tak by byla ohrožena představa o rovnoprávnosti, která je základním kamenem naší demokracie.
Vzhledem k neuvěřitelné síle genetického inženýrství, není žádným překvapením že jsou zde podstatné otázky bezpečnosti. Můj kamarád Amory Lovins spolu s Hunterem Lovinsem napsali článek o ekologickém pohledu na tyto druhy nebezpečí. Mezi mnoha jejich stanovisky znělo: „nový botanický přidružený vývoj rostlin s jejich ekonomickým, ne evolučním úspěchem” (přečtěte si článek "Příběh dvou botanik," časopis Wired 8.04 strana 247) Amoryho dlouhá kariéra byla zaměřena na energii a efektivitu zdrojů, z pohledu celostního systému, na systémy stvořeými lidmi; jako například celostní systém často nachází řešení mnohem jednoduší, moudřejší k jinak na pohled složitým problémům, a je použitelný samožřejmě i v našem tématu.
Po přečtení článku Lovinských, jsem uviděl pravidelnou rubriku v The New York Times od Gregga Eastbrooka o geneticky upravovaných rostlinách, pod titulkem: „Jídlo budoucnosti: Jednoho dne, bude rýže ve vitamínu A. Ledže by odpůrci technologického pokroku vyhráli”
Jsou Amory a Hunter Lovinští odpůrci technologického pokroku? Určitě ne. Věřím, že se všichni shodnem, že zlatá rýže s vitamínem A, je pravděpodobně dobrá věc, pokuď je vyvíjena s dostatečnou péčí a respektem k možným nebezpečním z manipulací křížením mezi druhy.
Uvědomování si základních nebezpečí v genetickém inženýrstní začíná růst, podobně jak na něj narážel článek bratrů Lovinsových. Veřejnost si uvědomuje neklid, který vyvolává geneticky upravované potraviny, které nejsou takto označeny.
Ale genetické inženýrství je už mnohem dál. Jak Lovniští uvedli, USDA (Americké ministerstvo zemědělství) schválilo 50 geneticky upravených rostlin pro neomezené pěstování; více jak polovina světových sojových bobů a třetina kukuřice obsahuje genetické zásahy spletené s jinými druhy životních forem.
Zatímco je zde mnoho důležitých ozázek, moje hlavní znepokojení genetického inženýrství je zaměřeno na zůžený cíl: že dává moc – ať už vojsku, náhodně, nebo úmyslně terotistickýmu útoku - k vytvoření „Bílé nemoci”
Mnoho zázraků nanotechnologie bylo poprvé vyjeveno laureátem Nobelovy ceny za fyziku Richardem Feymanem, v přednášce ,kterou přednesl v roce 1959, následně vydána pod titulem „Je tam dóle mnoho prostoru”. Tato kniha na mě velmi zapůsobila, v polovině 80. let, byla Eric Drexlerova kniha „Motor Stvoření”, v které popisoval krásu jak manipulace hmoty na atomové úrovni, může vytvořit utopickou budoucnost hojnosti, kde je vše možno vyrobit velmi levně, každá nemoc, nebo fyzický problém se bude moci vyřešit nanotechnoligií a umělou inteligencí.
Následná kniha, „Neomezená budoucnost: Revoluce Nanotechnologie”, kterou napsal Drexler jako spolu autor, popisoval některé představy změn, které možná vemou místo v našem světě, na molekulární úrovni tzv. „montéři”. Montéři mohou umožnit neskutečnou nízko nákladovou solární energii, léky pro rakovinu a běžné nachlazení budouschopni léčit posilněním imunitního systému, v zásadě kompletní očistu prostředí, neuvěřitelně levné kapesní superpočítače – v podstatě každý produkt by byl vyroben montéry v ceně, né větší než dřevo. Vesmírné lety budou dostupnější, než jak jsou dnes dostupné zámořské lety a znovu oživení vymřelých druhů.
Pamatuji si dobrý pocit po přečtení knihy „Motory Stvoření”. Jako technolog, mě to dalo pocit klidu, že jako pokrok je nanotechnologie možná a dokonce i nevyhnutelná. Pokuď nanotechnologie byla naše budoucnost, tak jsem neměl žádný tlak z toho se starat o počty problémů ze současnosti. Dostal bych se k Draxlerové utopické budoucnosti, asi si bych si užil víc život tady a teď. Nedávalo smysl, setrvat na jeho vizi, která mě nedala celou dobu spát.

čtvrtek 18. března 2010

Proč nás budoucnost nepotřebuje 4

Proč nás budoucnost nepotřebuje 4

Po několika strávených letech na univerzitě v Berkley v Californii, jsem začal zasílat některý svůj vzdělávací software k programovacím jazykům jako Pascal, Unix a také textový editor nazvaný Vi (který se k mému překvapení používá i po 20 letech) – ostatním uživatelům, kteří měli podobné PDP-11 a VAX mini počítače. Tyto dobrodružství v tvoření softwaru vlastně vedly k vlastnímu operačnímu systému Unix pro univerzitu v Berkley, který se stal „osobní katastrofou”, protože ho chtělo tolik lidí, tak jsem nedokončil své PhD. Místo toho jsem dostal práci pro DARPA (ministerstvo obrany USA) vyvíjet Unix, který jsem navrhl pro Berkley a uvést jej na internet a opravit chyby a učinit je tak spolehlivým pro výzkumné aplikace. To byla obrovská zábava a velmi prospěšná práce. A na rovinu, nikde jsem roboty poblíž neviděl.
Po celé osmdesáté léta jsem se topil v práci kolem Unixu. Můj projekt s Unixem, byl velmi úspěšný a i po finanční stránce se dařilo udržet pár zaměstnanců. Ale na Berkley nebyli ani problém peníze, jako prostor - nebylo zde dostatek místa pro náš projekt. Takže jak se objevila možnost s dalšími zakládajícími členy Sun Microsystems, vrhl jsem se s nimi do toho. Práce pro Sun, končila brzy ráno v kanceláři u počítačů a užival jsem si účast na rozvoji technologií mikroprocesorů a internetových technologiích, jako jsou Java a Jini.
Z toho všeho, věřím, že je jasné, že nejsem odpůrce technologického pokroku. Vždy jsem měl více důvěru v hodnotu vědeckého výzkumu v hledání pravdy a v možnosti strojírenství, pro rozvoj materíálů. Průmyslová revoluce nezměrně zlepšila úroveň všech lidí, a to již už přes pár staletí a vždy jsem viděl svoji kariéru v tom, co stojí za to řešit opravdové problémy.
Nejsem zklamaný. Moje práce měla vliv víc, než jsem doufal, a byla užita mnohem rozsáhleji, než jsem kdy očekával. Ztrávil jsem dvacet let stálou snahou sestavit počítače tak, aby fungovali, jak bych si představoval (ještě stále takové nejsou) a vytvořit je tak, aby byli jednoduché k použití (cíl, který se setkal s relativně menším úspěchem). Navzdory nějakého pokroku, problémy které přetrvávají, jsou více znepokojivé.
Ale od té doby, co si jsem vědom morálních dilemat, obklopující technologické následky v oborech jako vojenství, neočekával jsem, že se setkám ve svém oboru s těmito problémy, ne alespoň tak brzy.
Možná je vždy těžké vidět hlubšší dopad, když jste uprostřed víru změn. Selhání pochopení následků našich vynálezů, když jsme v extázi z objevů a vynálezů, se zdá jako společná chyba vědců a technologů; byli jsme dlouho hnáni touhou stále něco přesáhnout, což je přirozenost hledání vědce, nepozastavovat se nad tím, že by pokrok nových a dokonalejších technologií mohl ublížit životu, jako takovému.
Uvědomil jsem si, že pokrok v informačních technologií, nepřichází od počítačových vědců, počítačových architektů, ani od elektro inženýrů, ale od fyziků. Fyzikové Stephen Wolfram a Brosl Hasslacher, mě uvedli na začátku osmdesátých let do teorie chaosu a ne-lineárních systémů. V devadesátých letech jsem se dozvědel o komplexních systémech v rozhovorech s Markem Reedem a tak dostal vhled na neskutečné možnosti molekulární elektroniky.
V mé práci, jako programátor tří microprocesorových struktur, SPARC, picoJava a MAJC a jako designer několika jejich realizací, jsem si dovolil na svou vlastní kůži potvrzení Moorova zákonu. Po desítku let Mooreho zákon správně předpověděl exponenci růstu zdokonalení polovodičů. Do minulého roku jsem si myslel, že tempo pokroku předpověděné Mooreho zákonem, bude pokračovat jen zhruba do roku 2010, kdy některé fyzikální hranice, omezí další pokrok. Nebylo zřejmé, že se objeví další nové technologie, které budou vést další výzkum zcela hladce.
Ale protože současně rychlí a radikální pokrok v molekulární elektronice, kde individuální atomy a molekuly nahradili litografické zastaralé tranzistory, za příbuzné nano technologie, měli bychom s těmito poznatky Mooreho zákon přesáhnout, ještě dalších 30 let. V roce 2030 s velkou pravděpodobností, budeme schopni stavět stroje, v řádech, milión krát výkonnější, než jsou současné počítače – dostatečné k uskutečnění snu Kurzweila a Moravce.
S touto vysokou počítačovou silou s kombinací manipulujících výhod fyzikálních věd a novým a hlubokým porozuměním genetiky, se začne rozpoutávat transformace těchto schopností. Tyto kombinace tak nabízí prostor ke kompletnímu přetvoření světa, k lepšímu, nebo k horšímu: opakování a rozvoj procesů, které se stahovali k přírodě, se teď dostává do sfér lidského snažení.
Když jsem programoval software a microprocesory, tak jsem si nikdy nemyslel, že programuji inteligentní stroj. Hardware a software jsou tak křehké k možnostem, aby stroje „mysleli", že jsem to úplně vypustil, i jako možnost, toto jsem měl vždy jako velmi vzdálenou budoucnost.
Ale teď, s vyhlídkou lidské úrovně počítačových výkoností v době 30 let, mě napadá nová idea o sobě, že možná pracuji na výrobě nástroje, která je schopná vytvořit technologii, která je schopna nahradit náš druh. Jak se cítím? Hodně nepříjemně. V celé mé kariéře jsem se trápil jak vytvořit software, aby byl spolehlivý, vypadá to více než pravděpodobně, že budoucnost nebude taková jak si lidé představují. Moje osobní zkušenost mě vede k názoru, že jsme přecenili naše schopnosti plánů.
Vložením této neskutečné síle těmchto nových technologií, neměli by jsme se ptát, jak s nimi budeme žít vedle sebe. A jestli je naše vyhubení pravděpodobné, nebo možné, výsledekem našeho technologického rozvoje, neměli bychom vznést velké varování?

pátek 12. března 2010

Proč Nás Budoucnost Nepotřebuje 3.

Část odpovědí jistě spočívá na našem postoji k novotám – v našem zájmu směrem k bezpodmíněném přijetí a jasné důvěryhodnosti. Už jsme si skoro rutinně zvykly na zprávy průlomů v technologiích 21. století jako - robotika, genetické inženýrství a nanotechnologie – představují různé hrozby, než ty které příšly v minuosti. Konkrétně roboti, sestrojené organismy, a nanoboti se podílí nebezpečnými faktory: mohou se sami duplikovat. Bomba bouchne jen jednou, ale jeden bot se může rozrůst do velkého počtu a rychle se může vymknout kontrole.
Většina mé práce, v mé 25 leté kariéře byli počítačové sítě, kde vysílání a příjmání zpráv vytváří možnost pro nekontrolovanou duplikaci. Zatímco u počítačů a počítačových sítí může být duplikace otrava, v nejhorším případě se zhroutí počítač, nebo celá síť. U takto nekontrolovaně sebe-duplikovaných nových technologií, to může mít značně velký destruktivní účinek na vnější svět.
Každá z těchto technologií nabízí obrovský slib: představa skoro nesmrtelnosti, kterou nám Kurzweil posouvá k jeho vysněným robotům. Genetické inženýrství možná brzy začne léčit, či dokonce bude moci zcela vyléčit většinu nemocí a nanotechnologie a nanolékařství se může vypořádat s více nemocemi ještě v neprojevené fázi. Dohromady, tak může viditelně prodloužit náš průměrný život a zlepšit kvalitu našich životů. Avšak s každou touto technologií, sled malých, samostatných účelných pokroků vede k nárustu velké moci a průvodnímu velkému nebezpečí.
Co bylo jinak ve 20. století? Zajisté zásadní technologie zbraní hromadného ničení – atomové, biologické a chemické zbraně se těšily obrovské síle a nebezpečí. Ale pro výrobu atomových zbraní, byla nutná určitá časová náročnost a vzácné dvě potřeby, to jsou surové materiály a vysoce tajné informace, jak zbraně vyrobit. Biologické a chemické zbraně vyžadovali aktivity v podobné míře.
Technologie 21. století - genetika, nanotechnologie a robotika jsou tak mocné, že vytváří nové třídy možných nehod a případných zneužití. Poprvé je nejvíce nebezpečné, že tyto možnosti nehod a zneužití se mohou dostat k rukám jedinců a malých skupin. Nevyžadují velké vybavení ani vzácné materiály. Samo vědění je možností k jejich použití.
Tak máme možnost ne jen ke zbraním hromadného ničení, ale k vědění hromadného ničení. Tato destruktivnost je obrovsky posílena silou sebe-replikací.
Nemyslím si, že to je přehánění, když řeknu, že jsme na rozmezí k dokonalosti zla. Zlo, které bylo možno šířit pomocí hromadného ničení jen světovými velmocmi, se dostává překvapivě, k hroznému posílení extrémismu jednotlivce.
Nikdy jsem si nemyslel, když se budu věnovat počítačům, že se tváří v tvář setkám s těmito skutečnostmi.
Můj život byl řízen hlubokou potřebou se ptát a nacházet odpovědi. Když mě byli tři roky, tak už jsem četl. Tatínek mě vzal do základní školy, kde jsem si sedl na ředitelův klín a přečetl jsem mu povídku. Začal jsem chodit do školy dříve, později jsem přeskočil i do vyššího ročníku, a utíkal jsem se ke knihám - vždy jsem byl motivován učením. Ptal jsem se mnoho otázek, často jsem dospělé vytáčel.
Jako náctiletý, jsem se velmi zajímal o vědu a technologii. Chtěl jsem se stát radio amatérem, ale neměl jsem dostatek peněz na vybavení. Rádio bylo internetem tehdejší doby, velmi návykové a docela samotářské. Moje maminka mě nechtěla dát peníze, takže jsem byl už i tak nespolečenský. Neměl jsem moc kamarádů, ale byl jsem zaplavený nápady. Na střední škole jsem objevil kouzlo spisovatelů sci-fi. Zvláště si pamatuji knihu od Henleina „ Have Spacsuite – Will Travel „ a Asimova „ Robot “ se třemi zákony robotiky.
Byl jsem okouzlen myšlenkou cestováním vesmírem a chtěl jsem vesmírný dalekohled a chtěl jsem se dívat na hvězdy. Neměl jsem žádné peníze, tak jsem si v knihovně půjčil knihu o tom, jak se dalekohledy staví. Stavěl jsem jej ve svých představách.
Moji rodiče chodili, každý čtvrtek na bowling a my děti jsme zůstávali sami doma. Vždy vysílali originál seriálu autora Gene Roddenberryho Star Trak a tento seriál na mě nechal velký dojem.
Nabyl jsem dojmu, že lidem patří budoucnost ve vesmíru, západní styl myšlení s velkými hrdiny a dobrodružstvími. Roddenberryho vize budoucích století byla založena na silně morálních hodnotách, ztělesněoval sbírku zákonů například Primární Nařízení – nevměšovat se do civilizací méně technologicky pokročilých. To na mě velmi zapůsobilo, ne roboti, ale lidská etika dominovala budoucnosti a já vzal Roddenberryho sen jak za můj vlastní.
Exceloval jsem na střední škole v matematice a když jsem šel na univerzitu v Michiganu jako vysokoškolák, tak jsem si vybral hlavní předměty matematiku. Řešení matematických problémů, byla vzrušující výzva, ale když jsem objevil počítače, našel jsem mnohem něco zajímavějšího. Stroj do kterého jste mohli vložit program, který se pokoušel vyřešit problém, po krátkém čase stroj vydal výsledek. Počítač měl jasno v tom co je dobře a špatně a co je pravda a lež. Byly mé představy správné? Stroj mě mohl odpovědět. To bylo velmi přitažlivé.
Měl jsem veliké štěstí, dostat zaměstnání na prvních super počítačích a objevil jsem moc velkých sálových počítačů, které početně simulovali pokročilé řešení. Když jsem na Berkley vystudoval a obdržel diplom v půlce 70. let, tak jsem zůstával pracovat přes noc a objevoval nové světy uvnitř strojů. Řešil jsem problémy. Programoval jsem to, co šlo se zdálo nepřekonatelné pro programátory.
4) V biografii Michelangela od Irvinga Stone nazvané „ Agony And the Ecstasy“ živě popisuje jak tvoří sochy z kamene. „kouzlo sekání mramoru“ z jeho prosté paměti. V mých nejvíce extatických momentech, software a počítač se chovali obdobně. Jak jsem si to představil, tak jsem věděl, že to je už v tom počítači. Ten jen čekal na provedení. Ponocování byla jen malá cena za to, že jsem mohl svobodně svoje nápady provést do konkrétní formy.
________________________________________
4 Michelangelo napsal ve svých sonetech
Non ha l' ottimo artista alcun concetto
Ch' un marmo solo in sè non circonscriva
Col suo soverchio; e solo a quello arriva
La man che ubbidisce all' intelleto.
přeloženo
Nejlepší umělec nemá žádný nápad jak ukázat
jako hrubý kámen přebývající v nepotřebné schránce
neobsahuje jej, jak tesat kouzlo mramoru
nejlepší co slouží všemut ruce a mozek jest
Stone popisuje proces "Nepracoval nikdy s návrhy, vše bylo tvořeno jen z hlavy, znal své ruce a všechny linie věděl jak udělat, a znal srdcem cit, jak a kde a hluboko tesat. (The Agony and the Ecstasy. Doubleday, 1961: 6, 144.)

úterý 9. března 2010

Proč Nás Budoucnost Nepotřebuje 2.

V knize z počátku nepoznáte, že tato pasáž je od Theodora Kaczynskiho, tak zvaného Unabombra. Nejsem žádný zastánce Kaczysnkiho. Během jeho 17 leté čínnosti bomby zabili tři lidi a mnoho dalších zranil. Jedna z jeho bomb vážně zranila mého přítele Davida Gelerntera, jeden z nejlepších počítačových vědců naší doby. Jako mnoho mých kolegů, jsem cítil, že mohu být jedna z dalších obětí Unabombra.
Kaczynského počínání byli vražedné a v mých očích šílené. Byl to jasný odpůrce technologického pokroku, ale jednoduše řečeno jeho argumenty se nedají prostě opomenout. Cítil jsem, že se s těmito fakty setkám tváří v tvář.
Kaczynskiho dystopická vize popisuje nezáměrné následky, všeobecný problém konstrukce a použití technologií s Murphyho zákonem „Cokoli co je možné zneužít, tak se i zneužije“ ( vlastně je to Finagleho zákon, a jako takový dokazuje, že Finagle měl pravdu). Naše nadměrné používání antibiotik vedlo k největšímu problému – k imunitě na léčivou složku antibiotik a k více odolným bakteriím. Obdobně se tento jev stal s moskyty a malárií. Nadměrné používání DDT vedlo k získání odolnosti genu malárie proti DDT.
Příčina mnoha překvapení vypadá jasně: Zůčastněné systémy jsou spletité, vzájemné interakční zpětné vazby mezi mnoha jeho částmi. Nějaká změna v tak složitě kaskádovém systému, nemá jasnou předpověď následku, a hlavně když v tomto procesu hraje roli člověk.
Začal jsem svým přátelům ukazovat Kaczynského citát z knihy „ Age of Spiritual Machines“ (Věk duchovních strojů), ukazoval jsem jim tu ukázku a pozoroval jejich reakce, když jsem jim ukázal autora článku. V té době jsem s Hansem Moravcem našel knihu „Mere Machine to Transcendent Mind“ (Pouhý stroj k přesahu mysli) Hans Moravec je jeden z vedoucích výzkumu robotiky a zakladatel světově největšího robotického výzkumu na Carnegie Mellon Univerzitě.
2) Robot mě dal více materiálu k vyzkoušení mých přátel k překvapivé podpoře Kaczynských argumetnů. Na příklad:
Krátky běh
Biologické druhy skoro nikdy nepřežijí setkání s lepším soupeřem. Před deseti milióny let, jih a sever Amerického kontinetnu byli odděleny oceánem, díky propadlé části střední Ameriky. Jižní Amerika podobně jako dnešní Austrálie byla osídlena vačnatci, skupinamy krys, vysoké a tygry. Když se kontinenty spojily stačilo jen pár tisíc let, aby placentární druhy s efektivnějším metabolismem a reproduktivním a nervovým systémem, nahradili a eliminovali skoro všechny jižní vačnatce.
V kompletně volném trhu, lepší roboti by jistě ohrozili lidstvo podobně jak placentární druhy severní Ameriky ohrozili druhy vačnatců jižní Ameriky (podobně jak lidstvo ohrozilo nespočet živočišných druhů). Robotický průmysl by energicky soutěžil mezi sebou o materiály, energii, prostor a mimochodem zvyšování sebehodnoty nad lidským druhem. Nemožnost dovolit si nezbytnosti k životu, biologičtí lidé by byli vytlačeni z možnosti existence.
Je zde možnost se nadechnout, protože nežijeme v úplně volném trhu. Vláda vynutí netržní chování, zvláště výběrem daní. Soudně uložené, vládní nařízení může podpořit lidskou populaci ve vysokém stylu, z plodů práce robotů, možná na dlouhou dobu.
Utopická učebnice – a Moravec je náhle zraněn. Diskutuje o naší hlavní práci v 21. století „bezpečnost spolupráce mezi robotickým průmyslem“ prosazením zákona, jak by člověk mohl být velice nebezpečný, kdyby se stal superinteligentním robotem.
Moravcův pohled je, že roboti nás přesáhnou a lidská rasa zmizí z povrchu zemského.

Rozhodl jsem se, že je čas si promluvit s mým přítelelm Dannym Hillisem. Danny se stal známý jako zakladatel Thinking Machines corporation (Myslící Stroje), která vyrábí super silné počítače. Přestože je můj titul vědecký ředitel Sun Microsystems, jsem více počítačový konstruktér, než vědec, respektuji Dannyho znalosti informací a fyziky jako nikoho jiného, koho znám. Danny je znám jako futurista, který myslí v dlouhodobém rozměru. Před čtyřmi lety založil nadaci Long Now, která se zaměřila na konstrukci hodin, které měří až na 10 000 let, aby tak upozornil, jak ubohé časové rozpětí má lidské myšlení.
Takže jsem letěl do Los Angeles pro jasný důvod, povečeřet s Dannym a jeho ženou Pati. Tak jako obvykle jsem prošel rutinu pasáží, která mě stále rozrušovala. Dannyho odpověď byla příma a jednoduchá – změny půjdou postupně a budeme si na ně zvykat.
Vlastně jsem už ani nebyl tou odpovědí překvapen. Viděl jsem citát v Kurzweilově knize, kde řekl. „ Hýčkám si své tělo jako každý jiný a kdyby mě bylo 200 let a měl silikonové tělo, bral bych ho“. Bylo vidět, že byl s tímto procesem plně smířen, za to já tedy ne.
Mezi diskuzí a přemýšlení o Kurzweilovi, Kaczynskim a Moravcovi, náhle jsem si vzpoměl na novelu, kterou jsem četl před 20 lety, White Plague (Bílá Nemoc) od Franka Herberta, v které se molekulární biologický vědec se zblázní po vraždě jeho rodiny. Chce se pomstít, tak vyrobí ničící nemoc, která zabíjí široce a selektivně (máme štěstí, že Kaczinsky byl matematik a ne molekurární biolog). Taky se mě připomenul Borg ze Star Treku, na půl biologický druh na půl robotické stvoření s velkým sklonem k násilí a destrukci. Podobné Borg-katastrofy jsou hlavním tahem sci-fi, tak proč jsem se neobával těchto robotických nebezpečí už dříve? Proč se lidé neobávají takových nočních můr a scénářů už teď ?
________________________________________
2 Isaac Asimoc popisuje etiku robotů v jeho knize Robot 1950. Nejznámější zákon robotů: 1. Robot nikdy nesmí ublížit lidské bytosti 2. Robot musí uposlechnout rozkazů lidské bytosti, kromě pokuď by byl s rozporem s prvním zákonem 3. Robot musí chránit sám sebe, ale jen pokuď by nebylo jednání s rozporem 1. a 2.

neděle 7. března 2010

Proč nás budoucnost nepotřebuje 1


Proč nás budoucnost nepotřebuje



Bill Joy - zakladatel Sun Microsystems
přeložil – Mehdi Zejnulahu

Naše nejmocnější technologie 21. století – Robotika, Genetické inženýrstvi a nano technologie


Od chvíle kdy jsem se zapletl do vývoje nových technologií , jsem měl obavy z etických rozměrů, ale to byl teprve podzim roku 1998, kdy jsem si se strachem uvědomil obrovské nebezpečí kterému budeme čelit v 21. století. Počátek mého neklidu se počal setkáním s Rayem Kurzweilem, zasloužilím vynálezcem prvního čtecího zařízení pro nevidomé a mnoho dalších úžasných věcí.
Ray a já jsme měli přednášky na George Gilderově Telecosmické konferenci a setkal jsem se s ním na hotelovém baru po skončení našich vystoupení. Seděl jsem s filozofem z Berkley univerzity Johnem Searlem, který studuje lidské vědomí. Ray se k nám přidal a začal rozhovor, jehož obsah mě straší do dnešního dne.
V našem rozhovoru se Ray s Johnem rozpovídali na téma pokrokové technologie. Ray se zmínil, že s akcelerujícím rozmachem nových technologií se staneme roboty nebo spojením člověka a robotem, nebo něco na ten způsob. John se ohrazoval, že to se nemůže stát, protože roboti nemůžou být vědomí.
Když jsem slyšel podobné rozhovory, vždy jsem viděl cítící roboty někde ve sféře sci-fi. Ale teď, jsem slyšel velmi silné fakta od někoho, koho jsem velmi respektoval, že tyto představy jsou velmi blízko ke skutečnosti. Byl jsem velmi zaskočen, když Ray začal představovat a vytvářet možnou budoucnost. Už jsem věděl o technologiích jako genetické inženýrství a nanotechnologie, které nám byli dány k posílení přetvoření světa, ale reálný a bezprostřední scénář inteligentních robotů mě překvapil.

Je dnes všední se dostat k takovým průlomům. Slyšíme každý den ve zprávách o nějakých technologických a vědeckých pokrocích. Ale tohle nebyla obyčejná předpověď. Ray mě dal náhled do jeho nové knihy „ The Age Of Spiritual Machines“ (Věk Duchovních Strojů), který rýsuje utopickou předzvěst – že lidé dosáhli blízko nesmrtelnosti spojením s robotikou. Při četbě, jsem cítil jen posílení znepokojení, cítil jsem že si je vědom tohoto nebezpečí a rozumí, že se tato cesta může stát katastrofou.

Nejvíc jsem se dostal do nesnází při čtení pasáže upřesňující dystopický scénář:

NOVÝ PROTEST PRO ODPŮRCE TECHNOLOGICKÉHO POKROKU

Za prvé si stanovíme, že počítačoví vědci uspěli s rozvojem inteligentních strojů, které dělají věci lépe, než jak je dělají lidské bytosti. V tomto případě by pravděpodobně všechnu práci prováděli vysoce organizované systémy strojů a žádné lidské úsilí by nebylo potřeba. Navíc, se tento fakt může uskutečnit dvěma způsoby. Jeden způsob by umožňoval rozhodování strojů , bez lidského zásahu a druhý způsob by umožňoval ovlivňovat kontrolu strojů.
Pokuď by stroje měli dovoleno dělat veškeré vlastní rozhodnutí, nemáme žádný odhad k nějakému výsledku, který by stroj mohl vyhodnotit a tak vědět jak se zachová. Jen můžeme vypíchnout fakt, že lidská rasa by tak byla na milost strojům. Můžeme tvrdit, že lidská rasa by nikdy nebyla tak hloupá, že by dala svůj osud do rukou strojům. Nepředpokládáme ani, že by lidé dobrovolně vložili moc strojům, ani že stroje se úmyslně zmocní kontroly. Co předpokládáme je, že lidská rasa možná tomu lehce dovolí se unést do takové závislosti na strojích, že už nebude žádná praktická volba, než akceptovat rozhodování všech strojů. Jak společnost a problémy se budou více a více stávat komplikovanějšími a stroje budou více a více inteligentní, lidé samočinně nechají stroje jednat dle jejich rozhodnutí a to jednoduše proto, že jejich rozhodnutí bude s lepšími výsledky než rozhodnutí uděleno lidmi. Nakonec toto stádium může být dosaženo rozhodnutími, které bude nepostradatelně nutné pro fungující systém, který bude tak komplikovaný, že ani lidské bytosti nebudou schopny je inteligentně vyhodnotit. V tomto případě budou stroje efektní kontrola. Lidé nebudou mít možnost stroje vypnout, protože vypnutí jich by znamenalo sebevraždu.
Na druhou stranu, je možné mít lidskou kontrolu nad těmito stroji. V tomto případě by mohl mít průměrný občan kontrolu nad určitými domácími stroji, jako auto, a jeho osobní počítač, ale kontrolu nad většímy systémy strojů by měla jen úzce početná elita – jak je to v dnešní době, jen s dvěmi rozdíly. S pokrokovými technologiemi by privilegovaná vrstva měla větší kontrolu nad lidmi – a protože by lidská práce nebyla vůbec už vůbec potřeba, lid by se stal nadbytečnou a neužitečnou zátěží systému. Pokuď je elita bezcitná, jednoduše se rozhodne popravit lidskou masu. Pokuď budou lidští, použijou propagandu nebo psychologickou nebo biologickou techniku k redukci porodnosti a tak pomalu lidská rasa vymře a zanechá jen privilegovanou vrstvu. A nebo budou jemnocitní liberálové a budou hrát roli dobrých pastýřů zbytku lidstva. Budou plnit lidem jejich fyzické potřeby a děti budou vychovávany v psychologických a hygienických podmínkách, každý bude mít prospěšné hobby, které ho udrží zaneprázdněným a kdokoli kdo se bude cítit nespokojený, tak se podrobý „léčbě“ k vyléčení jeho „problému“. Samozřejmě život bude bez jakéhokoli smyslu a lidé budou muset být biologicky a psychologicky programováni, také jim bude odstraněna potřeba po moci nebo se jim „přeměnní“ jejich touhu po moci do neškodného koníčku. Tito programovaní lidé mohou být šťastní v této společnosti, ale nebudou zajisté svobodní. Jejich status bude ochočeného zvířete. 1
-------------------------------------------------------------------------------------
1 Pasáž, kterou Kurzweil cituje je z Kaczynskiho Unabomber Manifesto, který byl vydán současně, pod nátlakem The New York Times a Washington Post pokusit se ukončit jeho kampaň teroru. Souhlasím s Davidem Gelenterem, který komentoval jejich rozhodnutí.
„ Byl to těžký telefonát pro noviny. Říct ano, a tak se přidat k terorismu a pro ty co všichni věděli, že stejně lže. Na druhou stranu, říct ano znamenalo zastavit zabíjení. Byla zde i šance že si to někdo přečte a pozná tušení autora, a přesně to se stalo. ZAvolal bratr podezřelého a sdělil:
„ Řekl bych jim aby to nepublikovali, ale jsem rád, že se mě neptali. Myslím.“
(Drawing Life: Surviving the Unabomber. Free Press, 1997: 120.)

Dr. Theodore John Kaczynski – známí jako Unabomber, odpůrce technologického pokroku. Měl nasvědomí několik bombových útoků.