Názory k článku
Zabije nás umělá inteligence? Pokud měl Darwin pravdu, tak ano, říká Patrick Zandl

Další odkazování v rámci iinfo? Kolotoč dole už nestačí?

"kolotoč dole" není vidět v RSS. mě by jinak uniklo

Když si přidáte všechna RSS z iinfa, tak vám nic neunikne..

Presne dnes :)
https://xkcd.com/1968/

"s kolegou Muskem..." stačilo těch pár slov a pochopil jsem, že je to kompletní a definovaný idiot. To je člověk, který přednášel někde na VS a žádný student nepřišel.... A pochlubil se na netu...

a kdyz uz se takhle navazis ad-hominem, tak co jsi dokazal ty?

Každý se honí co jsi dokázal, jak jseš slavnej... ale to ti může být k ničemu pokud nic neumíš. ;) Spíš by ses měl ptát co umím.

To že někdo něco jendou dokázal nebo umí ještě neznamená že má mudrovat do všeho, že všemu rozumí a nedělá chyby. Tyto předpoklady jako "něco dokázal", "něco umí" určitě nejsou bezvýznamené, ale není potřeba dávat tomu větší význam než to opravdu má ...

Také mi jeho smysl pro humor a snaha být vtipný za každou cenu přišly nepříjemné, ale když to pomineš, tak jeho přednáška měla hlavu a patu.

Mám v živé paměti Zandlův "odborný" článek mj. o packet rádiu a myšlenkách na jeho zneužití podobnými individui pro přístup do Internetu.
Také si po těch dlouhých létech vzpomínám na reakci radioamatérů :-)
Je to takový Brouk Pytlík, který ale svou technickou nedostatečnost dokáže dobře komerčně využít. Co se týče informací, skoro vždy hlavně pro pobavení.

byl by odkaz?

Ani v těch humanitních věcech není moc nápaditý. Základní tezí přednášky je nepříliš objevná myšlenka, že umělá inteligence může mít jiné cíle než sloužit lidem - něco co se třeba ve sci-fi řeší už několik desetiletí. Řečník věří, že s dostatečnou výpočetní kapacitou je možné spočítat "biologické algoritmy", tedy lidské rozhodování, což je přinejmenším diskutabilní.
Kdyby jen shrnul různé konflikty mezi stroji a lidmi ve světové literatuře od Čapka dál, dozvěděli bychom se více.

tady někdo moc žere Terminátora...

Ale AI bude mít svého stvořitele, nás, aplikovat na ni pravidla darwinovy nepotvrzené teorie tudíž nelze.

Technická poznámka: Darwinova teorie byla mnohokrát potvrzena experimentálně. Například vyšlechtěním kultivarů kulturních rostlin, kde byla změna přírodních podmínek simulována výběrem dle danýho klíče...

No jenže darwinova teaorie je založená na genetické náhodě a přežití mutanta. Navíc by naše planeta měla být poseta pozůstatky nepovedených mutací a slepých větev, co jaksi není.
Pokus co popisuješ je cílený kreační zásah inteligentí bytosti :-D A matematici, fyzici či programátoři by ti o "náhodě" v kauzálním světě věděli říct své. V skratce - náhoda není, všechno má příčinu.

A co je podle tebe ta slepá větev?
Nejslabší jedinci nepřežijí. A ti ostatní slabí ve "slepé větvi", co přežijí, se budou vyvíjet dál. Evoluce nemá žádný cíl, tudíž nemůžou existovat slepé větve.

Slepá větev je z definice ta co nepřežije..

Psal jsem experimentálně potvrzena.

Experimentálně potvrdit můžeš třeba to, že se ti šutr při patřičné teplotě roztaví. Máš hypotézu, že pokud jeho teplotu zvýšíš nad určitou hodnotu, změní skupenství. Tak ohřeješ šutr a pokud se roztaví, máš to potvrzeno, když ne, zkusíš zvyšovat teplotu a upravíš hypotézu podle výsledku. Při tom nezáleží, jestli jeho teplotu změníš dubovým polenem (lesní sklo z písku), plynovým hořákem nebo vhozením do lávy s příslušnou teplotou.

Tady byla prováděna selekce (v praxi je jedno, jestli nejlepší rostlina, která splňuje parametry, je ponechána na množení a zbytek zkonzumován, nebo jestli se o to postará hmyz nebo houba) a množilo s, co prošlo selekcí. Takže je prokázáno, že hypotéza přežití těch, co se líp přizpůsobí nějakýmu kritériu, tím byla potvrzena. A při tom je jedno, jestli kritérium nastaví člověk, predátoři, parazitický organismy, geologická změna nebo imaginární nadpřirozená bytost. Prostě výběr a přizpůsobení funguje, i kdybys na nose skákal a ušima se odrážel.

Experimentálně potvrdit jde i evoluční teorii a potvrzena byla. Třeba pokusem, kdy do roztoku chudého na glukózu a bohatého na citrát v bezkyslíkatém prostředí byly vloženy bakterie E. coli. E. coli normálně umí bezkyslíkatě zpracovávat jenom glukózu, takže v roztoku chudém na glukózu moc neprosperovala, ale přežívala. Po asi 20 000 generacích se začaly prosazovat mutace, které uměly lépe nakládat s glukózou, a po asi 26 000 generacích se objevila mutace, která dokázala bezkyslíkatě metabolizovat citrát, po dalších asi 20 000 generací se stále zlepšovala, až tu verzi, která přežije jen na glukóze, prakticky vytlačila. Genomy všech generací jsou přitom k dispozici, takže můžeš celý proces detailně studovat. Celý experiment běžel přes 20 let.

Evoluční teorie je o prosazování výhodných odchylek. Případně i na úkor těch, kteří jimi nedisponují, pokud to pro ně znamená významnou nevýhodu. Víš kulový, ale jsi strašně důležitej.

"náhoda není, všechno má příčinu"

To spolu tak úplně nesouvisí a proto výrok není pravdivý. Např. hod kostkou levou rukou. Příčinu má, všechno od kostky, přes levou ruku házejícího, mozkové vzruchy až po denní objem jeho prdů lze změřit, ovšem samotný hod v podání tohoto krásně nedokonalého člověka je natolik nepřesný (díky omezené možnosti přesně řídit jakýkoliv pohyb a vzruch), že vytváří náhodu i bez jakýkoliv ostatních neměřitelných vlivů (obecně poruch ...) ... Prostě nějaký přesný hod je pod rozlišovací schopnosti člověka a tím je tvořena náhoda. A takových úkazů jsou miliardy. Ostatně kdyby nebyly, ti tví vědci by dokázali vypočíst blízkou budoucnost jako sled rovnic a vztahů ...

Zhruba stejně, jako Newtonovy představy. Já bych slovo nesprávné nepoužil. Vystihl naprosto klíčovou podstatu věci, další po něm doplnili detaily i podstatné kusy (Einstein), ale to jádro je správné dodnes.

Pokud se bavíme o hlavním Darwinově objevu na poli evoluce, tedy o mechanismu přirozeného výběru, tak ten dosud ani náhodou překonán nebyl, naopak jeho platnost pozdější výzkumy na poli evoluční biologie podpořily a upevnily. Samozřejmě že v jiných věcech se Darwin mýlil (třeba myšlenka pangeneze z pohledu dnešních znalostí vypadá až směšně), ale přirozený výběr, jak ho popsal, zůstává prakticky beze změn jedním ze základů evoluční biologie.

Experiment nepotvrzuje dědění pouze vrozených vlastností. Dědí se i získané vlastnosti. Nové objevy z oblasti fungování imunity potvrzují teorie akademika Lysenka.

Nebudem sutazit o rovnke zdroje AI bude potrebovat elekrinu a ludia potraviny takze AI bude evolucne v pozicii asi ako kamzik voci sykorke, aj ked sa bude urputne snazit zozrat vsetku travu tak semienka pre sykorku nejake zostanu, plus musky a nejake dazdovky. Naopak ak bude viac AI a budu sutazit o elektrinu vyhra najlepsi.

Páťo lehni a nepřepínej.

Zrovna teď jsem viděl, jak v Číně funguje kamerový systém umožňující rozpoznávání obličejů. Policisté se pohybují po ulicích v brýlích, na kterých je připevněna malá kamerka, a policista vidí v reálném čase informace, jako jméno a zaměstnání, procházejících lidí. A kamery tam mají umístěné i na veřejném WC, konkrétně na sušácích na ruce.

Takže já mám spíše strach z pokročilých IT technologií propojených s totalitním smýšlením některých jedinců, kterým jde o moc a peníze. A nedokážu si představit, že by nějaká skupina robotů prahnula po moci a penězích, anebo třeba po sexu. Kromě toho již nynější počítače jsou chytřejší než člověk, vlastně i obyčejná kalkulačka je chytřejší než já. Já bych z hlavy nevypočítal ani kolik je 1.2356*565.8.

Počítače jsou věci, které mají sloužit člověku, a člověk by se je neměl snažit polidšťovat.

Jen maličkost k tomu propojení IT a totality,

Sám pořádně nevím, zda je horší "totalita" nebo neregulovaná "komerční-demorkacie", v každém případě se mi jako jediná obrana proti obojímu jeví opensource a decentralizace. Problém je, že 90% propulace vůbec nechápe o čem ten opensource a decentralizace vůbec je, jejich názor je utvářen specialisty financovanými mocnými každého z obou systémů. Moderní "totalita" umí být stejně "lidská" jako ta "komerční-demokracie". bohužel, obojí sází a snaží se o rozvoj demenci většiny. Není nad poslušné stádo.

Zabije nas debilita. AI (skutecna, ne ta dnesni marketingova) je jen jeden z moznych nastroju ...

Nedávno jsme s kamarády seděli u piva a došla řeč právě i na "super inteligenci". Kdyby ji člověk opravdu stvořil, aby pomáhala lidstvu, tak by tím stvořil takového vlastního "boha". Nebyl by sice všemocný, ale měl by podstatný vliv na celé lidstvo.
Než jsme se všichni zbořili, tak celá debata vznesla pár otázek na které bych chtěl znát odpovědi.

Měla by být jedna "super inteligence", nebo by jich mělo být víc? Která varianta nese větší rizika?
"Jak moc by měla být chytrá?" Jaká by měla být horní hranice její inteligence? Nebylo by moudré ji omezovat?
Měla by být přímo připojená na internet? Nebylo by nejlepší ji nechat jen nasávat informace a její sdělení pak prezentovat přes prostředníka? Nemohla by dostávat zkreslené informace?
Co by vlastně měla ovlivňovat? Zemědělství? Energetiku? Zákony? R&D? Vzdělávání? Světovou politiku a hospodářství?
Nebyla by společnost rozdělená na její stoupence a odpůrce? Nevyvolávala by "božská" AI spíš konflikty? Jak by se vypořádala s existujícími problémy? S konflikty? Se státy v dlouhodobé krizi a chudobě?

Víc si už moc nepamatuju, všichni jsme byli na šrot.

Najděte si Roko's Basilisk. Velmi zajímavé zamyšlení k pivu :-D

No tak ten samotný bazilišek mi nepřijde až tak zajímavý. Spíš mi vrtají hlavou myšlenkové procesy autorů. Podobnost baziliška s tradičními bohy mi přijde jako hlubší téma, než zamýšlení se na důsledky toho, že si mě možná nějaká AI v budoucnosti nasimuluje a bude tu simulaci mučit aby mě v teď donutila něco udělat. :)

Ono to není nutně mučení, ale trest za zabití z nedbalosti. To máme už teď, AI tedy jen aplikuje současné právní principy: ta AI vás potrestá (odsoudí) za zabití z nedbalosti, protože jste věděl nebo mohl vědět (typická formulace u trestných činů z nedbalosti), že kdyby ta AI vznikla dřív, zachránila by spoustu lidských životů.

Aplikovat to takhle je hódně vachrlaté. To by mohli být trestáni třeba i ekologičtí aktivisté. I oni by mohli vědět, že kdyby se obchvat postavil dřív, tak by to zachránilo spoustu lidských životů. A to už máme dokonce experimentálně ověřené, že obchvaty kolem nebezpečných křižovatek opravdu ty životy zachraňují. Ta formulace je vlastně docela nezajímavá, protože ve skutečnosti se nesoudí podle formulace, ale podle obvyklé interpretace v dané době.

V reálu navíc vždycky volíme ze spousty možností. A tady bazilišek zhoří stejně jako všechny variace na Pascalovu sázku. Nevím, jak by to řekl právník nabo filosof, ale já bych řekl, že množina představitelných "co by kdyby" je nespočetná.

Pak tu máme samozřejmě klasický problém identity. Je simulovaný JSH vůbec JSH? Může být trest trestem, když to schytá jiná osoba?

Tyhle afery kazdeho jenom otravuji. Ja bych vsechny ty internety a AI zakazala.

Páni.
"s kolegou Muskem", "když se bude číst z písma svatého, tak se vstane", "(když chcete vědět, co je člověk, tak se podívate do bible), plus jste měli spoustu chytrých lidí - jako jsem já - kteří vám to vyložili, vysvětlili", "náboženství je mazadlem mezilidských vztahů*".
Páni.

* ne že by takhle náboženství nemohlo fungovat, ale pochybuju, že kvůli tomu vzniklo, a pochybuju, že je tahle funkce nutná

Byble je prakticky plagiát, komplet opsaný Horus několik tisíc let zpět v Egyptě. Z pohledu co věděli nulové vzdělání vůči nám. Ale lidi pohádky milují.

Včetně nového zákona, že? :D

Právě o ten jde. Je tu jistá podobnost mezi Horem a Ježíšem, i když spíš než plagiát bych to nazval "jednou z inspirací."

Spíš nás zabije neumělá demence.

Mam za to ze ludstvo sa vykiluje samo. Ak je AI skutocne I - tak si len pocka. :-)

Problém evoluční teorie je v tom, že pokud by šlo o náhodný vývoj, tak by čas existence vesmíru na to nestačil... :D :D :D

No právě že "přirozený výběr" není "náhodný vývoj"... :D :D :D

Evoluční mechanismy nejsou náhodné procesy.

Prostě náhoda nad velkým vzorkem je statistika :-)

Naopak si myslím, že vzhledem k těm miliardám let a rozporuplnému výsledku se s tím příroda dost srala.

Nezabije nás umělá inteligence. Zabije nás umělá blbost, vydávaná výrobcem za umělou inteligenci.

Vždy mne fascinuje jak jsou někteří schopni rychlého a totálního odsudku... viz "tento magor je úplně mimo. poznal jsem to už po prvních třech slovech" nebo "ještě se chlubil tím že má prázdnou přednášku"...

Za mne je to člověk který se odvážil podívat za horizonty pohledů většiny ostatních. Prostě jen uvažuje mnohem dále než vy...

Stejně tak jako jsem nedávno četl odsouzení Hawkinga za to, že prý na stará kolena zešílel když mluvil o nutnosti lidstva stěhovat se na jiné planety atp...

Ano tito lidé jsou opravdu šílení magoři které je třeba vláčet bahnem. Protože kdo soudný by se přece zabýval tím co bude třeba za milion let... nás teď přece zajímá z čeho zítra nakrmíme naše děti! A všichni kdo se zajímají o něco jiného jsou idioti co mají prázdné přednášky.

Svět se nikdy nezmění... a tem předvídavějším nepomůže ani konstatování "Já jsem vám to říkal". Když to totiž přeženu ad absurdum a opravdu zítra dojde k průlomu a do roka tady budeme mít superodolnou super inteligenci, kterou nikdo nebude umět vypnout, protože ta se proti tomu bude aktivně bránit, která si po chvíli přemýšlení umane že jí lidstvo stojí v cestě při realizaci jejího snu... = konec lidstva... poslední ať zhasne...

Proč by nám měla super inteligence sloužit? Koho tato idiotská myšlenka vůbec napadla?
Představte si vašeho nejhloupějšího kolegu, největšího idiota kterého jste kdy v životě potkali...
Představte si že je to váš šéf a říká vám co máte dělat, představte si, že budete žít věčně a že vám ten idiot bude něco věčně přikazovat... až do skonání věků...
Jak dlouho by jste s ním vydrželi než ho zabijete?

Přednášku jsem si vytrpěl celou, a i když mluví o věci, která je důležitá, pořád mi přijde jako jelito.

Soudím, že ten člověk se přišel exhibovat a ne přednášet s nějakým předem stanoveným cílem. Něco jak bývalo na pouti zvykem ukazovat dvouhlavé tele.

Mně na té přednášce teda vadí především to, že to bylo celé myšlenkově i prezentačně zhruba na úrovni hospodského fantazírování fanouška science fiction.

Bože to je jelito.