Sv: Bestilling og Venteliste

[Leif1]

AI... Bare se på navigasjonen i Model S det. Den har helt klart en annen oppfatning enn hva jeg har om reiseruten. Ikke er den til å diskutere med heller.

[OddB]

http://www.washingtonpost.com/news/morning-mix/wp/2014/11/18/why-elon-musk-is-scared-of-killer-robots/

[Tai]

Uff, her inne var det for mange troll. Bare å melde seg ut.

Tai

[D.O]

Jeg trodde faktisk ikke jeg skulle få oppleve i min levetid å eie en bil som kunne kjøre 40-50mil på strøm og langt mindre at den kunne lades gratis på ladestasjoner med 130kW... Og det er jammen ikke lenge siden jeg satt å lastet ned mp3 via dobbelt isdn og nå streamer man hd filmer.
Min Amiga 500 hadde ekstra minne på 512Kb (tror jeg) og dette var på størrelse med 1/2 melkkartong, at verden er helt anderledes om 10år igjen er i alle fall sikkert. Bare prøv Siri på Iphone og tenk på hvordan telefonen var på midten av 90tallet.

[JohanH]

Uten å ha lest boken men noen har:

Den gode professor virker som en rimelig fornuftig. Skråsikker hobbyrom tolkning av et så komplisert tema som kunstig intelligens er ikke like fornuftig. Og jeg tror ikke dette er noe mine barnebarn som er forhåpentligvis er 20 år fra å bli født trenger å bekymre seg over. Fanatisme av alle slag, distribusjon av resurser, krig, klima, befolkningsvekst, pandemier er jeg personlig mye mer bekymret for, men alle må jo få lov å bekymre seg for det en har lyst til.

Jeg har lest den. Ydmykhet er bra. Hele hans poeng er at det er en form for "black box" - bare fordi teknologisk utvikling så langt har vært overlag positiv og ført til en bedre verlden så er det ikke sikkert at alle teknologier vi oppdager er slike. En teori om hvorfor vi ikke finner annet intelligent liv i universum er at det finnes et slags enten vanskelig eller helt uungåelig utviklingstrinn i en sivilisasjons utvikling, en teknologi som oppdages eller utvilkes, som uvillkårlig fører til siviliasjonens undergang. AI kunne være en slik teknologi?

Uansett, krig blir det mindre av, likeså fanatisme (religion hører 1900-tallet til globalt sett), pandemier blir vi alt bedre i stand å håndtere og forebygge, befolkningsvektsten globalt har stoppet (det eneste vi nå kan forvente er at de mange som blitt født siste 50 år blir voksne og vi lever lengre - jorden befolkning kommer garantert til å stabilisere seg på mellom 8-9 miljarder), resurser er et sannsynlig ikke-tema alt ettersom vi forholdsvis raskt får tilgang til billig og ubegrenset fornybar energi samt innen forholdsvis kort tid begynner å utvinne resurser fra asteroider.

De største eksistensielle risiki for menneskeligheten nå er 1) klimaendringer som kan allerede være gått for langt 2) asteroider 3) AI.

Le av meg om dere vill, jeg er dog ikke noen tulling og det er ikke Elon heller.

Boström om eksistensiell risiko:

Q: What are the big risks (including existential risks) facing humanity in the 21st Century?

[Nick Bostrom] In my view, all the big existential risks are anthropogenic, arising out of human activity. More specifically, the biggest existential risks in this century arise out of anticipated future technological advances. Humanity has survived all kinds of natural hazards over a period of over one hundred thousand years; it seems unlikely, then, that any natural hazard would do us in within the next hundred.

Among future technologies that may pose significant existential risks I would rank machine super intelligence at or near the top. Advanced molecular nanotechnology could enable the construction of very powerful weapons systems, and could also pose a big risk. Synthetic biology will have some potentially very dangerous applications.

There are also some existential risks that would entail the permanent and drastic destruction of humanity's future potential without necessarily causing human extinction. Unwise human modification that changes human nature in some undesirable way could be one example. Vastly improved surveillance and mind control technologies could perhaps facilitate the establishment of some pernicious global totalitarian regime.

Furthermore, there is a big black box of as-yet unimagined risk. Most of what now seem like the biggest risks to society were unknown one hundred years ago. It is plausible that there are some big risks that still await discovery.

On an individual level, the most likely cause of death for most of us is ageing.
(http://thoughteconomics.blogspot.no/2009/12/future-of-humanity.html)

Verdt å tenke over...

[Amoss]

Personlig er jeg ikke redd for noen fremtidig AI slik det er fremsatt her. Men de som frykter dette har i det minste rett i en ting - man må ha en respekt for den teknologien man utvikler, og prøve på forhånd å se ikke bare de evnt. fordelene den kan tilføre oss, men også ulempene, og ta hensyn til disse under utviklingen slik at problemet ikke oppstår.

Å kalle det for "AI" er kanskje litt drøyt, men er verd å minne om kraket i '87 som tildels skyldtes "trader-bots" (har vel også vært noen mindre "kraks" i etterkant som tildels har samme årsak). Her hadde man altså ikke satt seg godt nok inn farene ved teknologien og satt det hele i "produksjon" uten de - viste det seg - nødvendige sikkerhetstiltakene.

Lærdommen av dette bør være klar for de fleste - jo mer intelligente systemer man utvikler, jo større fokus må man ha på hvilke ulemper disse kan medføre, og sørge for å ta grep for å redusere disse ulempene så mye som mulig. Er man ikke en del av det miljøet som utvikler og "setter i produksjon" - eller politisk styrer - slike systemer, så gjør man rett i å sette fokus på dette, slik Elon helt korrekt har gjort, for å sikre seg at disse miljøene er obs på evnt. ulemper. Selv om hans konkrete uttalelser etter min mening er noe overdrevne.

[Rio]

Sånn til orientering:

AI handler ikke om "flinke traderroboter", men å simulere liv (slik som i dag er karbonbasert) på silisium.

Dette gjøres allerede den dag i dag - man kjører "hjerner" til mindre dyr, og det er såpass avansert allerede at flere har diskutert etikken i å "terminere" programmene (når de blir litt mer avanserte), fordi det da vil tilsvare å drepe f. eks. en mus.

[Kallagtunet]

Og der Rio er nok ikke jeg spesielt optimistisk mhp hvor fort den utviklingen vil gå...  Vi klarer nok å gjøre mye annet dumt som har potensiale til å ødelegge verden før det.

[Kallagtunet]

Hvis en vil lese seg opp på AI fra ett filosofi standpunkt anbefales å lese Hubert Dreyfus:

http://en.wikipedia.org/wiki/Hubert_Dreyfus%27s_views_on_artificial_intelligence

http://www.amazon.com/What-Computers-Still-Cant-Artificial/dp/0262540673/ref=sr_1_4?ie=UTF8&qid=1416755562&sr=8-4&keywords=Hubert+Dreyfus

[Espen Hugaas Andersen]

Hvis en vil lese seg opp på AI fra ett filosofi standpunkt anbefales å lese Hubert Dreyfus:

http://en.wikipedia.org/wiki/Hubert_Dreyfus%27s_views_on_artificial_intelligence

http://www.amazon.com/What-Computers-Still-Cant-Artificial/dp/0262540673/ref=sr_1_4?ie=UTF8&qid=1416755562&sr=8-4&keywords=Hubert+Dreyfus

Bare utifra det som står på wikipedia virker det som alle hans synspunkt er utdaterte. De angriper tradisjonell AI, der man skulle programmere intelligens. Jeg er enig med han at dette er tilnærmet umulig.

Det som gjøres nå er at man bygger opp en hjerne fra bunnen av, og så er den i seg selv intelligent. Jeg anbefaler igen disse videoene: http://www.kurzweilai.net/henry-markram-simulating-the-brain-next-decisive-years

Og for å si det slik, han antar at for å kunne simulere en menneskelig hjerne, så må man håndtere en modell på 0,5 Exabyte. Dette er noe helt annet enn tradisjonell AI, der det bare var noen linjer med kode, så var man i mål.

[JohanH]

Hvis en vil lese seg opp på AI fra ett filosofi standpunkt anbefales å lese Hubert Dreyfus:

http://en.wikipedia.org/wiki/Hubert_Dreyfus%27s_views_on_artificial_intelligence

http://www.amazon.com/What-Computers-Still-Cant-Artificial/dp/0262540673/ref=sr_1_4?ie=UTF8&qid=1416755562&sr=8-4&keywords=Hubert+Dreyfus

Dreyfus synspunkter er omtrent like interessant som å diskutere utviklingsbiologi med en katolsk prest.

Espen: you beat me to it. Hele poenget med moderne AI forskning er at man ikke trenger å forstå essensen av intelligens for å simulere det, kun de underliggende mekansimene. Om du simulerer intelligens slik at det blir umulig å skille fra mennesklig intelligens så er det ekte intelligens.

[Kallagtunet]

Hvis en vil lese seg opp på AI fra ett filosofi standpunkt anbefales å lese Hubert Dreyfus:

http://en.wikipedia.org/wiki/Hubert_Dreyfus%27s_views_on_artificial_intelligence

http://www.amazon.com/What-Computers-Still-Cant-Artificial/dp/0262540673/ref=sr_1_4?ie=UTF8&qid=1416755562&sr=8-4&keywords=Hubert+Dreyfus

Bare utifra det som står på wikipedia virker det som alle hans synspunkt er utdaterte. De angriper tradisjonell AI, der man skulle programmere intelligens. Jeg er enig med han at dette er tilnærmet umulig.

Det som gjøres nå er at man bygger opp en hjerne fra bunnen av, og så er den i seg selv intelligent. Jeg anbefaler igen disse videoene: http://www.kurzweilai.net/henry-markram-simulating-the-brain-next-decisive-years

Og for å si det slik, han antar at for å kunne simulere en menneskelig hjerne, så må man håndtere en modell på 0,5 Exabyte. Dette er noe helt annet enn tradisjonell AI, der det bare var noen linjer med kode, så var man i mål.

Vel du leser drefys som fanden leser bibelen :-D

Vi får se da om 5 år om "Skynet" er blitt "Self aware" og ikke minst om Tesla har fått autopiloten sin til å virke, jeg er rimelig sikker på at ingen av delene har slått til....

[Espen Hugaas Andersen]

Vel du leser drefys som fanden leser bibelen :-D

Vi får se da om 5 år om "Skynet" er blitt "Self aware" og ikke minst om Tesla har fått autopiloten sin til å virke, jeg er rimelig sikker på at ingen av delene har slått til....

Jeg tror autopiloten vil fungere. (Ironisk nok så er dette tradisjonell AI, der man programmerer ønsket oppførsel, og har ingenting med menneskeaktig AI å gjøre.)

Om man har fått menneskeaktig AI er vanskeligere å si, jeg vil tro det er mer snakk om 10 år, men 5 år er ikke umulig. Det kan også gå 20+ år.

[JohanH]

Hvis en vil lese seg opp på AI fra ett filosofi standpunkt anbefales å lese Hubert Dreyfus:

http://en.wikipedia.org/wiki/Hubert_Dreyfus%27s_views_on_artificial_intelligence

http://www.amazon.com/What-Computers-Still-Cant-Artificial/dp/0262540673/ref=sr_1_4?ie=UTF8&qid=1416755562&sr=8-4&keywords=Hubert+Dreyfus

Bare utifra det som står på wikipedia virker det som alle hans synspunkt er utdaterte. De angriper tradisjonell AI, der man skulle programmere intelligens. Jeg er enig med han at dette er tilnærmet umulig.

Det som gjøres nå er at man bygger opp en hjerne fra bunnen av, og så er den i seg selv intelligent. Jeg anbefaler igen disse videoene: http://www.kurzweilai.net/henry-markram-simulating-the-brain-next-decisive-years

Og for å si det slik, han antar at for å kunne simulere en menneskelig hjerne, så må man håndtere en modell på 0,5 Exabyte. Dette er noe helt annet enn tradisjonell AI, der det bare var noen linjer med kode, så var man i mål.

Vel du leser drefys som fanden leser bibelen :-D

Vi får se da om 5 år om "Skynet" er blitt "Self aware" og ikke minst om Tesla har fått autopiloten sin til å virke, jeg er rimelig sikker på at ingen av delene har slått til....

Ydmykhet er på sin plass i "begge leir" for å side det sån. Boström og Musk er ganske ydmyke da de sier at det ikke vet når AI kommer, ikke engang om det kommer. Men de sier at hvis det kommer så er en mulig, stor, risiko ved det og la oss heller diskutere det nå enn å gå blindt inn i det. Jeg er helt enig i den vurdering.

I lang tid ble det sagt at en dator aldri skulle kunne slå et stormester i sjakk. Det var en "sanning" i mange årtiender. Når Deep Blue slo Kasparov og når det nå senere er vist at det er forholdsvis enkelt for en sjakkdator å slå hvilken spiller som helst så sier de tidligere kritikerne at: "Javel, men det er jo bare et meget spesialisert datorprogram som bruker enorm computing power til å utføre en veldig spesifikk oppgave, det ligner ikke på menneskelig intelligens. Dessuten gjør programmet det på en helt annen måte enn stormesteren (dator=svært mange digitale, raske sekvensielle computations, et menneske=langsommere, analog computation, parallelle) slik at det er ikke "på ordentlig".

Når vi innen kort tid har biler som beviselig kjører bil bedre og sikrere enn mennesker vil ingen ta dette som et eksempel på artificiell intelligens (hvilket det er) men vil bare se på det som en spesifikk software+hardware applikasjon.

Når vi etterhvert får helt ned til minste detalj simulert nervesystemet til en fruktflue for eksempel, enten dette gjøres i en mer fysisk simulert funksjon eller i en rent digital simulering, hva er da det bevis for? Skeptikerne vil si at det er snakk om enda en svært avgrenset applikasjon, som egentlig ikke beviser noe.

Jeg har svært vanskelig for å prinsippielt forstå argumentene for hvorfor man ikke skulle kunne simulere "a human mind". De eneste "gode" argumentene er rent metafysiske eller religiøse, men historisk sett har det vist så å være lite hold i slik argumentasjon.

Edit: Espen - great minds think alike Kanskje det er på tide å avsløre at både du og jeg egentlig kun er softwarebaserte

[Kallagtunet]

Ser ut som noen av deltakerne i prosjektet  har sine tvil også:

http://www.hpcwire.com/2014/07/07/human-brain-project-draws-sharp-criticism/

"As of right now, 261 leading scientists, and counting, have signed a letter that says in part, "...we wish to express the view that the HBP is not on course and that the European Commission must take a very careful look at both the science and the management of the HBP before it is renewed. We strongly question whether the goals and implementation of the HBP are adequate to form the nucleus of the collaborative effort in Europe that will further our understanding of the brain."

The project's core goal, as stated on its website, is "to build a completely new information computing technology infrastructure for neuroscience."

The focus on supercomputer simulations is what's most upsetting to the dissenters. This is a community that obviously recognizes the importance of brain research, but they question the feasibility of the overarching goal. It's too soon, they say, to digitally recreate such a complex organ.

Echoing the sentiments of his colleagues and cosignatories, Peter Dayan, director of the computational neuroscience unit at University College London, characterized the project as "radically premature."

"We are left with a project that can't but fail from a scientific perspective," Dayan told the Guardian. "It is a waste of money, it will suck out funds from valuable neuroscience research, and would leave the public, who fund this work, justifiably upset."

The letter calls for an independent review of the Human Brain Project and the reallocation of funding "to meet the original goals for the HBP: understanding brain function and its effect on society." If the EU fails to adopt their recommendations, the scientists pledged they will boycott the Human Brain Project and will urge their colleagues to do likewise."