Sv: Bestilling og Venteliste

[Kjell Leaf]

Den menneskelige hjerne - og det jeg vil kalle ekte intelligens - fungerer ikke på samme måte som en datamaskin.  Den regner ikke millioner av trekk, den bruker ikke bare en fast verdi for brikkenes posisjon og styrkeforhold, selv om man forenkler det til disse tingene når man forklarer sjakk-posisjoner.  En brikke eller et felt på sjakkbrettet kan være ekstremt verdifullt og verdt å ofre mange andre brikker for i en gitt situasjon. Men SELV OM eksakt samme situasjon skulle oppstå på brettet dagen etter, er det ikke gitt at det samme feltet har samme verdi.  Dvs. det vil ofte IKKE ha det, fordi motstanderen da er klar over hvilke farer som lurer, og vil kunne ha utviklet en plan som tar brodden av det.
Den typen beregninger klarer ikke dagens datamaskiner å gjøre. De er ikke smarte nok til å kunne forutse feil, de er ikke gode nok til å ha en "plan b", de er elendige til å ta ting "på sparket" osv.  De har ikke det vi gjerne kaller "magefølelse", som i stor grad er "intelligens" basert på erfaring og indirekte eller mikroskopiske fordeler, sammen med kreativitet.

Din påstand savner rot i virkeligheten, da vi ikke vet hvordan mennesker tenker. Det finnes ingen som helst god grunn til å anta at det finnes noe som kalles "ekte intelligens" mens det finnes noe annet som da ville være "uekte intelligens". Det er bare ulike varianter av intelligens. Du appliserer magisk tenking på et rasjonelt problem. At vi mennesker ønsker å føle oss spesielle og tenke at det er noe åndelig annerledes med oss enn alle andre levende eller ikke levende organismer er forståelig, men en fundamental feilteking. Vi består av atomer og molekyler liksom alt annet i universum. Riktignok er sammensetningen og dynamikken av disse i et menneske svært interessant og gir opphav til diverese fantastiske fenomener, bland annet intelligens, kognisjon, sosiale strukturer osv. Men det finnes ingen prinsippiell grunn til at man ikke skulle simulere dette i andre former, eller konstruere nye former for intelligens. At det derimot er et massivt ingeniørsproblem er et annet spørsmål.

Her misforstår du åpenbart hva jeg mener.  Jeg mener ikke på noe vis at mennesket er veldig annerledes fra andre dyr.  Jeg mener derimot at det er en klar forskjell på levende vesener og datamaskiner når det kommer til "intelligens". I alle fall per i dag. 
OpenWorm-prosjektet jeg refererte til i en tidligere post er jo et eksempel på at man faktisk er i ferd med å lage maskiner som ikke bare emulerer ekte intelligens gjennom algoritmer, men som faktisk emulerer de mekanismene som ligger _bak_ det vi kaller "tanker" (hvis man kan snakke om at en rundorm på ca 1mm har noen form for tanker).

Dette er noe fundamentalt annet enn å gjøre tusener eller millioner av kalkulasjoner i sekundet for å finne den optimale løsningen gitt bestemte input-parametre og algoritmer.

For å igjen returnere til sjakk-maskiner - som er veldig greie å forholde seg til, ettersom de skal løse et problem der det i utgangspunktet er ganske enkle regler som gjelder, innenfor et begrenset "univers", og man i alle fall teoretisk har et endelig antall gyldige og lovlige stillinger som man kan regne på.
I dag er det ikke noe problem for en sjakk-computer å slå de sterkeste sjakkspillere 9 av 10 ganger.  Og en sjakk-computer vil veldig ofte finne NYE trekk, fordi den har "tid" til å regne på alle mulighetene, og derfor kan "se" kosekvensene av trekk som i utgangspunktet ikke virker veldig attraktive, og derfor kanskje overses eller ignoreres av menneskelige spillere.
Så de er esktremt nyttige verktøy, men det er langt derfra, til å kalle dem for intelligente.

Vi kan i dag få en datamaskin til å velge hvem den skal redde i en gitt situasjon (ref en annen post over her), men det vil gjøres basert på kriterier og algoritmer skrevet av mennesker, samt de tilgjengelige input-data.
Det blir sannsynligvis en "rasjonell" avgjørelse, og en avgjørelse man kan ettergå skritt for skritt når det har skjedd.  Og det blir nok til og med i mange tilfeller en "riktigere" avgjørelse (for the greater good) enn det et menneske ville klart å ta i den samme situasjonen.   
Men det er fortsatt ikke det jeg vil kalle "intelligens".

Da må du alikevel forklare hvordan du mener at menneskelig tenking fundamentalt skiller seg fra måten en dator tenker på. Vi kan gjerne bruke det begrensede universet sjakk som modell. Hvordan tenker Magnus Carlsen når han spiller sjakk, som fundamentalt skiller seg fra hvordan en sjakkdator tenker?

I motsetning til en computer har vi følelser, de er med på å styre være avgjørelser og valg i de aller fleste tilfeller.

[JohanH]

Da må du alikevel forklare hvordan du mener at menneskelig tenking fundamentalt skiller seg fra måten en dator tenker på. Vi kan gjerne bruke det begrensede universet sjakk som modell. Hvordan tenker Magnus Carlsen når han spiller sjakk, som fundamentalt skiller seg fra hvordan en sjakkdator tenker?

Hadde jeg enkelt kunne beskrive hvordan den menneskelige hjerne funker, så hadde jeg nok sittet på noen nobelpriser...
En viktig sak er at hjernen er analog, ikke digital (eller binær).

Men ta for eksempel i siste parti i VM nå.  Anands 23. trekk (b5) ble raskt funnet av stockfish, og ble umiddelbart av både menneskene og datamaskinene som analyserte spillet fra sidelinja sett på som et ekstremt bra trekk.  Faktisk så bra at "pila" tippet langt i favør Anand etter å ha ligget stabilt i favør Magnus fram til da.

Magnus kommenterte imidlertid etter partiet at han så "trusselen" og det påfølgende tårn-offeret i trekk 27, men mente at den IKKE ga Anand fordel _nok_.

Og allerede i trekk 29 - dvs. "bare" 6 trekk senere fikk han gjort det han mente var det viktigste trekket sitt. I trekk 33 mente de fleste, inkludert datamaskinene, at Magnus i praksis hadde vunnet.

Men vurderingene til Magnus i periode trekk 23 til 29 må åpenbart ha avveket mye fra hva selv verdens beste sjakk-computere regnet seg fram til.  Dette er bare 6 trekk framover, og selv med det antallet brikker som da sto på bordet er det nok åpenbart at computerne hadde vurdert også den stillingen som faktisk oppsto etter trekk 29, men likevel kommet fram til at Anand sto vesentlig bedre enn Magnus sånn som situasjonen var etter trekk 23.
Og det var jo ikke sånn at Anand i løpet av disse trekkene gjorde noen store, direkte feil.  Tvert imot gjorde han nesten konsekvent de trekkene som ble anbefalt av datamaskinene.

Den fordelen et menneske har er at det kan kjenne et annet menneske. Det kan vite noe om spillestil, hvordan vedkommende tenker, hvordan vedkommende oppfører seg i stressa situasjoner eller under tidspress.  Man kan behandle og vurdere en rekke faktorer, og man behandler dem ikke binært.  Man gir ikke ti minutter igjen på klokka en konkret verdi, og regner seg ut fra den.  Man tillegger disse faktorene mer og mindre vekt på en analog skala, som totalt sett gir grunnlag for å velge hva man videre vil gjøre.

I ettertid kan man selvsagt justere algoritmene til datamaskinene, eller man kan programmere dem spesifikt for akkurat denne stillinga med akkurat disse spillerne, så pila peker riktig, men det vil likevel være etterpåklokskap.  For det var ett eller annet som Mangnus sin hjerne skjønte, og forholdt seg til, som ikke datamaskinene klarte å regne ut der og da.

Først og fremst, flotte sjakkkunnskaper du har!

Nå må det vel dog sies at når sjakkdatorer underveis vurderer trekkene til spillerne er det ikke det samme som om datorn spilte mot Carlsen. Slik jeg forstått det er det ikke lengre et tema om datorene er bedre enn menneskene - det er er faktum som er uomtvistet og dermed er det ikke av interesse lengre for stormesterne å spille mot datorer. Da skal det sies at jeg absolutt tror Carlsen kan slå verldens beste sjakkdator i et parti, men neppe i en kamp hvor det f. eks. er først til 6,5 poeng.

Det at menneskelige hjerner er analoge og jobber langsomt parallellt mens datorene er digitale og jobber raskt sekvensielt er jo bare to måter å komme til det samme resultatet, nemlig å spille flott sjakk. Hvordan kan vi vite noe om Carlsens tankemåte sammenlignet med Anands? De tenker selvfølgelig på litt ulik måte rundt dette med sjakk, har litt forskjellige "indre modeller" men kan alikevel sitte på hver sin side av samme brett og spille med de samme reglene. At datorn tenker på en svært annerledes måte spiller ingen rolle, den kan også være en fullverdig spiller.

Spille sjakk kan beskrives matematisk. Det er absolutt mulig å beskrive spillet sjakk i en totalomfattende matematisk modell, men en slik modell ville vært svært avansert og sannsynlig ikke mulig for et menneske å forstå. Alikevel er det nok sån at disse stormesterne på en slags måte alikevel har stor grad av innsikt i en slik tenkt teoretisk matematisk modell som fullt ut beskriver sjakk, slik at de kan "se glimter" av hva det optimale sjakktrekket vil være i en gitt situasjon, mot en gitt motstander, på en viss dag osv. Det kan godt være at det ville vært nødvendig å ha tilgang til så mye datakraft for å lage en slik modell at man måtte konvertere f. eks. hele vårt solsystem til en computron, eller så kanskje det trenges mye mindre. Uansett, hvis du hadde to slike perfekte sjakkdatorer som spilte uendelig mange partier mot hverandre så ville nok svært mange av dem ende opp i remi, mens noen ville endet med vinst for hvitt og enkelte med vinst for svart, men over tid ville stillingen vært 50/50.

Kjernen i problemstillingen er at vi er uenige om det er de underliggende prosessene i tenkingen som utgjør essensen av tenkingen, eller resultatet. Jeg mener det er resultatet, du og f. eks. KjellLeaf (men på et annet nivå) mener det er den kvalitative underliggende prosessen.

[JohanH]

I motsetning til en computer har vi følelser, de er med på å styre være avgjørelser og valg i de aller fleste tilfeller.

Med fare for å virke masete så må du nesten da forklare for meg hva forskjellen mellom en tanke og en følelse er. Eller formulert annereldes: hva er forskjellen på en kognitiv og emosjonell prosess i en biologisk hjerne?

[Olatho]

Jeg mener det er liten tvil om at en datamaskin kan komme fram til samme - og i mange tilfeller også bedre - løsninger enn mennesker.

Men to datamaskiner kunne feks ikke denne diskusjonen.
Så, ja. Jeg mener at selve prosessen rundt "å tenke" er vesentlig.

[JohanH]

Jeg mener det er liten tvil om at en datamaskin kan komme fram til samme - og i mange tilfeller også bedre - løsninger enn mennesker.

Men to datamaskiner kunne feks ikke denne diskusjonen.
Så, ja. Jeg mener at selve prosessen rundt "å tenke" er vesentlig.

Klart de kunne hatt denne diskusjonen, om de var på vårt nivå kognitivt. Thuringtesten vettu.

http://en.m.wikipedia.org/wiki/Turing_test

[Olatho]

Jeg la ut den fella, nettopp fordi Turing-testen er ganske mye kritisert nettopp fordi den er veldig begrenset i sin natur.

Med en stor nok database kan Turing-testen bestås med enkle oppslag. Jeg tror ingen vil kalle en sånn maskin intelligent.

[JohanH]

Jeg la ut den fella, nettopp fordi Turing-testen er ganske mye kritisert nettopp fordi den er veldig begrenset i sin natur.

Med en stor nok database kan Turing-testen bestås med enkle oppslag. Jeg tror ingen vil kalle en sånn maskin intelligent.

Tja, hvis du fikk chatte med en AI i dagesvis om hva som helst fra teknologi, til filosofi, humor, kjærlighet, meningen med livet, fotball osv. osv. og fortsatt ikke kunne skille den fra et menneske, da blir kanskje det mer interessante spørsmålet om dette med å lage et skille mellom "ekte" og "artfisiell" intelligens egentlig har noe for seg. Og om denne maskinen gjør det via oppslag i en database eller via andre mekanismer kvitter vel egentlig? Dessuten så tror jeg ikke en gjennomført Turing-test kan bestås gjennom "enkle oppslag" i en stor database.

[Rio]

I motsetning til en computer har vi følelser, de er med på å styre være avgjørelser og valg i de aller fleste tilfeller.

Og en datamaskin kan ikke simulerer eller emulere "følelser"?

Selvsagt kan et neuralt nettverk som kjøres på silisium ha følelser (tilsvarende hormoner, osv. som påvirker tankeprosessen) som et neuralt nettverk som kjøres på karbonbasert "hardware".

[Olatho]

Den dagen man kan snakke med en datamaskin på den måten er jeg enig med deg i at vi nærmer oss noe. Og jeg tror heller ikke du kan få til det med databaseoppslag. Men det er også grunnen til at jeg ikke tror at dagens datamaskiner vil være i stand til å gi oss skikkelig kunstig intelligens.
Fremtiden er det vanskelig å spå om, men det er mulig vi kommer dit etter hvert.

"Vi" vet ganske mye om hvordan enkeltneuroner funker, og hvordan enkle forbindelser mellom dem er organisert. Men et avansert nervesystem endrer strukturer og bindinger basert på forskjellige hormoner og en rekke andre faktorer.
Det er det som gir mennesker og litt høyerestående dyrearter (dvs litt mer avanserte enn amøber) det vi gjerne kaller personlighet.
Selv eneggede tvillinger tenker, mener og føler forskjellige ting - til tross for at de fysisk og genetisk er identiske fra starten.
To datamaskiner er like. To datamaskiner med samme utgangspunktet vil komme fram til det samme resultatet.

[Rio]

Den dagen man kan snakke med en datamaskin på den måten er jeg enig med deg i at vi nærmer oss noe. Og jeg tror heller ikke du kan få til det med databaseoppslag. Men det er også grunnen til at jeg ikke tror at dagens datamaskiner vil være i stand til å gi oss skikkelig kunstig intelligens.
Fremtiden er det vanskelig å spå om, men det er mulig vi kommer dit etter hvert.

"Vi" vet ganske mye om hvordan enkeltneuroner funker, og hvordan enkle forbindelser mellom dem er organisert. Men et avansert nervesystem endrer strukturer og bindinger basert på forskjellige hormoner og en rekke andre faktorer.
Det er det som gir mennesker og litt høyerestående dyrearter (dvs litt mer avanserte enn amøber) det vi gjerne kaller personlighet.
Selv eneggede tvillinger tenker, mener og føler forskjellige ting - til tross for at de fysisk og genetisk er identiske fra starten.
To datamaskiner er like. To datamaskiner med samme utgangspunktet vil komme fram til det samme resultatet.

Vil ikke to mennesker det, vis utgangspunktet var identisk - dvs. samme hjernestruktur ved og nøyaktig samme hormonnivå og sanseinntrykk fra start (lyder, lys, osv.)?

[Olatho]

Det er det vel ingen som vet.

[Rio]

Det er det vel ingen som vet.

Vel, da sammenligner du vel epler og pærer? For det er vel intet som tilsier at hvis startparameterene for to organiske hjerner var identiske (jeg vet det er umulig å teste i praksis) så vil også resultatet være identisk?

Hvis man hadde simulert/emulert to organiske hjerner i silisium, og hatt forskjellig DNA, forskjellige sanseinntrykk og forskjellig hormonnivå, så vil jo ikke de heller være identiske mer enn i en brøkdel av et sekund. Så vil de utvilke seg helt forskjellig.

Dette avhenger ikke av om man kjører på karbon eller silisium.

[Olatho]

Det har jeg heller aldri ment.
Jeg bare mener det er et langt skritt fra måten vi tenker data og logiske dataprogrammer i dag, til en sånn datamaskin.

[Rio]

Helt enig, men slike "nye" datamaskiner er allerede i operasjon, både hos IBM og andre. De er ikke så avanserte som den menneskelige hjerne, men simulerer små dyr (uten spesielt mange sanser).

Det er nærmere "nåtiden" enn mange tror.

[Olatho]

Jeg har nevnt openworm.com flere ganger. Så ting skjer. Men vi er fortsatt et stykke unna at disse ormene får språk, personlighet og faktisk intelligens.