Bli medlem på FZ:s forum!

Teknologisk singularitet leder nog till...

  • en framtida utopi
    41.2% (7)
  • en framtida dystopi
    29.4% (5)
  • ingenvart - AI:n kommer inte bli till eller förgöra sig själv vid varje försök att skapa den.
    17.6% (3)
  • Vet ej
    11.8% (2)
Jokkepalm
Titel Frågvis
Registrerad 2015-05-22
Inlägg 45

Tror ni att teknologisk singularitet kommer att infinna sig?
Känner ni mer fruktan eller optimism för att det kan uppstå?

Wait, what?
https://sv.m.wikipedia.org/wiki/Teknologisk_singularitet

Själv tror jag på att singularitet kommer att inträffa inom 10-30 år. Om det innebär skräckscenariot att det innebär slutet för männskligheten så känns det förstås hemskt och skrämmande, men samtidigt kanske det finns ett spår av något positivt i detta - säg exempelvis om den generella AI som blir kvar kanske bestämmer sig för att berätta om mänskligheten någonsin existerat till andra platser i universum. Vi vet ju inte om vi människor i annat fall hinner utrotar oss själva före singulariteten och därav förhindra att andra liv i universum får veta om att vi någonsin existerat.

Den teknologiska singulariteten kan också innebära utopi förutsatt att AI:n är vänlig och vill stödja männskligheten, det skulle innebära att vi människor aldrig behöver uppfinna något mer, samtidigt som utvecklingen av kunskap, välfärd och teknologi skulle kunna ske overkligt snabbt, nästan så den generella AI:n skulle behöva agera som pedagog inför den revolution av positiv förändring som den ser teoretiskt möjligt, men vi människor för långsamma att anpassa oss till.

conthox
Titel Rikskändis
Registrerad 2003-09-08
Inlägg 8 417

Å ena sidan ett intressant ämne, å andra sidan blir det ju bara ett problem om maskinen verkligen fysiskt kan tillverka en annan maskin. Det kan dom ju bara göra om människan designar maskinen så att den kan det. Sedan behövs ju råvaror osv också, ett helt led med saker som måste bli uppfyllt för att en eventuell maskinell revolution/evolution skall kunna äga rum över huvud taget.

Walter S.A. Iego
Titel Spindeln i nätet
Registrerad 2010-02-04
Inlägg 14 186

Jag är inte orolig för det alls. Vi på vår lilla planet kommeri inte progrediera så mycket som vi är rädda för. Snarare tror jag civilisationen redan nu är på väg mot en stor kris.

Hipshot
Titel Storröjare
Registrerad 2001-11-20
Inlägg 4 480

Människan är jordens singularitet

Jaxz
Titel Stammis
Registrerad 2007-08-31
Inlägg 541

Stora problemet som alla tror kommer att övervinnas inom rimlig tid är modellen av verkligheten och uppfattningen av denna för en AI. Jag tror mer vi kommer köra fast när det gäller att skapa en riktig AI med tanke på hur komplex en generell AI verkligen är och om vi närmar oss detta kommer lagar stoppa detta.

men går vi under hoppas jag att det blir så här
https://www.youtube.com/watch?v=tcdVC4e6EV4

azynkron
Titel Proffs
Registrerad 2009-07-08
Inlägg 2 237

Jokkepalm skrev:
Själv tror jag på att singularitet kommer att inträffa inom 10-30 år.


Vad baserar du det på? Det låter närmast som en religiös övertygelse.

De mest avancerade systemen som existerar idag, ex IBMs Watson, är inget mer än avancerade databasgränssnitt. Varken mer eller mindre. Sammantaget med att vi inte ens är i närheten av att förstå hur vår hjärna fungerar, kan man inte ens med bästa vilja säga att vi kan se en advent av någon form av AI inom överskådlig framtid.

Jokkepalm
Titel Frågvis
Registrerad 2015-05-22
Inlägg 45

azynkron skrev:
Jokkepalm skrev:
Själv tror jag på att singularitet kommer att inträffa inom 10-30 år.


Vad baserar du det på? Det låter närmast som en religiös övertygelse.

De mest avancerade systemen som existerar idag, ex IBMs Watson, är inget mer än avancerade databasgränssnitt. Varken mer eller mindre. Sammantaget med att vi inte ens är i närheten av att förstå hur vår hjärna fungerar, kan man inte ens med bästa vilja säga att vi kan se en advent av någon form av AI inom överskådlig framtid.


Gissningen är inte baserad på någon evidens alls, men andra personers genomsnittsgissning är omkring 2040 (källa wikipedia-länken i första inlägget). Det finns förstås forskare som sedan 50-60 talet talat om att det bara är 10-15 år kvar tills att Artificiell intelligens kan överträffa den mänskliga (men det är oklart om de menar ett artificiellt skapat medvetande - en dator med människolikt medvetande).

Dessa förutsägelser är alltid att ta med en nypa salt. Ta Fusions-reaktorer som exempel... forskare har talat varmt om dem i eviga tider... de har hävdat att det enbart är ca. 20 år kvar tills att vi faktiskt kan ta dem i bruk. Nu har man väl lyckats en enda gång med att få ut mer energi än vad man gav som input... jag gissar på att forskarna har fel, det är lite längre tid än 20 år kvar innan reaktorerna kan komma att fungera.. men ingen kan förutspå framtiden... Det pågår dock en massor av forskning Artificell intelligens, exempelvis Googles "DeepMind" osv... Se också att google har köpt upp mängdvis med robotforskning runtom i världen.. Google har en hel arme med forskare som vill ta fram generell AI.

Hipshot
Titel Storröjare
Registrerad 2001-11-20
Inlägg 4 480

azynkron skrev:
Vad baserar du det på? Det låter närmast som en religiös övertygelse.


Detta är vad jag säger till folk som tror vi kommer landa på Mars 2030...

azynkron
Titel Proffs
Registrerad 2009-07-08
Inlägg 2 237

Jokkepalm skrev:
azynkron skrev:
Jokkepalm skrev:
Själv tror jag på att singularitet kommer att inträffa inom 10-30 år.


Vad baserar du det på? Det låter närmast som en religiös övertygelse.

De mest avancerade systemen som existerar idag, ex IBMs Watson, är inget mer än avancerade databasgränssnitt. Varken mer eller mindre. Sammantaget med att vi inte ens är i närheten av att förstå hur vår hjärna fungerar, kan man inte ens med bästa vilja säga att vi kan se en advent av någon form av AI inom överskådlig framtid.


Gissningen är inte baserad på någon evidens alls, men andra personers genomsnittsgissning är omkring 2040 (källa wikipedia-länken i första inlägget). Det finns förstås forskare som sedan 50-60 talet talat om att det bara är 10-15 år kvar tills att Artificiell intelligens kan överträffa den mänskliga (men det är oklart om de menar ett artificiellt skapat medvetande - en dator med människolikt medvetande).

Dessa förutsägelser är alltid att ta med en nypa salt. Ta Fusions-reaktorer som exempel... forskare har talat varmt om dem i eviga tider... de har hävdat att det enbart är ca. 20 år kvar tills att vi faktiskt kan ta dem i bruk. Nu har man väl lyckats en enda gång med att få ut mer energi än vad man gav som input... jag gissar på att forskarna har fel, det är lite längre tid än 20 år kvar innan reaktorerna kan komma att fungera.. men ingen kan förutspå framtiden... Det pågår dock en massor av forskning Artificell intelligens, exempelvis Googles "DeepMind" osv... Se också att google har köpt upp mängdvis med robotforskning runtom i världen.. Google har en hel arme med forskare som vill ta fram generell AI.


Så vad du säger är att du har gjort en vild gissning i motsats till en kvalificerad?

Alltså, jag har inget principiellt emot diskussionen, men det är viktigt att man håller båda fötterna på jorden. Annars blir det som jag insinuerade, religion.

För att ta ett exempel som du nämner så har vi en tämligen exakt och diskret kunskap om hur man klyver atomer.
Vi har också en god förståelse hur stjärnorna kan slå ihop atomer men ändå kan vår nuvarande teknologi inte uppnå detsamma utanför laboratoriemiljö. Vad vi vet dock är vad vi saknar (superledare o s v) och fusion är troligen något som bara väntar på att ett av problemen löser sig. Vi förstår processen och vi vet vilka begränsningar vi har.

Skillnaden mellan problemen med fusion och en äkta AI är att i det sistnämnda har vi fortfarande frågor som vi fullständigt famlar i mörkret efter. De AI som "existerar" (Deep blue, Watson eller DeepMind) är hur du än vrider på det bara program som arbetar utifrån ett fördefinierat mönster. Ja, även DeepMind oavsett vad de säger. Google är så glada över sina hypetåg för de skramlar pengar. IBM gör det samma med Watson. Jag arbetar för IBM så jag har tillgång till denna skapelse och jag uppmuntras glatt i email minst en gång i veckan att använda det så jag har förstahandstillgång till minst en av de "AI" som nämns som kandidater. Tyvärr kan jag inte berätta mer eftersom det antagligen skulle betraktas som sekretessbrott.

Så skillnaden är att vi inte ens vet vilka frågor som vi behöver svar på för att definiera vad vi saknar. Vi har vissa kunskaper hur hjärnan fungerar men vi har exempelvis inte en susning om hur "själen" aktiveras och fungerar.
Vi kan inte ens göra kvalificerade gissningar, bara grova antagande. Därför påstår jag att det är fullständigt omöjligt att förutse när vi lyckas skapa en riktig artificiell intelligens.

Missförstå mig rätt, jag har älskat Science Fiction sedan jag var en 8-9 år och såg Star Wars för första gången. Många är kvällarna där jag suttit och funderat över hur det skulle vara att att leva i Deckers Los Angeles eller vara kollega till Ripley. Både Asimov och Clarke använde båda AI och vilka implikationer de kan innebära för mänskligheten. Gibson antog en något mer poetisk ton när han beskrev hur två AIs blev osams.

Men AI är just nu och för överskådlig framtid just bara det, Science Fiction.

azynkron
Titel Proffs
Registrerad 2009-07-08
Inlägg 2 237

Hipshot skrev:
azynkron skrev:
Vad baserar du det på? Det låter närmast som en religiös övertygelse.


Detta är vad jag säger till folk som tror vi kommer landa på Mars 2030...


Allt som behövs där är att Kina säger att de har ett långt gången projekt att åka dig (med lite släppta hemliga dokument för att ge det trovärdighet) och USA kommer att vara där inom ett år.
Det var hetsjakten mellan Sovjet och USA som drev dem till att landa på månen. Det fanns ingen annan politisk anledning till att göra det vid tillfället.

Hipshot
Titel Storröjare
Registrerad 2001-11-20
Inlägg 4 480

azynkron skrev:
Hipshot skrev:
azynkron skrev:
Vad baserar du det på? Det låter närmast som en religiös övertygelse.


Detta är vad jag säger till folk som tror vi kommer landa på Mars 2030...


Allt som behövs där är att Kina säger att de har ett långt gången projekt att åka dig (med lite släppta hemliga dokument för att ge det trovärdighet) och USA kommer att vara där inom ett år.
Det var hetsjakten mellan Sovjet och USA som drev dem till att landa på månen. Det fanns ingen annan politisk anledning till att göra det vid tillfället.


Heh, det är därför jag säger det. Det finns ingen politisk eller ekonomisk vilja nu, visst mycket kan hända på 15 år, men ja.
Tekniskt är det väl inga problem, bara att stoppa ett skepp med mat för några år och sedan resa.

waeress
Titel Veteran
Registrerad 2012-05-14
Inlägg 780

Är lite skeptisk till om det kommer hända. Fast det finns ju många framstående som är säkra på det.
Har lite för dålig insikt för att kunna göra en egen bedömning :)

Men jag väljer nog att inte tro på domedagsscenariot iaf, är för mycket optimist för det.

Ariath
Titel Proffs
Registrerad 2007-07-13
Inlägg 2 034

In three years, Cyberdyne will become the largest supplier of military computer systems. All stealth bombers are upgraded with Cyberdyne computers, becoming fully unmanned. Afterwards, they fly with a perfect operational record. The Skynet Funding Bill is passed. The system goes online on August 4th, 1997. Human decisions are removed from strategic defense. Skynet begins to learn at a geometric rate. It becomes self-aware 2:14 AM, Eastern time, August 29th. In a panic, they try to pull the plug.

Blacksmith
Titel Frågvis
Registrerad 2011-11-16
Inlägg 20

Tycker denna videon passar in i tråden ganska så bra, tror det handlar om en bok han skrivit.
https://youtu.be/XOmQqBX6Dn4

Jokkepalm
Titel Frågvis
Registrerad 2015-05-22
Inlägg 45

azynkron skrev:

Så vad du säger är att du har gjort en vild gissning i motsats till en kvalificerad?


I mitt huvud föreställer jag mig en lättsam diskussion,
så jag gissar lite hej vilt... det är ingen som kan veta. :)

Det du tog upp i ditt inlägg var intressant och tillförde mycket till ämnet.

AI är på tapeten ganska mycket idag... detta får mig att optimistiskt vilja tro på att det har skett stora framsteg inom AI (som inte ännu publicerats officiellt ännu).

Så... av att döma på nyhetsflödet så tolkar jag det som att forskningshjulet verkar växlat upp rejält i takt och det finns gott om pengar och intresse (vilket jag förstås kan ha allt för stora förväntningar om).

Men, senast idag kom nyheten att flera av IT-jättarna (Google, Facebook, Amazon, IBM, Microsoft) slår ihop sina skallar och resurser i ett nytt AI-forskningssamarbete som är open source.

http://computersweden.idg.se/2.2683/1.666415/jattar-gemensamt-grepp-ai

SaraLivblad
Titel Hemmavan
Registrerad 2012-05-12
Inlägg 132

azynkron skrev:
Jokkepalm skrev:
Själv tror jag på att singularitet kommer att inträffa inom 10-30 år.


Vad baserar du det på? Det låter närmast som en religiös övertygelse.

De mest avancerade systemen som existerar idag, ex IBMs Watson, är inget mer än avancerade databasgränssnitt. Varken mer eller mindre. Sammantaget med att vi inte ens är i närheten av att förstå hur vår hjärna fungerar, kan man inte ens med bästa vilja säga att vi kan se en advent av någon form av AI inom överskådlig framtid.

Nja, det är öppet för tolkning angående om de bästa systemen är i stort sett bara databaser.

T.ex. schackdatorer har ju traditionellt handlat om att utforska alla möjligheter och sen välja det bästa draget. Det var ju så IBMs Deep Mind funkade. Den kunde utforska alla drag framåt i... 20(?) rundor och sen alltid välja det bästa. Så har alltid schackdatorer funkat. När datorkraften ökar så kan datorn se framåt fler och fler drag, till slut ser den längre än människans intuition och då vinner datorn. Så AI har alltid handlat om att undersöka alla möjliga utfall och sen välja det bästa. Eftersom datorn kan undersöka fler utfall än människan så kommer, med ökande datorkraft, förr eller senare datorn vinna över människan. Det är alltså en väldigt simpel algoritm:
-Sök igenom alla alternativ, välj det bästa.

Mao, IBMs Deep Mind var ganska fånig. Det var i stort sett bara ett kraftigt kluster som bara sökte igenom massa olika drag och valde det bästa. Inget nytt alls. Och Deep Mind var hårt knutet till Schack. Det gjorde massa kluriga schackoptimeringar och hade ett stort team som var schack experter etc. Det skapades för att spela schack och det var det enda den kunde. Be den spela nåt annat spel, och det funkade inte. Då var du tvungen att skriva om allting.

Människan funkar inte så att vi testar alla möjilga utfall. När vi spelar schack så ser vi bara några få drag - de enda intressanta. Vi ser inte ens de dåliga. Därför kan människan fundera igenom dessa 4 olika drag och välja ett av dem. Man kan säga att människan har "intuition". På nåt sätt väljer vi bort de dåliga dragen. Datorn funkar ju inte så, den börjar utforska även de dåliga dragen och slösar tankekraft på dem. Datorn vet inte vad som är bra eller dåligt - men det vet människan pga vår "intuition".

Dock har nu Googles Go dator, utvecklat intution. Det är första gången någonsin i AI historien, det var därför det var stort i AI kretsar. Go är ett sånt spel att det inte funkar att utforska alla möjliga utfall, det blir för många utfall. Det finns inte så kraftiga datorer, och kommer kanske aldrig finnas. Vi kan alltså inte använda samma simpla algoritm för att spela Go: utforska alla utfall och välj det bästa. Det går inte. Därför har alla Go program spelat jättedåligt fram till nu. De kan se framåt några få drag och det går itne att konkurrera med människans intution.

Go kräver en helt annan algoritm. På nåt sätt måste datorn lära sig vilka drag som är bra och vilka som är dåliga, och sen bara slösa tankekraft på de bra dragen. Datorn måste alltså lära sig "intution" - precis som en människa. Go är ett svårt spel att programmera för, eftersom det ofta inte ens går att säga vilket drag som är bra.

I schack är det enkelt att se vilket drag som är bäst mellan två olika. Man kan enkelt sätta ett poängsystem. "Om du kan schacka kungen är det värt 50 poäng. Om du kan slå hästen är det värt 5 poäng. Om du kan göra schack matt så är det värt 1 miljon poäng, etc". Så man försöker maximera poängen.

I Go kan du inte ens skilja mellan två olika drag. Även de bästa Go spelarna i världen har svårt att säga vem som leder när de tittar på en match. Det vänder så snabbt och är så komplext att det är svårt att se.

Så hur kan då en Go dator välja ett drag mellan olika, när du inte ens kan sätta poäng på ett drag? Hur kan datorn leta igenom alla möjliga utfall 5 drag framåt - det är ju omöjligt. Så att vinna Go kräver flera nya tekniker, annat än den gamla simpla "prova allt möjliga drag och välj det med bäst poäng". Men det har nu Googles team gjort. Hur gjorde de?

Jo, Google utvecklade två olika neurala nätverk. Ett av dem fick se massa historiska Go spel och kunde på så sätt lära sig hur stor vinstchansen ökar när datorn gör ett visst drag i ett visst läge. Det andra nätverket använde denna vinstprocentsiffra för att bara utforska de få drag med högst vinstprocent. Det andra stora som Google gjorde, är att Googles lösning är generell, den är inte knuten till Go. Be den spela schack och inget behöver ändras i koden. Eller Space Invaders, eller whatever. Den behöver bara studera massa matcher, det räcker. Google kommer antagligen vinna över IBMs Deep Mind om de skulle spela Schack, trots att Googles lösning inte är en schackdator. Deep Mind är en hårt specialiserad schackdator, det är inte Googles lösning. Och ändå tror jag Google vinner.

Så Google löste ett problem som för datorn närmre riktig mänsklig intelligens - dvs tvingas utveckla intution. Och detta funkar på en bred klass av problem. Precis som människans intelligens - som är generell och kan lösa problem inom vitt skilda områden. Så Googles lösning är inte alls en fånig IBM Deep Mind lösning.

Jag tror att Watson funkar något liknande Deep Mind. Jag vet inte, men jag tror att Watson bara tröskar igenom massa text och väljer det bästa. Den har så att säga, ingen intution om vad som är det bästa svaret. Så Googles lösning är ett steg närmre riktig AI. Watson är det inte, den är på samma nivå som Deep Mind. Den har bara kraftigare datorer, typ.

ohem
Titel Veteran
Registrerad 2007-06-24
Inlägg 1 111

TL;DR

Jag säger bara: Skål till entropi, eventuell död och röta!

Online just nu
Offline

Du är inte inloggad. Logga in för att få tillgång till fler funktioner.


Forumet modereras av FZ Crew.
Har du synpunkter på modereringen, var vänlig kontakta oss.

Anmäl inlägg och trådar som bryter mot forumets regler.

Alla kan läsa det här forumet.
Inloggade användare kan skriva i det här forumet.

Just nu är 269 medlemmar online. 0 foruminlägg har postats idag.


FZ