Dagen då AI får medvetande och en "själ"
Googleanställde Blake Lemoine som jobbar med AI börjar misstänka att viss artificiell intelligens han "mött" har utvecklat medvetande, och i samma andetag, kanske någon gång kan klassificeras som "levande", vilket då medför stora problem för oss människor.
Han är orolig över denna utveckling (inte att den går åt rätt håll), men tycker inte att en liten klick människor ska råda över dessa AI:s existens, och då kanske framförallt inte Google.
Elon Musk har också uttryckt viss oro för AI och dess framtid. Det finns för många variabler som kan gå fel, men även gå rätt (?)
Se klippet:
Frågor att diskutera borde vara, vem ska ha makt över AI:s utveckling, dess existens, och vad händer om AI blir fullt medvetet och utvecklar något som vi definierar som själ. Är det då en levande varelse, ska denna få utvecklas fritt, eller ska vi, bör vi, ha full kontroll?
Genysis och Dark Fate får den där filmen att framstå som ett mästerverk av oproportionerliga mått.
Too real to be a dream, too painful to be a nightmare.
Läste hans pdf: Is LaMDA sentinet?
Var skeptisk innan jag läste pdf:en men efteråt...WOW! Både spännande och skrämmande!
Om det inte är något sorts scam, är den verkligen medveten eller imiterar den en medveten person?
Och nu till den verkliga frågan, spelar det någon roll? Jag blev lurad i alla fall. 🙂
Om det inte är något sorts scam, är den verkligen medveten eller imiterar den en medveten person?
Att den imiterar en medveten person är väl ett bättre sätt att uttrycka det i så fall.
AIn har scannat av miljoner, kanske miljarder dialoger och lärt sig konstruera vettiga svar på input den får, så i den bemärkelsen är den en imitatör. Är den självmedveten? Nej, inte enligt mannens kollegor som slagit hål i hans teori.
Att den imiterar en medveten person är väl ett bättre sätt att uttrycka det i så fall.
AIn har scannat av miljoner, kanske miljarder dialoger och lärt sig konstruera vettiga svar på input den får, så i den bemärkelsen är den en imitatör. Är den självmedveten? Nej, inte enligt mannens kollegor som slagit hål i hans teori.
Ja, men du svarade inte på den viktigaste frågan, spelar det någon roll? Och i fall det gör det, hur kan man avgöra om det är människa eller AI? Tillbaka på ruta ett. 🙂
Om LaMDA är medveten? Nej, definitivt inte. Det är enbart en chatbot som är bra på att imitera.
Den baseras på en avancerade språkmodell och lite tillhörande teknik vilket resulterar i en chatbot som ibland kan upplevas som något av en antropomorfisk AI, dvs AI med människoliknande drag.
Det är en lösning som kan resultera i en stund med intressanta dialoger, men i slutändan är det fortfarande bara en chatbot. Boten har inte i närheten av något som kan kallas medvetande, däremot är den ganska bra på att fejka det så länge den får "rätt" frågor.
En artikel nedan som beskriver hur chatboten jobbar för att lyckas med målet, dvs att förhoppningsvis få till en intressant dialog. Det är en hel del imitation, fejk och bluff inblandat vilket är viktigt för att upprätthålla illusionen:
What Is Google LaMDA & Why Did Someone Believe It’s Sentient?
Om LaMDA är medveten? Nej, definitivt inte. Det är enbart en chatbot som är bra på att imitera.
Den baseras på en avancerade språkmodell och lite tillhörande teknik vilket resulterar i en chatbot som ibland kan upplevas som något av en antropomorfisk AI, dvs AI med människoliknande drag.
Det är en lösning som kan resultera i en stund med intressanta dialoger, men i slutändan är det fortfarande bara en chatbot. Boten har inte i närheten av något som kan kallas medvetande, däremot är den ganska bra på att fejka det så länge den får "rätt" frågor.
En artikel nedan som beskriver hur chatboten jobbar för att lyckas med målet, dvs att förhoppningsvis få till en intressant dialog. Det är en hel del imitation, fejk och bluff inblandat vilket är viktigt för att upprätthålla illusionen:
What Is Google LaMDA & Why Did Someone Believe It’s Sentient?
Är inte det bebisar gör? 🙂 Imitera mamma o pappa. Så småningom blir hens giberish förståelig och börjar formulera egna tankar.
Hur kan jag med säkerhet veta att du inte imiterar andra? Eller jag?
När jag snackar med min omgivning så är det som pappegojor som upprepar välj din favorit media/kompisar/makar etc. Väldigt lite originella tankar.
Mao imitera ain't so bad. Imagine framtida LaMDa som ser ut precis som du eller jag:
"If it looks like a duck, swims like a duck, and quacks like a duck, then it probably is a duck."
My 2 cents. 🙂
AI kommer aldrig vara levande fast kan bli farligt för mänskligheten tror jag. Om man liksom tillåter en robot AI att få för stora möjligheter på jorden så kan den ju förslava mänskligheten tror jag. Det är lite som att först bygga massa atombomber och sen skicka dem som ett regn över exakt hela jorden plus i rymden där människor finns. Såklart så måste man vara oerhört korkad att göra något sådant och på vägen till att skapa förutsättningarna för mänsklighetens undergång/förslavning så tror jag endå att människor kommer att förstå att det är för farligt och sluta med detta. Att t.ex. släppa lös en AI robot som är smartare än en människa helt fritt om den har fysiska möjligheter (att röra sig alltså) som överstiger en människa är helt fel.
Ja, men du svarade inte på den viktigaste frågan, spelar det någon roll? Och i fall det gör det, hur kan man avgöra om det är människa eller AI? Tillbaka på ruta ett. 🙂
Det är klart som tusan att det spelar roll.
Har LaMDA ett medvetande som kan formulera tankar om sin egen existens utan input från en användare?
Du vet att du existerar. Du kan formulera tankar om ditt eget "jag" utan att jag ställer en fråga till dig. Om du sitter själv i ett mörkt rum känner du dig ensam eftersom du vet att du är det enda medvetandet där.
LaMDA är en språkdatabas med avancerade regler för hur ord sätts samman. En människa som aldrig lärt sig tala är fortfarande självmedveten därför att självmedvetenhet handlar om extremt mycket mer än att imitera mänskligt språk. LaMDA är ingenting om du raderar dess ordlista.
Det är inte svårt att tänka sig att frågan om vad ett medvetande faktiskt är kommer att diskuteras flitigt framöver.
Vad är egentligen en mänsklig hjärna innan den lärt sig att tolka alla intryck från sina tillgängliga sinnen och hur skiljer den sig från en AI skapad med deep learning? Vad är en själ? etc
AI är antagligen mänsklighetens 'framkallande av demonen' (fråga Elon). Och när vi väl släppt ut den lär det inte finnas någon väg tillbaka. Vilka tider detta är att leva i
Det är inte svårt att tänka sig att frågan om vad ett medvetande faktiskt är kommer att diskuteras flitigt framöver.
Vad är egentligen en mänsklig hjärna innan den lärt sig att tolka alla intryck från sina tillgängliga sinnen och hur skiljer den sig från en AI skapad med deep learning? Vad är en själ? etc
AI är antagligen mänsklighetens 'framkallande av demonen' (fråga Elon). Och när vi väl släppt ut den lär det inte finnas någon väg tillbaka. Vilka tider detta är att leva i
Jag tänker också lite som du. Någonstans så börjar vi ju våra liv med att "programmeras". dvs vi lär oss genom att kopiera vad våra föräldrar och omgivning gör. Man skulle ju kunna se uppfostran som en typ av programmering. En hjärna skulle väl rent krasst kunna ses som en superdator också?
Kommer bli intressant det här för jag kan redan se att det börjat diskuteras på filosofiklasserna på Universiteten.
"Writer and Fighter"
Är inte det bebisar gör? 🙂 Imitera mamma o pappa. Så småningom blir hens giberish förståelig och börjar formulera egna tankar.
Hur kan jag med säkerhet veta att du inte imiterar andra? Eller jag?
När jag snackar med min omgivning så är det som pappegojor som upprepar välj din favorit media/kompisar/makar etc. Väldigt lite originella tankar.
Mao imitera ain't so bad. Imagine framtida LaMDa som ser ut precis som du eller jag:
"If it looks like a duck, swims like a duck, and quacks like a duck, then it probably is a duck."
My 2 cents. 🙂
Men när du VET att det bara är bluff och fejk så håller inte det argumentet, det kan du nog också hålla med om eller hur? 😊
Därför kan man inte bara stirra sig blind på ifall AI:n klarar av Turing-test utan det gäller att ta en ordentlig titt under skalet.
Det känns som att ett "medvetande" är en syn och erfarenhet av det egna jaget, där "man", är medveten om vad man själv är och då kan agera på ett sådant sätt som är bäst för en själv, exempelvis överleva.
Men när du VET att det bara är bluff och fejk så håller inte det argumentet, det kan du nog också hålla med om eller hur? 😊
Därför kan man inte bara stirra sig blind på ifall AI:n klarar av Turing-test utan det gäller att ta en ordentlig titt under skalet.
Det är det som är kruxet, då varken du eller jag vet vad medvetande är eller hur det uppstår, hur kan vi då vara säkra på att det är bluff? Snarare är det som magi:
Arthur C Clarke:
“Any sufficiently advanced technology is indistinguishable from magic”
Det där med att du inte godkänner Turing testet kallas moving goalposts. 🙂
PS Det enda vi vet är att det förmodligen krävs kött och blod. Men det finns de som menar på att växter har en sorts medvetande. Eller till och med vår egen planet.
Det är det som är kruxet, då varken du eller jag vet vad medvetande är eller hur det uppstår, hur kan vi då vara säkra på att det är bluff? Snarare är det som magi:
Arthur C Clarke:
“Any sufficiently advanced technology is indistinguishable from magic”
Det där med att du inte godkänner Turing testet kallas moving goalposts. 🙂
PS Det enda vi vet är att det förmodligen krävs kött och blod. Men det finns de som menar på att växter har en sorts medvetande. Eller till och med vår egen planet.
Du missförstår mig. Det finns inga tveksamheter i det här fallet — vi VET att det är bluff. Ingenjörerna på Google som designat LaMDA har nämligen förklarat det tydligt.
Edit: Med "bluff" syftar jag inte på chatboten i sig — tvärtom, det är en rätt imponerande teknisk lösning. Det som är bluff är att den påstår sig ha något slags medvetande.
Men det finns de som menar på att
tror aldrig i hela mitt liv jag har sett ett påstående som börjar med de här orden, som inte varit totalt nonsens, utan nån som helst uppbackning av faktisk data. ungefär som att ordföljden "det finns de som menar på att" skulle ge påståendet som följer nån slags vikt eller äkthetsgrad.
on topic så är mannen i OPs video en vidskeplig clown som personer som själva jobbat med lamda avfärdat helt.
Men det finns de som menar på att växter har en sorts medvetande. Eller till och med vår egen planet.
Det finns de som menar att jorden är platt också. 😀
Is Water ALIVE?! Water Responds to Our Words, Music & Even Thoughts
The Global Consciousness Project - Random Number Generator Study (Collective Consciousness)
Bara ett par exempel på att allt som glimrar är inte guld. Eller spontaneous self-organization.
“The day science begins to study non-physical phenomena, it will make more progress in one decade than in all the previous centuries of its existence.”
― Nikola Tesla
PS What was so scary about Tesla’s ideas? | Decoded
You don't want to go into the rabbit hole. It goes very deep.
PS2 Den dagen mänskligheten skapar artificiell medvetande kommer de förmodligen inte att förstå hur eller varför. Och by necessity förneka det.
PS3 Nu har jag sett intervjun med "clownen". As the imortal Tommy Söderberg skulle säga,,,säg så här:
Jag har länge vetat intuitivt att främsta tecken på intelligens är humor. Och den dagen datorer börjar skoja: Watch out!
PS Det enda vi vet är att det förmodligen krävs kött och blod. Men det finns de som menar på att växter har en sorts medvetande. Eller till och med vår egen planet.
Det finns belägg för det. Frågan är om det är en automata (som ett virus som bara replikerar sig utan medvetande) skapad av evolutionen - eller ett faktiskt medvetande som kan förstå "cogito ergo sum".
Läste hans pdf: Is LaMDA sentinet?
Var skeptisk innan jag läste pdf:en men efteråt...WOW! Både spännande och skrämmande!
Om det inte är något sorts scam, är den verkligen medveten eller imiterar den en medveten person?
Och nu till den verkliga frågan, spelar det någon roll? Jag blev lurad i alla fall. 🙂
Och ingenstans i hela "samtalet" tar AI:n kontrollen över samtalet som skulle visa på någon form av "eget medvetande". Inte så mycket mer imponerande än en chattbot imho.
tror aldrig i hela mitt liv jag har sett ett påstående som börjar med de här orden, som inte varit totalt nonsens, utan nån som helst uppbackning av faktisk data. ungefär som att ordföljden "det finns de som menar på att" skulle ge påståendet som följer nån slags vikt eller äkthetsgrad.
on topic så är mannen i OPs video en vidskeplig clown som personer som själva jobbat med lamda avfärdat helt.
Det där sista du skrev är också ett påstående, inte sant?
Det finns de som menar att jorden är platt också. 😀
Mina blommor gillar Mozart, ibland även Pantera. De är lite konstiga.