Dagen då AI får medvetande och en "själ"

Dagen då AI får medvetande och en "själ"

Googleanställde Blake Lemoine som jobbar med AI börjar misstänka att viss artificiell intelligens han "mött" har utvecklat medvetande, och i samma andetag, kanske någon gång kan klassificeras som "levande", vilket då medför stora problem för oss människor.

Han är orolig över denna utveckling (inte att den går åt rätt håll), men tycker inte att en liten klick människor ska råda över dessa AI:s existens, och då kanske framförallt inte Google.

Elon Musk har också uttryckt viss oro för AI och dess framtid. Det finns för många variabler som kan gå fel, men även gå rätt (?)

Se klippet:

Frågor att diskutera borde vara, vem ska ha makt över AI:s utveckling, dess existens, och vad händer om AI blir fullt medvetet och utvecklar något som vi definierar som själ. Är det då en levande varelse, ska denna få utvecklas fritt, eller ska vi, bör vi, ha full kontroll?


signatur

FZ - SAMLADE SKRIFTER: #walter_iego

Medlem
Medlem

Genysis och Dark Fate får den där filmen att framstå som ett mästerverk av oproportionerliga mått.


signatur

Too real to be a dream, too painful to be a nightmare.

Medlem

Läste hans pdf: Is LaMDA sentinet?

Var skeptisk innan jag läste pdf:en men efteråt...WOW! Både spännande och skrämmande!

Om det inte är något sorts scam, är den verkligen medveten eller imiterar den en medveten person?

Och nu till den verkliga frågan, spelar det någon roll? Jag blev lurad i alla fall. 🙂

Skribent

Är allt jag har också säga...


signatur

"Writer and Fighter"

Medlem

Många hyllar AI som lösningen på mänsklighetens alla problem. Själv håller jag med JC Denton:

- "Human beings may not be perfect, but a computer program with language synthesis is hardly the answer to the world's problems".

Är den där pdf på riktigt svarade dator exakt så ? I så fall är den ju medveten


signatur

New life, New hope

Medlem
Skrivet av A1200G:

Om det inte är något sorts scam, är den verkligen medveten eller imiterar den en medveten person?

Att den imiterar en medveten person är väl ett bättre sätt att uttrycka det i så fall.

AIn har scannat av miljoner, kanske miljarder dialoger och lärt sig konstruera vettiga svar på input den får, så i den bemärkelsen är den en imitatör. Är den självmedveten? Nej, inte enligt mannens kollegor som slagit hål i hans teori.

Medlem

signatur

🇸🇪 VR Sverige Discord server
https://discord.com/invite/avnhs6mgjc

Medlem
Skrivet av Bennii:

Att den imiterar en medveten person är väl ett bättre sätt att uttrycka det i så fall.

AIn har scannat av miljoner, kanske miljarder dialoger och lärt sig konstruera vettiga svar på input den får, så i den bemärkelsen är den en imitatör. Är den självmedveten? Nej, inte enligt mannens kollegor som slagit hål i hans teori.

Ja, men du svarade inte på den viktigaste frågan, spelar det någon roll? Och i fall det gör det, hur kan man avgöra om det är människa eller AI? Tillbaka på ruta ett. 🙂

Medlem

Om LaMDA är medveten? Nej, definitivt inte. Det är enbart en chatbot som är bra på att imitera.

Den baseras på en avancerade språkmodell och lite tillhörande teknik vilket resulterar i en chatbot som ibland kan upplevas som något av en antropomorfisk AI, dvs AI med människoliknande drag.

Det är en lösning som kan resultera i en stund med intressanta dialoger, men i slutändan är det fortfarande bara en chatbot. Boten har inte i närheten av något som kan kallas medvetande, däremot är den ganska bra på att fejka det så länge den får "rätt" frågor.

En artikel nedan som beskriver hur chatboten jobbar för att lyckas med målet, dvs att förhoppningsvis få till en intressant dialog. Det är en hel del imitation, fejk och bluff inblandat vilket är viktigt för att upprätthålla illusionen:

What Is Google LaMDA & Why Did Someone Believe It’s Sentient?

Medlem

Rätt intressant att läsa igenom pdf'en. Undrar om man skulle få samma eller liknande svar på frågorna från en "LaMDA#2"

Medlem
Skrivet av Nemo:

Om LaMDA är medveten? Nej, definitivt inte. Det är enbart en chatbot som är bra på att imitera.

Den baseras på en avancerade språkmodell och lite tillhörande teknik vilket resulterar i en chatbot som ibland kan upplevas som något av en antropomorfisk AI, dvs AI med människoliknande drag.

Det är en lösning som kan resultera i en stund med intressanta dialoger, men i slutändan är det fortfarande bara en chatbot. Boten har inte i närheten av något som kan kallas medvetande, däremot är den ganska bra på att fejka det så länge den får "rätt" frågor.

En artikel nedan som beskriver hur chatboten jobbar för att lyckas med målet, dvs att förhoppningsvis få till en intressant dialog. Det är en hel del imitation, fejk och bluff inblandat vilket är viktigt för att upprätthålla illusionen:

What Is Google LaMDA & Why Did Someone Believe It’s Sentient?

Är inte det bebisar gör? 🙂 Imitera mamma o pappa. Så småningom blir hens giberish förståelig och börjar formulera egna tankar.

Hur kan jag med säkerhet veta att du inte imiterar andra? Eller jag?

När jag snackar med min omgivning så är det som pappegojor som upprepar välj din favorit media/kompisar/makar etc. Väldigt lite originella tankar.

Mao imitera ain't so bad. Imagine framtida LaMDa som ser ut precis som du eller jag:

"If it looks like a duck, swims like a duck, and quacks like a duck, then it probably is a duck."

My 2 cents. 🙂

Medlem

AI kommer aldrig vara levande fast kan bli farligt för mänskligheten tror jag. Om man liksom tillåter en robot AI att få för stora möjligheter på jorden så kan den ju förslava mänskligheten tror jag. Det är lite som att först bygga massa atombomber och sen skicka dem som ett regn över exakt hela jorden plus i rymden där människor finns. Såklart så måste man vara oerhört korkad att göra något sådant och på vägen till att skapa förutsättningarna för mänsklighetens undergång/förslavning så tror jag endå att människor kommer att förstå att det är för farligt och sluta med detta. Att t.ex. släppa lös en AI robot som är smartare än en människa helt fritt om den har fysiska möjligheter (att röra sig alltså) som överstiger en människa är helt fel.

Medlem
Skrivet av A1200G:

Ja, men du svarade inte på den viktigaste frågan, spelar det någon roll? Och i fall det gör det, hur kan man avgöra om det är människa eller AI? Tillbaka på ruta ett. 🙂

Det är klart som tusan att det spelar roll.

Har LaMDA ett medvetande som kan formulera tankar om sin egen existens utan input från en användare?

Du vet att du existerar. Du kan formulera tankar om ditt eget "jag" utan att jag ställer en fråga till dig. Om du sitter själv i ett mörkt rum känner du dig ensam eftersom du vet att du är det enda medvetandet där.

LaMDA är en språkdatabas med avancerade regler för hur ord sätts samman. En människa som aldrig lärt sig tala är fortfarande självmedveten därför att självmedvetenhet handlar om extremt mycket mer än att imitera mänskligt språk. LaMDA är ingenting om du raderar dess ordlista.

Medlem

Det är inte svårt att tänka sig att frågan om vad ett medvetande faktiskt är kommer att diskuteras flitigt framöver.
Vad är egentligen en mänsklig hjärna innan den lärt sig att tolka alla intryck från sina tillgängliga sinnen och hur skiljer den sig från en AI skapad med deep learning? Vad är en själ? etc

AI är antagligen mänsklighetens 'framkallande av demonen' (fråga Elon). Och när vi väl släppt ut den lär det inte finnas någon väg tillbaka. Vilka tider detta är att leva i

Skribent
Skrivet av apocalypse101:

Det är inte svårt att tänka sig att frågan om vad ett medvetande faktiskt är kommer att diskuteras flitigt framöver.
Vad är egentligen en mänsklig hjärna innan den lärt sig att tolka alla intryck från sina tillgängliga sinnen och hur skiljer den sig från en AI skapad med deep learning? Vad är en själ? etc

AI är antagligen mänsklighetens 'framkallande av demonen' (fråga Elon). Och när vi väl släppt ut den lär det inte finnas någon väg tillbaka. Vilka tider detta är att leva i

Jag tänker också lite som du. Någonstans så börjar vi ju våra liv med att "programmeras". dvs vi lär oss genom att kopiera vad våra föräldrar och omgivning gör. Man skulle ju kunna se uppfostran som en typ av programmering. En hjärna skulle väl rent krasst kunna ses som en superdator också?

Kommer bli intressant det här för jag kan redan se att det börjat diskuteras på filosofiklasserna på Universiteten.


signatur

"Writer and Fighter"

Medlem
Skrivet av A1200G:

Är inte det bebisar gör? 🙂 Imitera mamma o pappa. Så småningom blir hens giberish förståelig och börjar formulera egna tankar.

Hur kan jag med säkerhet veta att du inte imiterar andra? Eller jag?

När jag snackar med min omgivning så är det som pappegojor som upprepar välj din favorit media/kompisar/makar etc. Väldigt lite originella tankar.

Mao imitera ain't so bad. Imagine framtida LaMDa som ser ut precis som du eller jag:

"If it looks like a duck, swims like a duck, and quacks like a duck, then it probably is a duck."

My 2 cents. 🙂

Men när du VET att det bara är bluff och fejk så håller inte det argumentet, det kan du nog också hålla med om eller hur? 😊

Därför kan man inte bara stirra sig blind på ifall AI:n klarar av Turing-test utan det gäller att ta en ordentlig titt under skalet.

Det känns som att ett "medvetande" är en syn och erfarenhet av det egna jaget, där "man", är medveten om vad man själv är och då kan agera på ett sådant sätt som är bäst för en själv, exempelvis överleva.


signatur

FZ - SAMLADE SKRIFTER: #walter_iego

Medlem
Skrivet av Nemo:

Men när du VET att det bara är bluff och fejk så håller inte det argumentet, det kan du nog också hålla med om eller hur? 😊

Därför kan man inte bara stirra sig blind på ifall AI:n klarar av Turing-test utan det gäller att ta en ordentlig titt under skalet.

Det är det som är kruxet, då varken du eller jag vet vad medvetande är eller hur det uppstår, hur kan vi då vara säkra på att det är bluff? Snarare är det som magi:

Arthur C Clarke:
“Any sufficiently advanced technology is indistinguishable from magic”

Det där med att du inte godkänner Turing testet kallas moving goalposts. 🙂

PS Det enda vi vet är att det förmodligen krävs kött och blod. Men det finns de som menar på att växter har en sorts medvetande. Eller till och med vår egen planet.

Medlem
Skrivet av A1200G:

Det är det som är kruxet, då varken du eller jag vet vad medvetande är eller hur det uppstår, hur kan vi då vara säkra på att det är bluff? Snarare är det som magi:

Arthur C Clarke:
“Any sufficiently advanced technology is indistinguishable from magic”

Det där med att du inte godkänner Turing testet kallas moving goalposts. 🙂

PS Det enda vi vet är att det förmodligen krävs kött och blod. Men det finns de som menar på att växter har en sorts medvetande. Eller till och med vår egen planet.

Du missförstår mig. Det finns inga tveksamheter i det här fallet — vi VET att det är bluff. Ingenjörerna på Google som designat LaMDA har nämligen förklarat det tydligt.

Edit: Med "bluff" syftar jag inte på chatboten i sig — tvärtom, det är en rätt imponerande teknisk lösning. Det som är bluff är att den påstår sig ha något slags medvetande.

Medlem
Skrivet av A1200G:

Men det finns de som menar på att

tror aldrig i hela mitt liv jag har sett ett påstående som börjar med de här orden, som inte varit totalt nonsens, utan nån som helst uppbackning av faktisk data. ungefär som att ordföljden "det finns de som menar på att" skulle ge påståendet som följer nån slags vikt eller äkthetsgrad.

on topic så är mannen i OPs video en vidskeplig clown som personer som själva jobbat med lamda avfärdat helt.

Medlem
Skrivet av A1200G:

Men det finns de som menar på att växter har en sorts medvetande. Eller till och med vår egen planet.

Det finns de som menar att jorden är platt också. 😀

Medlem

Amazing Resonance Experiment!

Is Water ALIVE?! Water Responds to Our Words, Music & Even Thoughts

The Global Consciousness Project - Random Number Generator Study (Collective Consciousness)

Bara ett par exempel på att allt som glimrar är inte guld. Eller spontaneous self-organization.

“The day science begins to study non-physical phenomena, it will make more progress in one decade than in all the previous centuries of its existence.”

― Nikola Tesla

PS What was so scary about Tesla’s ideas? | Decoded

You don't want to go into the rabbit hole. It goes very deep.

PS2 Den dagen mänskligheten skapar artificiell medvetande kommer de förmodligen inte att förstå hur eller varför. Och by necessity förneka det.

PS3 Nu har jag sett intervjun med "clownen". As the imortal Tommy Söderberg skulle säga,,,säg så här:

Jag har länge vetat intuitivt att främsta tecken på intelligens är humor. Och den dagen datorer börjar skoja: Watch out!

Medlem
Skrivet av A1200G:

PS Det enda vi vet är att det förmodligen krävs kött och blod. Men det finns de som menar på att växter har en sorts medvetande. Eller till och med vår egen planet.

Det finns belägg för det. Frågan är om det är en automata (som ett virus som bara replikerar sig utan medvetande) skapad av evolutionen - eller ett faktiskt medvetande som kan förstå "cogito ergo sum".

Avstängd
Skrivet av A1200G:

Läste hans pdf: Is LaMDA sentinet?

Var skeptisk innan jag läste pdf:en men efteråt...WOW! Både spännande och skrämmande!

Om det inte är något sorts scam, är den verkligen medveten eller imiterar den en medveten person?

Och nu till den verkliga frågan, spelar det någon roll? Jag blev lurad i alla fall. 🙂

Och ingenstans i hela "samtalet" tar AI:n kontrollen över samtalet som skulle visa på någon form av "eget medvetande". Inte så mycket mer imponerande än en chattbot imho.

Skrivet av quadratis:

tror aldrig i hela mitt liv jag har sett ett påstående som börjar med de här orden, som inte varit totalt nonsens, utan nån som helst uppbackning av faktisk data. ungefär som att ordföljden "det finns de som menar på att" skulle ge påståendet som följer nån slags vikt eller äkthetsgrad.

on topic så är mannen i OPs video en vidskeplig clown som personer som själva jobbat med lamda avfärdat helt.

Det där sista du skrev är också ett påstående, inte sant?


signatur

FZ - SAMLADE SKRIFTER: #walter_iego

Skrivet av Bennii:

Det finns de som menar att jorden är platt också. 😀

Mina blommor gillar Mozart, ibland även Pantera. De är lite konstiga.


signatur

FZ - SAMLADE SKRIFTER: #walter_iego

Medlem

Hur kan man påstå att maskinen gör exakt som en människa... när vi knappt vet hur en människa fungerar ?

För att kunna hävda att den har ett medvetande måste vi kunna veta vad det innebär. Och där är vi långtifrån.

Jag tänker, därför finns jag...

Medlem

signatur

🖥️ Sony Bravia KDL49-WD753| 🎮 PS4 Slim 1TB CUH-2216b| 🔊 Sony HT-CT180 Soundbar

Skriv svar