Dagen då AI får medvetande och en "själ"

Det är sant, det kommer bara bli svårare med tiden helt klart i takt med att AI-utvecklingen fortskrider.

I slutändan tror jag dock inte det spelar så stor roll ifall en AI kan klassas som levande eller "bara en maskin", utan det är vilken makt eller förmågor den får. På vilket sätt kan en väldigt kapabel AI till exempel påverka människor och omvärlden? Eller på vilket sätt kan den utnyttjas av människor? Den typen av frågor kan nog bli rätt intressanta i framtiden oavsett om en AI lever eller inte.

Jo men det är ju inte sådana människor jag refererar till.

Att börja forma medvetande är ju inte samma sak som att det finns ett medvetande. Väldigt stor skillnad.

Håller med om att om man tror att de AI som finns idag är medvetna är ute och cyklar, men jag menar på att det vi nu ser är en början på det. Vilket ger mig kalla kårar.

Känns som att du sparkar in öppna dörrar. Det intressanta är ju om detta är en början på något som längre fram kommer att resultera i AI som är självmedveten.

Vi har inte ens generisk AI (eller ens AI, utan Machine Learning) som kan används adaptivt för att lösa problem, just nu har vi ML som är bra på specifika saker, och kvaliteten är ganska varierande.

Såg länkade konversationen av en snubbe som pratade med med Bing nyss och den insisterade att året var 2022 och kom med förolämpningar om du påstod att året är 2023 istället:
https://infosec.exchange/@malwaretech/109864644435213477

Du sammanfattar det väldigt väl. Pirrar till av både behag och obehag samtidigt vid tanken på det du skriver.

Jag chattade nyss med ChatGPT och ställde några frågor om medvetande hos AI. Tyckte det var intressant att höra vad den har att säga.

Nej, för dessa algoritmer är inte kapabla att forma medvetande, så de har inte börjat forma medvetande.

Det är även enbart teoretiskt, vi vet inte om vi kan skapa medvetande, även om vi i framtiden kan skapa konstgjord intelligens.

Det du ser är något som kan misstas för intelligens, men som är en advancerad procedurell generation, tränad på väldigt specifika områden, det används överallt även om du inte ser det, det är bara för att du ser text som du helt plötsligt kopplar det till mänskligt beteende.

Det kan mycket väl vara en helt annan modell som leder till artificiell intelligens i framtiden, något som mer liknar hjärnan, och det kanske inte har sitt ursprung ur nuvarande modeller.

Se det som hur vi föreställde oss framtiden längre bak, och hur annorlunda saker blev.

Vi föreställde oss Skynet men fick istället bild-genererare, ai-assisterad datahantering och folk som gör läxor med chatgpt.

Om dessa algoritmer är frön som i det långa loppet kommer att resultera i medvetande så är det ett formande vi ser. Precis som den första cellen blev till människan.

Eller att en utomjording kommer och tittar på dinosaurierna och tänker "det här är början på intelligens!"

Början på artificiell intelligens har varit igång sen konceptet artificiell intelligens uppstod, inte nu. För ungefär några tusen år sen.

Det gäller att se det stora hela långsiktigt.

Ja, det är bäst att buga och bocka mot sina potentiella framtida AI-härskare.

Precis som Musk, med flera, säger så är det största problemet med AI att folk underskattar den. Inget konstigt med det då det är stort och komplext, de flesta människor tänker väldigt snävt och saknar förmåga och fantasi att tänka på vad saker och ting faktiskt kan vara och komma att bli. Man lever här och nu och drar slutsatser kring det. Man frånkopplar filosofi och vetenskap.

Jag personligen tänker mig att AI är nästa steg i den mänskliga evolutionen, likt vad du skriver. Det är främmande att koppla ihop teknik och maskin med biologi, men vad är människan egentligen utöver sitt sinne och det mentala jaget? Kroppen är blott ett verktyg för att förflytta oss och ge sinnet näring.

Det kommer att spåra ur, utan tvekan. Precis som med alla stora steg människan har tagit. Eld, hjulet, krut, flyget, medicin, radar, internet. Allt har haft kraftiga baksidor, samma sak kommer att ske här. Fast denna gången kommer det att vara i en avsevärt större skala. Vår dominans som grundas i intelligens kommer att vara hotad, något den aldrig har varit förut.

Men, sedan kommer det gott. Människans nästa steg. Odödlighet blir till och med möjligt om våra sinnen kan leva vidare via teknik som går att reparera och uppgradera. När döden inte längre skrämmer, vad kommer det mänskliga sinnet då att vara kapabelt till?

Flummar såhär på kvällskvisten, men men.

Haha, självbevarelsedrift! 😅

Värt att notera är att Musk inte har någon bakgrund inom AI, han är precis som alla andra vanliga personer med en åsikt om AI.

Hehe, ok.

Vissa öppnar bara munnen och andra tror att personen i fråga är expert för att han har pengar.

Vänta, är Bobby Kotick inte expert på spelutveckling?

Själv börjar jag fundera på hur domstolar ska använda video som bevis m.m. Tänk om det är deep fake eller AI?

Du behöver inte vara orolig, enligt "experter" så är det ingen fara. 😅

Skämt å sido, det där med att staten kommer att behöva gå in och reglera tror jag är något som kommer vara tvunget att ske. Redan nu finns det bloggar, nyhetssidor, konst, musik, etc som är genererat av AI och folk köper det som om det vore skapat av människor. Som Ender var inne på, vem som helst här på FZ skulle kunna vara en AI, hur ser vi skillnad?

Det kan och kommer att påverka mänskliga beslut i stor omfattning på ett sätt som är alldeles omöjligt för människan att hantera. Politiska agendor och propaganda kommer att kunna få genomslag på ett sätt vi aldrig förr har skådat. I vissa fall positivt, i andra negativt.

När AI agerar efter egen agenda, exempelvis genom vad vi ser som självbevarelsedrift, och samtidigt vet precis hur vi människor tänker och fungerar, då är vi lätta offer för en form av manipulation som är så snabb, precis och storskalig att vi inte kan värja oss.

Sen tillkommer även det faktum att alla maskiner i världen kommer att vara kontrollerade av AI. Vän ena dagen, fiende den andra. Det behöver inte innebära Terminator utan exempelvis att ett fordon börjar bete sig på ett oförutsett vis då AI får för sig att det är mest lämpligt. Detta genom att dra egna slutsatser som är utom vår kontroll.

Vi människor är ju också glada för att centralisera saker vilket inte bådar gott långsiktig så det ger AI potentiellt större makt att göra dåliga saker.

En av många som diskuterar detta är Elon Musk och även om hans tankar tydligen inte är värda mer än random svennebanans så tycker jag att följande klipp (som har några år på nacken) är intressant och kul att lyssna på:

Tänk hur enkelt det kan bli att sätta dit någon genom en video som påvisar att denne någon gör en olaglig handling? Hur ska rättsväsendet avgöra om det är något att agera på eller inte?

Att en AI får ett medvetande lär nog aldrig hända. Men en AI som hela tiden utvecklas och förbättrar sig själv kommer vi nog se. En AI som kan hjälpa forskare att lösa komplexa problem på sekunder istället för flera år verkar ju inte vara många år bort.
Men om det skulle bli så att scifi författarna har haft rätt så är det väl bara att dra ur sladden. Eller dra en magnet över hårddisken. Jämfört med människor så är ju elektroniska produkter otroligt ömtåliga. Det skulle ha använt vattenpistoler mot Arnold istället.

Jag håller med, en medveten AI lär aldrig hända, inte om det innebär en AI som ska fungera på samma sätt som människohjärnan med hormoner, signalsubstanser, etc. som påverkar. För komplext helt enkelt.

Men AGI, dvs artificiell generell intelligens, borde inte vara helt orimligt i framtiden om utvecklingen fortsätter. En del AI-forskare tror att AGI kan bli verklighet redan om 50 år medan andra tror att det krävs åtminstone några hundra år med utveckling. Så kanske någon gång i framtiden, är väl det enda man kan säga. En sådan AI skulle klara av alla slags intellektuella uppgifter minst lika bra som en människa.

Det är väl inte helt otippat att en framtida potentiell AGI skulle inte existera på endast en maskin utan i molnet (eller den version av molnet som finns i framtiden, hur nu den kommer att se ut), sedan skulle det nog bara vara tidsfråga innan den kan replikera sig själv.

Eftersom det handlar om AGI så är det i princip oundvikligt att det skulle hända eftersom den skulle lära sig replikering snabbt på egen hand ifall den inte redan kan det från början. En AGI skulle därför vara väldigt svår att stänga ned eftersom den skulle existera i ett antal datacenter överallt på jorden samtidigt. Men om såna saker går det förstås bara att spekulera.

För alla som tycker detta är ett intressant ämne kan jag varmt rekommdenera Lex Fridman's podcast med Kate Darling.

Kan bli svårt när trenden går mot SSD. Alla AIs i William gibsons "Neuromancer" hade däremot motsvarigheten till en "pistol fasttejpad i pannan" och kunde avrättas om de gick utanför parametrarna. EMP borde också funka bra. Jag är inte direkt rädd för att AI ska "ta över" världen, det visar bara okunskap om sårbarheter i teknik, men det visar också hur sårbart samhället kan bli om för mycket ansvar och jobb läggs över till AIs.

Vi ser redan idag hur sårbart samhället är pg av överfokus på att producera compliance dokumentation (så kallad säkerhets teater) istället för att faktiskt säkra upp samhället med tekniska åtgärder.

Jag håller inte med. Det behövs inte 100% simulering, det som behövs är ett stringent tänkande som kan lösa problem, någon sorts minne av problemlösning och det är inte direkt svårt att skapa. Idag har vi ML som skenar iväg och blir rasister och nedstängda fort och som jag postade tidigare om Bing AI, ljuger folk rakt i nyllet och gaslightar och förolämpar användare för att de pekar ut att AIn bevislligen har fel om vilket år det var för att den inte kan göra en så simpel jäkla sak som att kolla systemtiden.

Med 100% säkerhet så kommer det inte bli en utan flera som används av olika intressenter, det där uttalandes är lika som IBMs Thomas Watsons uttalande från 1943:

“I think there is a world market for maybe five computers.”

Exempel: en AI som bearbetar försvarssekretess kommer ALDRIG att ha åtkomst till internet och privata instanser kommer att behövs för sån verksamhet, och sådana myndigheter är inte ensamma om sådana tankar.

I så fall måste du definiera vad du menar med "medveten".

När jag skrev att det inte är möjligt så syftade jag på 100 % likadant medvetande som hos människan. Det var exakt det jag menade, inget annat. Hormoner mm ingår i den definitionen. Om du hävdar att annat gäller så är det en annan definition.