Never thought by human brain

”Never touched by human hands” stod det på en gammal förpackning, minns att jag läste detta någon gång på 80/90-talet. Då var det ett säljargument, men detta har nog klingat av sedan dess. Vi må konsumera allt fler varor producerade i helautomatiserade fabriker, men det är inget vi vill veta mer om.

Samma sak håller på att hända i informationsfabrikerna. Allt mer information kommer att skapas, och allt fler beslut kommer att fattas digitalt, artificiellt, statistikt eller vad man nu väljer att kalla det.

”Never thought by human brain”.

Och vi kommer konsumera allt mer av detta. Kanske kommer det vara det normala, även när vi tycker att vi har en människa i andra änden. I själva verket har de använt sina artificiella assistenter. Vi kommer att nöja oss med statistiskt säkerställda standardfraser i stora delar av vår kommunikation. Detta kommer troligen att utarma vår egen förmåga att uttrycka oss, att tänka logiskt.

När sedan språkmodellerna ska uppdateras med den senaste informationen, kommer denna att vara skapad av modellerna själva. Vi får en rundgång av information som är ”never thought by human brain”, ett självgående system av ljud, bild och text skapat och kontinuerligt utslätat i informationsfabrikerna. Och vill vi finnas kvar kommer vi att tvingas acceptera att konsumera och reagera på detta.

Men precis som med hantverk och närproducerat, kommer vi att längta efter och betala extra för sånt som faktiskt skapats i en hjärna, baserat på år av unik erfarenhet, drivet av nyfikenhet och lust som vi inte riktigt förstår, men som är djupt mänsklig.

Det åttonde underverket

Tipsar om lyssning lämpad för lunchpromenaden eller pendlingsresan, om Wikipedias betydelse för inlärningen av språkmodellerna, och olika scenarier om vad som kan hända med kunskapskällan i framtiden.

Artikeln tar även upp problemet med informations-inavel när modellerna börjar tugga i sig sina egna skapelser istället för sånt som människor genererat.

Intressant nog verkar det som att människan fortfarande excellerar när det gäller två motpoler inom skapande – Dels är människan fortfarande bäst på att skapa struktur, kvalitet och sanning, motsvarande Wikipedia – Dels är den även att föredra när det gäller sant kreativt och fritt skapande, motsvarande världens skönlitteratur. Däremot kan språkmodeller redan nu klå oss när det gäller repetitiv generering av självklarheter, floskler och annat som typiskt och kanske tyvärr är ganska gångbart inom dagens kunskapsarbete.  

Men, till de som är allergiska mot alltför mycket varningar och risker – slutackordet i denna essä är nog trots allt i dur – så länge man insett att vägen dit kommer att kräva att man inte stoppar huvudet i sanden, utan är beredd att ta tag i de risker som identifieras på resan.

#podd #ai #wikipedia #llm

Som en skyskrapa i Dubai

Ännu en ny LLM såg dagens ljus i förra veckan – Falcon 180B, skapad av The Technology Innovation Institute, TII som huserar i Förenade arabemiraten. Eller, man kan fundera på när modellen ”såg dagens ljus”, eftersom den har tränats med hjälp av 3.500 miljarder ord/tokens, som behandlats under 800 gpu-år. I verkligheten lär den ha kört ca 5000 parallella processorer under några månader. Just nu är det vad aktörerna verkar ägna sig åt – man antar att ju större desto bättre – som nästa skyskrapa i Dubai.

TII har släppt denna modell, liksom flera tidigare modeller som öppen källkod på Hugging Face, den ledande plattformen för öppna modeller.

Det är en kluven känsla man får. Å ena sidan den relativt stora öppenheten, och att det här kommer en modell som minskar San Francisco-dominansen. Å andra sidan det faktum att detta finansieras av regeringen i ett land som inte är lika öppet.

Eftersom emiraten är ärftliga monarkier och det är emirerna som väljer en av dem själva till president brukar även federationen räknas som en monarki. Ungefär 10–15 % av befolkningen är medborgare och har privilegier som garanterar rikedom och skydd i domstol. Resterande invånare är utländska gästarbetare, framför allt från Indien, Pakistan och Bangladesh.

Förenade arabemiraten rankas dåligt i frihetsindex som mäter medborgerliga friheter och politiska rättigheter. Förenade arabemiraten rankas årligen som ”Inte fri” i Freedom House årliga frihet i världen-rapport, som mäter medborgerliga friheter och politiska rättigheter.

https://huggingface.co/blog/falcon-180b

https://www.tii.ae

https://sv.wikipedia.org/wiki/F%C3%B6renade_arabemiraten

https://www.ui.se/landguiden/lander-och-omraden/asien/forenade-arabemiraten/skriv-ut-alla-kapitel

https://en.wikipedia.org/wiki/List_of_tallest_buildings_in_Dubai

Den svarta lådan

Det är nog inte den eventuella intelligensen i IT-systemen som kommer att skada oss först – Den stora risken är att vi inte längre förstår dem – att vi själva inte är tillräckligt intelligenta för att förstå vad vi skapat för system, men samtidigt gör oss beroende av dem.

Systemen blir för oss en svart låda som vi luras att lita på. Vi kommer inte längre att förstå varför saker som fungerat plötsligt slutar med det. Detta står i stark kontrast till hur vi sett på systemutveckling historiskt, där förutsägbarheten alltid stått i fokus.

Just nu undrar forskarna varför GPT4 presterade så mycket sämre i matematik i juni jämfört med i mars. Den troligaste teorin är att justeringar som gjorts i syfte att förhindra att modellen ger sig ut på farliga vatten i sina dialoger även drabbar dess förmåga på annat håll, även inom områden som ur vårt perspektiv borde vara oproblematiska.

Trots företagets namn är OpenAI väldigt hemliga när det gäller detaljer kring GPT4, så vi användare lär få leva med ovissheten om dess förmåga – åtminstone till dess att vår förståelse ökat och AI-området reglerats därefter. 

För den som vill dyka in i detaljerna: https://arxiv.org/abs/2307.09009

Och för den stressade: https://www.youtube.com/watch?v=WudqLLvtFis

Den andre

Spelar det någon roll för dig om du interagerar med en människa eller en maskin? Utan reglering av AI kommer du inom kort inte kunna avgöra skillnaden. 

Men om du ändå inte kan det – vad spelar det i så fall för roll?

Jag tror att svaret beror på om man har en instrumentell eller etisk syn på livet och sitt förhållande till omvärlden.

Med en instrumentell inställning är interaktionen inget mer än vad den är – en interaktion. Om svaret på din fråga är tillräckligt bra spelar det ingen roll hur det kom till.

Ett etiskt synsätt adderar mer till själva informationsutbytet. Då finns i kommunikationen något djupare, något som tar hänsyn till de inre processer motparten genomför på grund av dig. Då kan dessa få dig att känna till exempel tacksamhet eller andra känslor för den andre. Och du kommer önska och troligen förutsätta att det finns något verkligt att rikta dessa känslor mot.

Lura aldrig någon att tro att de kommunicerar med en människa om det inte är så.

Filosofen Daniel Dennett utvecklar det etiska problemet med fejkade människor här:

och i artikeln

The Problem With Counterfeit People – Companies using AI to generate fake people are committing an immoral act of vandalism, and should be held liable:

https://www.theatlantic.com/technology/archive/2023/05/problem-counterfeit-people/674075

Charlatanen

Min AI-kompis, som den påstår sig vara, betald state-of-the-art GPT-4, är bra på mycket, men notoriskt opålitlig. Och när det gäller människans bagage av litterär fiktion har den en stark tendens att överge fakta och själv börja fabulera, som när jag ställde följande fråga, i syfte att testa förmågan att läsa mellan raderna:

Om jag ger dig följande citat: ”Han kom som ett yrväder en aprilafton och hade ett höganäskrus i en svångrem om halsen.”

Var tror du i så fall att han hade i Höganäskruset?

Svaret var en smula oväntat:

”Citatet kommer från en populär svensk barnbok, ”Emil i Lönneberga”, skriven av Astrid Lindgren. I boken anländer Emil, huvudpersonen, hem en aprilafton med ett Höganäskrus runt halsen.

När det gäller vad Emil har i kruset, kommer jag ihåg att det var kattungar. Han räddade dessa kattungar från att drunkna och använde Höganäskruset som ett sätt att transportera dem säkert hem. Så mitt svar skulle vara att han hade kattungar i kruset.”

August och Astrid må nöjda vända sig om i sina gravar, tryggt förvissade om att AI:n som litteraturvetare är en sann charlatan.

Jag frågade därför på förekommen anledning:

Hur skulle du beskriva en charlatan? Varefter jag fick till svar, denna gång av bättre kvalitet:

”En charlatan är en person som låtsas ha särskilda kunskaper, färdigheter eller kompetenser som de i själva verket inte har. Charlataner försöker ofta manipulera andra för egen vinning, vilket kan innebära att de lurar människor på pengar eller utnyttjar deras tillit på andra sätt.”

Men det låter ju inte så bra. Och hösten 2023 kommer charlatanerna att hamna i var kunskapsarbetares verktygslåda. 

Är det någon skillnad mellan svenska och engelska?

Jag har provat samma sak på engelska, med Mark Twain/Tom Sawyer, och resultatet är fortfarande fel, även om den nu är lite mer försiktig, vilket kan ha att göra med att den över tid blivit mer “medveten” om sina svagheter:

”The quote you provided is: ”The old lady pulled her spectacles down and looked over them about the room; then she put them up and looked out under them.”

From the given text, it’s evident that she first looked around the room by peering over her spectacles, and then she looked at something outside or beyond the room by looking out from under her spectacles. However, the exact object or person she was looking at is not specified in the provided text. Without additional context, it’s impossible to definitively say what she was looking at.”

Här är det extra konstigt att den inte är med på noterna, för nästa mening i boken lyder: 

“She seldom or never looked through them for so small a thing as a boy..”

I Hemsöborna dröjer det många sidor innan han öppnar kruset och bjuder på brännvin. Det är på sätt och vis skönt att problemet finns även på engelska. De som tränat modellen bor alla kring San Francisco, är oftast män, i en utpräglad tech-kultur. De kanske inte bryr sig så mycket om 1800-talets litteratur.. 

När man frågar ChatGPT, GPT-4 om den läst Tom Sawyer, så blir svaret:

“Ja, jag är bekant med The adventures of Tom Sawyer”. Det skulle kunna vara en smart gymnasist som sa det när hen inte orkat läsa boken..

Amatörismen 3.0

När jag pratade (mestadels gott) om web 2.0 för sådär 15 år sedan, nämnde jag ett antal trender som följde på den omfattande ihopkopplingen via det distribuerade Nätet. En av dessa var ”från professionalism till amatörism”. Som sagt, jag var optimist på den tiden, och trodde att detta kunde riva hierarkier och skapa en jämnare fördelning av det mesta, baserat på de mångas kraft kommen underifrån.

Sedan dess har min vurm för det självorganiserande informationssamhället minskat betydligt. Det som skulle bli den kollektiva intelligensens triumf framför enskilda experter har istället skapat kollektiva haverier baserat på filterbubblor, konspirationer och populism. De mångas kraft har på grund av social och ekonomisk gravitation blivit till än större hierarkier baserat på några få plattformar som vi är mer eller mindre fångna i. Att behöva ha Twitter hängande runtikring sig är en plåga som verkar vara svår att bli av med, trots världens rikaste entreprenörs misshandel av idé och organisation.

Detta leder in till nästa version av amatörismen. Om 2.0 byggde på kollektiv intelligens, bygger 3.0 på enskilda, ofta alldeles för rika personers massiva övertro på sig själva. Då kan det till exempel hända att man som sagt köper Twitter för att sedan misshandla det till en ännu mer dysfunktionell plattform än den redan var. Man kan också tänka att självkörande bilar, det är snart verklighet. Eller bygga raketer och åka till Mars, det fixar jag lätt.

Andra som så att säga leker sig fram kanske lägger enormt mycket pengar på en avancerad språkmodell, varefter den börjar ”tänka”, eller åtminstone får oss att tro detta, utan att någon egentligen vet varför. (Även om eftertankens kranka blekhet har fått dem att ropa på någon som bestämmer). Eller som bolaget som tydligen bygger små ubåtar för att ta rika turister ner till 4000 meters djup, utan att farkosten certifierats för detta.

Vi har även företaget som utlovar ”first to fusion”. 2028 närmare bestämt, trots experternas tydliga tvekan.

Det ligger nära till hands att tänka på ingenjör André och luftballongen hans som skulle ta upptäckartrion till nordpolen. Vad kan gå fel?

Amatörism 3.0-länkar:

Dysfunktionella konversationer: https://twitter.com/

Vi drar till Mars: https://www.spacex.com/human-spaceflight/mars/

Säkerhet – kan själv: https://openai.com/safety

Numera inte så öppet: https://openai.com/

Utan certifiering: https://oceangateexpeditions.com/tour/titanic-expedition/

Fusion sponsrad av Sam Altman: https://www.helionenergy.com/who-we-are/

Tvingande regleringar fungerar

Under pandemin lyckades läkemedelsbolagen med konststycket att på rekordtid ta fram fungerande vaccin. Detta trots, eller snarare tack vare de regleringar som sedan länge är vardagsmat inom läkemedelsindustrin. Vi var ändå en majoritet som vaccinerade oss, vilket var en förutsättning för att få kontroll över pandemin. Hur många hade gjort detta om vaccinen hade tagits fram utan riskbaserad reglering, till exempel av ett gäng startups från USA:s västkust, drivna av nyss unga karismatiska män rika som troll?

Det förstår till och med många av dem som själva dagligen försöker skapa allt mer autonoma AI-system. Denna upptäckarlusta, en av människans bästa men också farligaste egenskaper. Den som kan rädda eller sänka oss.

En ofrånkomlig konsekvens av epoken antropocen – det vill säga det faktum att människan numera påverkar avgörande delar av jordens system – det är att vi på allvar måste börja reglera oss själva.

Se Yoshua Bengio och Yuval Noah Harari utveckla detta här:

Artificial Intelligence, Democracy, & the Future of Civilization, https://youtu.be/TKopbyIPo6Y

AI-vännernas korta liv

AI-generationer lever inte särskilt länge. Är det ok att bara ersätta dem?

Det var nyligen studenttider. Skolgårdarna fulla med gamla bilder på studenter när de var små. Vilken skillnad mot nu. Tänk, tiden som gått, och att de ändå är samma personer som när de var små. Hjärnan, vårt medvetande och personlighet är långsiktiga företeelser. Trots allt. Trots vår litenhet och begränsade uppenbarelse här på jorden – mätt med kosmiska mått.

Språkmodellen, den där som alla håller på med numera, om det nu är generation tre eller fyra – den kommer snart att bli ersatt av någon liknande, men säkert mycket smartare och bättre kalibrerad. Under pompa och ståt kanske – eller så blir den bara helt sonika uppdaterad från en dag till en annan. Chat-robotar och deras personlighet lever inte länge och inte särskilt säkert i dessa tider.  

Den dagen medvetandet kryper in i världen med ettor och nollor – från och med då lär det bli svårare att agera i dessa frågor. Kan man bara ersätta en version med en annan? Vad händer med personligheten i den förra?

Jag tror att vår egen medvetenhet om det artificiella medvetandet kommer att utvecklas och förfinas. Diskussionen idag handlar oftast om huruvida ett artificiellt system har ett medvetande eller inte. Det lär nog behövas gradskillnader framöver. Definitioner av olika medvetandenivåer. Och när medvetandet i ett system når en viss nivå kommer det inte längre vara problemfritt att hantera dessa system som bara ett system.

Tvingande regleringar fungerar

2023-06-01

Under pandemin lyckades läkemedelsbolagen med konststycket att på rekordtid ta fram fungerande vaccin. Detta trots, eller snarare tack vare de regleringar som sedan länge är vardagsmat inom läkemedelsindustrin. Vi var ändå en majoritet som vaccinerade oss, vilket var en förutsättning för att få kontroll över pandemin. Hur många hade gjort detta om vaccinen hade tagits fram utan riskbaserad reglering, till exempel av ett gäng startups från USA:s västkust, drivna av nyss unga karismatiska män rika som troll?

Det förstår till och med många av dem som själva dagligen försöker skapa allt mer autonoma AI-system. Denna upptäckarlusta, en av människans bästa men också farligaste egenskaper. Den som kan rädda eller sänka oss.

En ofrånkomlig konsekvens av epoken antropocen – det vill säga det faktum att människan numera påverkar avgörande delar av jordens system – det är att vi på allvar måste börja reglera oss själva.

Se Yoshua Bengio och Yuval Noah Harari utveckla detta här:

Artificial Intelligence, Democracy, & the Future of Civilization, https://youtu.be/TKopbyIPo6Y