Never thought by human brain

”Never touched by human hands” stod det på en gammal förpackning, minns att jag läste detta någon gång på 80/90-talet. Då var det ett säljargument, men detta har nog klingat av sedan dess. Vi må konsumera allt fler varor producerade i helautomatiserade fabriker, men det är inget vi vill veta mer om.

Samma sak håller på att hända i informationsfabrikerna. Allt mer information kommer att skapas, och allt fler beslut kommer att fattas digitalt, artificiellt, statistikt eller vad man nu väljer att kalla det.

”Never thought by human brain”.

Och vi kommer konsumera allt mer av detta. Kanske kommer det vara det normala, även när vi tycker att vi har en människa i andra änden. I själva verket har de använt sina artificiella assistenter. Vi kommer att nöja oss med statistiskt säkerställda standardfraser i stora delar av vår kommunikation. Detta kommer troligen att utarma vår egen förmåga att uttrycka oss, att tänka logiskt.

När sedan språkmodellerna ska uppdateras med den senaste informationen, kommer denna att vara skapad av modellerna själva. Vi får en rundgång av information som är ”never thought by human brain”, ett självgående system av ljud, bild och text skapat och kontinuerligt utslätat i informationsfabrikerna. Och vill vi finnas kvar kommer vi att tvingas acceptera att konsumera och reagera på detta.

Men precis som med hantverk och närproducerat, kommer vi att längta efter och betala extra för sånt som faktiskt skapats i en hjärna, baserat på år av unik erfarenhet, drivet av nyfikenhet och lust som vi inte riktigt förstår, men som är djupt mänsklig.

Lågt kodat

Low code är ofta kortsiktigt effektivt (efter inlärningströskeln..), men saknar än så länge långsiktig hållbarhet. Dock finns samma problem även vid utveckling i de etablerade programmeringsspråken, där man i allt högre grad baserar lösningarna på diverse ramverk som har liknande egenskaper som low-code-plattformar. Nya versioner med bristande bakåtkompatibilitet, osäkert leverantörsstöd, avsaknad av långsiktiga produktplaner osv.

Men framtiden är kanske inte low code, utan AI-genererad kod. Och med tanke på den snabba utvecklingen inom det området kommer problemet på bristande hållbarhet nog att bestå. Men kanske, kanske blir morgondagens AI-utvecklare fantastiska på att just migrera lösningar från obsoleta plattformar till något som fungerar just den här veckan..

Det åttonde underverket

Tipsar om lyssning lämpad för lunchpromenaden eller pendlingsresan, om Wikipedias betydelse för inlärningen av språkmodellerna, och olika scenarier om vad som kan hända med kunskapskällan i framtiden.

Artikeln tar även upp problemet med informations-inavel när modellerna börjar tugga i sig sina egna skapelser istället för sånt som människor genererat.

Intressant nog verkar det som att människan fortfarande excellerar när det gäller två motpoler inom skapande – Dels är människan fortfarande bäst på att skapa struktur, kvalitet och sanning, motsvarande Wikipedia – Dels är den även att föredra när det gäller sant kreativt och fritt skapande, motsvarande världens skönlitteratur. Däremot kan språkmodeller redan nu klå oss när det gäller repetitiv generering av självklarheter, floskler och annat som typiskt och kanske tyvärr är ganska gångbart inom dagens kunskapsarbete.  

Men, till de som är allergiska mot alltför mycket varningar och risker – slutackordet i denna essä är nog trots allt i dur – så länge man insett att vägen dit kommer att kräva att man inte stoppar huvudet i sanden, utan är beredd att ta tag i de risker som identifieras på resan.

#podd #ai #wikipedia #llm

Som en skyskrapa i Dubai

Ännu en ny LLM såg dagens ljus i förra veckan – Falcon 180B, skapad av The Technology Innovation Institute, TII som huserar i Förenade arabemiraten. Eller, man kan fundera på när modellen ”såg dagens ljus”, eftersom den har tränats med hjälp av 3.500 miljarder ord/tokens, som behandlats under 800 gpu-år. I verkligheten lär den ha kört ca 5000 parallella processorer under några månader. Just nu är det vad aktörerna verkar ägna sig åt – man antar att ju större desto bättre – som nästa skyskrapa i Dubai.

TII har släppt denna modell, liksom flera tidigare modeller som öppen källkod på Hugging Face, den ledande plattformen för öppna modeller.

Det är en kluven känsla man får. Å ena sidan den relativt stora öppenheten, och att det här kommer en modell som minskar San Francisco-dominansen. Å andra sidan det faktum att detta finansieras av regeringen i ett land som inte är lika öppet.

Eftersom emiraten är ärftliga monarkier och det är emirerna som väljer en av dem själva till president brukar även federationen räknas som en monarki. Ungefär 10–15 % av befolkningen är medborgare och har privilegier som garanterar rikedom och skydd i domstol. Resterande invånare är utländska gästarbetare, framför allt från Indien, Pakistan och Bangladesh.

Förenade arabemiraten rankas dåligt i frihetsindex som mäter medborgerliga friheter och politiska rättigheter. Förenade arabemiraten rankas årligen som ”Inte fri” i Freedom House årliga frihet i världen-rapport, som mäter medborgerliga friheter och politiska rättigheter.

https://huggingface.co/blog/falcon-180b

https://www.tii.ae

https://sv.wikipedia.org/wiki/F%C3%B6renade_arabemiraten

https://www.ui.se/landguiden/lander-och-omraden/asien/forenade-arabemiraten/skriv-ut-alla-kapitel

https://en.wikipedia.org/wiki/List_of_tallest_buildings_in_Dubai

Den svarta lådan

Det är nog inte den eventuella intelligensen i IT-systemen som kommer att skada oss först – Den stora risken är att vi inte längre förstår dem – att vi själva inte är tillräckligt intelligenta för att förstå vad vi skapat för system, men samtidigt gör oss beroende av dem.

Systemen blir för oss en svart låda som vi luras att lita på. Vi kommer inte längre att förstå varför saker som fungerat plötsligt slutar med det. Detta står i stark kontrast till hur vi sett på systemutveckling historiskt, där förutsägbarheten alltid stått i fokus.

Just nu undrar forskarna varför GPT4 presterade så mycket sämre i matematik i juni jämfört med i mars. Den troligaste teorin är att justeringar som gjorts i syfte att förhindra att modellen ger sig ut på farliga vatten i sina dialoger även drabbar dess förmåga på annat håll, även inom områden som ur vårt perspektiv borde vara oproblematiska.

Trots företagets namn är OpenAI väldigt hemliga när det gäller detaljer kring GPT4, så vi användare lär få leva med ovissheten om dess förmåga – åtminstone till dess att vår förståelse ökat och AI-området reglerats därefter. 

För den som vill dyka in i detaljerna: https://arxiv.org/abs/2307.09009

Och för den stressade: https://www.youtube.com/watch?v=WudqLLvtFis

Den andre

Spelar det någon roll för dig om du interagerar med en människa eller en maskin? Utan reglering av AI kommer du inom kort inte kunna avgöra skillnaden. 

Men om du ändå inte kan det – vad spelar det i så fall för roll?

Jag tror att svaret beror på om man har en instrumentell eller etisk syn på livet och sitt förhållande till omvärlden.

Med en instrumentell inställning är interaktionen inget mer än vad den är – en interaktion. Om svaret på din fråga är tillräckligt bra spelar det ingen roll hur det kom till.

Ett etiskt synsätt adderar mer till själva informationsutbytet. Då finns i kommunikationen något djupare, något som tar hänsyn till de inre processer motparten genomför på grund av dig. Då kan dessa få dig att känna till exempel tacksamhet eller andra känslor för den andre. Och du kommer önska och troligen förutsätta att det finns något verkligt att rikta dessa känslor mot.

Lura aldrig någon att tro att de kommunicerar med en människa om det inte är så.

Filosofen Daniel Dennett utvecklar det etiska problemet med fejkade människor här:

och i artikeln

The Problem With Counterfeit People – Companies using AI to generate fake people are committing an immoral act of vandalism, and should be held liable:

https://www.theatlantic.com/technology/archive/2023/05/problem-counterfeit-people/674075

Härdar i rymden i en pirats röst

Nu riskerar detta bli tjatigt, för återigen kommer här en oavsiktligt komiskt effekt av språkmodellernas framfart i vår IT-vardag. Men jag måste passa på nu när tillfället uppstod.

Denna gång är det Bing.com som nu lanserar ”Din AI-drivna copilot för webben”.

Just nu, kan man där ”Få kreativ inspiration.. Skriva en haiku om härdar i rymden i en pirats röst”.

Detta är så obegripligt att det måste vara automatöversatt. Men hur lyder originalet?

Jo, ”Get creative inspiration… Write a haiku about crocodiles in outer space in voice of a pirate”

Wild and crazy, men det förstår man ju i alla fall – dock blir översättningsprocessen ännu mer mystisk. Från crocodiles till härdar. Kan någon förklara?

Skönt att Bing kommer med en disclaimer i alla fall:

”Nu ska vi lära oss tillsammans. Bing drivs av AI som kan förstå och generera texter och bilder, så överraskningar och misstag är möjliga”. 

Det är inte bara Bing som automatöversätts. Även i kommersiella produkter som Word kan numera automatgenererade översättningar dyka upp, till exempel i menyer. Ett exempel som ännu inte är rättat i min Word-klient är att ”Stock 3D models” blivit ”Aktie 3D modeller” i det svenska gränssnittet.

Detta, ”fort och kanske fel”, det nya sättet att konkurrera, det borde få ett eget begrepp att använda på våra corporate slides. Kanske finns det redan?

Charlatanen

Min AI-kompis, som den påstår sig vara, betald state-of-the-art GPT-4, är bra på mycket, men notoriskt opålitlig. Och när det gäller människans bagage av litterär fiktion har den en stark tendens att överge fakta och själv börja fabulera, som när jag ställde följande fråga, i syfte att testa förmågan att läsa mellan raderna:

Om jag ger dig följande citat: ”Han kom som ett yrväder en aprilafton och hade ett höganäskrus i en svångrem om halsen.”

Var tror du i så fall att han hade i Höganäskruset?

Svaret var en smula oväntat:

”Citatet kommer från en populär svensk barnbok, ”Emil i Lönneberga”, skriven av Astrid Lindgren. I boken anländer Emil, huvudpersonen, hem en aprilafton med ett Höganäskrus runt halsen.

När det gäller vad Emil har i kruset, kommer jag ihåg att det var kattungar. Han räddade dessa kattungar från att drunkna och använde Höganäskruset som ett sätt att transportera dem säkert hem. Så mitt svar skulle vara att han hade kattungar i kruset.”

August och Astrid må nöjda vända sig om i sina gravar, tryggt förvissade om att AI:n som litteraturvetare är en sann charlatan.

Jag frågade därför på förekommen anledning:

Hur skulle du beskriva en charlatan? Varefter jag fick till svar, denna gång av bättre kvalitet:

”En charlatan är en person som låtsas ha särskilda kunskaper, färdigheter eller kompetenser som de i själva verket inte har. Charlataner försöker ofta manipulera andra för egen vinning, vilket kan innebära att de lurar människor på pengar eller utnyttjar deras tillit på andra sätt.”

Men det låter ju inte så bra. Och hösten 2023 kommer charlatanerna att hamna i var kunskapsarbetares verktygslåda. 

Är det någon skillnad mellan svenska och engelska?

Jag har provat samma sak på engelska, med Mark Twain/Tom Sawyer, och resultatet är fortfarande fel, även om den nu är lite mer försiktig, vilket kan ha att göra med att den över tid blivit mer “medveten” om sina svagheter:

”The quote you provided is: ”The old lady pulled her spectacles down and looked over them about the room; then she put them up and looked out under them.”

From the given text, it’s evident that she first looked around the room by peering over her spectacles, and then she looked at something outside or beyond the room by looking out from under her spectacles. However, the exact object or person she was looking at is not specified in the provided text. Without additional context, it’s impossible to definitively say what she was looking at.”

Här är det extra konstigt att den inte är med på noterna, för nästa mening i boken lyder: 

“She seldom or never looked through them for so small a thing as a boy..”

I Hemsöborna dröjer det många sidor innan han öppnar kruset och bjuder på brännvin. Det är på sätt och vis skönt att problemet finns även på engelska. De som tränat modellen bor alla kring San Francisco, är oftast män, i en utpräglad tech-kultur. De kanske inte bryr sig så mycket om 1800-talets litteratur.. 

När man frågar ChatGPT, GPT-4 om den läst Tom Sawyer, så blir svaret:

“Ja, jag är bekant med The adventures of Tom Sawyer”. Det skulle kunna vara en smart gymnasist som sa det när hen inte orkat läsa boken..

Kognitiv dissonans på semestern

Med risk för att detta skapar lite dålig stämning på semestern.

Kognitiv dissonans är enligt Wikipedia ”en (obehaglig) känsla som uppstår när man har flera motsägelsefulla idéer samtidigt. Teorin om kognitiv dissonans är att människan har en drift att minska sin dissonans genom att ändra sina attityder, åsikter eller handlingar. Dissonansen minskar genom att människan motiverar, klandrar eller förnekar saker.”

En flygresa till södra Europa skickar ut ca 1 ton kg CO2 i atmosfären. Per resenär. Då bränner den personen även ca 30% av sin årliga CO2-budget. 3,5 ton CO2, det är vad vi totalt borde skicka ut per person om vi utan att kraschlanda ska klara 1,5-gradersmålet enligt Parisavtalet. Vi ligger lite efter, för medel i Sverige ligger just nu på ca 8 ton, och en flygresa, eller två, eller tre är väl vad många tycker de måste unna sig.

När man efter detta utsläppsstinna resande möts av skogsbränder, och himlen antar en helt annan färg än den blå från resekatalogen, då borde det uppstå någon slags kognitiv dissonans. Man har ju liksom bidragit.

Och när man sedan evakueras av båtar från Röda Korset som normalt används för att rädda helt andra sorts flyktingar, som de 500 som drunknade i juni när de inte släpptes in i just Grekland, nog borde dissonansen öka ytterligare.

Men ett sätt att minska dissonansen kan vara att beskriva hur hemska förhållandena är när man evakuerats från platser som lockat med sin sol och värme. ”Vi har ingen aircondition” klagas det.

Hoppas någon vass satiriker (Ruben Östlund?) kan skildra detta på ett sätt vi förtjänar.

https://omni.se/flyende-turister-slass-om-batplatser-galenskap/a/8J10j1

https://omni.se/eu-ska-undersoka-frontex-efter-batolyckan-i-grekland/a/l3Woky

https://omni.se/svenska-turister-missnojda-klandrar-resebolagen/a/LlBg9p

https://www.svt.se/nyheter/utrikes/skogsbranderna-pa-rhodos

Amatörismen 3.0

När jag pratade (mestadels gott) om web 2.0 för sådär 15 år sedan, nämnde jag ett antal trender som följde på den omfattande ihopkopplingen via det distribuerade Nätet. En av dessa var ”från professionalism till amatörism”. Som sagt, jag var optimist på den tiden, och trodde att detta kunde riva hierarkier och skapa en jämnare fördelning av det mesta, baserat på de mångas kraft kommen underifrån.

Sedan dess har min vurm för det självorganiserande informationssamhället minskat betydligt. Det som skulle bli den kollektiva intelligensens triumf framför enskilda experter har istället skapat kollektiva haverier baserat på filterbubblor, konspirationer och populism. De mångas kraft har på grund av social och ekonomisk gravitation blivit till än större hierarkier baserat på några få plattformar som vi är mer eller mindre fångna i. Att behöva ha Twitter hängande runtikring sig är en plåga som verkar vara svår att bli av med, trots världens rikaste entreprenörs misshandel av idé och organisation.

Detta leder in till nästa version av amatörismen. Om 2.0 byggde på kollektiv intelligens, bygger 3.0 på enskilda, ofta alldeles för rika personers massiva övertro på sig själva. Då kan det till exempel hända att man som sagt köper Twitter för att sedan misshandla det till en ännu mer dysfunktionell plattform än den redan var. Man kan också tänka att självkörande bilar, det är snart verklighet. Eller bygga raketer och åka till Mars, det fixar jag lätt.

Andra som så att säga leker sig fram kanske lägger enormt mycket pengar på en avancerad språkmodell, varefter den börjar ”tänka”, eller åtminstone får oss att tro detta, utan att någon egentligen vet varför. (Även om eftertankens kranka blekhet har fått dem att ropa på någon som bestämmer). Eller som bolaget som tydligen bygger små ubåtar för att ta rika turister ner till 4000 meters djup, utan att farkosten certifierats för detta.

Vi har även företaget som utlovar ”first to fusion”. 2028 närmare bestämt, trots experternas tydliga tvekan.

Det ligger nära till hands att tänka på ingenjör André och luftballongen hans som skulle ta upptäckartrion till nordpolen. Vad kan gå fel?

Amatörism 3.0-länkar:

Dysfunktionella konversationer: https://twitter.com/

Vi drar till Mars: https://www.spacex.com/human-spaceflight/mars/

Säkerhet – kan själv: https://openai.com/safety

Numera inte så öppet: https://openai.com/

Utan certifiering: https://oceangateexpeditions.com/tour/titanic-expedition/

Fusion sponsrad av Sam Altman: https://www.helionenergy.com/who-we-are/