Never thought by human brain

”Never touched by human hands” stod det på en gammal förpackning, minns att jag läste detta någon gång på 80/90-talet. Då var det ett säljargument, men detta har nog klingat av sedan dess. Vi må konsumera allt fler varor producerade i helautomatiserade fabriker, men det är inget vi vill veta mer om.

Samma sak håller på att hända i informationsfabrikerna. Allt mer information kommer att skapas, och allt fler beslut kommer att fattas digitalt, artificiellt, statistikt eller vad man nu väljer att kalla det.

”Never thought by human brain”.

Och vi kommer konsumera allt mer av detta. Kanske kommer det vara det normala, även när vi tycker att vi har en människa i andra änden. I själva verket har de använt sina artificiella assistenter. Vi kommer att nöja oss med statistiskt säkerställda standardfraser i stora delar av vår kommunikation. Detta kommer troligen att utarma vår egen förmåga att uttrycka oss, att tänka logiskt.

När sedan språkmodellerna ska uppdateras med den senaste informationen, kommer denna att vara skapad av modellerna själva. Vi får en rundgång av information som är ”never thought by human brain”, ett självgående system av ljud, bild och text skapat och kontinuerligt utslätat i informationsfabrikerna. Och vill vi finnas kvar kommer vi att tvingas acceptera att konsumera och reagera på detta.

Men precis som med hantverk och närproducerat, kommer vi att längta efter och betala extra för sånt som faktiskt skapats i en hjärna, baserat på år av unik erfarenhet, drivet av nyfikenhet och lust som vi inte riktigt förstår, men som är djupt mänsklig.

Som en skyskrapa i Dubai

Ännu en ny LLM såg dagens ljus i förra veckan – Falcon 180B, skapad av The Technology Innovation Institute, TII som huserar i Förenade arabemiraten. Eller, man kan fundera på när modellen ”såg dagens ljus”, eftersom den har tränats med hjälp av 3.500 miljarder ord/tokens, som behandlats under 800 gpu-år. I verkligheten lär den ha kört ca 5000 parallella processorer under några månader. Just nu är det vad aktörerna verkar ägna sig åt – man antar att ju större desto bättre – som nästa skyskrapa i Dubai.

TII har släppt denna modell, liksom flera tidigare modeller som öppen källkod på Hugging Face, den ledande plattformen för öppna modeller.

Det är en kluven känsla man får. Å ena sidan den relativt stora öppenheten, och att det här kommer en modell som minskar San Francisco-dominansen. Å andra sidan det faktum att detta finansieras av regeringen i ett land som inte är lika öppet.

Eftersom emiraten är ärftliga monarkier och det är emirerna som väljer en av dem själva till president brukar även federationen räknas som en monarki. Ungefär 10–15 % av befolkningen är medborgare och har privilegier som garanterar rikedom och skydd i domstol. Resterande invånare är utländska gästarbetare, framför allt från Indien, Pakistan och Bangladesh.

Förenade arabemiraten rankas dåligt i frihetsindex som mäter medborgerliga friheter och politiska rättigheter. Förenade arabemiraten rankas årligen som ”Inte fri” i Freedom House årliga frihet i världen-rapport, som mäter medborgerliga friheter och politiska rättigheter.

https://huggingface.co/blog/falcon-180b

https://www.tii.ae

https://sv.wikipedia.org/wiki/F%C3%B6renade_arabemiraten

https://www.ui.se/landguiden/lander-och-omraden/asien/forenade-arabemiraten/skriv-ut-alla-kapitel

https://en.wikipedia.org/wiki/List_of_tallest_buildings_in_Dubai

Den svarta lådan

Det är nog inte den eventuella intelligensen i IT-systemen som kommer att skada oss först – Den stora risken är att vi inte längre förstår dem – att vi själva inte är tillräckligt intelligenta för att förstå vad vi skapat för system, men samtidigt gör oss beroende av dem.

Systemen blir för oss en svart låda som vi luras att lita på. Vi kommer inte längre att förstå varför saker som fungerat plötsligt slutar med det. Detta står i stark kontrast till hur vi sett på systemutveckling historiskt, där förutsägbarheten alltid stått i fokus.

Just nu undrar forskarna varför GPT4 presterade så mycket sämre i matematik i juni jämfört med i mars. Den troligaste teorin är att justeringar som gjorts i syfte att förhindra att modellen ger sig ut på farliga vatten i sina dialoger även drabbar dess förmåga på annat håll, även inom områden som ur vårt perspektiv borde vara oproblematiska.

Trots företagets namn är OpenAI väldigt hemliga när det gäller detaljer kring GPT4, så vi användare lär få leva med ovissheten om dess förmåga – åtminstone till dess att vår förståelse ökat och AI-området reglerats därefter. 

För den som vill dyka in i detaljerna: https://arxiv.org/abs/2307.09009

Och för den stressade: https://www.youtube.com/watch?v=WudqLLvtFis

Härdar i rymden i en pirats röst

Nu riskerar detta bli tjatigt, för återigen kommer här en oavsiktligt komiskt effekt av språkmodellernas framfart i vår IT-vardag. Men jag måste passa på nu när tillfället uppstod.

Denna gång är det Bing.com som nu lanserar ”Din AI-drivna copilot för webben”.

Just nu, kan man där ”Få kreativ inspiration.. Skriva en haiku om härdar i rymden i en pirats röst”.

Detta är så obegripligt att det måste vara automatöversatt. Men hur lyder originalet?

Jo, ”Get creative inspiration… Write a haiku about crocodiles in outer space in voice of a pirate”

Wild and crazy, men det förstår man ju i alla fall – dock blir översättningsprocessen ännu mer mystisk. Från crocodiles till härdar. Kan någon förklara?

Skönt att Bing kommer med en disclaimer i alla fall:

”Nu ska vi lära oss tillsammans. Bing drivs av AI som kan förstå och generera texter och bilder, så överraskningar och misstag är möjliga”. 

Det är inte bara Bing som automatöversätts. Även i kommersiella produkter som Word kan numera automatgenererade översättningar dyka upp, till exempel i menyer. Ett exempel som ännu inte är rättat i min Word-klient är att ”Stock 3D models” blivit ”Aktie 3D modeller” i det svenska gränssnittet.

Detta, ”fort och kanske fel”, det nya sättet att konkurrera, det borde få ett eget begrepp att använda på våra corporate slides. Kanske finns det redan?

Charlatanen

Min AI-kompis, som den påstår sig vara, betald state-of-the-art GPT-4, är bra på mycket, men notoriskt opålitlig. Och när det gäller människans bagage av litterär fiktion har den en stark tendens att överge fakta och själv börja fabulera, som när jag ställde följande fråga, i syfte att testa förmågan att läsa mellan raderna:

Om jag ger dig följande citat: ”Han kom som ett yrväder en aprilafton och hade ett höganäskrus i en svångrem om halsen.”

Var tror du i så fall att han hade i Höganäskruset?

Svaret var en smula oväntat:

”Citatet kommer från en populär svensk barnbok, ”Emil i Lönneberga”, skriven av Astrid Lindgren. I boken anländer Emil, huvudpersonen, hem en aprilafton med ett Höganäskrus runt halsen.

När det gäller vad Emil har i kruset, kommer jag ihåg att det var kattungar. Han räddade dessa kattungar från att drunkna och använde Höganäskruset som ett sätt att transportera dem säkert hem. Så mitt svar skulle vara att han hade kattungar i kruset.”

August och Astrid må nöjda vända sig om i sina gravar, tryggt förvissade om att AI:n som litteraturvetare är en sann charlatan.

Jag frågade därför på förekommen anledning:

Hur skulle du beskriva en charlatan? Varefter jag fick till svar, denna gång av bättre kvalitet:

”En charlatan är en person som låtsas ha särskilda kunskaper, färdigheter eller kompetenser som de i själva verket inte har. Charlataner försöker ofta manipulera andra för egen vinning, vilket kan innebära att de lurar människor på pengar eller utnyttjar deras tillit på andra sätt.”

Men det låter ju inte så bra. Och hösten 2023 kommer charlatanerna att hamna i var kunskapsarbetares verktygslåda. 

Är det någon skillnad mellan svenska och engelska?

Jag har provat samma sak på engelska, med Mark Twain/Tom Sawyer, och resultatet är fortfarande fel, även om den nu är lite mer försiktig, vilket kan ha att göra med att den över tid blivit mer “medveten” om sina svagheter:

”The quote you provided is: ”The old lady pulled her spectacles down and looked over them about the room; then she put them up and looked out under them.”

From the given text, it’s evident that she first looked around the room by peering over her spectacles, and then she looked at something outside or beyond the room by looking out from under her spectacles. However, the exact object or person she was looking at is not specified in the provided text. Without additional context, it’s impossible to definitively say what she was looking at.”

Här är det extra konstigt att den inte är med på noterna, för nästa mening i boken lyder: 

“She seldom or never looked through them for so small a thing as a boy..”

I Hemsöborna dröjer det många sidor innan han öppnar kruset och bjuder på brännvin. Det är på sätt och vis skönt att problemet finns även på engelska. De som tränat modellen bor alla kring San Francisco, är oftast män, i en utpräglad tech-kultur. De kanske inte bryr sig så mycket om 1800-talets litteratur.. 

När man frågar ChatGPT, GPT-4 om den läst Tom Sawyer, så blir svaret:

“Ja, jag är bekant med The adventures of Tom Sawyer”. Det skulle kunna vara en smart gymnasist som sa det när hen inte orkat läsa boken..