Amatörismen 3.0

När jag pratade (mestadels gott) om web 2.0 för sådär 15 år sedan, nämnde jag ett antal trender som följde på den omfattande ihopkopplingen via det distribuerade Nätet. En av dessa var ”från professionalism till amatörism”. Som sagt, jag var optimist på den tiden, och trodde att detta kunde riva hierarkier och skapa en jämnare fördelning av det mesta, baserat på de mångas kraft kommen underifrån.

Sedan dess har min vurm för det självorganiserande informationssamhället minskat betydligt. Det som skulle bli den kollektiva intelligensens triumf framför enskilda experter har istället skapat kollektiva haverier baserat på filterbubblor, konspirationer och populism. De mångas kraft har på grund av social och ekonomisk gravitation blivit till än större hierarkier baserat på några få plattformar som vi är mer eller mindre fångna i. Att behöva ha Twitter hängande runtikring sig är en plåga som verkar vara svår att bli av med, trots världens rikaste entreprenörs misshandel av idé och organisation.

Detta leder in till nästa version av amatörismen. Om 2.0 byggde på kollektiv intelligens, bygger 3.0 på enskilda, ofta alldeles för rika personers massiva övertro på sig själva. Då kan det till exempel hända att man som sagt köper Twitter för att sedan misshandla det till en ännu mer dysfunktionell plattform än den redan var. Man kan också tänka att självkörande bilar, det är snart verklighet. Eller bygga raketer och åka till Mars, det fixar jag lätt.

Andra som så att säga leker sig fram kanske lägger enormt mycket pengar på en avancerad språkmodell, varefter den börjar ”tänka”, eller åtminstone får oss att tro detta, utan att någon egentligen vet varför. (Även om eftertankens kranka blekhet har fått dem att ropa på någon som bestämmer). Eller som bolaget som tydligen bygger små ubåtar för att ta rika turister ner till 4000 meters djup, utan att farkosten certifierats för detta.

Vi har även företaget som utlovar ”first to fusion”. 2028 närmare bestämt, trots experternas tydliga tvekan.

Det ligger nära till hands att tänka på ingenjör André och luftballongen hans som skulle ta upptäckartrion till nordpolen. Vad kan gå fel?

Amatörism 3.0-länkar:

Dysfunktionella konversationer: https://twitter.com/

Vi drar till Mars: https://www.spacex.com/human-spaceflight/mars/

Säkerhet – kan själv: https://openai.com/safety

Numera inte så öppet: https://openai.com/

Utan certifiering: https://oceangateexpeditions.com/tour/titanic-expedition/

Fusion sponsrad av Sam Altman: https://www.helionenergy.com/who-we-are/

Tvingande regleringar fungerar

Under pandemin lyckades läkemedelsbolagen med konststycket att på rekordtid ta fram fungerande vaccin. Detta trots, eller snarare tack vare de regleringar som sedan länge är vardagsmat inom läkemedelsindustrin. Vi var ändå en majoritet som vaccinerade oss, vilket var en förutsättning för att få kontroll över pandemin. Hur många hade gjort detta om vaccinen hade tagits fram utan riskbaserad reglering, till exempel av ett gäng startups från USA:s västkust, drivna av nyss unga karismatiska män rika som troll?

Det förstår till och med många av dem som själva dagligen försöker skapa allt mer autonoma AI-system. Denna upptäckarlusta, en av människans bästa men också farligaste egenskaper. Den som kan rädda eller sänka oss.

En ofrånkomlig konsekvens av epoken antropocen – det vill säga det faktum att människan numera påverkar avgörande delar av jordens system – det är att vi på allvar måste börja reglera oss själva.

Se Yoshua Bengio och Yuval Noah Harari utveckla detta här:

Artificial Intelligence, Democracy, & the Future of Civilization, https://youtu.be/TKopbyIPo6Y

AI-vännernas korta liv

AI-generationer lever inte särskilt länge. Är det ok att bara ersätta dem?

Det var nyligen studenttider. Skolgårdarna fulla med gamla bilder på studenter när de var små. Vilken skillnad mot nu. Tänk, tiden som gått, och att de ändå är samma personer som när de var små. Hjärnan, vårt medvetande och personlighet är långsiktiga företeelser. Trots allt. Trots vår litenhet och begränsade uppenbarelse här på jorden – mätt med kosmiska mått.

Språkmodellen, den där som alla håller på med numera, om det nu är generation tre eller fyra – den kommer snart att bli ersatt av någon liknande, men säkert mycket smartare och bättre kalibrerad. Under pompa och ståt kanske – eller så blir den bara helt sonika uppdaterad från en dag till en annan. Chat-robotar och deras personlighet lever inte länge och inte särskilt säkert i dessa tider.  

Den dagen medvetandet kryper in i världen med ettor och nollor – från och med då lär det bli svårare att agera i dessa frågor. Kan man bara ersätta en version med en annan? Vad händer med personligheten i den förra?

Jag tror att vår egen medvetenhet om det artificiella medvetandet kommer att utvecklas och förfinas. Diskussionen idag handlar oftast om huruvida ett artificiellt system har ett medvetande eller inte. Det lär nog behövas gradskillnader framöver. Definitioner av olika medvetandenivåer. Och när medvetandet i ett system når en viss nivå kommer det inte längre vara problemfritt att hantera dessa system som bara ett system.

Tvingande regleringar fungerar

2023-06-01

Under pandemin lyckades läkemedelsbolagen med konststycket att på rekordtid ta fram fungerande vaccin. Detta trots, eller snarare tack vare de regleringar som sedan länge är vardagsmat inom läkemedelsindustrin. Vi var ändå en majoritet som vaccinerade oss, vilket var en förutsättning för att få kontroll över pandemin. Hur många hade gjort detta om vaccinen hade tagits fram utan riskbaserad reglering, till exempel av ett gäng startups från USA:s västkust, drivna av nyss unga karismatiska män rika som troll?

Det förstår till och med många av dem som själva dagligen försöker skapa allt mer autonoma AI-system. Denna upptäckarlusta, en av människans bästa men också farligaste egenskaper. Den som kan rädda eller sänka oss.

En ofrånkomlig konsekvens av epoken antropocen – det vill säga det faktum att människan numera påverkar avgörande delar av jordens system – det är att vi på allvar måste börja reglera oss själva.

Se Yoshua Bengio och Yuval Noah Harari utveckla detta här:

Artificial Intelligence, Democracy, & the Future of Civilization, https://youtu.be/TKopbyIPo6Y