Dag Hammarskjöld om teknik, artificiell intelligens och mänskligt ansvar

He was expected at a dinner that evening where he would again be the featured speaker. The world was changing faster than anyone had anticipated. The threats posed by modern warfare, particularly the atomic bomb, loomed large, and he knew he must continue to advocate for disarmament.

***

“None of us wants that for our families. Yet, if we continue accepting war contracts and funneling science’s most brilliant minds into creating weapons of annihilation, we’re complicit in that future. This conference, this moment in history, gives us a chance to change course. It’s a question of humanity’s survival.”

–Decoding the Unicorn: A New Look at Dag Hammarskjöld

“How do you reconcile such a gathering with reality? In January of this year, the Pentagon announced that the US military is working on nuclear-powered missiles with a greater range than anything we’ve seen before. Presumably, the Soviets are doing the same. Do you truly have faith in your push for disarmament?”

“Seeing so many scientists exchanging ideas not to poison the Earth and destroy humanity did me much good. Disarmament will not occur overnight. I might be idealistic at times, but I am also practical. The scenario you describe of the American military building more advanced weaponry only to incite the Soviets to do the same is the kind of brinkmanship that needs to end as soon as possible.”

– Simply Dag: The Private Man in a Public—and Dangerous—Office

We meet in a time of peace which is no peace, in a time of technical achievement which threatens its own masters with destruction.

-Dag Hammarskjöld, “The Walls of Distrust” Address at Cambridge University, June 5, 1958

✦ ───────────── ✦ ───────────── ✦

Vad kan en statsman från kalla krigets tid lära oss om artificiell intelligens, tekniska framsteg och mänsklighetens framtid? Kanske mer än vi anar.

När människans uppfinningsrikedom överträffar hennes visdom

Människan har alltid fascinerats av sina egna uppfinningar. Från boktryckarkonsten till ångmaskinen, från elektriciteten till atombomben har tekniska genombrott gång på gång förändrat civilisationen. Varje ny upptäckt utlovar ökad effektivitet, större möjligheter och en viss frigörelse från det förflutnas begränsningar.

Ändå väcker den tekniska utvecklingen en fråga som är betydligt svårare att besvara: Innebär vår förmåga att åstadkomma något nödvändigtvis att vi också besitter den visdom som krävs för att använda denna förmåga på ett ansvarsfullt sätt?

Dag Hammarskjöld, Förenta nationernas andre generalsekreterare, förstod detta dilemma särskilt väl.

Under sin tid som generalsekreterare, från 1953 fram till sin död 1961, innehade Hammarskjöld en av världens mest krävande diplomatiska befattningar under en epok då vetenskapliga framsteg och möjligheten till mänsklighetens förintelse existerade sida vid sida. Kärnvapnen hade i grunden förändrat förhållandet mellan teknisk makt och politiskt ansvar. För kanske första gången i historien förfogade mänskligheten över medel att förstöra civilisationen i global skala.

Frågan handlade inte längre enbart om vad människan kunde skapa, utan om huruvida hon kunde uppvisa tillräckligt gott omdöme för att överleva sina egna skapelser.

Nästan sju decennier senare är den frågan fortfarande anmärkningsvärt aktuell.

Dag Hammarskjöld och kärnvapenålderns faror

När Hammarskjöld talade vid universitetet i Cambridge den 5 juni 1958 hade kalla kriget redan skapat ett farligt internationellt läge.

USA och Sovjetunionen förfogade över kärnvapenarsenaler som kunde orsaka katastrofal förödelse. Den militära strategin byggde i allt högre grad på avskräckning, ett system där freden, åtminstone i teorin, upprätthölls genom hotet om ett förödande vedergällningsangrepp.

Vetenskaplig uppfinningsrikedom hade gjort dessa vapen möjliga. Det politiska omdömet förväntades förhindra att de användes.

Betänk vilken oerhörd motsägelse!

Mänskligheten hade utvecklat den intellektuella förmågan att förstå atomära processer, utnyttja kärnenergi och tillverka vapen med en tidigare otänkbar förstörelsekraft. Ändå fortsatte samma civilisation att brottas med misstro, ideologisk fientlighet, nationella maktambitioner och den urgamla frestelsen att lösa meningsskiljaktigheter genom våld.

Vår tekniska förmåga hade utvecklats enormt. Våra mänskliga svagheter förblev plågsamt välbekanta.

Hammarskjöld insåg att civilisationens överlevnad var beroende av något mer grundläggande än vetenskaplig kunskap.

Den krävde återhållsamhet, samarbete, ödmjukhet och en förståelse för våra skyldigheter gentemot varandra.

Det är viktigt att framhålla att Hammarskjöld inte var någon motståndare till tekniska framsteg. Hans arbete inom Förenta nationerna omfattade stöd för internationellt samarbete kring atomenergins fredliga användningsområden. Tekniken i sig var inte nödvändigtvis fienden. Den större faran låg i de mänskliga beslut som styrde dess utveckling och användning.

Artificiell intelligens och illusionen om framsteg

I dag ställer artificiell intelligens oss inför andra slags utmaningar, även om vissa filosofiska likheter med kärnvapenåldern är svåra att bortse från.

AI-system kan analysera enorma mängder information, generera texter, bistå vid vetenskaplig forskning, känna igen mönster och automatisera alltmer komplicerade arbetsuppgifter.

Dessa möjligheter erbjuder verkliga fördelar. Inom medicin, utbildning, tillgänglighet och vetenskapliga upptäckter kan ansvarsfullt utvecklad artificiell intelligens bidra till att lösa problem som tidigare föreföll oöverstigliga.

Likväl får teknisk förmåga inte förväxlas med moralisk auktoritet.

Ett AI-system kan formulera ett övertygande svar utan att förstå dess mänskliga konsekvenser. Det kan identifiera mönster utan att besitta visdom. Det kan utföra komplicerade beräkningar utan att bära ansvar för de beslut som fattas utifrån dess resultat.

Skillnaden mellan intelligens och omdöme förtjänar betydligt större uppmärksamhet än den får.

Vi uppmuntras i allt högre grad att beundra vad tekniken kan åstadkomma. Betydligt mindre uppmärksamhet ägnas åt att undersöka vad som händer när människor överlåter sitt eget intellektuella ansvar åt den.

Om en dator kan skriva en uppsats, bör då en elev överge den mödosamma processen att lära sig skriva? När en algoritm kan rekommendera ett beslut, bör då en företagsledare sluta ifrågasätta rekommendationen? Om AI kan generera en trovärdig förklaring, bör läsarna då utgå från att förklaringen är korrekt?

Detta är inte enbart tekniska frågor. De berör utbildning, personlig självständighet, intellektuell hederlighet och bevarandet av ett självständigt tänkande.

Faran är inte bara att maskinerna kan bli utomordentligt kapabla. Uppriktigt sagt sker det redan. Oron gäller snarare att människor kan bli alltmer bekväma med att inta en intellektuellt passiv hållning.

När tekniken börjar forma sina skapare

Ytterligare en fråga förtjänar att uppmärksammas: Tekniken förändrar inte bara vad vi gör. Den kan också påverka hur vi tänker, beter oss och förstår oss själva.

Betrakta utvecklingen av sociala medier.

Plattformar som ursprungligen marknadsfördes som verktyg för mänsklig kontakt har också uppmuntrat kommunikationsformer som styrs av algoritmer, engagemangsmått och uppmärksamhetens kommersiella värde. Komplexa idéer konkurrerar med korta, känslomässigt provocerande budskap. I den offentliga debatten belönas ofta förmågan att framkalla reaktioner snarare än att uppmuntra eftertanke. De tekniska system som är inbyggda i dessa plattformar kan gradvis påverka användarnas vanor.

AI öppnar för ytterligare möjligheter.

När en maskin omedelbart kan generera texter, bilder, rekommendationer och tolkningar blir frestelsen att hoppa över det mänskliga tänkandets långsammare processer allt starkare. Ändå har dessa långsammare processer ofta ett egenvärde. (Ibland ligger glädjen i att göra något just i själva görandet.)

Att skriva kräver att vi organiserar våra tankar. Att läsa krävande texter utmanar våra föreställningar. Forskning kräver tålamod. Konstnärligt skapande innebär osäkerhet, experimenterande och utvecklandet av ett personligt perspektiv.

Dessa aktiviteter är inte bara hinder som står mellan oss och en färdig produkt.

De är en del av det som formar oss till tänkande människor med urskillningsförmåga.

Om effektivitet blir vårt högsta värde riskerar vi att avfärda just de erfarenheter genom vilka intellektuell och moralisk mognad utvecklas.

En civilisation som helt ägnar sig åt bekvämlighet kan till slut upptäcka att den har offrat något betydligt mer värdefullt.

Det mänskliga ansvaret kan inte automatiseras

Det finns en viktig skillnad mellan att använda teknik som ett verktyg och att behandla den som en ersättning för mänskligt ansvarstagande.

En läkare kan använda artificiell intelligens som hjälp vid bedömningen av medicinsk information. Det befriar inte läkaren från hans eller hennes etiska skyldigheter. En regering kan använda avancerade analyssystem som underlag för politiska beslut. Dessa system kan inte överta de folkvaldas moraliska ansvar. En författare kan använda digitala verktyg som stöd vid forskning eller redigering. Dessa verktyg kan inte ersätta författarens ansvar för det färdiga verkets korrekthet, originalitet och integritet.

I vart och ett av dessa exempel kan tekniken stödja mänsklig verksamhet utan att bli den yttersta auktoriteten.

Denna princip blir särskilt viktig när mäktiga institutioner försöker rättfärdiga beslut genom att hänvisa till tekniska processer.

Algoritmen rekommenderade det. Datorn valde det. Systemet avgjorde resultatet.

Sådana förklaringar kan beskriva hur ett beslut kom till, men de visar inte nödvändigtvis att beslutet var berättigat.

Ansvaret ligger ytterst hos de människor som utformar, inför, övervakar och förlitar sig på dessa system.

Föreställningen om den tekniska utvecklingens oundviklighet kan vara särskilt farlig, eftersom den uppmuntrar människor att tro att det inte längre finns några verkliga valmöjligheter.

Men tekniken utvecklas inte oberoende av mänskliga prioriteringar. Beslut om finansiering, utformning, reglering, införande och acceptabla risker återspeglar mänskliga värderingar.

Vi är inte hjälplösa åskådare som betraktar ett självständigt historiskt förlopp. Vi är fortfarande delaktiga i de beslut som formar vår gemensamma framtid.

Framtiden kräver mer än bättre maskiner

Det tjugoförsta århundradets tekniska landvinningar är enastående. Det finns föga anledning att tro att innovationerna plötsligt kommer att upphöra. Inte heller skulle ett övergivande av de vetenskapliga framstegen nödvändigtvis göra civilisationen säkrare eller mänskligare.

Utmaningen är att säkerställa att vår moraliska och intellektuella utveckling håller jämna steg med vår tekniska förmåga.

Det kräver en utbildning som sträcker sig längre än yrkesutbildning och teknisk kompetens.

Det kräver studier i historia, filosofi, litteratur, etik och humaniora. Dessa ämnesområden uppmuntrar oss att undersöka mänskliga drivkrafter, känna igen återkommande mönster, ifrågasätta antaganden och överväga konsekvenserna av våra handlingar.

De påminner oss också om att inte alla meningsfulla aspekter av tillvaron kan kvantifieras.

Människovärdet kan inte reduceras till ett effektivitetsmått. Visdom kan inte mätas enbart i bearbetningshastighet. Moraliskt mod kan inte automatiseras.

Hammarskjölds generation ställdes inför den skrämmande möjligheten att de vetenskapliga framstegen hade gett mänskligheten makten att förgöra sig själv. Dagens generationer ställs inför frågor om tekniska system som på djupet kan förändra arbetslivet, utbildningen, den politiska makten, kreativiteten och innebörden av människans förmåga att handla självständigt.

Omständigheterna är annorlunda, och riskerna bör inte betraktas som identiska, men den grundläggande utmaningen består.

Kan mänskligheten utveckla den visdom som krävs för att förvalta den makt hon besitter?

Civilisationens framtid kommer i slutändan att bero på mer än hur avancerade våra maskiner blir. Avgörande är karaktären, omdömet och ansvarskänslan hos de människor som använder dem.

Den viktigaste frågan är inte om vår teknik kommer att bli intelligentare, utan om vi själva kommer att bli tillräckligt visa för att använda den väl.

Vanliga frågor

Vad ansåg Dag Hammarskjöld om tekniska framsteg?

Dag Hammarskjöld insåg både fördelarna och farorna med vetenskapliga framsteg. Under sin tid som FN generalsekreterare stödde han internationellt samarbete och atomenergins fredliga användning, samtidigt som han konfronterades med kärnvapnens förstörelsepotential. Hans övergripande filosofi betonade människovärde, ansvar och samarbete.

Hur är Dag Hammarskjölds filosofi relevant för artificiell intelligens?

Även om Hammarskjöld aldrig kom i kontakt med modern artificiell intelligens erbjuder hans betoning på etiskt ansvar, människovärde och internationellt samarbete ett perspektiv för att utvärdera utvecklingen och styrningen av AI. Hans filosofi uppmuntrar oss att inte bara undersöka vad tekniken kan åstadkomma, utan också hur den påverkar människor.

Vad handlade Dag Hammarskjölds tal i Cambridge 1958 om?

Den 5 juni 1958 höll Hammarskjöld ett tal med titeln The Walls of Distrust vid universitetet i Cambridge. Han behandlade ideologiska motsättningar, misstro, människovärde och svårigheterna att skapa verklig förståelse mellan människor och nationer under kalla kriget.

Varför är mänskligt omdöme viktigt i AI-eran?

Artificiell intelligens kan bearbeta information, känna igen mönster och bistå vid beslutsfattande, men dess resultat kan innehålla fel eller återspegla problematiska antaganden. Mänskligt omdöme är fortfarande nödvändigt för att bedöma korrekthet, överväga etiska konsekvenser och säkerställa ansvarstagande för beslut som påverkar individer och samhället.

Utforska mer:

Är Dag Hammarskjölds liv och arv nytt för dig? Börja här.

Du kan köpa Saras prisbelönta biografi Decoding the Unicorn: A New Look at Dag Hammarskjöld på Amazon genom att klicka här! Simply Dag: The Private Man in a Public—and Dangerous—Office finns nu tillgänglig överallt där Amazon säljer böcker: https://a.co/d/0f9PAg9g.

Stig in i det privata rummet för läsare som ser bortom ytan. Prenumerera på nyhetsbrevet Unicorn Dispatch här: https://sara-causey.kit.com/2d8b7742dd.