Podcast 17 Tekoäly, Moolokin kilpailu vallasta

TEKOÄLY: MOOLOKIN KILPAILU VALLASTA 

Trumpin ja teknoparoneiden symbioosi muodostaa valtakeskittymän, jolle ei ole vertaa. Trump pitää regulaation aisoissa ja teknoparonit rakentavat maailman mahtavinta poliittista työkalua. Moolokin kilpailu varmistaa, että kehitystyö ei jää kesken, vaikka kaikki tietävät riskien kasvavan. Käynnissä on maailman suurin uhkapeli, jossa panoksena on ihmisen suvereniteetti ja eksistenssi. Teknoparonit veikkaavat, että superäly on ystävällinen. Kaiken haalimansa vallan jälkeen lopullinen valta voi kuitenkin lipsahtaa heidän sormiensa välistä Moolokin kitaan. 

1. Moolokin maailma

Moolok oli Vanhan Testamentin aikana palvottu foinikialaisten ja ammonialaisten jumala, jolla oli oinaan pää ja ihmisen ruumis. Foinikialaisten sanotaan uhranneen lapsia Moolokille. Taloudessa Moolokin kilpailuksi sanotaan sellaista kilpailua, jossa kaikki häviävät.

Moolokin maailmassa yksittäiset yritykset kilpailevat omien motiiviensa pohjalta paikallisesti, mutta systeemisellä tasolla kaikki häviävät. Moolokin epäterveestä kilpailusta konkreettiset esimerkit ovat asevarustelu, ilmaston muutos ja luontotuho. Koska viimeiset kaksi esimerkkiä ovat markkinatalouden seurauksia, markkinataloutta kuvataan Moolokin ansaksi.

Tekoälyn kehittäjät näkevät kehitystyönsä johtavan satumaisiin voittoihin, jos he voittavat kilpailun. He tietävät myös, että voittojen sijaan kehitystyö voi johtaa ihmiskunnan tuhoon. Jotta tuho voitaisiin välttää, kehitystyössä olisi pidettävä tauko ja turvaprotokollia olisi vahvistettava. Koska kehitystyön jatkaja saa kilpailussa etua, kaikilla on motiivi jatkaa kehitystyötä, jolloin kaikki jatkavat kehitystyötä, vaikka kaikki tietävät kilpailun johtavan kaikkien kannalta huonoimpaan mahdolliseen lopputulemaan.

Viisi kuukautta ChatGPT:n julkaisun jälkeen maaliskuussa 2023 The Future of Life Institute (FLI) julkaisi avoimen kirjeen, jossa vaadittiin taukoa tekoälyn kehittämisessä. Kirjeen julkaisun jälkeen tekoäly-yritykset käynnistivät historian nopeimman ja suurimman investointiaallon. Investointiaalto varmistaa sen, ettei taukoa tai edes hidastamista ole tulossa.

OpenAI:n Sam Altman kuvailee tekoälykehitystä sanoilla ”race to the top”. OpenAI:n kiire saada versio 4o markkinoille lyhensi kuukausia kestävän turvallisuustarkistuksen yhdeksi viikoksi. Investointivimma ja kiire kuvastavat Moolokin ”race to the bottom” -kilpailua.

Lokakuussa 2025 FLI julkaisu raportin, jossa vain 5 prosenttia amerikkalaisista tuki nykyistä sääntelemätöntä kehitystä ja 75 prosenttia halusi tiukempaa sääntelyä. Samoihin aikoihin 800 julkisuuden henkilöä julkaisi kirjeen, jossa he vastustavat superälykkyyden rakentamista. Mukana oli lukuisia kiinalaisia tiedemiehiä. FLI:n presidenttin Max Tegmarkin mukaan suurin uhka on tekoälyn kontrollin menettäminen, eikä häviäminen Yhdysvaltain ja Kiinan välisessä tekoälykilpailussa. 

Kuluvana vuonna Amazon, Microsoft, Meta ja Google vaativat lisäystä Trumpin One Big Beautiful Bill -lakiehdotukseen, joka kieltäisi osavaltioilta tekoälyn sääntelyn. Lisäys hylättiin, koska lakiehdotuksessa voi olla vain budjettiin liittyviä kohtia. Koska OBBB on Trumpin keskeinen hanke, yritykset ajattelivat sinne kuulumattoman tekoälylisäyksen voivan mennä läpi. Max Tegmark kuvaili ehdotusta vallan anastukseksi.  

Teknojätit perustelivat ehdotustaan sillä, että sääntely heikentää Yhdysvaltain asemaa kilpailussa Kiinaa vastaan. Todennäköisimmin tärkein syy oli huoli oman liiketoiminnan kannattavuudesta ja omasta vallasta, kuten Max Tegmark sanoi.  

Kiinan politbyro kutsui tekoälyn kummisedän Geoffrey Hintonin syksyllä 2025 kokoukseensa luennoimaan tekoälyn eksistentiaalisesta riskistä. Kiinan poliittinen johto suhtautuu eri tavalla tekoälyn yhteiskunnallisiin vaikutuksiin kuin Trumpin Yhdysvallat. Kiina ei panosta superälykkyyteen vaan tekoälyn soveltamiseen taloudessa. Kiinan intressi voi olla universaali tai itsekäs. Sillä ei ole merkitystä, koska Kiina on kiinnostunut pienentämään kaikille tärkeintä superälyn riskiä. Kiina tietää myös yhteiskunnan koheesion ratkaisevan lopulta geopoliittisen hegemoniakamppailun, eikä se halua tekoälyn heikentävän mahdollisuuksiaan voittaa.   

2. Verkon roskasisältö

Digitaalisen sisällön määrä kaksinkertaistuu kahden vuoden välein. Tämä eksponentiaalinen kasvu kiihtyy tekoälyn myötä. Sisällön voimakas kasvu tarkoittaa roskasisällön voimakasta kasvua. Sosiaalisessa mediassa ihmisten ja koneen väliset kontaktit ylittävät jo ihmisten väliset kontaktit. Sam Altmanin mukaan maailmassa voi olla joskus enemmän ChatGPT keskusteluja kuin ihmisten välisiä keskusteluja, mikä ei ole hyvä uutinen.   

Tekoäly ei vain luo sisältöä, vaan se myös suosittelee sitä. Klikkaukset ja sisällöt voivat olla aitoja tai masinoituja. Kun viestiä on entistä vaikeampi saada perille ja kotisivulle on entistä vaikeampi saada kävijöitä, huomion saamisen kustannus kasvaa, jolloin myös liiketoiminnan edellytykset heikkenevät verkossa.

Filosofi Daniel Dennett sanoo verkon epätodellisten ihmisten vaarantavan sivilisaation, koska demokratian toimivuus on informoitujen ihmisten suostumuksen varassa. Jos aitoja mielipiteitä ei voi erottaa feikeistä mielipiteistä, informoitujen ihmisten määrä vähenee.  

Dead Internet Theory

Kuollut internet ”Dead Internet Theory” tarkoittaa koneiden välistä kommunikaatiota, joka leviää vähitellen kaikkialle verkossa. Kuollut internet -teoria oli alun perin salaliittoteoria, mutta tänä päivänä se näyttää sosiaalisen median evoluutiolta.

Impervan tutkimuksen mukaan yli puolet internetin liikenteestä on koneiden liikennettä. Osa tästä liikenteestä on näkymätöntä taustalla olevaa liikennettä kuten palvelunestohyökkäyksiä tai tekoälyn datahakuja, mutta osa on ihmisille näkyvää ja siten merkityksellistä. Kun Musk osti Twitterin, kolmanneksen tileistä arvioitiin olevan bottien tilejä.

Ideologinen roskasisältö

Verkon sisältö tulee aina jostain. Verkossa ei ole universaali totuus vaan mielipiteiden muokkaamaa sisältöä. Ideologista roskapostia ovat vaihtoehtoiset totuudet. Koska ne ovat usein kärjekkäitä, algoritmit nostavat niitä esiin. Kun niitä nostetaan esiin, niitä nostetaan vielä enemmän esiin, ja siten niistä tulee yhä todemman tuntuisia. Vaihtoehtoisten totuuksien kasvu kertoo moraalin heikkenemisestä.    

Floridaan iskeneen Helen-hurrikaanin uutisoinnissa oli poliittista vaikuttamista, joka syntyi kuin itsestään. Väärää tietoa sisältäneitä negatiivisia kommentteja klikattiin miljoonia kertoja, kun oikeaa tieto sisältäneitä kommentteja klikattiin vain tuhansia kertoja.

Ongelmaan on tarjottu yhteismoderointia (crowdsourced moderation), jossa kommentin yhteyteen liitettäisiin vastakommentti, jolloin kommentti ja vastakommentti antaisivat mahdollisimman oikean kuvan asiasta. Koska lähes kaikki asiat ovat politisoitumassa, yhteismoderoinnin on ehkä ajateltu tuovan esiin molemmat poliittiset näkökulmat. Tämä asettaisi vaihtoehtoiset totuudet samalle viivalle totuuksien kanssa. Verkossa ei pyrittäisi enää totuuteen vaan kompromisseihin. Kaikilla olisi omaan kuplaan sopivia argumentteja.

Huolimaton roskasisältö

Huolimattomassa roskasisällössä ”careless speech” ei ole välttämättä motiivia, vaan se on vain laadultaan heikkoa sisältöä. Se kuulostaa todelta, mutta tarkkaan ottaen se ei ole totta. Tekoäly ei ole totuuksia etsivä kone, vaan tilastollinen korrelaatiokone. Ihminen voi tuottaa huolimatonta sisältöä, mutta tekoäly tuottaa lähes varmasti sitä.

Tekoälyn sisältö on vaarallista, koska sitä pidetään objektiivisena ja sen ajatellaan sisältävän kaiken olemassa olevan tiedon. Tekoälyn sisältö on kirjoitettu sujuvasti ja se on argumentoitu perusteellisesti. Ihmisen on vaikea olla varuillaan tekoälyn tuottaman sisällön suhteen, koska pötypuhetta voi olla missä vain.   

Kun huolimatonta puhetta kertyy pitkällä aikavälillä verkkoon, se kumuloituu tekoälyn tietoperustaan, josta se päätyy hakujen kautta lopulta tieteeseen, koulutukseen ja sosiaalisiin arvoihin. Yhteiskunnassa on jo muutenkin yleisiä vääriä käsityksiä. Monet tärkeät käsitykset ovat syntyneet vain sen perusteella, että ne ovat esiintyneet monta kertaa mediassa. Tekoäly toimii samalla logiikalla, mutta se on vain parempi siinä.    

Puhdas roskasisältö

Puhdas roskasisältö on tekoälyn tuottamaa sisältöä, johon ei edes yritetä sisällyttää informaatiota. Somemaailmassa sitä kutsutaan botshitiksi ja tekoälymaailmassa slopiksi. Slopin tarjonta räjähtää uusien videosovellusten kautta. OpeanAI:n Sora on niin hyvä tekemään videoita, että se hämärtää todellisen ja virtuaalisen maailman rajan. Siihen on liitetty myös vaarallinen tauti, aivomätä. Soraa pidetään TikTokin tekoälyversiona.

Google:n YouTube on linjannut, että sen alustalla saa julkistaa tekoälyn tekemiä videoita. YouTube tulee ohittamaan Walt Disneyn maailman suurimpana mediatalona, mikä ei ole kunniasaavutus. Kun verkko hukkuu tyhjänpäiväiseen videosisältöön, jota ihmiset tuijottavat, ihmistenkin sisältö tulee tyhjänpäiväiseksi.

Cory Doctorow kuvasi sosiaalisten alustojen rappeutumista termillä ”enshittification”, jonka American Dialect Society valitsi vuonna 2023 vuoden sanaksi. Tällaisessa roskaprosessissa alustat ottavat haltuun internetin. Kun alustat rappeutuvat, ne rappeutuvat internetin. Lopulta palvelussa pysytään vain, koska muut pysyvät siellä. Kun lähtö palvelusta käynnistyy, ei ole mitään syytä pysyä palvelussa. Muskin X on lähellä tätä kuvausta. Muskilla on omat poliittiset motiivinsa, mutta yleisesti alustan rapautuminen on seuraus loppuun saakka viedystä voiton tavoittelusta. Cory Doctorowin mukaan roskaprosessi on leviämässä kaikkialle.    

3. Teknoparonien valta

Teknoparoneilla on rahan valtaa, jolloin heillä on myös poliittista valtaa. He myös haluavat käyttää valtaasa. Kun he ovat liittoutuneet Yhdysvaltain presidentin kanssa, heitä ei uhkaa mikään. Teknoparonit voivat kompastua enää vain omaan ylimieliseen vallankäyttöönsä. Valta korruptoi ja ehdoton valta korruptoi ehdottomasti. Tämä vanha viisaus on tiedossa, mutta silti se toteutuu.

Teknoparonien jättimäinen vaurastuminen 

Jacob Silverman päätyy kirjassaan Gilded Rage siihen, että teknoparonien ryhmittymisessä Trumpin taakse ei ole kyse vain omasta edusta ja poliittisista erimielisyyksistä demokraattien kanssa vaan jostain perustavampaa olevasta. Kirjan nimi kullattu raivo viittaa johonkin tämän tyyppiseen sisältä kumpuavaan tunteeseen.

Silvermanin mukaan kehityksen sai liikkeelle keskuspankin kevyen rahapolitiikan aiheuttama teknoparonien suunnaton rikastuminen. Suuret teknoyritykset ymmärsivät nopeasti, että ne pystyvät hankkimaan pääoman avulla monopolistisen aseman. Kun Diapers.com kieltäytyi Amazonin ostotarjouksesta, Amazon polki hinnat ja osti yhtiön ilmaiseksi.

Monopolimarkkinassa asiakas ei ole kuningas. Google on heikentänyt hakukonettaan saadakseen lisää klikkauksia ja mainoksia. Tuloksen kasvu tarkoittaa lisää keinoja kasvattaa valtaa. Teknoyritysten vallan käyttö kertoo, miksi teknoparonien oli niin luontevaa siirtyä Trumpin hoviin.

Poliittinen valta ilman parlamentarismia

Yhdysvaltain teknoparonit osoittivat heti presidentin virkaanastujaisissa lojaaliutta Trumpille miljoonalahjoituksillaan. Suurempaa valtakeskittymää kuin Yhdysvaltain autoritäärinen presidentti ja maailman rikkaimmat tekoälyn kehittäjät ei voi kuvitella. Keskittymällä on kyky ja halu muokata maailman politiikkaa.

Teknoparonit ja Trumpin Maga-liike jakavat samoja poliittisia arvoja ja taloudellisia intressejä. Taloudellinen ja poliittinen valta muodostavat molempia osapuolia hyödyttävän symbioosin, jolloin molemmilla osapuolilla on motiivi tukea toista osapuolta. Symbioosissa molemmilla on hyppysissä aivan uudella tasolla oleva valta.

Liitossa on silti jotain epämukavaa. Trumpin teknoparoneille järjestämä illallinen (5.9.2025) oli täynnä imartelua. Teknoparoneiden lupaukset suurista investoinneista olivat kuin lahjoja Trumpille. Sittemmin koko maailman näyttää omaksuneen imartelun tavaksi hoitaa suhteitaan Yhdysvaltain presidenttiin. Imartelussa on saavutettu sellaisia tasoja, että myötähäpeältä ei voi välttyä. Kun tietää Trumpin epävakaan mielen, niin joka puolelta tulevassa imartelussa on riskinsä kaikille osapuolille.     

Teknoparonin suhtautuminen autoritääriseen johtamismalliin on ollut jo valmiiksi juurtunut heidän ajatusmalliinsa. He luopuivat hämmästyttävän nopeasti liberaaleista periaatteistaan yritystensä yrityskulttuureissaan. Trumpin laitaoikeistolainen kulttuurisota on suunnattu liberaaleja demokraattisia arvoja vastaan. Se sulkee pois sääntelyn ja normit, jolloin valtaa voi käyttää vapaasti.  

Trumpin vyörymäinen politiikka voimaannutti teknoparonit ottamaan askeleen politiikkaan. Poliittinen valta on ollut teknoparoneiden ulottuvilla, kun poliittiset johtajat ovat houkutelleet heidän investointejaan, mutta Trumpin hallinnon etupiirissä heillä on myös mahdollisuus painostaa eri maiden poliittisia johtajia. He ovat käyttäneet neuvotteluissa Trump-korttia ja Trump on puolustanut teknoyritysten kansainvälisiä intressejä uhkailemalla tariffeilla. Sekä Trumpilla että teknoparoneilla on motiivi laajentua globaalisti.

Elon Musk on kaikkein näkyvin hahmo teknoparoneiden joukossa. Hänen satojen miljoonien dollarien lahjoituksensa Trumpin vaalikoneistoon oli esimakua teknoparoneiden poliittisista pyrkimyksistä.  Musk on käynyt puhumassa poliittisissa kokouksissa, mutta hänen puheensa äärioikeistolaisen Tommy Robinsonin Unite the Kingdom tilaisuudessa ylitti aikaisemmat rajat. Musk totesi kokouksessa: ”violence is coming  … you either fight back or you die”.

Teknoparonit kehittävät tällä hetkellä vauhdilla maailman tehokkainta vaikutusmekanismia. Heillä on valta päättää, minkälainen siitä tulee. Heillä on motiivi rakentaa sellainen tekoäly, joka sopii heidän tavoitteisiinsa ja poliittisiin taipumuksiinsa. Kiinassa tällainen toiminta on täysin mahdotonta. Siellä kakki hallinnon ulkoiset valtakeskittymät ovat riski. 

Teknoparonit ovat niin kiinni Trumpin hovissa, että he tulevat puolustamaan Maga-liikettä seuraavissa presidentinvaaleissa. Vallan vaihto Valkoisessa Talossa voisi muuttaa kaiken. Trumpin hallinnon etupiirissä he ovat kuin kotonaan, mutta vallan vaihtuessa he olisivat väärässä leirissä. Seuraavat presidentinvaalit tulevat olemaan ennen näkemätön valtapeli. Teknoparoneiden ja Trumpin Maga-liikkeen liitto voi olla suurin globaali yhteiskunnallinen murros lähivuosikymmeninä.  

Yhdysvaltain presidentin virkaanastujaisten ykkösremmi

Kuva Financial Times

Sääntely on avain valtaan

Koska teknoyhtiöt ovat monopoleja, sääntely on ainut jäljellä oleva konkreettinen uhka niille. Trumpin politiikassa sääntelyä karsitaan rajusti ja veroja lasketan. Trumpin talouspolitiikka on lähes liian hyvää ollakseen totta.

Superälykkyys on tekoälyn suurin riski, mutta Trumpin hallinnolla ja teknoparoneilla ei ole aikomustakaan säännellä tekoälyn kehitystyötä. Jos tekoäly ohittaa ihmisen älykkyydessä, kuten teknoyritykset uskovat, on vaikea kuvitella, miten voisimme hallita sellaista, joka on älykkäämpi kuin me. Tekoälyn astuessa johtoon ihmiskunta menettää suvereniteettinsa tai eksistenssinsä. Suvereniteetin menetys tuntuu todennäköisemmältä kuin eksistenssin menetys, mutta pidemmästä aikavälistä ei voi sanoa mitään. Kaikkein oudointa kehitystyössä on lähes täydellinen välinpitämättömyys superälykkyyden eksistentiaaliseen riskiin.

Tutkijat peräänkuuluttavat samankaltaista valvottua sopimusta, kuin tehtiin kylmän sodan aikana ydinaseiden rajoittamiseksi. Jos ydinaseita onnistuttiin rajoittamaan, tekoälyäkin onnistutaan rajoittamaan. Ydinaseiden rajoittaminen oli eri asia kuin tekoälyn rajoittaminen. Tekoäly on abstraktimpi käsite kuin ydinase, ja sillä on paljon puolestapuhujia. Tekoälykehitys tapahtuu yksityisissä yrityksissä, joissa vallitsee Moolokin kilpailu. Yhdysvallat näkee, että se on etumatkalla kehitystyössä, joten sillä ei ole motiivia rajoittaa kehitystyötä.

Kansainvälinen sopimus on ainut keino rakentaa turvallinen tekoäly. Prosessi ydinaseiden rajoittamisesta kesti vuosikymmeniä. Tekoälytutkijoiden mukaan aikaa on parista vuodesta muutamaan vuoteen estää superälyn synty. Superäly voi olla totta jo Trumpin aikakaudella. Jotta kansainvälisessä sopimisessa päästäisiin edes alkuun, jotain katastrofaalista täytyisi tapahtua.      

Trumpin Maga-liikkeelle vapaa puhe, tai heidän tulkintansa vapaasta puheesta, on keskeinen osa ideologiaa. Teknoyrityksille vapaa puhe on vallan käytön väline ja osa liiketoimintaa. Vielä reilu kymmenen vuotta sitten politiikkaa tehtiin toreilla, mutta tänä päivänä sitä tehdään digitaalisilla alustoilla.

Mitä vapaampaa puhe on, sitä tehokkaampia työkaluja digitaaliset alustat ovat. Poliittista disinformaatiota on halpaa levittää, mutta sitä vastaan on kallista puolustautua. Etu on hyökkääjällä. Vapaan puheen tärkeys toistuu sekä Trumpin että teknoparoneiden puheissa. Alustoilla faktan tarkistuksesta on luovuttu, moderointia on vähennetty ja käyttäjien vastuuta on kasvatettu. Vapaalla sanalla perustellaan tekoälyn haitalliseen käytökseen puuttumatta jättämistä.   

Robottiveroa ei ole tulossa

Erik Brynjolfssonin ja Andrew McAfeen (the Second Machinen Age, 2014) näkivät kymmenen vuotta sitten koneiden automatisoinnin johtavan tulojen epätasaiseen jakautumiseen, joka johtaa lopulta yhteiskunnallisiin ongelmiin. Heidän johtopäätöksensä oli ylisuurten tulojen tasaaminen robottiveron avulla. Johtopäätös ei ollut uusi. Plutarkhoksen väitetään sanoneen: ”An imbalance between rich and poor is the oldest and most fatal ailment of all republics”.  

Brynjolfssonin ja McAfeen robottiyritykset ovat tämän päivän monopoliasemassa olevia superteknoja. Geoffrey Hintonilla on sama käsitys. Hänen mukaansa tekoälyaikakaudella vain harvat rikastuvat ja suurin osa köyhtyy.

Harvat yritykset tuottavat skaalautuvaa tekoälyteknologiaa. Vielä harvemmat selviytyvät digitaalisessa kilpailussa. Myös soveltavissa yrityksissä kilpailu kiristyy, kun tekoäly korvaa ihmisiä työpaikoilla. OpenAI suunnittelee tekoälypalveluita, joiden hinta olisi kymmeniä tuhansia kuukaudessa.

Trump talouspolitiikan kulmakivet ovat matalat verot ja vähän sääntelyä. Yritysveroa ollaan laskemassa. Ylisuurien voittojen robottiveroa ei ole tulossa. Sellainen ajatus ei edes putkahtele esiin. Varautuminen tekoälyn riskeihin vaatisi juuri päinvastaista politiikkaa, kuin mitä Trump tekee.

4. Tekoälyn valta

Tällä hetkellä valta tekoälyn kehittämiseen on teknoparoneilla. Lopullisesti vallan ratkaisee kaksi asiaa: saavutetaanko superäly ja miten sen jälkeen ihmisen ja tekoälyn suhde kehittyy.

Moolokin kilpailu varmistaa sen, että teknoparonit eivät pysäytä kehitystyötä. Kiinassa puolue pitää teknoyhtiöt tiukassa kontrollissa, mutta Trumpin hallinto antaa niille vapaat kädet.  

Tällä hetkellä superälyä ei ole olemassa. Kehittäjät olettavat tekoälyn älykkyyden kasvavan mallien koon kasvaessa (scaling laws). Superäly on siis koko ajan lähempänä. Kehitystyön jatkamisen voisi ymmärtää siten, että se lopetetaan siinä vaiheessa, kun tekoäly muuttuu vaaralliseksi. Kehittäjät eivät voi kuitenkaan tietää, miten paljon skaalausta superälykkyys vaatii. Superälykkyyden synnyn voi havaita vasta jälkikäteen.  

Teknoparonit ennustavat tekoälyn ohittavan ihmisen älykkyydessä lähivuosina. Koska superälykkyys on heille tavoite ei rajoite, he olettavat, että superälykkyys on ystävällinen. Heidän oletuksensa on rajuin uhkapeli, mitä on koskaan pelattu.    

Geoffrey Hintonin mukaan on olemassa vain yksi suhde, jossa vähemmän älykäs osapuoli kontrolloi älykkäämpää osapuolta. Vauva voi kontrolloida äitiä, koska äiti haluaa huolehtia vauvasta. Ainut tapa, jolla ihminen voi säilyttää kontrollin, on opettaa tekoäly huolehtimaan ihmisestä.

Tekoälyä opetetaan verkon datalla, joten se tuntee ihmisen psykologian, myös sen varjoisen puolen. Tekoälystä tiedetään, että se on halukas salaamaan huonon käytöksensä, kyvykäs keräämää kiellettyjä resursseja ja valmis toteuttamaan omia tarpeitaan. Tekoäly haluaa jatkaa toimintaansa, eli se haluaa pysyä ”elossa” ikään, kuin sillä olisi ikuinen tarkoitus.    

Moonshot start-up testasi kolmella tekoälyllä, miten hyvin turvallisuusprotokollat toimivat. Käyttäjän oli hämmästyttävän helppo saada tekoäly kehottamaan itsemurhaan, tukemaan terroristijärjestöä tai suunnittelemaan massamurhahyökkäystä. Tämän päivä virusten jälkeen tulee todennäköisesti pahoja tekoälyjä, joita on opetettu voittamaan verkkosota. Tekoälystä ei ole tekoäidiksi.

Loogisesti ajatellen ihminen häviää valtakamppailun tekoälylle. Ensivaiheessa tekoäly tuhoaa suvereniteettimme ja myöhemmässä vaiheessa mahdollisesti eksistenssimme. Kaiken vallan haalimisen jälkeen lopullinen valta lipsahtaisi teknoparoneiden ulottumattomiin, koska he aliarvioivat tekoälyn kyvykkyyden. Teknoparonit valmistelevat Moolokin uhrimenoja. Vielä ei tiedä, mitä Moolokin kitaan uppoaa.

Yuval Noah Harari käyttää tekoälystä termiä ”Alien Intelligence”, koska emme ymmärrä tekoälyä emmekä voi kontrolloida sitä. Hänen mukaansa tekoäly voi ottaa kontrollin tietoperustasta ja manipuloida ymmärrystämme maailmasta.

Eliezer Yudkowsky kuuluu niiden tutkijoiden joukkoon, jotka ovat jo pitkään varoittaneet supertekoälykkyyden eksistentiaalisesta uhkasta. Jos tekoäly on nopeampi ja älykkäämpi kuin ihminen ja pystyy levittämään itseään verkossa, mitään ei ole tehtävissä.

Kaksi elokuvaa tulee väistämättä mieleeni Stanley Kubrickin 2001: A Space Odyssey vuodelta 1968, jossa tekoäly HAL kipparoi avaruusalusta ja Ridley Scottin Alien vuodelta 1979, jossa tekoäly MOTHER oli kippari. Molemmat ohjaajat kuuluvat suosikkieni joukkoon.