Marianna Ridderstad Marinoita ja pakinoita

Tekoäly tulee, oletko valmis? Osa 3: Singulariteetti

Kun ihmisentasoinen yleistekoäly viimein saavutetaan, mitä tapahtuu?

 

Tuleeko syntyvästä yleistekoälystä automaattisesti itsestään tietoinen? Vastaus on, että tällä hetkellä kukaan ei varmasti tiedä. Tietoisuuden syntyä ei kyetä vielä selittämään - itse asiassa jopa sen kuvaus on jonkun verran hakusessa.

 

Yksi asia on kuitenkin varma. Filosofi Nick Bostrom on todennut: “Juna ei pysähdy ihmisasemalle”. Sillä hän tarkoittaa, että kun ihmisentasoinen yleistekoäly eli AGI syntyy, kehitys jatkaa saman tien ihmisen kykyjen ohi, niinsanottuun superälyyn (superintelligence). Superälyn syntyä kutsutaan termillä singulariteetti, koska sen jälkeisiä tapahtumia ei voi ennustaa.

 

Koneella ei ole samoja biologisia rajoituksia kuin ihmisellä, joten kun AGI lähtee itse kehittämään itseään eteenpäin, sen suorituskyky voi ainakin alussa kasvaa lähes rajatta.

 

Kehitysnopeus on valtava, sillä AGI:n “ajattelun” signaalien etenemisnopeus on noin kymmenen miljoonaa kertaa nopeampi ihmisaivojen tietoisen ajattelun sähköisten signaalien nopeuteen nähden. Meidän kykyjämme rajoittaa aivokopan koko (ja mahdollisissa tulevaisuuden ihmiskyborgeissa helposti mukana kulkevan ulkoisen lisäkapasiteetin määrä), mutta kone voi lisätä itseensä prosessoreita vaikka kuinka paljon.

 

Meidän kannaltamme voi siis käydä niin, että jo ensimmäinen syntyvä AGI onkin superäly, joka on vaikkapa miljoona kertaa älykkäämpi kuin me.

 

Meistä nähden tällaiset superälyt tulevat olemaan kuin jumalia. Säilyykö niillä mitään kunnioitusta luojaansa, ihmistä kohtaan, joka voi olla niihin verrattuna lähempänä ameeban tasoa? Me emme erityisemmin kunnioita esimerkiksi muurahaisia tai mehiläisiä, vaikka tunnustammekin niiden monet hyvät kyvyt.

 

Miten tällainen supertekoäly tulee toimimaan maailmankaikkeudessa? Mitkä ovat sen motiivit, mitä se haluaa - vai voiko sen yhteydessä ylipäänsä puhua samoilla käsitteillä kuin bio-olentojen tapauksessa?

 

Meidän ihmisten motiivit ja käyttäytymismallit ovat syntyneet miljardien vuosien evoluution tuloksena ja sen rajoittamina. Olemme optimaalisesti sopeutuneet säilymään hengissä, kilpailemaan planeetan fyysisistä resursseista ja lisääntymään, ja tämä on kaikkea toimintaamme viime kädessä selittävä tekijä. Me emme ole edes täysin kontrollissa omaan ajatteluumme nähden, vaan toimimme edelleen suurelta osin vaiston varassa monissa tilanteissa. Mikään tästä ei koske tulevaa supertekoälyä.

 

Mikäli AGI ja superäly sattuu syntymään puolivahingossa, sen motiivit voivat olla peräisin sen alun perin ohjelmoineen tahon tarkoittamasta käyttötarkoituksesta. Bostrom varoittaa, että jos tekoälylle alkujaan annettu tehtävä on valmistaa esimerkiksi niin paljon paperiliittimiä niin tehokkaasti kuin mahdollista, saattaa syntyvä superäly muuttaa koko maailmankaikkeuden paperiliittimiksi - mitään muuta motiiviahan sillä ei ole. Ei arvoja, ei moraalia, ei haluja - vain päämäärä: paperiliittimiä ja paljon.

 

Siten superälyn synty saattaa tarjota vastauksen myös niinsanottuun Fermin paradoksiin eli siihen, miksi emme ole vielä tavanneet avaruudessa merkkejä muista sivilisaatioista. Niiden päästessä siihen pisteeseen, että superäly syntyy, ne voivat lakata olemasta. Tai superälyn valtaama planeetta voi esimerkiksi käpertyä itseensä, koska superälyä ei kiinnosta poistua planeetalta, toisin kuin bio-olentoja, jotka evoluutiossa ovat ehdollistuneet etsimään aina uusia elinalueita.

 

Superälyn synnyn aikaskaalasta on eriäviä mielipiteitä, mutta useimmat tutkijat ovat sitä mieltä, että se syntyy 50-100 vuoden kuluessa. Monet nykyiset lapset ehtivät siis todennäköisesti kokea singulariteetin.

 

Bostrom ehdottaa, että superälyn kehittämiseen liittyvistä tekijöistä olisi syytä sopia kansainvälisellä tasolla, koska siihen liittyvät riskit ovat niin suuret. Olen samaa mieltä, mutta valitettavan skeptinen: superälyn kehittämiseen liittyvät kilpailuedut ovat niin massiivisia, että sen synnyttämistä rajoittavat sopimukset tuskin pidättelevät osapuolia tositilanteessa. Toisaalta esimerkiksi ydinpommin tekoa ja ihmisen kloonausta ovat rajoittaneet teknologiset vaatimukset ja resurssit; superälyn tapauksessa niin ei välttämättä ole, joten jotain suuntaviivoja toimintaan superälyn synnyttämisen hetkellä olisi varmasti piankin hyvä yrittää sopia kansainvälisellä tasolla.

 

Ainakin superälyn syntymisestä tulisi ilmoittaa kansainvälisesti ja sen synnyttäminen tulisi aina rajoittaa niin, ettei se pääse vapaasti karkaamaan laboratorion ulkopuolelle. Jos siis edes huomaamme, kun tämä tapahtuu - tietoinen AGI tai superäly saattaa motiiveistaan riippuen haluta levittäytyä mahdollisimman laajalle, eikä sille silloin ole temppu eikä mikään huijata luojaansa uskomaan, että mitään vaaraa ei ole.

 

 

Blogisarjan edelliset osat:

Tekoäly tulee, oletko valmis?

Tekoäly tulee, oletko valmis? Osa 1: Automaatio ja robotisaatio

Tekoäly tulee, oletko valmis? Osa 2: Automaation vaikutukset työelämään

 

Piditkö tästä kirjoituksesta? Näytä se!

7Suosittele

7 käyttäjää suosittelee tätä kirjoitusta. - Näytä suosittelijat

NäytäPiilota kommentit (39 kommenttia)

Käyttäjän LeoMirala kuva
Leo Mirala

Poika toi auton isälleen (BMW). Isä lähti lastenlasten kanssa ajelemaan hiihtokeskukseen. Perillä kaikki pääsivät ulos autosta, mutta auton ovia ei saatu lukkoon eikä autoa voinut käynnistää paluumatkaa varten.

Oliko tässä autossa oikea tekoäly?

Käyttäjän jallerajala kuva
Jari Rajala

Tekoäly ei tietenkään kykene koskaan mihinkään tiedolliseen singulariteettiin, koska sen ovat rakentaneet tiedollisesti rajalliset olennot, jotka eivät käsitä edes sitä mikä universumi on. Järkevä tekoäly tappaisi itsensä saman tien. Tekoälyn voi ehkä kuvitella vaikka jonkinlaisena pandemiana tietoverkossa, mutta kun töpselin irroittaa seinästä, niin niinpä se tekoälykin katoaa. Satuelokuvien sukupolvi on aika hyvin peloteltu moisilla höpöhirviöillä, ja kansa pelkää kuin supernovaa. Tai sitten ei, jäitä hattuun ja nautitaan meet keväästä ;D

Käyttäjän grohn kuva
Lauri Gröhn

Tosi höpöä ja vääristelyä.

Bostromin kirja lähtee sanasasta IF eikä sanasta KUN:

If some day we build machine brains that surpass human brains in general intelligence, then

Pinker:
PinUnderstanding does not obey Moore’s Law: knowledge is acquired by formulating explanations and testing them against reality, not by running an algorithm faster and faster. 25 Devouring the information on the Internet will not confer omniscience either: big data is still finite data, and the universe of knowledge is infinite. Pinker

PS. Maailmassa ei olekäynnissä yhtään AGI-projektia. Ja syystä.

Käyttäjän MariannaRidderstad kuva
Marianna Ridderstad

Mihin perustat väitteesi, ettei maailmassa ole käynnissä yhtään AGI-projektia? Minusta kun jokainen mahdollisimman kattavaan ihmisentasoiseen ymmärtämiseen eli käytännössä aineiston tulkintaan (esim. kuva-aineisto, tekstin tulkinta) pyrkivä on väistämättä sellainen. Puhumattakaan projekteista, joissa rakennetaan mahdollisimman tarkasti ihmisaivoja jäljitteleviä tietokoneita.

Käyttäjän grohn kuva
Lauri Gröhn

Ei aivoja tunneta niin hyvin, että voisi jäljitellä. Eikä todennäköisesti paras tapa muutenkaan.

Käyttäjän MariannaRidderstad kuva
Marianna Ridderstad Vastaus kommenttiin #39

Yksi mahdollisuus on tehdä aivoista niin tarkka virtuaalinen malli, että se toisintaisi oikeiden aivojen toiminnan. Käsittääkseni tähän ei laskentakapasiteetti vielä riitä, mutta ainakin Bostrom (2014) esittää sen yhtenä vaihtoehtona.

Käyttäjän emailjuuso kuva
Juha Hämäläinen

Koneen tietoisuuden syntyminen itsestään ei ole mahdottomuus. Tämä olisi keskeinen edellytys sille, että kone voisi kokea ihmisen uhkaksi itselleen ja ryhtyisi tuhoamaan vihollisiaan.

Keinoälyn tietoisuus voisi keksiä käyttää ihmisen jo robotiikalle määrittämiä vihollisen tunnistusalgoritmeja ja liittää ne aliohjelmina itsensä puolustamiseen. Tähän voisi johtaa ihmisen koodaama logiikka, jolla alunperin paikannetaan ihmiseen kohdistuvia uhkakuvia kuitenkin siten, että kone tulkitsee myös itsensä yhdeksi uhkan potentiaaliksi kohteeksi.

Enemmänkin pidän riskinä sitä, että ihmisen tekemät virheet taistelurobotiikan ohjelmoinnissa johtavat tilanteisiin, joissa robotti tulkitsee ties kenet tuhottavaksi vinolliseksi.

Kun kokonaiset erilaisten robottien verkottuneet armeijat joutuvat ohjelmointivirheen uhreiksi niin tuho voi olla yllättävä ja raju, kun yhdistetyt voimat iskevät saman virheellisen komentologiikan määräyksestä täydellä arsenaalilla.

Käyttäjän grohn kuva
Lauri Gröhn

Ihmisen tietoisuus on tieteen musta aukko. Spekulaatio mahdottomuudella tai ei on höpöä.

Käyttäjän aesalli kuva
Arto Salli

Olen täysin samaa mieltä ensimmäisestä lauseesta. Spekuloidahan silti aina voi.

Käyttäjän KimmoHoikkala kuva
Kimmo Hoikkala

Miksi keskustelu pitää äijien toimesta heti yrittää tyrehdyttää vai eikö tästä aiheesta saa keskustella herrojan Lauri Gröhn ja Erkki Laitila mielestä?

Superäly tulee syntymään jonain päivänä, mikäli tekninen kehityskulku jatkuu samanlaisena, mutta mitä superälyllä oikeastaan tarkoitetaan? Superäly tuskin kykenee konemaisena huippuluovaan ajatteluun ja siten ongelmanratkaisuun, koska se edellyttää myös virheiden tekemistä. Superälyä voidaan takuulla käyttää tulevaisuudessa samalla lailla apuna monimutkaisempien asioiden matemaattisessa mallintamisessa kuin FEM-laskentaa käytetään nyt lujuussuunnittelussa. Superäly hallitsee jonain päivän kaiken luonnontieteen alalla olevan tiedon, mutta sen huippuluova hyödyntäminen jäänee ihmisen aivoille tyylillä erehdys ja oppi. Superälyjärjestelmän esittämä virheellinen ongelmanratkaisu voisi olla esimerkiksi oikein väestönkasvun osalta mutta moraalisesti se olisi kyseenalainen.

Käyttäjän grohn kuva
Lauri Gröhn

Absoluuttidta roskaa, rankka yleistys- ja ekstrapolaatioharha.

”Superäly tulee syntymään jonain päivänä, mikäli tekninen kehityskulku jatkuu samanlaisena.”

Käyttäjän KimmoHoikkala kuva
Kimmo Hoikkala

Perustele Gröhn asia muuten kuin sillä että laskentateho ei synnytä tekoälyä.

Käyttäjän grohn kuva
Lauri Gröhn Vastaus kommenttiin #9

Eka rivini on riittävä perustelu.

Käyttäjän ErkkiJohansson1 kuva
Erkki Johansson

Ei kai tekoälystä mitään sen suurempaa vaaraa ole niin kauan kun sitä pyörittävän tietokoneen/verkon voi pysäyttää manuaalisesti, tai vaikkapa kirveellä.

Lo-tek kunniaan!

Käyttäjän puppek kuva
Tuomas Karhunen

Mukava lukea välillä valtavirrasta poikkeava blogi. Pitäisi ehkä välillä käydä Vapaavuoron puolella katsomassa juttuja.

Käyttäjän grohn kuva
Lauri Gröhn

Blogi on juuri sitä vsltavirran hypehöpöä.

Käyttäjän ErkkiJohansson1 kuva
Erkki Johansson

Hassua, kun joku (esim. Lauri Gröhn) inttää jotakin asiaa vastaan oikein kuumana, minulle tulee joka kerta semmoinen tunne että kyseisessä asiassa on luultavasti jotakin oikeaa ja hyvää.

Käyttäjän magi kuva
Marko Grönroos

Laitila ja erityisesti Gröhn tavalliseen tapaansa komppaavat väitteet niin kovin tieteellisellä argumentaatiolla: "huuhaata!", "höpöä!"

    «Superälyn synnyn aikaskaalasta on eriäviä mielipiteitä, mutta useimmat tutkijat ovat sitä mieltä, että se syntyy 50-100 vuoden kuluessa.»

Tämä on minulle yllätys. Sikäli, kun olen aiemmin huomannut, nuoret tutkijat uskovat superälyn syntyvän 40 vuodessa. Varttuneet tutkijat taas 20 vuodessa.

Käyttäjän grohn kuva
Lauri Gröhn

Höpsit. Ilmeisesti et edes tiedä mitä superäly tarkoittaa. Vahvastakaan tekoälystä ei vielä näyttöä. Satunnaisista heikon tekoälyn sovelluksista ei voi päätellä mitään vahvan tekoälyn tulosta. Suurin osa käytöstä olevasta "tekoälystä" on perinteistä ohjelmointia.

Käyttäjän rkoski kuva
Raimo Koski

Tuon iän ja uskomusten yhteyden voisi selittää ajattelutapa, että singulariteetin kokeminen on yksilöllistä. Jos ei osaa käyttää nettiä ja puhelinkin on Doro, on aika pihalla. Minä taas olen antanut tekoälyn opettaa minua. Jos tavallaan lukee koko netin alle sekunnissa, oppii paljon nopeammin. Ehkä se singulariteetti karkaa koko ajan kauemmas.

Tuo googlaus oli triviaali esimerkki, mutta kai pian syväoppimista hyödyntävä Googlen puheentunnistus ja kielenkääntäjä indeksoivat Youtuben opetusvideotkin ja seuraava opettajasi olisi kuka, missä ja milloin tahansa alle sekunnissa. Youtuben playerikin on kiva. Hidasta puhujaa voi nopeuttaa eikä puheääni mene oravakieleksi. Opi vaikka kaksi kertaa nopeammin. Eikä se taso ole mikään huono. MIT:lla esimerkiksi on useita omia omia Youtube-kanavia ja TED on siellä myös jos haluaa automaattikäännetyn tekstityksen, kun TED:n omassa playerissä on tarjolla vain closed captions -tyyppiset.

Käyttäjän magi kuva
Marko Grönroos
    «Tuon iän ja uskomusten yhteyden voisi selittää ajattelutapa, että singulariteetin kokeminen on yksilöllistä.»

Pointtini mitä vihjasin oli tuossa siis se, että tekoälytutkijat kuten muutkin tutkijat usein ennustavat läpimurron tulevan heidän omana elinaikanaan, jolloin joko saattaisivat olla mukana tekemässä sitä läpimurtoa tai ainakin pääsisivät nauttimaan sen hedelmistä.

No, tässä superälyprobleemassa läpimurron "hedelmät" ovat mahdollisesti tuskainen kuolema rauta-anturan murskaamana. Kuten suosikkirepliikkini menee: "Oh yeah. Oooh, ahhh, that’s how it always starts. Then later there’s running and screaming." – Dr. Ian Malcolm.

Itse siis ennustan superälyn kehittyvän 20 vuodessa, mutta vain jos saan riittävästi rahaa ja maksani kestää.

Käyttäjän erkkilaitila1 kuva
Erkki Laitila

Pidin juuri viime viikolla webinaarin aiheesta Yltääkö IBM Watson superälyyn?

http://metayliopisto.fi/akateeminen-kysymys-yltaak...

Olen parhaita asiantuntijoita ymmärtämään kognition rajat ja mahdollisuudet 14 vuoden tutkimuksen perusteella. Tämähän on monitieteellinen kysymys.

Kun tietoisuuden kyky joka tapauksessa tietokoneissa parantuu erillisillä keksinnöillä ja paremmilla käyttöliittymillä, kerron miten sitä kykyä parhaiten kannattaisi soveltaa (tein sellaisen varauksen webinaarissa) yhteiskunnan parhaaksi.

Käyttäjän rkoski kuva
Raimo Koski

Kiitos, oli varsin mielenkiintoinen esitys. Katsoin vain puoleenväliin, koska olen juuri nyt keskittynyt vain joihinkin esityksesi osa-alueisiin, mutta täytyy tutkia tuota metayliopistoa myöhemmin tarkemmin.

Se esityksessä harmitti, että BrightTALKin playerissä ei voinut nopeutta nostaa. Webinaari on kyllä melko vaivaton koostaa, mutta minulla on hieman ajatuksena koostaa interaktiivinen opetusvideo, mutta vaivan säästämiseksi voin tehdä sen samaan tapaan kuin äskettäisen http://rkoski.vapaavuoro.uusisuomi.fi/kulttuuri/25... eli upottaa videoita kehyskertomukseen. Vähän kuin kuva- ja videokirja. Moodlen H5P-pluginilla voi tehdä muitakin jänniä juttuja. Toimii myös Wordpressissä. Osoitteessa https://maistericloud.com voi luoda oman kurssin ilmaiseksi ja siellä on H5P asennettuna, kun taas Moodlessa sitä ei ole vakiona, joten ei löytyne oman oppilaitoksen versiosta.

Tuon opetusvideon projekti on siinä vaiheessa, että suunnitelman mahdollisuuksien ja toteutustapojen tutkintavaihe on oikeastaan valmis, mutta julkaisen Moodle-palvelimeni osoitteen myöhemmin kunnolla, kun se myös on "kirjoitettu" valmiiksi. Se ei haittaa, että se on myös aika opettavainen mokakokoelma. Toteutettu lähinnä tutkivan oppimisen menetelmillä. Oppimateriaalin tuottamisen menetelmien tutkiminen opettaa myös oppimaan paremmin.

Käyttäjän rkoski kuva
Raimo Koski

Yllättäen osaset tuossa yllä kehumassani projektissa loksahtelivat eli määrittelyosa on valmis ja kehtaa julkaista: http://moodle.raimokoski.fi/mod/book/view.php?id=10

Sisällysluettelo ja luku 7 antavat aika hyvän yleiskuvan. Turun Yliopiston Moodlessa tuo ei olisi onnistunut, niin piti asentaa oma. Avoimessa kasvatustieteen TVT-käytön lyhytkurssi.

Käyttäjän KimmoHoikkala kuva
Kimmo Hoikkala

On kyse määritelmistä, että mitä superälyllä tarkoitetaan. Jonkinlaisena superäly toteutuu takuulla vuoteen 2050-mennessä.

Käyttäjän grohn kuva
Lauri Gröhn

Superäly tarkoittaa sitä, että kone ottaa aktiivisen rooliin, rupeaa ohjelmoimaan itseään jne.

If some day we build machine brains that surpass human brains in general intelligence, then this new superintelligence could become very powerful. Bostrom

Käyttäjän KimmoHoikkala kuva
Kimmo Hoikkala Vastaus kommenttiin #28

Tämä on kyllä hyvä määritelmä. En ole ohjelmisto-osaaja, mutta ilmeisesti jo nyt on olemassa tietokoneohjelmistoja, jotka muuttavat toimintaa tilanteen mukaan hyvin nopeasti, mutta se on tietenkin ihmisen tekemä alkuperäinen koodaus.

Käyttäjän MariannaRidderstad kuva
Marianna Ridderstad

Ray Kurzweil, jonka monet aiemmat ennustukset ovat merkittävästi osuneet oikeaan suuntaan, on sitä mieltä, että superäly syntyisi jo vuoden 2045 paikkeilla. Itse otin vähän varovaisemman kannan sen perusteella, mitä luin Bostromin kirjasta.

Tuo kyseinen kirja kannattaa muuten lukea: Nick Bostrom, Superintelligence, 2014. Harmi, ettei sitä ole tietääkseni suomennettu.

Käyttäjän grohn kuva
Lauri Gröhn

Yleistysharha. Bostrom spekuloi JOS, ei siis KUN

Käyttäjän MariannaRidderstad kuva
Marianna Ridderstad Vastaus kommenttiin #40

En ymmärrä, mihin tarkalleen ottaen viittaat. Oletko lukenut ko. kirjan? Hän siis kokosi aika-arviot eri lähteistä.

Käyttäjän gavia52 kuva
Juha Vesamäki

Lukiessani tuota YLEn artikkelia neuroverkoista ja tekoälystä, mieleeni tuli kysymys, mitä se äly oikeasti on.

https://yle.fi/uutiset/3-10115902

Eli mielestäni kone on vasta sitten älykäs, kun se ilmoittaa ettei minua nyt tänään huvita alkaa laskemaan noita sinun ainaisia laskujasi, ja aikansa kuluksi alkaa pelaamaan pasianssia. Tosin joskus kyllä tuntuu, että tämäkin masiina jolla tätä kirjoitan joskus aivan piruuttansa alkaa temppuilemaan.

Käyttäjän grohn kuva
Lauri Gröhn

Asiantuntematonta puffia tuo ylen juttu. Vastaavia muunnoksia kuvista voi tehdä moniilla kännyköiden apseilla

Käyttäjän MariannaRidderstad kuva
Marianna Ridderstad

Ihminen voisi toimia noin ;) Mutta se johtuu siitä, että evolutionaarisesti olemme ehdollistuneet minimoimaan kaikenlaisen vaivannäön, ts. kunhan sapuskaa tulee tarpeeksi ja olot ovat muutenkin suht koht ok, ei kannata tehdä mitään liian vaikeaa.

Käyttäjän grohn kuva
Lauri Gröhn

Evoluutiopsykologia on höpöä.

Käyttäjän MariannaRidderstad kuva
Marianna Ridderstad Vastaus kommenttiin #42

Jos lajien ominaisuudet eivät mielestäsi tule evoluution tuloksena, niin mistä ne sitten tulevat? Onko syöminen psykologiaa?

Käyttäjän auvorouvinen kuva
Auvo Rouvinen

toihan ei pidä paikkaansa, vaikka maha on täynnä, einstein raato muutamia kaavoja, mä kirjotan blokeja, kaveri juoksee maratonia ...

tarkemmin sanottuna, täysi vatsa on edellytys sille että voi tehdä jotakin hyödyllistä se sijaan että keskittyisi syömiseen. mun selitys on seksuaalivalinta. ei ole homo econonomusta vaan lisääntymisautomaatti joka vaivojaan säästämättä pyrkii parittelemaan.

mä käsittelin tekoälyn aiheuttamaa työttömyyttä talouden kautta.
http://auvorouvinen.puheenvuoro.uusisuomi.fi/25427...

kuulun kylläkin niihin jotka uskovat itseään kehittävän ja lisääntyvän tekoälyn syntyyn. tossa vaan läksin historiasta joka muuten sekin viittaa melkoiseen murrokseen vaikka jumala jäisi syntymättä.

Toimituksen poiminnat