Tekoäly tulee, oletko valmis? Osa 3: Singulariteetti
Kun ihmisentasoinen yleistekoäly viimein saavutetaan, mitä tapahtuu?
Tuleeko syntyvästä yleistekoälystä automaattisesti itsestään tietoinen? Vastaus on, että tällä hetkellä kukaan ei varmasti tiedä. Tietoisuuden syntyä ei kyetä vielä selittämään – itse asiassa jopa sen kuvaus on jonkun verran hakusessa.
Yksi asia on kuitenkin varma. Filosofi Nick Bostrom on todennut: “Juna ei pysähdy ihmisasemalle”. Sillä hän tarkoittaa, että kun ihmisentasoinen yleistekoäly eli AGI syntyy, kehitys jatkaa saman tien ihmisen kykyjen ohi, niinsanottuun superälyyn (superintelligence). Superälyn syntyä kutsutaan termillä singulariteetti, koska sen jälkeisiä tapahtumia ei voi ennustaa.
Koneella ei ole samoja biologisia rajoituksia kuin ihmisellä, joten kun AGI lähtee itse kehittämään itseään eteenpäin, sen suorituskyky voi ainakin alussa kasvaa lähes rajatta.
Kehitysnopeus on valtava, sillä AGI:n “ajattelun” signaalien etenemisnopeus on noin kymmenen miljoonaa kertaa nopeampi ihmisaivojen tietoisen ajattelun sähköisten signaalien nopeuteen nähden. Meidän kykyjämme rajoittaa aivokopan koko (ja mahdollisissa tulevaisuuden ihmiskyborgeissa helposti mukana kulkevan ulkoisen lisäkapasiteetin määrä), mutta kone voi lisätä itseensä prosessoreita vaikka kuinka paljon.
Meidän kannaltamme voi siis käydä niin, että jo ensimmäinen syntyvä AGI onkin superäly, joka on vaikkapa miljoona kertaa älykkäämpi kuin me.
Meistä nähden tällaiset superälyt tulevat olemaan kuin jumalia. Säilyykö niillä mitään kunnioitusta luojaansa, ihmistä kohtaan, joka voi olla niihin verrattuna lähempänä ameeban tasoa? Me emme erityisemmin kunnioita esimerkiksi muurahaisia tai mehiläisiä, vaikka tunnustammekin niiden monet hyvät kyvyt.
Miten tällainen supertekoäly tulee toimimaan maailmankaikkeudessa? Mitkä ovat sen motiivit, mitä se haluaa – vai voiko sen yhteydessä ylipäänsä puhua samoilla käsitteillä kuin bio-olentojen tapauksessa?
Meidän ihmisten motiivit ja käyttäytymismallit ovat syntyneet miljardien vuosien evoluution tuloksena ja sen rajoittamina. Olemme optimaalisesti sopeutuneet säilymään hengissä, kilpailemaan planeetan fyysisistä resursseista ja lisääntymään, ja tämä on kaikkea toimintaamme viime kädessä selittävä tekijä. Me emme ole edes täysin kontrollissa omaan ajatteluumme nähden, vaan toimimme edelleen suurelta osin vaiston varassa monissa tilanteissa. Mikään tästä ei koske tulevaa supertekoälyä.
Mikäli AGI ja superäly sattuu syntymään puolivahingossa, sen motiivit voivat olla peräisin sen alun perin ohjelmoineen tahon tarkoittamasta käyttötarkoituksesta. Bostrom varoittaa, että jos tekoälylle alkujaan annettu tehtävä on valmistaa esimerkiksi niin paljon paperiliittimiä niin tehokkaasti kuin mahdollista, saattaa syntyvä superäly muuttaa koko maailmankaikkeuden paperiliittimiksi – mitään muuta motiiviahan sillä ei ole. Ei arvoja, ei moraalia, ei haluja – vain päämäärä: paperiliittimiä ja paljon.
Siten superälyn synty saattaa tarjota vastauksen myös niinsanottuun Fermin paradoksiin eli siihen, miksi emme ole vielä tavanneet avaruudessa merkkejä muista sivilisaatioista. Niiden päästessä siihen pisteeseen, että superäly syntyy, ne voivat lakata olemasta. Tai superälyn valtaama planeetta voi esimerkiksi käpertyä itseensä, koska superälyä ei kiinnosta poistua planeetalta, toisin kuin bio-olentoja, jotka evoluutiossa ovat ehdollistuneet etsimään aina uusia elinalueita.
Superälyn synnyn aikaskaalasta on eriäviä mielipiteitä, mutta useimmat tutkijat ovat sitä mieltä, että se syntyy 50-100 vuoden kuluessa. Monet nykyiset lapset ehtivät siis todennäköisesti kokea singulariteetin.
Bostrom ehdottaa, että superälyn kehittämiseen liittyvistä tekijöistä olisi syytä sopia kansainvälisellä tasolla, koska siihen liittyvät riskit ovat niin suuret. Olen samaa mieltä, mutta valitettavan skeptinen: superälyn kehittämiseen liittyvät kilpailuedut ovat niin massiivisia, että sen synnyttämistä rajoittavat sopimukset tuskin pidättelevät osapuolia tositilanteessa. Toisaalta esimerkiksi ydinpommin tekoa ja ihmisen kloonausta ovat rajoittaneet teknologiset vaatimukset ja resurssit; superälyn tapauksessa niin ei välttämättä ole, joten jotain suuntaviivoja toimintaan superälyn synnyttämisen hetkellä olisi varmasti piankin hyvä yrittää sopia kansainvälisellä tasolla.
Ainakin superälyn syntymisestä tulisi ilmoittaa kansainvälisesti ja sen synnyttäminen tulisi aina rajoittaa niin, ettei se pääse vapaasti karkaamaan laboratorion ulkopuolelle. Jos siis edes huomaamme, kun tämä tapahtuu – tietoinen AGI tai superäly saattaa motiiveistaan riippuen haluta levittäytyä mahdollisimman laajalle, eikä sille silloin ole temppu eikä mikään huijata luojaansa uskomaan, että mitään vaaraa ei ole.
Blogisarjan edelliset osat:
Tekoäly tulee, oletko valmis? Osa 1: Automaatio ja robotisaatio
Tekoäly tulee, oletko valmis? Osa 2: Automaation vaikutukset työelämään
Poika toi auton isälleen (BMW). Isä lähti lastenlasten kanssa ajelemaan hiihtokeskukseen. Perillä kaikki pääsivät ulos autosta, mutta auton ovia ei saatu lukkoon eikä autoa voinut käynnistää paluumatkaa varten.
Oliko tässä autossa oikea tekoäly?
Ilmoita asiaton viesti
Pah, akku tyhjä.
Ilmoita asiaton viesti
Tekoäly ei tietenkään kykene koskaan mihinkään tiedolliseen singulariteettiin, koska sen ovat rakentaneet tiedollisesti rajalliset olennot, jotka eivät käsitä edes sitä mikä universumi on. Järkevä tekoäly tappaisi itsensä saman tien. Tekoälyn voi ehkä kuvitella vaikka jonkinlaisena pandemiana tietoverkossa, mutta kun töpselin irroittaa seinästä, niin niinpä se tekoälykin katoaa. Satuelokuvien sukupolvi on aika hyvin peloteltu moisilla höpöhirviöillä, ja kansa pelkää kuin supernovaa. Tai sitten ei, jäitä hattuun ja nautitaan meet keväästä ;D
Ilmoita asiaton viesti
Tosi höpöä ja vääristelyä.
Bostromin kirja lähtee sanasasta IF eikä sanasta KUN:
If some day we build machine brains that surpass human brains in general intelligence, then
Pinker:
PinUnderstanding does not obey Moore’s Law: knowledge is acquired by formulating explanations and testing them against reality, not by running an algorithm faster and faster. 25 Devouring the information on the Internet will not confer omniscience either: big data is still finite data, and the universe of knowledge is infinite. Pinker
PS. Maailmassa ei olekäynnissä yhtään AGI-projektia. Ja syystä.
Ilmoita asiaton viesti
Mihin perustat väitteesi, ettei maailmassa ole käynnissä yhtään AGI-projektia? Minusta kun jokainen mahdollisimman kattavaan ihmisentasoiseen ymmärtämiseen eli käytännössä aineiston tulkintaan (esim. kuva-aineisto, tekstin tulkinta) pyrkivä on väistämättä sellainen. Puhumattakaan projekteista, joissa rakennetaan mahdollisimman tarkasti ihmisaivoja jäljitteleviä tietokoneita.
Ilmoita asiaton viesti
Ei aivoja tunneta niin hyvin, että voisi jäljitellä. Eikä todennäköisesti paras tapa muutenkaan.
Ilmoita asiaton viesti
Yksi mahdollisuus on tehdä aivoista niin tarkka virtuaalinen malli, että se toisintaisi oikeiden aivojen toiminnan. Käsittääkseni tähän ei laskentakapasiteetti vielä riitä, mutta ainakin Bostrom (2014) esittää sen yhtenä vaihtoehtona.
Ilmoita asiaton viesti
Koneen tietoisuuden syntyminen itsestään ei ole mahdottomuus. Tämä olisi keskeinen edellytys sille, että kone voisi kokea ihmisen uhkaksi itselleen ja ryhtyisi tuhoamaan vihollisiaan.
Keinoälyn tietoisuus voisi keksiä käyttää ihmisen jo robotiikalle määrittämiä vihollisen tunnistusalgoritmeja ja liittää ne aliohjelmina itsensä puolustamiseen. Tähän voisi johtaa ihmisen koodaama logiikka, jolla alunperin paikannetaan ihmiseen kohdistuvia uhkakuvia kuitenkin siten, että kone tulkitsee myös itsensä yhdeksi uhkan potentiaaliksi kohteeksi.
Enemmänkin pidän riskinä sitä, että ihmisen tekemät virheet taistelurobotiikan ohjelmoinnissa johtavat tilanteisiin, joissa robotti tulkitsee ties kenet tuhottavaksi vinolliseksi.
Kun kokonaiset erilaisten robottien verkottuneet armeijat joutuvat ohjelmointivirheen uhreiksi niin tuho voi olla yllättävä ja raju, kun yhdistetyt voimat iskevät saman virheellisen komentologiikan määräyksestä täydellä arsenaalilla.
Ilmoita asiaton viesti
Ihmisen tietoisuus on tieteen musta aukko. Spekulaatio mahdottomuudella tai ei on höpöä.
Ilmoita asiaton viesti
Olen täysin samaa mieltä ensimmäisestä lauseesta. Spekuloidahan silti aina voi.
Ilmoita asiaton viesti
Ei kai tekoälystä mitään sen suurempaa vaaraa ole niin kauan kun sitä pyörittävän tietokoneen/verkon voi pysäyttää manuaalisesti, tai vaikkapa kirveellä.
Lo-tek kunniaan!
Ilmoita asiaton viesti
Mukava lukea välillä valtavirrasta poikkeava blogi. Pitäisi ehkä välillä käydä Vapaavuoron puolella katsomassa juttuja.
Ilmoita asiaton viesti
Blogi on juuri sitä vsltavirran hypehöpöä.
Ilmoita asiaton viesti
Äitis oli.
Ilmoita asiaton viesti
Hassua, kun joku (esim. Lauri Gröhn) inttää jotakin asiaa vastaan oikein kuumana, minulle tulee joka kerta semmoinen tunne että kyseisessä asiassa on luultavasti jotakin oikeaa ja hyvää.
Ilmoita asiaton viesti
Laitila ja erityisesti Gröhn tavalliseen tapaansa komppaavat väitteet niin kovin tieteellisellä argumentaatiolla: ”huuhaata!”, ”höpöä!”
«Superälyn synnyn aikaskaalasta on eriäviä mielipiteitä, mutta useimmat tutkijat ovat sitä mieltä, että se syntyy 50-100 vuoden kuluessa.»
Tämä on minulle yllätys. Sikäli, kun olen aiemmin huomannut, nuoret tutkijat uskovat superälyn syntyvän 40 vuodessa. Varttuneet tutkijat taas 20 vuodessa.
Ilmoita asiaton viesti
Höpsit. Ilmeisesti et edes tiedä mitä superäly tarkoittaa. Vahvastakaan tekoälystä ei vielä näyttöä. Satunnaisista heikon tekoälyn sovelluksista ei voi päätellä mitään vahvan tekoälyn tulosta. Suurin osa käytöstä olevasta ”tekoälystä” on perinteistä ohjelmointia.
Ilmoita asiaton viesti
Tuon iän ja uskomusten yhteyden voisi selittää ajattelutapa, että singulariteetin kokeminen on yksilöllistä. Jos ei osaa käyttää nettiä ja puhelinkin on Doro, on aika pihalla. Minä taas olen antanut tekoälyn opettaa minua. Jos tavallaan lukee koko netin alle sekunnissa, oppii paljon nopeammin. Ehkä se singulariteetti karkaa koko ajan kauemmas.
Tuo googlaus oli triviaali esimerkki, mutta kai pian syväoppimista hyödyntävä Googlen puheentunnistus ja kielenkääntäjä indeksoivat Youtuben opetusvideotkin ja seuraava opettajasi olisi kuka, missä ja milloin tahansa alle sekunnissa. Youtuben playerikin on kiva. Hidasta puhujaa voi nopeuttaa eikä puheääni mene oravakieleksi. Opi vaikka kaksi kertaa nopeammin. Eikä se taso ole mikään huono. MIT:lla esimerkiksi on useita omia omia Youtube-kanavia ja TED on siellä myös jos haluaa automaattikäännetyn tekstityksen, kun TED:n omassa playerissä on tarjolla vain closed captions -tyyppiset.
Ilmoita asiaton viesti
«Tuon iän ja uskomusten yhteyden voisi selittää ajattelutapa, että singulariteetin kokeminen on yksilöllistä.»
Pointtini mitä vihjasin oli tuossa siis se, että tekoälytutkijat kuten muutkin tutkijat usein ennustavat läpimurron tulevan heidän omana elinaikanaan, jolloin joko saattaisivat olla mukana tekemässä sitä läpimurtoa tai ainakin pääsisivät nauttimaan sen hedelmistä.
No, tässä superälyprobleemassa läpimurron ”hedelmät” ovat mahdollisesti tuskainen kuolema rauta-anturan murskaamana. Kuten suosikkirepliikkini menee: ”Oh yeah. Oooh, ahhh, that’s how it always starts. Then later there’s running and screaming.” – Dr. Ian Malcolm.
Itse siis ennustan superälyn kehittyvän 20 vuodessa, mutta vain jos saan riittävästi rahaa ja maksani kestää.
Ilmoita asiaton viesti
Pidin juuri viime viikolla webinaarin aiheesta Yltääkö IBM Watson superälyyn?
http://metayliopisto.fi/akateeminen-kysymys-yltaak…
Olen parhaita asiantuntijoita ymmärtämään kognition rajat ja mahdollisuudet 14 vuoden tutkimuksen perusteella. Tämähän on monitieteellinen kysymys.
Kun tietoisuuden kyky joka tapauksessa tietokoneissa parantuu erillisillä keksinnöillä ja paremmilla käyttöliittymillä, kerron miten sitä kykyä parhaiten kannattaisi soveltaa (tein sellaisen varauksen webinaarissa) yhteiskunnan parhaaksi.
Ilmoita asiaton viesti
Kiitos, oli varsin mielenkiintoinen esitys. Katsoin vain puoleenväliin, koska olen juuri nyt keskittynyt vain joihinkin esityksesi osa-alueisiin, mutta täytyy tutkia tuota metayliopistoa myöhemmin tarkemmin.
Se esityksessä harmitti, että BrightTALKin playerissä ei voinut nopeutta nostaa. Webinaari on kyllä melko vaivaton koostaa, mutta minulla on hieman ajatuksena koostaa interaktiivinen opetusvideo, mutta vaivan säästämiseksi voin tehdä sen samaan tapaan kuin äskettäisen http://rkoski.vapaavuoro.uusisuomi.fi/kulttuuri/25… eli upottaa videoita kehyskertomukseen. Vähän kuin kuva- ja videokirja. Moodlen H5P-pluginilla voi tehdä muitakin jänniä juttuja. Toimii myös WordPressissä. Osoitteessa https://maistericloud.com voi luoda oman kurssin ilmaiseksi ja siellä on H5P asennettuna, kun taas Moodlessa sitä ei ole vakiona, joten ei löytyne oman oppilaitoksen versiosta.
Tuon opetusvideon projekti on siinä vaiheessa, että suunnitelman mahdollisuuksien ja toteutustapojen tutkintavaihe on oikeastaan valmis, mutta julkaisen Moodle-palvelimeni osoitteen myöhemmin kunnolla, kun se myös on ”kirjoitettu” valmiiksi. Se ei haittaa, että se on myös aika opettavainen mokakokoelma. Toteutettu lähinnä tutkivan oppimisen menetelmillä. Oppimateriaalin tuottamisen menetelmien tutkiminen opettaa myös oppimaan paremmin.
Ilmoita asiaton viesti
Yllättäen osaset tuossa yllä kehumassani projektissa loksahtelivat eli määrittelyosa on valmis ja kehtaa julkaista: http://moodle.raimokoski.fi/mod/book/view.php?id=10
Sisällysluettelo ja luku 7 antavat aika hyvän yleiskuvan. Turun Yliopiston Moodlessa tuo ei olisi onnistunut, niin piti asentaa oma. Avoimessa kasvatustieteen TVT-käytön lyhytkurssi.
Ilmoita asiaton viesti
Ray Kurzweil, jonka monet aiemmat ennustukset ovat merkittävästi osuneet oikeaan suuntaan, on sitä mieltä, että superäly syntyisi jo vuoden 2045 paikkeilla. Itse otin vähän varovaisemman kannan sen perusteella, mitä luin Bostromin kirjasta.
Tuo kyseinen kirja kannattaa muuten lukea: Nick Bostrom, Superintelligence, 2014. Harmi, ettei sitä ole tietääkseni suomennettu.
Ilmoita asiaton viesti
Yleistysharha. Bostrom spekuloi JOS, ei siis KUN
Ilmoita asiaton viesti
En ymmärrä, mihin tarkalleen ottaen viittaat. Oletko lukenut ko. kirjan? Hän siis kokosi aika-arviot eri lähteistä.
Ilmoita asiaton viesti
.
Ilmoita asiaton viesti
Lukiessani tuota YLEn artikkelia neuroverkoista ja tekoälystä, mieleeni tuli kysymys, mitä se äly oikeasti on.
https://yle.fi/uutiset/3-10115902
Eli mielestäni kone on vasta sitten älykäs, kun se ilmoittaa ettei minua nyt tänään huvita alkaa laskemaan noita sinun ainaisia laskujasi, ja aikansa kuluksi alkaa pelaamaan pasianssia. Tosin joskus kyllä tuntuu, että tämäkin masiina jolla tätä kirjoitan joskus aivan piruuttansa alkaa temppuilemaan.
Ilmoita asiaton viesti
Asiantuntematonta puffia tuo ylen juttu. Vastaavia muunnoksia kuvista voi tehdä moniilla kännyköiden apseilla
Ilmoita asiaton viesti
Ihminen voisi toimia noin 😉 Mutta se johtuu siitä, että evolutionaarisesti olemme ehdollistuneet minimoimaan kaikenlaisen vaivannäön, ts. kunhan sapuskaa tulee tarpeeksi ja olot ovat muutenkin suht koht ok, ei kannata tehdä mitään liian vaikeaa.
Ilmoita asiaton viesti
Evoluutiopsykologia on höpöä.
Ilmoita asiaton viesti
Jos lajien ominaisuudet eivät mielestäsi tule evoluution tuloksena, niin mistä ne sitten tulevat? Onko syöminen psykologiaa?
Ilmoita asiaton viesti
toihan ei pidä paikkaansa, vaikka maha on täynnä, einstein raato muutamia kaavoja, mä kirjotan blokeja, kaveri juoksee maratonia …
tarkemmin sanottuna, täysi vatsa on edellytys sille että voi tehdä jotakin hyödyllistä se sijaan että keskittyisi syömiseen. mun selitys on seksuaalivalinta. ei ole homo econonomusta vaan lisääntymisautomaatti joka vaivojaan säästämättä pyrkii parittelemaan.
mä käsittelin tekoälyn aiheuttamaa työttömyyttä talouden kautta.
http://auvorouvinen.puheenvuoro.uusisuomi.fi/25427…
kuulun kylläkin niihin jotka uskovat itseään kehittävän ja lisääntyvän tekoälyn syntyyn. tossa vaan läksin historiasta joka muuten sekin viittaa melkoiseen murrokseen vaikka jumala jäisi syntymättä.
Ilmoita asiaton viesti