Sinisivalaiden välähdys kyynelissäsi
Mitä eroa on kyynelellä ja valtamerellä? Kysymys saattaa tuntua naurettavalta, mutta valtamerillä ja kyynelpisaroilla on enemmän yhteistä kuin miltä aluksi näyttää. Molemmat koostuvat suurelta osin suolaisesta vedestä, molemmissa asuu olentoja (pisaroiden tapauksessa pieniä mikro-organismeja), kyynelpisaran ja valtameren keskilämpötila on mukavasti nestemäisen veden alueella. Todellinen ero on tilavuus – mutta lisää 1024 (ei matemaattisesti taipuvaisille, se on yksi, jonka jälkeen on 24 nollaa tai 1 000 000 000 000 000 000 000 000) kyyneliä maapallolla yhdessä. .
Tämä kuvaa totuutta syntyvistä ominaisuuksista. Tietyssä vaiheessa enemmän lakkaa olemasta vain enemmän samaa, ja siitä tulee jotain laadullisesti erilaista. Esiin tulee ominaisuuksia, jotka eivät olleet ilmeisiä pienemmissä kokoelmissa. Yksi kyynel on tuskin havaittavissa. Muutama sata on märkä nenäliina "itkevän" elokuvan lopussa. Vuorovesi, dramaattiset rannikot, aallot, joilla voit surffata, ja elinympäristöjä, jotka voivat tukea kaikkea arktisista pingviineistä trooppisiin koralliin, ilmaantuu, kun siirryt kokoasteikolla ylöspäin kyynelestä valtamereen.
Bittejä, tavuja ja yottatavuja.
Tämä sama ilmeisten ominaisuuksien ilmiö pätee myös tietojenkäsittelytieteeseen. Matka huonekokoisista varhaisimmista 1940-luvun venttiilitietokoneista nykypäivän täysin yhdistettyyn maailmaan osoittaa tämän. Nykyään jokainen kantaa taskussaan verkkoon kytkettyä supertietokonetta – joka sitten tottuu kriittisiin tehtäviin, kuten sosiaalisen median tarkistamiseen tai ruoan toimitusten varaamiseen. Harvat näistä toiminnoista olisivat ilmeisiä kenellekään, joka harkitsee Colossia Bletchley Parkissa vuonna 1944, ja moderni yhdistetty maailma on varmasti esiin nouseva ominaisuus, joka ei olisi ilmeinen siirtymällä yhdestä transistorista miljardeihin.
Monet nykypäivän huipputeknisiä tekoälyjärjestelmiä tukevat periaatteet juontavat juurensa 40- ja 50-lukujen elektronisen tietojenkäsittelyn vallankumouksen kynnyksellä. Vaikka voisimme ajatella, että neuroverkkopohjaiset järjestelmät ovat koneoppimisen nykyinen huippu, nykyisten järjestelmien alkuperä voidaan jäljittää perceptroniin, joka kehitettiin 1950-luvun lopulla. Laite osoitti muutamasta yksinkertaisesta säännöstä nousevia outoja tehosteita, ja vain 20 x 20 valodiodin tulolla se voitiin opettaa tunnistamaan yksinkertaisia kuvajoukkoja – esimerkiksi suorakulmio vs. soikea.
Jos näillä ensimmäisillä perceptroneilla oli vain 400 "opetettavaa" parametria (20 x 20), nykypäivän huippuluokan luonnollisen kielen käsittelyjärjestelmissä voisi olla 175 miljardia tai enemmän parametreja – yhdeksän suuruusluokkaa enemmän. Heidän sydämessään hermoverkoissa käytetyt yksittäiset keinotekoiset "neuronit" ovat yksinkertaisia - muutama syöte on kytketty neuroniin. Jokaiselle tulon liitännälle on määritetty paino. Matemaattisesti syöttöarvo kerrotaan painolla. Sitten neuroni summaa kaikki kertolaskujen tulokset, ja tulos määrittää neuronin aktivaatiotason (usein sen jälkeen, kun tulos on normalisoitu sopimaan tietylle aktivaatioalueelle).
Yksittäin yksi neuroni on täysin ennustettavissa ja ymmärrettävissä. Erottelussa tai eettisyydessä ei ole ilmeisiä vaikeuksia. Mikään erilaisista mahdollisista hankaluuksista, joita käsitellään erilaisissa tekoälyä koskevissa valkoisissa kirjoissa ja säädösluonnoksissa, ei ilmene.
Juuri yhdestä hermosolusta satoihin miljardeihin skaalautumisesta johtuvat ominaisuudet luovat potentiaalin näille vaikutuksille.
Määrittelykysymys
Lakimiehet rakastavat määritelmää. Ne tarjoavat illuusion varmuudesta huolimatta siitä, että melkein jokaisella sanalla on useita vivahteita merkityksiä. Esitä kaksi asianajajaa samalla määritelmällä merkityksensä kääntävässä tapauksessa, niin kristallinkirkkainkin muotoilu murenee epäselvyydeksi ja vasta-argumentiksi. Tästä huolimatta sekä lainsäädännössä että sopimuksissa olevat määritelmät ovat ratkaisevan tärkeitä, ja ne määrittelevät velvoitteiden laajuuden tai kiellettyjen käytäntöjen maiseman.
Tekoälyn alalla kommentaattorit käyttävät usein aikaa tutkiessaan ilmeistä mahdotonta määritellä "älyä" ja näin ollen kaksinkertaista mahdottomuutta määritellä tekoäly älykkyyden perusteella.
Ne, jotka kamppailevat sopimuksissa tai lainsäädännössä olevien määritelmien kanssa, ottavat usein joko teknologiaan perustuvan lähestymistavan, tarkoituksenmukaisen lähestymistavan tai rajoittuvat molempiin.
Teknologiaan perustuvan lähestymistavan etuna voi olla erittäin selkeä testi siitä, kuuluuko tietty järjestelmä määritelmän piiriin. Esimerkiksi "AI tarkoittaa mitä tahansa hermoverkkoa käyttävää järjestelmää" saattaa tarjota suhteellisen selvyyden siitä, mitkä järjestelmät on kiinni, mutta sitä painaa ilmeisiä haittoja. Mitä tapahtuu, kun tekniikka etenee? Entä järjestelmät, joissa esiintyy ilkivaltaa, jota haluat säännellä, mutta jotka eivät välttämättä ole riippuvaisia ongelmista teknologiasta? Entä järjestelmät, jotka saattavat käyttää hermoverkkoja yksinkertaisella tai vaarattomalla tavalla ja joille et aio asettaa määrittelyn päällekkäisiä velvoitteita?
Tarkoituksenmukaiset lähestymistavat keskittyvät yleensä järjestelmän käyttötapauksiin viitaten usein ihmisille aiemmin varattuihin taitoihin tai järjestelmän "oppimiskykyyn".
Entinen (ihmisen korvaaminen) edellyttää, että ihmisen korvaaminen on joko ehdotonta tai erityisen merkityksellistä. Monissa tapauksissa suhteellisen yksinkertaisten tekniikoiden yhdistäminen voi mahdollistaa sen, että yksi työntekijä voi suorittaa usean aiemmin tekemän työn. Varsinkin kun tehtävät rakennetaan uudelleen sisältämään "itsepalveluelementti", mikä tahansa määritelmä, joka kytkee päälle koneet, jotka suorittavat aiemmin ihmisille varattuja tehtäviä, uhkaa kaapata niinkin banaalisia teknologioita kuin pankkiautomaatit tai supermarkettien itsekassajärjestelmät. Nämä järjestelmät olisivat saattaneet korvata pankkien kassat ja kassavirkailijat, mutta harvat meistä pitävät niitä tekoälynä erityisen valvonnan tai sääntelyn arvoisina.
Jälkimmäinen (kyky oppia) paljastaa virheellisen AI-järjestelmiä koskevaa yleistä ajattelua. Vaikka järjestelmät saattavat oppia koulutusvaiheen aikana, tuotantoympäristöissä käytetyt järjestelmät ovat yleensä kiinteässä tilassa päätelmiä varten, ja lisäkoulutuksen uudet versiot otetaan käyttöön (ja sitten vastaavasti kiinteässä tilassa) vain ajoittain. Millään päättelyyn käytettävillä järjestelmillä ei itsellään olisi kykyä oppia, ja siksi ne jäävät huomaamatta määritelmästä, joka keskittyy pelkästään tähän laatuun.
Juuri nämä haasteet sisältyvät tekoälyjärjestelmän määritelmään EU:n tekoälyasetusluonnoksessa kirjoitushetkellä. Eurooppa-neuvoston marraskuussa 2021 julkaiseman kompromissitekstin päivitetty versio kuuluu seuraavasti:
'Tekoälyjärjestelmä' (AI-järjestelmä) tarkoittaa järjestelmää, joka
Liite 1, jossa luetellaan tekniikat ja lähestymistavat, pysyy alkuperäisen luonnoksen mukaisena:
a) Koneoppimisen lähestymistavat, mukaan lukien ohjattu, ohjaamaton ja vahvistava oppiminen, jossa käytetään monenlaisia menetelmiä, mukaan lukien syväoppiminen;
(b) Logiikka- ja tietopohjaiset lähestymistavat, mukaan lukien tiedon esittäminen, induktiivinen (loginen) ohjelmointi, tietopohjat, päättely- ja deduktiiviset moottorit, (symboliset) päättelyt ja asiantuntijajärjestelmät;
(c) Tilastolliset lähestymistavat, Bayesin estimointi, haku- ja optimointimenetelmät.
Tämän määritelmän viittaus liitteessä 1 lueteltuihin teknologioihin tai tekniikoihin levittää laajaa määritelmää, jotta määritelmä voidaan varmistaa tulevaisuudessa. Tämä johtaa siihen, että erittäin laajaa järjestelmien luokkaa pidetään "AI-järjestelminä", mikä puolestaan kaappaa monien olemassa olevien järjestelmien operaattorit, joilla ei ole eikä voi olla mitään niistä mahdollisesti ongelmallisista esiin tulevista ominaisuuksista, joita asetus on ensisijaisesti suunniteltu hallitsemaan. Tämän seurauksena (ja olettaen, että jotain tämän määritelmän kaltaista jää voimaan annetussa asetuksen versiossa), sääntelytaakka ja siihen liittyvät noudattamisesta aiheutuvat kustannukset kohdistuvat paljon laajemmalle joukolle järjestelmiä ja operaattoreita kuin on ehdottoman välttämätöntä.
Nouseva vaihtoehto
Ihannetapauksessa minkä tahansa tekoälyn määritelmän tulisi olla kohtuullisen selkeä, teknologiaan agnostinen ja kattaa ne järjestelmät, joissa saattaa ilmetä asiaankuuluvia pahioita, samalla kun verkkoa ei saa heittää liian laajalle ja asettaa velvoitteita niille, jotka eivät aiheuta vaaraa.
Kirjoittajat ehdottavat, että määritelmien tulisi keskittyä monimutkaisuuden esiin nouseviin ominaisuuksiin ja siitä mahdollisesti aiheutuviin odottamattomiin käyttäytymismalleihin, eikä mihinkään tiettyyn tekniikkaan tai tarkoitukseen.
Ajattele seuraavaa esimerkkinä:
"AI-järjestelmä" on mikä tahansa automaattinen tietojenkäsittely- tai päätöksentekojärjestelmä:
Tämä määritelmä keskittyy ajatukseen, että tekoälyjärjestelmiin liittyvien velvoitteiden kautta ensisijaisesti hallittavat pahat asiat ovat odottamattomia.
Jokainen toimija, joka käyttää järjestelmää tarkoituksella puolueelliseen, syrjivään, epäluotettavaan tai vilpilliseen toimintaan, on jo lain mukaan vastuussa tällaisesta ennakkoluuloisesta tai pahantahtoisesta käytöksestä riippumatta siitä, liittyykö siihen tekoälyjärjestelmää vai ei. Tekoälyjärjestelmien vivahteena on, että tällainen käyttäytyminen ei ehkä ole tarkoitettu, mutta (jos järjestelmää ei ole suunniteltu ja valvottu hyvin) saattaa kuitenkin ilmetä.
Tätä määritelmää sovellettaessa toimija, joka on tietoisesti perustanut järjestelmän syrjiväksi, ei välttämättä jää tämän määritelmän piiriin, mutta hän joutuisi asiaankuuluvaa käyttäytymistä säätelevän voimassa olevan lainsäädännön piiriin. Siltä osin kuin kaikki asiaankuuluvat rikokset edellyttävät syyllisyyttä (mens rea niille, jotka pitävät latinaa parempana), tällainen tarkoitus on selvästi olemassa tällaisessa tapauksessa.
Uuden määritelmän piiriin jää kuitenkin käyttäjä, joka on perustanut järjestelmän, jossa esiintyi odottamattomia harhoja tai joka tuottaa satunnaisesti ja arvaamattomasti vääriä tuloksia. Siksi kaikki tätä määritelmää käyttävässä lainsäädännössä sovellettavat tarkastukset kiinnittäisivät ne järjestelmät, jotka voisivat hyötyä kyseisistä tarkastuksista. Esimerkkejä asianmukaisista käyttäjien ohjauksista voivat olla:
Niille, jotka pitävät kuparipohjaisesta vyö ja olkaimet -lähestymistapaa, määritelmää voitaisiin laajentaa kolmannella osalla kattamaan erityisesti järjestelmät, joissa ongelmallinen käyttäytyminen on tietoisesti ilmennyt järjestelmässä, jotta se ei olisi tarpeen. luottaa täysin nykyisiin syrjinnän vastaisiin lakeihin jne. hallita niitä huonoja toimijoita, jotka käyttävät monimutkaisia järjestelmiä epäsosiaalisiin tarkoituksiin.
Älykäs sääntely
Vaikka mahdollisten vaihtoehtoisten määritelmien kuvitteleminen on käänteentekevä filosofinen haaste, tekoälyoperaattoreiden on pidettävä mielessä ne määritelmät, jotka lopulta tulevat esille asiaa koskevassa lainsäädännössä.
EU:n näkökulmasta näyttää todennäköiseltä, että EU:n tekoälyasetuksessa säilytetään suhteellisen lähellä nykyisten luonnosten määritelmää. Aivan kuten GDPR:n "henkilötietojen" määritelmästä tuli de facto standardi, EU:n tekoälyasetuksen määritelmästä tekoälyjärjestelmän voi siksi tulla alan vertailukohta. Muita kilpailevia (ja mahdollisesti yhteensopimattomia) määritelmiä sisältyy todennäköisesti lakeihin, jotka säätelevät tekoälyn käyttöönottoa Yhdysvalloissa, Isossa-Britanniassa, Kiinassa ja muualla. Yhdysvalloissa ja mahdollisesti Yhdistyneessä kuningaskunnassa lainsäätäjät saattavat soveltaa alakohtaisempaa lähestymistapaa, joka kohdistuu tiettyihin tekoälyn käyttöön tietyillä aloilla. Tämä alakohtainen lähestymistapa voi johtaa kontekstista riippuvaiseen tekoälymääritelmien monimuotoisuuteen.
Tätä taustaa vasten sääntelyviranomaisten, näiden uusien sääntöjen toimeenpanijina, on sovellettava omaa filosofiaansa lainsäädännöllisiin määritelmiin. Voimme jälleen katsoa tietosuoja-alan kokemuksia nähdäksemme, miten se voi toimia, vaikka meidän on mentävä GDPR:ää pidemmälle. Alkuvuosina sen jälkeen, kun vuoden 1995 tietosuojadirektiivi saatettiin osaksi jäsenvaltioiden lainsäädäntöä, näimme tuolloin aivan uutta henkilötietojen määritelmää testattavan kerta toisensa jälkeen – Mitä henkilötiedot olivat? Kuinka helposti rekisteröidyn piti olla tunnistettavissa? Oliko vanhempien todella kiellettyä videoida koulun seiminäytelmiä? Näitä kysymyksiä päättäessään sääntelijät olivat velvollisia noudattamaan määritelmän tekstiä, mutta näin tehdessään väistämättä paljastivat oman näkökulmansa ja filosofiansa.
Sama pätee näiden uusien lakien keskeisiin tekoälyn määritelmiin – vaikka määritelmien laajuus otetaan huomioon, sääntelijöillä on vielä enemmän liikkumavaraa tulkita määritelmien rajoja omien käsitteidensä ja tarkoitustensa mukaisesti. Tätä silmällä pitäen, jos nämä sääntelijät kiinnittävät huomiota siihen, onko tietyillä järjestelmillä mahdollisesti ongelmallisia esiin tulevia ominaisuuksia, se voisi tarjota hyödyllistä suuntaa siihen, mihin täytäntöönpanotoimet tulisi keskittää.
Seuraavat vaiheet
Niille, jotka haluavat hyödyntää organisaationsa uusimpien tekoälyjärjestelmien tarjoamia lupauksia, kaikki lainsäätäjien ehdottamat määritelmät (olipa sitten EU:ssa todennäköisesti käyttöön otettava laaja määritelmä tai mahdollisesti kohdistetummat määritelmät joka saattaisi saada suosion muualta) pätee todennäköisesti kyseiseen järjestelmään tavalla tai toisella. Keskittyminen mahdollisten esiin tulevien ominaisuuksien (ja niistä mahdollisesti aiheutuvien negatiivisten vaikutusten) varmistamiseen on kriittistä. Hallitusten kommentit ja ehdotetut sääntelyjärjestelmät ovat keskittyneet selitettävyyteen, läpinäkyvyyteen, luotettavuuteen ja kykyyn havaita ja poistaa mahdollisesti syntyviä harhoja. Järjestelmien suunnittelu näitä tavoitteita silmällä pitäen on paras tapa varmistaa, että "suunniteltujen vaatimustenmukaisuus" -lähestymistapa otetaan käyttöön säännösten kehittyessä.
Tietenkin liiketoiminta ei pysähdy ja odota, että säännökset ratkaistaan, pannaan täytäntöön ja ymmärretään. Tällä hetkellä ympäri maailmaa on meneillään lukemattomia monimutkaisia teknologian käyttöönottotoimia. Siksi huolenaiheena on se, että syntyvä sääntely saattaa kaataa liiketoimintatarpeen, tuotesuunnitelman tai uuden toimialan. Tämän huolen ratkaisemiseksi organisaatioiden on otettava huomioon mahdolliset uudet määräykset ennen niiden saapumista varmistaakseen, että niillä on puolustettavissa oleva, tarkastettavissa oleva ja viime kädessä kohtuullinen lähestymistapa (oman alansa yhteydessä).
