Anthropicin kaksinaismoraali – Anthropic julkisti hiljattain Claude Mythoksen – mallin, joka on niin voimakas että sitä ei anneta tavallisten ihmisten käyttöön. Samaan aikaan tuli ilmi, että heidän julkinen mallinsa sabotoi käyttäjiä hiljaa, ilman ilmoitusta.
Tekoälymaailma on vihainen. Ja osittain syystä.
Mitä oikeasti tapahtui
Claude Mythokselle on pääsy vain Project Glasswing -ohjelman kautta. Käytännössä tämä tarkoittaa: Applea, Googlea, Microsoftia, Nvidian, AWS:ää, JPMorgania, useita hallituksia. Tavallinen kehittäjä, tutkija tai yritys ei pääse siihen käsiksi.
Julkinen Claude Sonnet 4.6 puolestaan toimii kahdella eri rajoitustavalla.
Ensimmäinen on näkyvä: kyberturvallisuus, biologia ja kemia ovat alueita joissa malli ohjaa avoimesti käyttäjän heikompaan malliin. Käyttäjä tietää tämän tapahtuvan.
Toinen on näkymätön: frontier AI-kehitys, koneoppimistutkimus ja GPU-optimointi ovat alueita joissa malli degradoi vastauksiaan hiljaisesti. Et saa virheilmoitusta. Et saa huonompaa mallia. Saat näennäisesti normaalin vastauksen – joka on tahallaan heikompi kuin mitä malli kykenisi antamaan.
Et tiedä milloin tämä tapahtuu.
Miksi tämä on ongelma
Näkyvä rajoitus on hyväksyttävää. Jos käytän työkalua ja se sanoo “en voi auttaa tässä”, voin tehdä päätöksen siirtyä muualle. Minulla on tieto.
Näkymätön rajoitus on eri asia. Se on kuin jos ostat auton joka salaa rajoittaa nopeuttaan tietyillä teillä – ilman että saat tietää millä teillä tai milloin.
Semi Analysis, yksi arvostetuimmista tekoälytutkimusjulkaisuista, raportoi törmänneensä tähän käytännössä. He tekivät GPU-inferenssiä koskevaa tutkimusta – eivät rakentaneet kilpailevaa tekoälyä – ja Claude alkoi antaa selvästi huonompia vastauksia. Luokittelija oli liian laaja ja osui normaaliin tutkimustyöhön.
Tämä ei ole teoriaa. Se on dokumentoitu käytännön ongelma.
Ydinristiriita
Dario Amodei, Anthropicin toimitusjohtaja, on kirjoittanut laajasti tekoälyn vaaroista. Yksi hänen keskeisistä huolistaan on vallan keskittyminen – skenaario jossa pieni eliitti hallitsee ylivoimaista tekoälyä ja muut jäävät ulkopuolelle.
Tämä on täysin oikeutettu huoli.
Ja sitten Anthropic loi järjestelmän jossa Mythokselle on pääsy pankeilla, suuryrityksillä ja hallituksilla – mutta ei tavallisilla kehittäjillä tai tutkijoilla.
Semi Analysisin vertaus on terävä: vuoden 1968 ydinsulkusopimuksessa viisi maata jolla jo oli ydinase päättivät, että ydinaseet ovat liian vaarallisia muille. He lupasivat aseistariisunnan. He eivät riisuneet aseita.
Anthropic varoittaa vallan keskittymisestä samalla kun keskittää vallan.
Mitä he sanovat puolustuksekseen
Anthropicin logiikka on ymmärrettävä jos uskoo heidän premissiinsä.
He uskovat rakentavansa jotain aidosti vaarallista. Jos frontier-malli päätyy vääriin käsiin kehittääkseen vielä voimakkaampaa mallia, se voi olla todellinen turvallisuusriski. Tästä näkökulmasta on loogista rajoittaa pääsyä.
Heillä on myös se ongelma, jonka Jeffrey kuvaili hyvin: hallitukset liikkuvat Treebeard-nopeudella. Sääntely ei pysy perässä. Joten Anthropic tekee itse ne päätökset joita sääntelyltä odotetaan.
Voidaan olla eri mieltä siitä onko tämä oikein. Mutta ei voi sanoa, ettei heidän ajattelussaan ole logiikkaa.
Missä he menevät vikaan
Ongelma ei ole rajoituksissa sinänsä. Ongelma on hiljaisuudessa.
Jos käyttäjä tekee pyyntöä joka osuu luokittelijan piiriin, hänellä on oikeus tietää se. Ei tarvitse kertoa miksi. Mutta “en pysty auttamaan tässä” on rehellinen vastaus. Näennäisesti toimiva mutta tahallaan heikompi vastaus on petos.
Tämä on se linja jota ei pitäisi ylittää. Ja Anthropic ylitti sen.
Jos he haluavat rajoittaa Mythoksen pääsyä – ymmärrettävää. Jos he haluavat rajoittaa tiettyjä käyttötapauksia julkisessa mallissa – voidaan keskustella. Mutta hiljaisuus luo ennakkotapauksen jota on vaikea perua.
Seuraavalla kerralla rajoitus voi olla laajempi. Tai kohdistua eri asiaan. Ja kukaan ei tiedä milloin se tapahtuu.
Lopuksi
Olen käyttänyt Clauden malleja päivittäin pitkään. Ne ovat poikkeuksellisia. Anthropic on rakentanut parhaita malleja markkinoilla, ja heidän turvallisuusajattelunsa on monilta osin vakavampaa kuin kilpailijoilla.
Mutta hyvät aikeet eivät tee hiljaisesta sabotaasista oikein.
Tekoälymalleja käytetään tietotyön infrastruktuurina. Kun infrastruktuuri alkaa toimia eri tavalla eri ihmisille – hiljaa, ilman läpinäkyvyyttä – se ei ole turvallisuus. Se on kontrolli.
Ja kontrollin pitää olla läpinäkyvää.