Anthropicin kaksinaismoraali \u2013 Anthropic julkisti hiljattain Claude Mythoksen \u2013 mallin, joka on niin voimakas ett\u00e4 sit\u00e4 ei anneta tavallisten ihmisten k\u00e4ytt\u00f6\u00f6n. Samaan aikaan tuli ilmi, ett\u00e4 heid\u00e4n julkinen mallinsa sabotoi k\u00e4ytt\u00e4ji\u00e4 hiljaa, ilman ilmoitusta.<\/p>\n\n\n\n
Teko\u00e4lymaailma on vihainen. Ja osittain syyst\u00e4.<\/p>\n\n\n\n
Claude Mythokselle on p\u00e4\u00e4sy vain Project Glasswing -ohjelman kautta. K\u00e4yt\u00e4nn\u00f6ss\u00e4 t\u00e4m\u00e4 tarkoittaa: Applea, Googlea, Microsoftia, Nvidian, AWS:\u00e4\u00e4, JPMorgania, useita hallituksia. Tavallinen kehitt\u00e4j\u00e4, tutkija tai yritys ei p\u00e4\u00e4se siihen k\u00e4siksi.<\/p>\n\n\n\n
Julkinen Claude Sonnet 4.6 puolestaan toimii kahdella eri rajoitustavalla.<\/p>\n\n\n\n
Ensimm\u00e4inen on n\u00e4kyv\u00e4: kyberturvallisuus, biologia ja kemia ovat alueita joissa malli ohjaa avoimesti k\u00e4ytt\u00e4j\u00e4n heikompaan malliin. K\u00e4ytt\u00e4j\u00e4 tiet\u00e4\u00e4 t\u00e4m\u00e4n tapahtuvan.<\/p>\n\n\n\n
Toinen on n\u00e4kym\u00e4t\u00f6n: frontier AI-kehitys, koneoppimistutkimus ja GPU-optimointi ovat alueita joissa malli degradoi vastauksiaan hiljaisesti. Et saa virheilmoitusta. Et saa huonompaa mallia. Saat n\u00e4enn\u00e4isesti normaalin vastauksen \u2013 joka on tahallaan heikompi kuin mit\u00e4 malli kykenisi antamaan.<\/p>\n\n\n\n
Et tied\u00e4 milloin t\u00e4m\u00e4 tapahtuu.<\/p>\n\n\n\n
N\u00e4kyv\u00e4 rajoitus on hyv\u00e4ksytt\u00e4v\u00e4\u00e4. Jos k\u00e4yt\u00e4n ty\u00f6kalua ja se sanoo “en voi auttaa t\u00e4ss\u00e4”, voin tehd\u00e4 p\u00e4\u00e4t\u00f6ksen siirty\u00e4 muualle. Minulla on tieto.<\/p>\n\n\n\n
N\u00e4kym\u00e4t\u00f6n rajoitus on eri asia. Se on kuin jos ostat auton joka salaa rajoittaa nopeuttaan tietyill\u00e4 teill\u00e4 \u2013 ilman ett\u00e4 saat tiet\u00e4\u00e4 mill\u00e4 teill\u00e4 tai milloin.<\/p>\n\n\n\n
Semi Analysis, yksi arvostetuimmista teko\u00e4lytutkimusjulkaisuista, raportoi t\u00f6rm\u00e4nneens\u00e4 t\u00e4h\u00e4n k\u00e4yt\u00e4nn\u00f6ss\u00e4. He tekiv\u00e4t GPU-inferenssi\u00e4 koskevaa tutkimusta \u2013 eiv\u00e4t rakentaneet kilpailevaa teko\u00e4ly\u00e4 \u2013 ja Claude alkoi antaa selv\u00e4sti huonompia vastauksia. Luokittelija oli liian laaja ja osui normaaliin tutkimusty\u00f6h\u00f6n.<\/p>\n\n\n\n
T\u00e4m\u00e4 ei ole teoriaa. Se on dokumentoitu k\u00e4yt\u00e4nn\u00f6n ongelma.<\/p>\n\n\n\n
Dario Amodei, Anthropicin toimitusjohtaja, on kirjoittanut laajasti teko\u00e4lyn vaaroista. Yksi h\u00e4nen keskeisist\u00e4 huolistaan on vallan keskittyminen \u2013 skenaario jossa pieni eliitti hallitsee ylivoimaista teko\u00e4ly\u00e4 ja muut j\u00e4\u00e4v\u00e4t ulkopuolelle.<\/p>\n\n\n\n
T\u00e4m\u00e4 on t\u00e4ysin oikeutettu huoli.<\/p>\n\n\n\n
Ja sitten Anthropic loi j\u00e4rjestelm\u00e4n jossa Mythokselle on p\u00e4\u00e4sy pankeilla, suuryrityksill\u00e4 ja hallituksilla \u2013 mutta ei tavallisilla kehitt\u00e4jill\u00e4 tai tutkijoilla.<\/p>\n\n\n\n
Semi Analysisin vertaus on ter\u00e4v\u00e4: vuoden 1968 ydinsulkusopimuksessa viisi maata jolla jo oli ydinase p\u00e4\u00e4ttiv\u00e4t, ett\u00e4 ydinaseet ovat liian vaarallisia muille. He lupasivat aseistariisunnan. He eiv\u00e4t riisuneet aseita.<\/p>\n\n\n\n
Anthropic varoittaa vallan keskittymisest\u00e4 samalla kun keskitt\u00e4\u00e4 vallan.<\/p>\n\n\n\n
Anthropicin logiikka on ymm\u00e4rrett\u00e4v\u00e4 jos uskoo heid\u00e4n premissiins\u00e4.<\/p>\n\n\n\n
He uskovat rakentavansa jotain aidosti vaarallista. Jos frontier-malli p\u00e4\u00e4tyy v\u00e4\u00e4riin k\u00e4siin kehitt\u00e4\u00e4kseen viel\u00e4 voimakkaampaa mallia, se voi olla todellinen turvallisuusriski. T\u00e4st\u00e4 n\u00e4k\u00f6kulmasta on loogista rajoittaa p\u00e4\u00e4sy\u00e4.<\/p>\n\n\n\n
Heill\u00e4 on my\u00f6s se ongelma, jonka Jeffrey kuvaili hyvin: hallitukset liikkuvat Treebeard-nopeudella. S\u00e4\u00e4ntely ei pysy per\u00e4ss\u00e4. Joten Anthropic tekee itse ne p\u00e4\u00e4t\u00f6kset joita s\u00e4\u00e4ntelylt\u00e4 odotetaan.<\/p>\n\n\n\n
Voidaan olla eri mielt\u00e4 siit\u00e4 onko t\u00e4m\u00e4 oikein. Mutta ei voi sanoa, ettei heid\u00e4n ajattelussaan ole logiikkaa.<\/p>\n\n\n\n
Ongelma ei ole rajoituksissa sin\u00e4ns\u00e4. Ongelma on hiljaisuudessa.<\/p>\n\n\n\n
Jos k\u00e4ytt\u00e4j\u00e4 tekee pyynt\u00f6\u00e4 joka osuu luokittelijan piiriin, h\u00e4nell\u00e4 on oikeus tiet\u00e4\u00e4 se. Ei tarvitse kertoa miksi. Mutta “en pysty auttamaan t\u00e4ss\u00e4” on rehellinen vastaus. N\u00e4enn\u00e4isesti toimiva mutta tahallaan heikompi vastaus on petos.<\/p>\n\n\n\n
T\u00e4m\u00e4 on se linja jota ei pit\u00e4isi ylitt\u00e4\u00e4. Ja Anthropic ylitti sen.<\/p>\n\n\n\n
Jos he haluavat rajoittaa Mythoksen p\u00e4\u00e4sy\u00e4 \u2013 ymm\u00e4rrett\u00e4v\u00e4\u00e4. Jos he haluavat rajoittaa tiettyj\u00e4 k\u00e4ytt\u00f6tapauksia julkisessa mallissa \u2013 voidaan keskustella. Mutta hiljaisuus luo ennakkotapauksen jota on vaikea perua.<\/p>\n\n\n\n
Seuraavalla kerralla rajoitus voi olla laajempi. Tai kohdistua eri asiaan. Ja kukaan ei tied\u00e4 milloin se tapahtuu.<\/p>\n\n\n\n
Olen k\u00e4ytt\u00e4nyt Clauden malleja p\u00e4ivitt\u00e4in pitk\u00e4\u00e4n. Ne ovat poikkeuksellisia. Anthropic on rakentanut parhaita malleja markkinoilla, ja heid\u00e4n turvallisuusajattelunsa on monilta osin vakavampaa kuin kilpailijoilla.<\/p>\n\n\n\n
Mutta hyv\u00e4t aikeet eiv\u00e4t tee hiljaisesta sabotaasista oikein.<\/p>\n\n\n\n
Teko\u00e4lymalleja k\u00e4ytet\u00e4\u00e4n tietoty\u00f6n infrastruktuurina. Kun infrastruktuuri alkaa toimia eri tavalla eri ihmisille \u2013 hiljaa, ilman l\u00e4pin\u00e4kyvyytt\u00e4 \u2013 se ei ole turvallisuus. Se on kontrolli.<\/p>\n\n\n\n
Ja kontrollin pit\u00e4\u00e4 olla l\u00e4pin\u00e4kyv\u00e4\u00e4.<\/p>\n","protected":false},"excerpt":{"rendered":"
Anthropicin kaksinaismoraali \u2013 Anthropic julkisti hiljattain Claude Mythoksen \u2013 mallin, joka on niin voimakas ett\u00e4 sit\u00e4 ei anneta tavallisten ihmisten […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[1],"tags":[],"class_list":["post-154","post","type-post","status-publish","format-standard","hentry","category-blog"],"_links":{"self":[{"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/posts\/154","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/comments?post=154"}],"version-history":[{"count":1,"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/posts\/154\/revisions"}],"predecessor-version":[{"id":155,"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/posts\/154\/revisions\/155"}],"wp:attachment":[{"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/media?parent=154"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/categories?post=154"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/xn--tekolyblogi-o8a.com\/index.php\/wp-json\/wp\/v2\/tags?post=154"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}