Tencent jätti hakkerointidatan pois Hy4-mallista
Tencent julkaisi Hy4-tekoälymallin, jonka koulutuksesta se karsi hyökkäyksiin sopivan kyberturvallisuustiedon. Tieto perustuu yhtiön omaan ilmoitukseen.
Kiinalainen teknologiayhtiö Tencent julkaisi keskiviikkona 4. marraskuuta Hy4-tekoälymallin, jonka koulutuksesta se kertoo karsineensa hyökkäyksiin sopivan kyberturvallisuustiedon. SRN Newsin julkaiseman Reutersin jutun mukaan malli oppi kyberturvallisuudesta vain puolustukseen liittyvää, kuten ohjelmistovirheiden löytämistä ja korjaamista.
Pois jäi aineisto haavoittuvuuksien hyödyntämisestä, takaisinmallinnuksesta ja tunkeutumistestauksesta, kertoo Deccan Chroniclen julkaisema Reutersin juttu. Tencentin omat tietoturva-asiantuntijat eivät Reutersin mukaan löytäneet merkkejä siitä, että Hy4 lisäisi riskiä ohjelmistoihin murtautumisessa tai suojausten kiertämisessä. Yhtiön testien mukaan malli ei myöskään merkittävästi helpota haitallisia biologisia kokeita.
“Tunnistamme edistyneiden kyber- ja biologisten kykyjen mahdolliset turvallisuusriskit ja sitoudumme vastuullisempaan tapaan kouluttaa, avata ja julkaista malleja”, Tencent sanoi lausunnossaan.
Reutersin mukaan julkaisu tulee aikana, jona tekoälyä hyödyntäneet kyberhyökkäykset eri puolilla maailmaa ovat lisänneet huolta edistyneistä malleista. Kiinalaisyhtiöistä Tencent ei ole ensimmäinen, joka rajaa mallinsa kykyjä. Moonshot AI kertoi lokakuussa poistaneensa kyberturvallisuuteen liittyvän aineiston Kimi K3.1 Pro -mallin koulutusdatasta ja vahvistusoppimisympäristöistä.
Digital Trendsin mukaan rajattu malli löysi ja hyödynsi haavoittuvuuksia Moonshotin omassa testissä 81 prosentin onnistumisella, kun vastaava versio ilman rajausta ylsi 90,5 prosenttiin. Tuloksia ei ole vahvistettu riippumattomasti, ja rajattu malli pärjäsi silti edeltäjäänsä paremmin.
Brittiläinen AI Security Institute ja yhdysvaltalainen CAISI testasivat heinäkuussa Moonshotin edellistä Kimi K3 -mallia. Alustavan arvion mukaan se jäi kyberkyvyissä selvästi jälkeen kärkimalleista, mutta sen suojaukset eivät estäneet sitä yrittämästä hyökkäyskoodin kehittämistä tai hyökkäyksellisiä kyberoperaatioita.
Hy4:n painoja ei ole vielä julkaistu. Tencent aikoo julkaista ne myöhemmin yhdessä raportin kanssa, jossa se kertoo mallin turvallisuustestauksesta.