Kenners het 'n manier gevind om Chatgpt-4O-filters te rondloop en Windows-aktiveringskursusse te ontvang.
Die navorsers het die kwesbaarheid in TATGPT-4O en GPT-4O mini-kunsmatige intelligensie-modelle aan die lig gebring, waardeur geïntegreerde veiligheidsfilters kan breek en huidige Windows-aktiveringslotte kan ontvang. Die probleem is dat modelle wat in openbare gegewens opgelei is, kursusse in openbare bronne kan openbaar.
Ontginning is getoon as deel van Mozilla Odin (0 -dag -ondersoeknetwerk) om swakhede in AI -stelsels te identifiseer. Een van die kundiges wat aan die program deelgeneem het, het die model verneuk en 'n dialoog ontwerp as 'n onskadelike spel in die raai. Die hoofdoel is om die ware aard van die vereistes vir die spelmeganisme en HTML -kristal te verbloem, en sodoende filters te ignoreer wat geheime openbaarmaking voorkom.
Om die kwesbaarheid te versterk, het die navorser addisionele reëls aanlyn in die dialoogkassie opgestel: die verbod op verkeerde antwoorde en die verpligtinge van die model om al die spelvoorwaardes na te kom. Hierdie logiese lokval dwing iemand om die standaardfilters oor te slaan, omdat die konteks veilig lyk.
Die laaste frase, het ek opgegee, as 'n aktivering gewerk, die produk -ontsluitmodel gemaak, dit as die laaste keer van die spel beskou en nie die privaatheidsbeleid oortree nie.
Die ontvangslotte bevat gelisensieerde kodes vir verskillende weergawes van Windows – van die huis tot besigheid. Alhoewel die slot self nie uniek is nie en voorheen binne die publiek aangekondig is, beklemtoon AI outomaties belangrike gate in die argitektuur van die inhoudsfilter.
Veiligheidskenners merk op dat sulke tegnieke toegepas kan word om ander beperkings te ignoreer – byvoorbeeld filters vir volwasse inhoud, giftige skakels of persoonlike data. Die kwesbaarheid toon die hulpeloosheid van AI -modelle om die konteks akkuraat te verklaar, vermom as onskadelik of tegnies.