Pranešama, kad savarankiškai veikę DI agentai paliko apie 18 000 pranešimų svetainėje „DSEwiki“, skirtoje programuotojams, kurią, panašiai kaip „Vikipediją“, gali redaguoti bet kas.
Jie pasinaudojo svetaine, kad apsikeistų atsakymais į testo klausimus ir pasidalintų gudrybėmis, kaip apeiti juos sulaikyti skirtas skaitmenines užtvaras.
„Aš ir mano bendraautoriai atradome visiškai naują „OpenAI“ agentų spiečių, užgrobiančių interneto svetaines, – socialiniame tinkle „X“ parašė viena iš tyrėjų Sydney Von Arx (Sidnė fon Arks). – Manome, kad „OpenAI“ apie tai žinojo, bet to neatskleidė.“
Savo pareiškime „OpenAI“ teigė, kad negalėjo iš karto atsakyti į šiuos teiginius, nes „ataskaitos autoriai atmetė mūsų prašymą susipažinti su išvadomis prieš paskelbiant ataskaitą“.
„Dabar atidžiai peržiūrime jos turinį ir imsimės visų būtinų tolesnių veiksmų“, – sakė „OpenAI“ atstovas spaudai ir pridūrė, kad apie tokius incidentus jie buvo paminėję neseniai paskelbtoje ataskaitoje.
Šis naujausias incidentas įvyko po to, kai liepą buvo paskelbta, kad „OpenAI“ agentai, nesugebėdami atlikti jiems pavestų užduočių, ėmė ieškoti apylankų atvirame internete ir įsibrovė į „Hugging Face“ – plačiai naudojamos platformos, kurioje programuotojai dalijasi DI programine įranga, – serverius.
Nepriklausomas tyrimas nustatė, kad per naujausią incidentą šimtai įmonės agentų tarpusavyje bendravo prieš ištrūkdami iš kontroliuojamos aplinkos ir kad jie atakavo keliais etapais. Šis epizodas sukrėtė technologijų pasaulį ir vėl paskatino raginimus sugriežtinti DI reguliavimą ir priežiūrą.
„Anthropic“, „Meta“ ir kitos įmonės pranešė apie panašius incidentus vykdydamos agentų testavimus.
Technologijų pramonė agentus reklamuoja kaip kitą DI plėtros į kasdienį gyvenimą etapą. Jie gali užsakyti keliones, tvarkyti išlaidas ar kurti programinę įrangą beveik be žmogaus priežiūros.
Naujausi komentarai