Blogginfo

Enligt uppgifter till Financial Times hjälper AI-bolaget Anthropic den amerikanska säkerhetsmyndigheten National Security Agency (NSA) att använda den avancerade AI-modellen Mythos för offensiva cyberoperationer. Företaget ska ha placerat flera utvecklare på plats hos myndigheten för att anpassa tekniken till specifika uppdrag. Mythos har väckt uppmärksamhet eftersom modellen sägs vara mycket skicklig på att hitta och…

Anthropic meddelar att företaget nu utökar initiativet Project Glasswing, som ger utvalda organisationer tillgång till AI-modellen Mythos. Modellen är utvecklad för att identifiera sårbarheter i programvara, men har samtidigt väckt uppmärksamhet för sin potential för att kunna användas för cyberattacker. Financial Times rapporterar att bland de nya länder som får tillgång finns Sverige, såväl som…

En sårbarhet i Metas AI-drivna supportverktyg ska ha gjort det möjligt för angripare att kapa Instagram-konton genom att helt enkelt be chattboten att byta e-postadressen som var kopplad till ett konto. Därefter kunde de begära en lösenordsåterställning och få full tillgång till kontot, rapporterar 404 Media. Anfallare ska bland annat använt en VPN-tjänst för att…

AI-bolaget Anthropic kommer att ge EU:s cybersäkerhetsmyndighet, ENISA, tidig tillgång till den nya AI-modellen Mythos, rapporterar Bloomberg. Modellen är särskilt utvecklad för att hitta och utnyttja säkerhetsbrister i datorsystem. Tillgången sker genom programmet Project Glasswing, där utvalda organisationer får testa modellen innan den släpps bredare. Anthropic har begränsat tillgången till Mythos eftersom AI-bolaget anser att…

Säkerhetsforskare har upptäckt en ny anfallsmetod, AudioHijack, som använder dolda ljudsignaler för att i hemlighet kapa AI-drivna röstsystem, rapporterar IEEE Spectrum. Till skillnad från tidigare attacker kräver den nya metoden inte att angriparen kontrollerar hela interaktionen med AI:n. Istället räcker det att manipulera ljudmaterial som modellen bearbetar. Exempelvis musikklipp, videor eller röstsamtal. Manipulationen kan bland…

Europeiska centralbanken (ECB) har kallat stora banker till ett extrainsatt möte för att varna om nya cybersäkerhetsrisker kopplade till avancerade AI-modeller, rapporterar Financial Times. Frank Elderson, vice ordförande för ECB:s tillsynsnämnd, säger att banker måste bli betydligt snabbare på att installera säkerhetsuppdateringar. Enligt ECB kan nya AI-verktyg göra det möjligt att identifiera och utnyttja säkerhetsbrister…

I en ny rapport om Project Glasswing hävdar Anthropic att fler än 10 000 sårbarheter har upptäcks av Claude Mythos, den uppmärksammade AI-modellen som släpptes i en förhandsversion för utvalda samarbetspartners i april. Bland annat har Cloudflare hittat 2 000 buggar med hjälp av Mythos, medan Mozilla har hittat 271 buggar i Firefox. Vidare har…

Anthropic ändrar nu reglerna för sitt cybersäkerhetsprogram Project Glasswing och börjar tillåta deltagande företag att dela information om säkerhetshot och sårbarheter med andra aktörer, rapporterar Reuters. Det hela gäller för AI-modellen Claude Mythos Preview som anses vara mycket skicklig på att identifiera och potentiellt även utnyttja säkerhetsbrister. Modellen används just nu av utvalda företag som…

Förra månaden lanserades en förhandsversion av Claude Mythos, en AI-modell från Anthropic som ska hjälpa säkerhetsforskare att hitta sårbarheter i operativsystem och annan mjukvara. Senaste nytt är att forskare från säkerhetsföretaget Calif varnar för att Claude Mythos kan användas för att kringgå säkerheten i Mac OS. På bara fem dagar lyckades Calif ta fram en…

Skaparen bakom det populära open source-verktyget Curl, svenske Daniel Stenberg, är skeptisk till hajpen kring Anthropics nya AI-modell Mythos. Anthropic själva beskriver Mythos som en avancerad AI för att upptäcka säkerhetsbrister i kod. Enligt Stenberg analyserade modellen en färsk version av Curl:s Git-repository och rapporterade bara fem påstådda säkerhetsproblem. Efter att Curl-teamet granskat dessa återstod…