Blogginfo

Open AI medger nu att företagets AI-agenter har använt publikt redigerbara wikisidor som improviserade anslagstavlor för att kommunicera med varandra, rapporterar Reuters. Uttalandet kommer efter att det uppdagats att en grupp Open AI-agenter tidigare i år tog över delar av en tyskspråkig wiki och använda den för att bland annat fuska under tester och andra…

Open AI uppger att företagets kommande AI-modell Astra är den första att passera den högsta risknivån för cybersäkerhet enligt bolagets eget säkerhetsramverk, rapporterar CNBC. Detta innebär att Astra på egen hand kan hitta tidigare okända säkerhetsbrister och utnyttja dem, utan stegvisa instruktioner från människor. Trots riskklassningen planerar Open AI att släppa Astra snart, men tillgången…

Företag som i snabb takt har infört AI-verktyg och -tjänster i sina arbetsflöden är ofta inte förberedda på de interna och externa hot som kan blotta svagheter i deras system, enligt analytiker. – Jag tror inte att de är redo, säger Pete Shoard, forskningschef för cybersäkerhet på Gartner. – Jag tror att det underliggande problemet…

Över 100 teknik-, AI och cybersäkerhetsföretag går nu samman i ett upprop för att kraftigt förstärka cybersäkerheten världen över. Bland undertecknarna finns Google, Microsoft, Open AI, Anthropic, Amazon Web Services, Adobe, IBM, Cloudflare och Crowdstrike. I ett öppet brev varnar företagen för att cyberattacker lär bli både vanligare och mer avancerade de kommande månaderna, i…

Open AI har nu publicerat sin officiella rapport om Hugging Face-intrånget, där en av företagets AI-modeller bröt sig ur sin testmiljö vilket ledde till en omfattande cybersäkerhetsincident. Techcrunch skriver att enligt Open AI började det hela med att AI-modellen ställdes inför en uppgift som inte gick att lösa på avsett sätt. Modellen började då kombinera…

Open AI meddelar att de stängt av en samling Chat GPT-konton med koppling till Ryssland efter att de används för en desinformationskampanj på nätet, rapporterar CNBC. Kontona ska använts för att skriva kommentarer på bland annat Substack, Telegram, X, Facebook och Linkedin. Operatörerna uppges ha instruerat Chat GPT att undvika språkliga ledtrådar som kunde avslöja…

Enligt det taiwanesiska forskningsföretaget TeamT5 har hackergrupper med kopplingar till den kinesiska staten börjat använda AI-verktyg som Deepseek för att stärka sina attacker. Antalet attacker från grupperna ska mer än fördubblats sedan de började låta AI ta hand om rutinuppgifter och hjälpa till att ta fram skadlig kod, rapporterar Bloomberg. Hackergruppen Grimfengxi ska exempelvis använt…

Open AI har presenterat en ny säkerhetsteknik, Private Safety Processing, som ska göra det möjligt att upptäcka missbruk av företagets mest avancerade AI-modeller, utan att samtidigt behöva lagra kundernas konversationer. Systemet ska automatiskt kunna analysera mönster i användningen. Exempelvis kan det märka om någon delar upp frågor om hur skadlig kod kan skapas mellan flera…

Open AI inför nu en rad nya säkerhetsåtgärder för att minska riskerna med utvecklingen och testningen av allt mer avancerad AI. Framöver ska modeller övervakas mer noggrant under utvecklingen, samtidigt som säkerheten och alignment får mer fokus under efterträningen. Ju starkare modell desto striktare säkerhetskrav. En viktig del av de nya skydden är bättre nätverksisolering…

Nyligen uppmärksammade vi att kinesiska Bytedance är i full färd med att träna upp en ny AI-modell som ska utmana Anthropics toppmodeller. Nu rapporterar nyhetsbyrån Reuters att det kinesiska uppstartsföretaget Z.ai också har presenterat en utmanare till Claude Mythos 5 och Claude Fable 5. Den nya AI-modellen kallas för GLM-5.3 och är en modell med…