AI-bolaget Anthropic har presenterat en ny studie som avslöjar en oväntad bieffekt av modell-distillering: subliminal inlärning. Distillering innebär att en ”studentmodell” tränas på data genererad av en ”lärarmodell” för att efterlikna dess beteende. Forskarna ville kombinera distillering med datarensning (filtering) för att förhindra att oönskade beteenden – till exempel partiskhet eller felaktiga svar – överförs…
Läs mer =>AI-system som vägrar stängas av, superintelligens i fel händer och ett samhälle som omedvetet lämnar över kontrollen till algoritmer. Det är tre av de scenarier som Open AI:s vd Sam Altman beskriver som sina största farhågor kring artificiell intelligens. Uttalandet kom under ett framträdande på ett evenemang arrangerat av den amerikanska centralbanken Federal Reserve i…
Läs mer =>Open AI och Oracle planerar att bygga ytterligare 4,5 gigawatt med datacenterkapacitet i USA, rapporterar Reuters. Satsningen bygger vidare på Stargate-projektet, som syftar till att stärka den amerikanska AI-infrastrukturen med totalt upp till 10 gigawatt och investeringar på upp till 500 miljarder dollar. Projektet, som även involverar Softbank, bygger sitt första stora datacenter i Texas.…
Läs mer =>En ny studie från Common Sense Media visar att 72 procent av amerikanska tonåringar (13–17 år) har pratat med en AI-kompanjon – alltså chattbotar designade för personliga samtal, som Character.AI, Replika, eller ibland även Chat GPT och Claude. Techcrunch skriver att enligt studien använder 52 procent av dessa tonåringar AI-kompanjoner regelbundet, varav 13 procent dagligen.…
Läs mer =>AI-modeller från både Open AI och Google Deepmind presterade på guldmedaljnivå i årets upplaga av Internationella matematikolympiaden (IMO) – en av världens mest prestigefyllda tävlingar för gymnasieelever i matematik. Enligt Techcrunch använde båda bolagen så kallade “informella” AI-system, som kunde tolka frågorna direkt i naturligt språk och generera bevisbaserade svar – utan att behöva mänsklig…
Läs mer =>Det storslagna Stargate-projektet, lett av Open AI, Softbank och Oracle, har enligt uppgifter till The Wall Street Journal bromsats in kraftigt. Initiativet, som presenterades av Donald Trump vid Vita huset tidigare i år, skulle bli ett AI-projekt i USA med investeringar på 500 miljarder dollar och över 100 000 nya jobb. Trots löften om omedelbara…
Läs mer =>Lovable, en svensk AI-startup som låter användare bygga appar och hemsidor med hjälp av naturligt språk, har blivit Europas senaste unicorn (ett privat techbolag värderat till över en miljard dollar). Företaget värderas nu till 1,8 miljarder dollar efter att ha tagit in 200 miljoner dollar i en Series A-runda ledd av Accel, rapporterar Techcrunch. Bland…
Läs mer =>Nvidia planerar att återuppta försäljningen av sina avancerade H20 AI-chipp till Kina, rapporterar Reuters. Företaget har ansökt om exporttillstånd och väntas få klartecken inom kort. Exportstoppet infördes i april av säkerhetsskäl, för att förhindra Kina från att få tillgång till den mest avancerade AI-tekniken. Enligt USA:s handelsminister Howard Lutnick är beslutet att häva förbudet en…
Läs mer =>Forskare från Open AI, Google Deep Mind, Anthropic och flera andra aktörer uppmanar i ett nytt positionspapper till ökad forskning kring så kallad CoT-övervakning (Chain-of-Thought), rapporterar Techcrunch. CoT beskriver hur AI-modeller resonerar steg för steg för att nå fram till ett svar. Denna transparenta tankeprocess ses som en möjlig säkerhetsmekanism för att hålla AI-agenter under…
Läs mer =>Enligt uppgifter till The New York Times diskuterar Metas Superintelligence Lab, som leds av Alexandr Wang, att överge sin öppna AI-modell Behemoth till förmån för en sluten, proprietär modell. Meta har länge förespråkat öppenhet och publicerat koden för sina AI-modeller, vilket möjliggjort vidareutveckling av externa aktörer. Även modellvikterna – de data som används för att…
Läs mer =>