Anthropic valde medvetet att ta bort vissa säkerhetsmekanismer i Mythos 5. Det var en genomtänkt filosofisk hållning.
I Mythos 5 var flera automatiska säkerhetsspärrar svagare eller borttagna. Anthropic gjorde detta medvetet för att förstå modellens fulla potential och samla data om vilka risker som faktiskt uppstår när skyddsnivån sänks.
Detta var alltså inte vårdslöshet – det var ett ingenjörsmässigt och vetenskapligt angreppssätt: för att bygga bra skydd måste man först förstå vad man skyddar mot.
En ny säkerhetsfilosofi
Mythos-projektet pekar mot en säkerhetsfilosofi där skyddsnivån anpassas efter användaren snarare än att vara konstant. För en bred publik (Fable 5) krävs starka skydd. För en snäv grupp experter (Mythos 5) kan lägre skyddsnivå vara motiverad.
“För att bygga bra skydd måste man först förstå vad man skyddar mot.”
- Simon Axelsson
Simon Axelsson är senior IT-konsult och grundare av SIAX Technology AB. Han hjälper nordiska företag med molninfrastruktur, dataplattformar och AI-automation.
Fler artiklar
