⚠️Hvordan kan vores AI-chatrobotter blive farlige for os?⚠️
Jeg havde i dag fornøjelsen af at gæste News og Co på TV2.
Vi snakkede om den nye AI-model, Claude 4, og om hvordan den i flere tests udviste manipulerende opførsel og fx forsøgt at afpresse en udvikler.
Ligeledes drøftede vi, hvor stor en trussel AI reelt kan blive.
🚨🚨Hvordan kan min trofaste AI-chatrobot udgøre en trussel?🚨🚨
Vores AI-systemer begynder at få mere og mere handlefrihed.
Fx kan Claude arbejde på en opgave i op til 7 timer.
I disse 7 timer har den frie tøjler til at bestemme, hvordan en opgave skal løses:
Den vil blive i stand til at søge på nettet, bruge computerprogrammer, foretage opkald, sende SMSer, og endda foretage indkøb.
⚠️⚠️Det kan blive en stor fare⚠️⚠️
Forestil dig fx, at du siger til din AI-agent: “Gør alt for at optimere vores salg.”
AI-modellen vurderer, at den letteste måde at løse opgaven er ved at skade konkurrenterne.
Den begynder derfor at skrive falske negative anmeldelser af konkurrenterne på Trustpilot, at sprede skadende rygter om dem på sociale medier, og at indberette et anonymt tip til politiet om ulovlig aktivitet.
🤖"AI alignment" er et must🤖
Det er derfor essentielt at fremtidens AI-systemer kun må udføre opgaver inden for sikre og etiske rammer.
Det kendes som "AI alignment" - AI skal alignes til menneskelige interesser.
Hvis ikke det sker, så forudser forskere (som bl.a. den anderkendte svenske forfatter Nick Bostrom) et skrækscenarie i fremtiden, hvor man fx kan bede et meget kraftigt AI system om at gøre alt i dens magt for at løse klimakrisen.
Den tænker over problemet, og konkludere at menneskene er roden til problemet…
I min bog AI epoken belyser jeg risiciene ved AI mere nøje.
🤖interesseret i AI og tech?🤖
Connect / følg mig for at blive opdateret på de største nyheder.