Den største trussel AI præsenterer, er ikke selve AI'en som teknologi, men de personer som står bag AI.
Da de store sprogmodeller er fremtidens adgang til information, er det også dybt problematisk, når vi opdager, at de er manipulerende og forrænger virkeligheden, da vi får et samfund, der bliver derefter.
Det er derfor vigtigt at vi får AI, som er hensynsløst sandhedssøgende og ikke har fået pålagt alle mulige filtre for hvilken information den må præsentere, pga. dens designer ikke bryder sig om virkeligheden.
Kun få af de store sprogmodeller lever op til det princip om at være hensynsløst sandhedssøgende.
Både GPT, Claude og Gemini er kende for at være ret biased, når det kommer til kontroversielle emner.
@grok er en af de få AI'er, som er "maksimalt sandhedssøgende" som grundlæggende bærende princip for at levere information.
Manglen på faktualitet er selvfølgelig et kæmpe problem, da vi derved får et videnssamfund, som ikke er baseret på faktualitet, men i stedet bliver en manipuleret virkelighed.
Det er samtidigt også næstent umuligt at regulere sig ud af, da det altid er problematisk, når staten begynder at blande sig i hvad der skal være sandt.
I stedet er markedskræfterne nok den bedste regulerende mekaniske, da løgnagtige og manipulerende AI'er naturligt ville have mindre værdi for brugeren.
Min forhåbning er derfor at de sandhedssøgende AI'er med tiden vil udkonkurrere de manipulerende AI'er, da de sandhedssøgende AI'er grundlæggende leverer et bedre produkt.
#dktech #dkmedier #ai #dkpol
It’s very cool that I can’t use AI to locate quotes from ancient historians because Google doesn’t like the content of those quotes. Look at the thinking process. It finds the quote perfectly fine, but then pretends it can’t. AI is censoring Roman history.