AI och sanning

[MissFideli]

Jag har funderat endel på det här med AI och liknande i världen. Hörde att det kommit ut ett valtal (?) från nån amerikansk politiker som är AI-framtaget och inte alls från honom.
Det verkar ju inte gå att höra skillnad på äkta och AI. Hackare som tar över hemsidor gör att man knappt kan lita på vad det står där heller.

Vad kan man egentligen lita på idag?

 

[Teilani]

Jättebra frågor, funderar också kring detta, men har inga bra svar.

 

[MissFideli]

Uppenbarligen mer solklart för andra eftersom många läst men inte svarat

 

[Hedinn]

Alltså, jag tänker väl att det inte är konstigare än det var innan ”allt” spelades in. Var man inte på plats fick man info från andra, inte sällan i flera led, och man fick vara lite kritisk till det mesta. Samma nu, vi får helt enkelt se att video och ljud funkar på samma sätt, det är inte längre en absolut sanning. Källkritik är viktigare än på länge (även om det alltid varit viktigt) och oberoende nyhetsrapporteringar något vi verkligen måste värna om.

 

[nullo-modo]

Tror vi bara sätt början av AI och vi måste vara ännu mer vakna för att inte bli lurade.

 

[nullo-modo]

Alltså, jag tänker väl att det inte är konstigare än det var innan ”allt” spelades in. Var man inte på plats fick man info från andra, inte sällan i flera led, och man fick vara lite kritisk till det mesta. Samma nu, vi får helt enkelt se att video och ljud funkar på samma sätt, det är inte längre en absolut sanning. Källkritik är viktigare än på länge (även om det alltid varit viktigt) och oberoende nyhetsrapporteringar något vi verkligen måste värna om.

Inte bara källkritisk. Är ju redan idag folk som blir lutade att tro att det är deras barn som ringer.

 

[MissFideli]

Alltså, jag tänker väl att det inte är konstigare än det var innan ”allt” spelades in. Var man inte på plats fick man info från andra, inte sällan i flera led, och man fick vara lite kritisk till det mesta. Samma nu, vi får helt enkelt se att video och ljud funkar på samma sätt, det är inte längre en absolut sanning. Källkritik är viktigare än på länge (även om det alltid varit viktigt) och oberoende nyhetsrapporteringar något vi verkligen måste värna om.

Men vad är källkritiken värd om ingen vet om ens den är sann?

 

[Tonto]

Men vad är källkritiken värd om ingen vet om ens den är sann?

Hur visste du om källkritiken var sann innan AI började skriva saker?

 

[MissFideli]

Hur visste du om källkritiken var sann innan AI började skriva saker?

Ah, du menar att AI inte gör nån direkt skillnad? Jag är mer cynisk än så.

 

[Tonto]

Ah, du menar att AI inte gör nån direkt skillnad? Jag är mer cynisk än så.

Tror inte det gör så stor skillnad. Ungefär som photoshop för bilder. Man lär sig vad som är AI och vad som är riktigt. ChatGPT har t.ex. en väldigt distinktiv stil på hur den "pratar".

 

[Sassy]

Tror inte det gör så stor skillnad. Ungefär som photoshop för bilder. Man lär sig vad som är AI och vad som är riktigt. ChatGPT har t.ex. en väldigt distinktiv stil på hur den "pratar".

Det är väl inte riktigt ChatGPT man är orolig för, utan att "deep fake"-modeller och liknande blir bättre och bättre. Eller att det blir lätt att massproducera nyheter på ett sätt som gör att erkända nyhetskällor bedömer det som trovärdigt pga mängden "oberoende källor", och sen vidarepublicerar eller åtminstone bedömer vinkeln på det nyhetsflödet.

Det är åtminstone något som många säkerhetstjänster anser är en ökande risk.

 

[Tonto]

Det är väl inte riktigt ChatGPT man är orolig för, utan att "deep fake"-modeller och liknande blir bättre och bättre. Eller att det blir lätt att massproducera nyheter på ett sätt som gör att erkända nyhetskällor bedömer det som trovärdigt pga mängden "oberoende källor", och sen vidarepublicerar eller åtminstone bedömer vinkeln på det nyhetsflödet.

Det är åtminstone något som många säkerhetstjänster anser är en ökande risk.

Klart det är en ökande risk. Men så är det alltid med ny teknik.

Jag är nog bara ifrågasättande när det gäller skräcken över AI. Människor har alltid varit rädda för ny teknik och folk har ofta domedagstänk så fort teknologi utvecklas. Uppenbarligen lär vi oss ingenting utan fortsätter vara lika rädda som vi alltid har varit.

 

[Sassy]

Innan kameror och ljudupptagning var möjligt var vi också hänvisade till att nyhetsrapporteringen helt enkelt hade rätt källor. Skillnaden jämfört med nu är att det var relativt få kanaler som hade möjlighet att sprida nyheter fort, så möjligheten att lura världen var rätt begränsad.

Idag är det betydligt mer komplext, och påhittade nyheter för att misskreditera eller driva på en konflikt är lätt att sprida med relativt enkla medel. Det är något vi måste förhålla oss till. Jämför tex med vilken spridning ryktet om hur svensk socialtjänst vill ta muslimska barn har fått, och hur mycket skada det ställer till med i förtroendet för myndigheter i Sverige och för Sverige som land utomlands.

 

[Saigon]

Jag har funderat endel på det här med AI och liknande i världen. Hörde att det kommit ut ett valtal (?) från nån amerikansk politiker som är AI-framtaget och inte alls från honom.
Det verkar ju inte gå att höra skillnad på äkta och AI. Hackare som tar över hemsidor gör att man knappt kan lita på vad det står där heller.

Vad kan man egentligen lita på idag?

När det gäller tal så spelar det för mig ingen roll om det är AI som skrivit talet. Det är så många som använder sig av talskrivare så det är länge sedan jag lyssnade på ett tal och utgick från att det var personens egna formuleringar rakt igenom.

När det gäller bilder har jag dock börjat känna mig lite vilsen. När jag ser en fascinerande bild i tex sociala medier så känner jag numera att jag inte kan lita på att den är äkta varpå bilder inte längre väcker samma känslor hos mig. Så när det gäller bilder tycker jag att det skulle behöva framgå när den är AI-producerad.

Likaså är jag lite oroad för vad AI kommer leda till inom musik- och filmbranschen. Jag tycker redan nu att det produceras alldeles för mga filmer och serier som är skapade efter vad man tror ska gå hem hos gemene man. Vilket gör att det är väldigt lite som sticker ut. Det är så mkt som blir lite same same.

 

[Sassy]

När det gäller tal så spelar det för mig ingen roll om det är AI som skrivit talet. Det är så många som använder sig av talskrivare så det är länge sedan jag lyssnade på ett tal och utgick från att det var personens egna formuleringar rakt igenom.

Problemet ifråga är att det inte alls var det talet som hållits, utan att hela alltet är producerat för att se ut som och låta som att "rätt" person sagt det. Tänk dig att stadsministern eller motsvarande maktperson sitter i TV och berättar något viktigt för folket, och så är allt en fejk producerad för att lura oss?

 

[Saigon]

Problemet ifråga är att det inte alls var det talet som hållits, utan att hela alltet är producerat för att se ut som och låta som att "rätt" person sagt det. Tänk dig att stadsministern eller motsvarande maktperson sitter i TV och berättar något viktigt för folket, och så är allt en fejk producerad för att lura oss?

Jo, absolut men jag syftade på de vardagliga situationerna och vad AI kan innebära då.

 

[warg]

Bara att man känner till och förstår att deep fakes finns och kan göras är ju en bit på väg. Än så länge tycker jag ändå att man ofta kommer ganska långt med att fundera på vad som är rimligt och kolla upp sånt som inte känns rimligt. Samtidigt är det ju så att när man undrar varför folk går på något så är man själv inte målgruppen. Jag såg häromdagen en skickligt gjord potemkinkuliss på Expressen - men innehållet var verkligen inte rimligt som journalistik. Men jag var förstås inte målgruppen för den heller. Det finns verkligen all anledning att lära sig mer om hur man kan manipuleras och vad man själv har för sårbarheter där.

 

[sjoberga]

Jag har funderat endel på det här med AI och liknande i världen. Hörde att det kommit ut ett valtal (?) från nån amerikansk politiker som är AI-framtaget och inte alls från honom.
Det verkar ju inte gå att höra skillnad på äkta och AI. Hackare som tar över hemsidor gör att man knappt kan lita på vad det står där heller.

Vad kan man egentligen lita på idag?

Inte ett random videoklipp i alla fall. Det gäller att alla våra faktagranskare är aktiva.

Ett fortfarande rätt enkelt sätt att bli frågande är att de klipp jag sett varit extremt kontroversiella och olikt personen, då borde man få upp ett par extra varningsflaggor innan man tror på det.

Men det är krävande att så mycket blir ”osäkert”.

 

[MissFideli]

Problemet ifråga är att det inte alls var det talet som hållits, utan att hela alltet är producerat för att se ut som och låta som att "rätt" person sagt det. Tänk dig att stadsministern eller motsvarande maktperson sitter i TV och berättar något viktigt för folket, och så är allt en fejk producerad för att lura oss?

Precis!

 

[MissFideli]

Jo, absolut men jag syftade på de vardagliga situationerna och vad AI kan innebära då.

Jag tänker mer på när AI används för att luras.