God morgon! Jag vaknar av min döda farmors röst. Skärmen har slagits på och när jag gnuggat sömnen ur ögonen ser jag henne i morgon-tv där hon berättar om nyheterna från hela världen.
Det kanske låter otroligt men tekniken är redan här. Företag utvecklar program som gör det möjligt att ha videosamtal med avlidna släktingar. Andra bolag satsar nu stenhårt på att skapa AI-genererade nyhetstjänster. Channel 1 heter kanalen som ska lanseras stort detta år och där nyhetsankarna är helt AI-skapade. Kanalen ska sända inslag som producerats från medier med mänskliga journalister men den artificiella programledaren kan presentera nyheterna på nästan alla världens språk. Enligt reklamen ska det bli möjlig att påverka programledarens personlighet, och vem vet kanske även låta sin döda farmor läsa upp nyheterna? Det senare är inte så dumt som det låter.
Den digitala antropologen Rahaf Harfoush, har skrivit om hur vi människor påverkas av mötet med den digitala tekniken. Hon och flera andra hävdar att vi nu i rasande takt är på väg in i en period där nyheter blir allt mer personifierade.
Utvecklingen drivs av användare som vill ha skräddarsydda nyheter som anpassats efter deras intressen. Samtidigt vill mediabolagen stärka sin relation till konsumenterna. För att göra det krävs förtroende. Det enklaste sättet att göra det är att låta en kändis eller någon vi känner väl stå som avsändare för informationen. Om en person du litar på läser upp nyheterna så tror du på det. Med hjälp av AI-teknik är det nu möjligt.
Forskare vet att när vi väl har bestämt oss för att lita på en person så krävs det väldigt mycket för att vi ska ändra oss. Vi vill gärna tro motsatsen men även om all fakta pekar på att det du hör inte stämmer så har du svårt att tro på det om det kommer från en person du litar på. Vi är helt enkelt riggade så. Psykologerna talar om kognitiv dissonans och bekräftelsebias och säger att vi hellre duckar för sanningen än hanterar obehaget med att ha fel.
Den goda nyheten är att seriösa nyhetsförmedlare kan utnyttja detta för att sprida kvalitetsjournalistik.
Den dåliga nyheten är att oseriösa aktörer också kan utnyttja tekniken för att sprida fejknyheter och tjäna pengar.
För vad händer om din avlidna AI-generade farmor, partner eller kändis som läst nyheterna för dig varje dag det senaste året, plötsligt ber dig att investera i ett tveksamt företag? Eller om hon plötsligt börjar sprida fejknyheter eller komma med uppmaningar?
Förra veckan blev kring 25 000 väljare i New Hampshire uppringda av en röst som lät som Joe Bidens och sa att de inte skulle rösta i demokraternas primärval. ”Spara din röst till november” sa fejkrösten.
Det här är bara en försmak av vad som troligtvis kommer att hända i år när hälften av världens befolkning ska rösta. Det är numera lätt och billigt att manipulera röster och bilder. Det kan leda till en storm av fejknyheter och manipulation. Men rätt använd så kan den nya tekniken också stärka kvalitetsjournalistiken.
Utvecklingen är inte lagbunden, den blir vad vi gör den till. Det är därför Reportrar utan gränser jobbar med att ta fram en AI-policy för redaktioner och en certifiering för seriösa medier. Tanken är att certifieringen, Journalism Trust Initiative (JTI), ska bidra till att öka spridningen av innehållet från seriösa medier. Tack vare ditt stöd så kan vi kämpa för att utvecklingen går åt rätt håll.
Foto: Jonas Gratzer