Het Openbaar Ministerie wil beter begrijpen wat de impact van AI is op de rechtsgang en op slachtoffers. Daarover ging een congres, georganiseerd door Marieke Noordanus en Andjinie Autar. In het verslag staat dat vooral deepfakes de normale rechtsgang onder druk zetten, zeker in civiele zaken.
Een van de vragen die daar werd gesteld, is of de bewijslast zou moeten verschuiven: bewijs maar dat video’s, documenten en beelden géén vervalsing zijn. Die vraag is scherp, omdat kapitaalkrachtige partijen deepfakes zouden kunnen inbrengen, terwijl de wederpartij het tegendeel moet aantonen. Dit is een discussiepunt uit de bijeenkomst, geen standpunt of juridisch advies van AI-Labs.
Tijdens de bijeenkomst kwam ook ter sprake dat het Nederlands Forensisch Instituut methoden onderzoekt om echt van nep te onderscheiden, bijvoorbeeld via sporen van hartslag in echte video, of via de frequentie van het lichtnet (rond 50 hertz) die iets kan zeggen over plaats of tijd van opname. Die technieken werden in het verslag als voorbeelden genoemd. De oorspronkelijke LinkedIn-korte links naar achterliggende stukken waren in deze controle niet tot een zichtbare bron te herleiden en zijn weggelaten. Criminelen passen hun methoden ook aan, waardoor detectie een kat-en-muisspel blijft.
Voor OM en rechtspraak wordt het beoordelen van bewijs hierdoor ingewikkelder. Juist daarom is het belangrijk dat dit soort bijeenkomsten plaatsvinden, binnen kaders als de AI-verordening en het NIST AI RMF.