Een AI-ondersteund rapport markeerde een Chinees schip ten onrechte: er ging meer mis dan één hallucinatie

Wat er werkelijk is gemeld

CNN meldde op 18 september 2026 dat tijdens de oorlog met Iran in het voorjaar een inlichtingenrapport door het Amerikaanse leger circuleerde. Daarin stond dat een Chinees schip in het Midden-Oosten onderdelen voor een kernwapenprogramma vervoerde. Vier bronnen met kennis van het voorval werden aangehaald. Volgens hen bereidden gewapende militairen een boarding voor en waren vliegtuigen al in de lucht toen een nieuwe controle de operatie stopte.

Een analist van het US Special Operations Command had het rapport met hulp van een AI-chatbot opgesteld. Het systeem zou de lading verkeerd hebben geïdentificeerd. Welke chatbot, welk schip, welk materiaal en welke exacte datum zijn niet openbaar gemaakt.

Wat publiek nog niet te controleren is

Er is geen openbaar vrijgegeven onderzoek met prompts, brondocumenten, modelantwoord en annuleringsbesluit. De kern komt uit exclusieve berichtgeving van CNN op basis van anonieme bronnen. De AI Incident Database registreerde het als Incident 1701, maar kan daarmee geen ontbrekend officieel dossier vervangen.

Nauwkeurige taal is hier essentieel. De berichtgeving ging over onderdelen die aan een kernwapenprogramma werden gekoppeld, niet over complete kernwapens aan boord. Ook is er geen bewijs om een specifiek commercieel model te noemen.

De synthese werd gevaarlijk toen zij als bewijs ging gelden

Volgens CNN combineerde de chatbot openbare informatie met geheime signal intelligence. Zo’n samenvatting kan nuttig zijn, maar kan het verschil uitwissen tussen wat een bron letterlijk zegt en wat het model afleidt. Zodra de tekst als inlichtingenrapport circuleert, zien lezers institutioneel gezag en niet de onzekere redenering eronder.

NIST noemt geloofwaardige maar foutieve generatieve antwoorden confabulaties. Ze volgen uit de manier waarop modellen tekst produceren. Een opdracht om voorzichtig te zijn maakt geen ontbrekend bewijs. Iedere ingrijpende bewering moet verbonden blijven met een bron die een beoordelaar kan openen en betwisten.

• Bekijk rapportage met bronverwijzingen

Een mens in de lus is onvoldoende als die alleen de conclusie ziet

Mensen stopten de operatie uiteindelijk. De effectieve controle kwam echter pas nadat het rapport was verspreid en middelen waren ingezet. Een menselijke handtekening stelt weinig voor als de beoordelaar niet kan zien welke zin uit welk document komt en waar het model een sprong maakte.

De Amerikaanse verklaring over verantwoord militair AI-gebruik vraagt om verantwoordelijkheid binnen een menselijke bevelsketen en om grondige tests. In de praktijk heeft een beoordelaar tijd, toegang tot primaire bronnen, stopbevoegdheid en zichtbare onzekerheid nodig.

Een veiliger ontwerp voor ingrijpende rapporten

Scheid extractie en oordeel. Leg eerst letterlijke waarnemingen per bron vast: omschrijving van de lading, code, datum, afzender en vindplaats. Zet de conclusie daarna in een apart veld met de regel of expertise waarop ze rust. Als bronnen botsen, blijven beide zichtbaar.

Laat vóór beslissingen over geweld, rechten, geld of veiligheid een tweede bevoegde specialist controleren. Registreer model, prompt, bronnen en wijzigingen. Definieer heldere stopredenen: ontbrekende bron, dubbelzinnige code, onbewezen toeschrijving of een conclusie zonder traceerbare passage.

• Vergelijk bewijs met Cross-check
• Bekijk voorbeeldrapporten

• Elke belangrijke bewering verwijst naar een concrete passage of veld.
• Waarneming, modelafleiding en menselijke beslissing blijven gescheiden.
• Tegenstrijdigheden en ontbrekende informatie blijven zichtbaar.
• Een tweede beoordelaar kan stoppen en de originelen inzien.
• Model, prompt, bronset, wijzigingen en tijden worden vastgelegd.

Hetzelfde controleprobleem bestaat in gewone bedrijven

Een militaire onderschepping is extreem, maar het foutpatroon is herkenbaar. Een verzekeringssamenvatting verandert stilletjes een herstelraming. Een marktplaats verwart twee verkopers met bijna dezelfde naam. Een financiële afdeling accepteert een verzonnen verklaring voor het verschil tussen factuur en bankafschrift.

DeepfakePolicy Cross-check vergelijkt aangeleverd materiaal, citeert de onderliggende bron en laat conflicten open als bewijs ontbreekt. Het kan geen geheime inlichtingen authenticeren of onbekende lading identificeren. De nuttige rol is beperkter: de route van bron naar bewering zichtbaar houden voordat een vloeiende AI-reactie een operationeel feit wordt.