Hooggerechtshof legt advocaat boete op wegens gebruik van ChatGPT in moordzaak

Het Hooggerechtshof van New Mexico heeft onlangs de advocaat Stephen Aarons uit Santa Fe veroordeeld wegens minachting van het hof, nadat hij een beroepschrift had ingediend dat getuigenverklaringen en getuigen bevatte die door ChatGPT waren verzonnen. Vorig jaar verdedigde Aarons een cliënt die was veroordeeld voor moord, toen hij de chatbot gebruikte om procesverslagen samen te vatten, waarna hij het resulterende document indiende zonder het vooraf te laten proeflezen. Het pleitnota bevatte verklaringen die werden toegeschreven aan getuigen die niet bestonden, evenals verzonnen opmerkingen die ten onrechte aan een echte getuige werden toegeschreven.

De reactie van het hof was onomwonden. Rechter C. Shannon Bacon vroeg Aarons nadrukkelijk of hij het nieuws überhaupt volgde, gezien de frequentie waarmee „hallucinaties“ van AI in juridische stukken de krantenkoppen halen, en suggereerde dat hij het fenomeen ofwel had genegeerd, ofwel roekeloos had gegokt met de zaak van zijn cliënt. Aarons, die al meer dan vier decennia als advocaat werkzaam is, gaf zijn eigen „domheid“ toe en verklaarde verder dat hij ten onrechte had aangenomen dat de software een betrouwbare samenvatting zou opleveren.

Naast deze berisping legde de rechtbank een boete van 5.000 dollar op, te betalen aan een fonds ter bescherming van cliënten, en verwees de zaak door naar de tuchtraad voor advocaten van de staat. Deze zaak volgt op verschillende andere gevallen waarin advocaten sancties of tuchtrechtelijk onderzoek hebben ondergaan na het indienen van niet-geverifieerd, door AI gegenereerd materiaal bij de rechtbank (1, 2, 3).