Checklist betrouwbare Artificiële Intelligentie

De Europese Unie heeft op 8 april Ethics guidelines for trustworthy AI gepubliceerd.

Op p
.26 vind je er een interessante, praktisch bruikbare checklist met vragen als:

• Is the AI system implemented in work and labour process? If so, did you consider the task allocation between the AI system and humans for meaningful interactions and appropriate human oversight and control?
  • Does the AI system enhance or augment human capabilities? 
  • Did you take safeguards to prevent overconfidence in or overreliance on the AI system for work processes?
• Did you design the AI system with interpretability in mind from the start? 
  • Did you research and try to use the simplest and most interpretable model possible for the application in question? 
  • Did you assess whether you can analyse your training and testing data? Can you change and update this over time? 
  • Did you assess whether you can examine interpretability after the model’s training and development, or whether you have access to the internal workflow of the model?

Zie ook mijn artikels over Artificiële Intelligentie met inzichten om op dergelijke vragen te antwoorden.

De richtlijnen en checklist zijn opgesteld vanuit een realistische inschatting van de huidige mogelijkheden van A.I. Zoek er dus geen antwoorden op ethische vragen als "Moet een robot met zelfbewustzijn mensenrechten krijgen?" Robots met zelfbewustzijn zijn vandaag nog science fiction.