L'approche des innovations de l'IA par la gestion des risques est apparue dès 1941 grâce à Asimov.
Il y avait au départ trois lois, maintenant complétées de la loi Zéro.
-
Un robot ne peut pas porter attente à l’humanité ni, par son inaction permettre que l’humanité soit en danger.
-
Un robot ne peut pas porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit exposé au danger, sauf contradiction avec la Loi Zéro.
-
Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi ou la Loi Zéro.
-
Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Deuxième Loi, la Première Loi ou la Loi Zéro.