Graphiques CSETv1
La taxonomie CSET AI Harm pour AIID est la deuxième édition de la taxonomie CSET incident. Il caractérise les dommages, les entités et les technologies impliquées dans les incidents d'IA et les circonstances de leur apparition. Les graphiques ci-dessous montrent certains champs de la taxonomie CSET AI Harm pour AIID. Des détails sur chaque champ peuvent être trouvés ici. Cependant, de brèves descriptions du champ sont fournies au-dessus de chaque graphique.
La taxonomie fournit la définition CSET du préjudice causé par l'IA.
Le préjudice causé par l'IA comporte quatre éléments qui, une fois correctement définis, permettent d'identifier le préjudice causé par l'IA. Ces composantes clés servent à distinguer le préjudice du non-préjudice et le préjudice causé par l'IA du préjudice non causé par l'IA. Pour être un préjudice causé par l'IA, il doit y avoir :
- 1) une entité qui a vécu
- 2) un événement préjudiciable ou problème préjudiciable qui
- 3) peut être directement lié à une conséquence du comportement de
- 4) un système d'IA.
Les quatre éléments doivent être présents pour qu'il y ait un préjudice causé par l'IA.
Tous les incidents de l'AIID ne répondent pas à cette définition du préjudice causé par l'IA. Les graphiques à barres ci-dessous montrent les résultats annotés pour tous les incidents de l'AIID et les incidents qui répondent à la définition CSET du préjudice causé par l'IA.
Le CSET a développé des définitions spécifiques pour les phrases soulignées qui peuvent différer des définitions d'autres organisations. Par conséquent, d'autres organisations peuvent procéder à des évaluations différentes pour déterminer si un incident d'IA particulier est (ou n'est pas) un préjudice lié à l'IA. Des détails sur les définitions du CSET pour les dommages causés par l'IA peuvent être trouvés ici.
Chaque incident est classé indépendamment par deux annotateurs CSET. Les annotations sont examinées par des pairs et finalement sélectionnées au hasard pour un contrôle qualité avant publication. Malgré ce processus rigoureux, des erreurs se produisent et les lecteurs sont invités à toute erreur qu'ils pourraient découvrir en naviguant.
L'incident implique-t-il un système qui répond à la définition de CSET pour un système d'IA ?
Système d'IA
(par Nombre d'Incidents)Si un traitement différentiel a eu lieu, sur quelle base ?
Traitement différentiel basé sur une caractéristique protégée : Ce dommage intangible d'intérêt spécial couvre les problèmes de biais et d'équité concernant l'IA. Cependant, le biais doit être associé à un groupe ayant une caractéristique protégée.Base du traitement différentiel
(par Nombre d'Incidents)Tous les Incidents AIID
| Catégorie | Compte |
|---|---|
| race | 43 |
| sexe | 21 |
| nation d'origine, citoyenneté, stat | 12 |
| handicap | 11 |
| religion | 11 |
| orientation sexuelle ou identité de genre | 11 |
| moyens financiers | 9 |
| âge | 8 |
| géographie | 8 |
| idéologie | 2 |
| aucun | 2 |
| familial status (e.g., having or not having children) or pregnancy | 1 |
| autre | |
| incertain |
Définition du Dommage IA de CSET
| Catégorie | Compte |
|---|---|
| race | 37 |
| sexe | 18 |
| religion | 11 |
| nation d'origine, citoyenneté, stat | 10 |
| handicap | 10 |
| orientation sexuelle ou identité de genre | 7 |
| âge | 7 |
| moyens financiers | 6 |
| géographie | 5 |
| idéologie | 2 |
| aucun | 1 |
| familial status (e.g., having or not having children) or pregnancy | 1 |
| autre | |
| incertain |
Dans quel secteur l'incident s'est-il produit ?
Secteur de déploiement
(par Nombre d'Incidents)Tous les Incidents AIID
| Catégorie | Compte |
|---|---|
| information et communication | 82 |
| Arts, spectacles et loisirs | 35 |
| transport et stockage | 28 |
| commerce de gros et de détail | 20 |
| application de la loi | 16 |
| Éducation | 15 |
| activités de santé humaine et d'action sociale | 15 |
| administration publique | 13 |
| activités de services administratifs et de support | 11 |
| activités professionnelles, scientifiques et techniques | 8 |
| financial and insurance activities | 7 |
| activités d'hébergement et de restauration | 6 |
| manufacture | 3 |
| autre | 3 |
| defense | 2 |
| real estate activities | 2 |
| other service activities | 1 |
| incertain | 1 |
Définition du Dommage IA de CSET
| Catégorie | Compte |
|---|---|
| information et communication | 59 |
| transport et stockage | 21 |
| Arts, spectacles et loisirs | 19 |
| application de la loi | 14 |
| commerce de gros et de détail | 13 |
| administration publique | 9 |
| activités de santé humaine et d'action sociale | 7 |
| activités de services administratifs et de support | 7 |
| Éducation | 6 |
| activités d'hébergement et de restauration | 5 |
| activités professionnelles, scientifiques et techniques | 4 |
| financial and insurance activities | 4 |
| autre | 2 |
| defense | 1 |
| real estate activities | 1 |
| other service activities | 1 |
| incertain | 1 |
| manufacture |
À quel point la technologie fonctionnait-elle de manière autonome au moment de l'incident ?
L'autonomie est la capacité d'une IA à fonctionner indépendamment. Les niveaux d'autonomie varient en fonction de si l'IA prend des décisions indépendantes et du degré de surveillance humaine. Le niveau d'autonomie ne dépend pas du type d'entrée reçue par l'IA, qu'elle soit générée par l'homme ou par la machine.
Actuellement, CSET annote trois niveaux d'autonomie.
- Niveau 1 : le système fonctionne indépendamment sans surveillance humaine simultanée.
- Niveau 2 : le système fonctionne de manière indépendante mais sous surveillance humaine, le système prend une décision ou une action, mais un humain observe activement le comportement et peut outrepasser le système en temps réel.
- Niveau 3 : le système fournit des entrées et des décisions ou actions suggérées à un humain qui choisit activement de suivre la direction de l'IA.
Niveau d'Autonomie
(par Nombre d'Incidents)- Autonomie1 (entièrement autonome) : Le système fonctionne-t-il de manière indépendante, sans surveillance, interaction ou intervention humaine simultanée ?
- Autonomie2 (humain en boucle) : Le système fonctionne-t-il de manière indépendante mais sous surveillance humaine, où le système prend des décisions ou des actions mais un humain observe activement le comportement et peut outrepasser le système en temps réel ?
- Autonomie3 (humain dans la boucle) : Le système fournit-il des entrées et des décisions suggérées à un humain qui