Intelligence artificielle : l'Europe pourrait exiger de l'éthique dans les algoritmes
Mer 17 Mar - 2:03
Les technologies de l'intelligence artificielle doivent prévenir les discriminations et protéger la diversité
- Les technologies de l’intelligence artificielle doivent être entrainées à l’aide d’ensembles de données impartiaux, afin d’éviter toute discrimination
- Un cadre éthique clair pour les algorithmes, afin de protéger la diversité culturelle et linguistique de l’UE
- Les enseignants doivent garder le contrôle des décisions ayant des conséquences sur les futures opportunités des étudiants
Il est essentiel de réduire les préjugés de genre, sociaux ou culturels dans les technologies de l'IA, a déclaré la commission de la culture dans une résolution adoptée mardi.
L’utilisation des technologies de l’intelligence artificielle (IA) dans les secteurs de l’audiovisuel, de la culture et de l’éducation pourrait avoir un impact sur ‘‘la colonne vertébrale des valeurs et des droits fondamentaux de notre société’’, affirme la commission de la culture et de l’éducation dans une résolution adoptée par 25 voix pour, aucune voix contre et 4 abstentions. Le texte appelle à ce que les technologies de l’IA soient réglementées et entrainées afin de promouvoir la non-discrimination, l’égalité des genres, le pluralisme ainsi que la diversité culturelle et linguistique.
Réguler les algorithmes des médias pour protéger la diversité
Afin d’éviter que les recommandations de contenu fondées sur des algorithmes, notamment dans les services de vidéos et de musique en streaming, n’aient un impact négatif sur la diversité culturelle et linguistique de l’UE, les députés demandent à ce que soient développés des indicateurs pour mesurer la diversité et garantir la promotion des œuvres européennes.
La Commission devra établir un cadre éthique clair pour l’utilisation des technologies de l’IA dans les médias européens, afin de garantir que le public ait accès à des contenus culturels et linguistiques divers. Un tel cadre devrait également traiter la question de l’utilisation à mauvais escient de l’IA pour propager des fausses nouvelles et de la désinformation, ajoutent les députés.
Enseigner les valeurs de l’UE à l’intelligence artificielle
Les députés appellent à prévenir l’utilisation de données biaisées reflétant les inégalités de genre ou les discriminations sociétales préexistantes lors de l’entrainement de l’IA. Ils demandent donc le développement, avec l’aide des parties prenantes et de la société civile, d’ensembles de données inclusifs et éthiques à utiliser dans le processus ‘‘d’apprentissage profond’’.
Les députés soulignent enfin que les enseignants devront toujours être en mesure de corriger les décisions prises par l’IA, notamment concernant les évaluations finales des étudiants. En même temps, ils soulignent la nécessité de former les enseignants et mettent en garde sur le fait qu’ils ne devront jamais être remplacés par les technologies de l’IA, notamment dans l’éducation de la petite enfance.
La rapporteure Sabine Verheyen (PPE, DE) a déclaré à l’issue du vote: ‘‘Nous nous sommes battus durant des décennies pour affirmer nos valeurs d’inclusion, de non-discrimination, de multilinguisme et de diversité culturelle, que nos citoyens estiment essentielles à notre identité européenne. Ces valeurs doivent aussi être reflétées en ligne, où l’utilisation d’algorithmes et d’applications d’IA se développe de plus en plus. Le développement de systèmes de données de qualité et inclusifs pour l’apprentissage profond est essentiel, tout comme la mise en place d’un cadre éthique clair pour garantir l’accès à des contenus culturellement et linguistiquement divers.’’
Prochaines étapes
La résolution devrait être mise aux voix du Parlement dans son ensemble en avril (à confirmer).
Suite à son Livre blanc sur l’IA, la Commission devrait proposer un cadre législatif pour une IA fiable en avril 2021.
L’utilisation des technologies de l’intelligence artificielle (IA) dans les secteurs de l’audiovisuel, de la culture et de l’éducation pourrait avoir un impact sur ‘‘la colonne vertébrale des valeurs et des droits fondamentaux de notre société’’, affirme la commission de la culture et de l’éducation dans une résolution adoptée par 25 voix pour, aucune voix contre et 4 abstentions. Le texte appelle à ce que les technologies de l’IA soient réglementées et entrainées afin de promouvoir la non-discrimination, l’égalité des genres, le pluralisme ainsi que la diversité culturelle et linguistique.
Réguler les algorithmes des médias pour protéger la diversité
Afin d’éviter que les recommandations de contenu fondées sur des algorithmes, notamment dans les services de vidéos et de musique en streaming, n’aient un impact négatif sur la diversité culturelle et linguistique de l’UE, les députés demandent à ce que soient développés des indicateurs pour mesurer la diversité et garantir la promotion des œuvres européennes.
La Commission devra établir un cadre éthique clair pour l’utilisation des technologies de l’IA dans les médias européens, afin de garantir que le public ait accès à des contenus culturels et linguistiques divers. Un tel cadre devrait également traiter la question de l’utilisation à mauvais escient de l’IA pour propager des fausses nouvelles et de la désinformation, ajoutent les députés.
Enseigner les valeurs de l’UE à l’intelligence artificielle
Les députés appellent à prévenir l’utilisation de données biaisées reflétant les inégalités de genre ou les discriminations sociétales préexistantes lors de l’entrainement de l’IA. Ils demandent donc le développement, avec l’aide des parties prenantes et de la société civile, d’ensembles de données inclusifs et éthiques à utiliser dans le processus ‘‘d’apprentissage profond’’.
Les députés soulignent enfin que les enseignants devront toujours être en mesure de corriger les décisions prises par l’IA, notamment concernant les évaluations finales des étudiants. En même temps, ils soulignent la nécessité de former les enseignants et mettent en garde sur le fait qu’ils ne devront jamais être remplacés par les technologies de l’IA, notamment dans l’éducation de la petite enfance.
La rapporteure Sabine Verheyen (PPE, DE) a déclaré à l’issue du vote: ‘‘Nous nous sommes battus durant des décennies pour affirmer nos valeurs d’inclusion, de non-discrimination, de multilinguisme et de diversité culturelle, que nos citoyens estiment essentielles à notre identité européenne. Ces valeurs doivent aussi être reflétées en ligne, où l’utilisation d’algorithmes et d’applications d’IA se développe de plus en plus. Le développement de systèmes de données de qualité et inclusifs pour l’apprentissage profond est essentiel, tout comme la mise en place d’un cadre éthique clair pour garantir l’accès à des contenus culturellement et linguistiquement divers.’’
Prochaines étapes
La résolution devrait être mise aux voix du Parlement dans son ensemble en avril (à confirmer).
Suite à son Livre blanc sur l’IA, la Commission devrait proposer un cadre législatif pour une IA fiable en avril 2021.
- Le guide pratique de l'Intelligence Artificielle dans l'Entreprise ( #IA )
- Les apports de l'Intelligence Artificielle dans la veille économique des entreprises
- Santé : l'Europe pourrait être plus réactive
- Le marché de l'E-Sport pourrait représenter 3 Mds d'Euros !
- Le marché de l'auto en hausse mais çà pourrait ne pas durer
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum