lundi 16 octobre 2017
Transparence et responsabilité des algorithmes
Chapitre : Numérique et technologies
Description
Etendre la descriptionLes algorithmes jouent un rôle de plus en plus fondamental dans tous les aspects de notre vie. En particulier, ils sont utilisés pour classer, prédire et utiliser comme outil d’aide à la décision (voir pour prendre des décisions automatisées) dans de nombreux contextes tels que le commerce en ligne, la finance, la justice, la police, les ressources humaines ou encore la politique. Cependant, leur prégnance et l’impact important qu’ils ont sur la société soulève aussi de nombreux risques et questionnements à tel point que certains tels qu’Antoinette Rouvroy n’hésite pas à parler de « gouvernementalité algorithmique ». Une des principales craintes soulevées par les algorithmes est leur manque de transparence de leur fonctionnement, en particulier lorsque que ceux-ci sont appris à partir de données massives grâce à des techniques avancées d’apprentissage machine telle que l’apprentissage profond, ce qui pourrait amener à l’avènement d’une « société boîte noire » comme la baptisé Franck Pasquale. De plus, cette transparence est un prérequis pour pouvoir analyser les éventuels biais que pourrait avoir l’algorithme (par exemple en discriminant par rapport à certaines catégories) et ainsi pouvoir lui demander de rendre des comptes sur le pourquoi de ces décisions en vue éventuellement de corriger certains de ces biais.
Le but de ce colloque est de discuter en suivant une approche multidisciplinaire, les questions soulevées par la transparence et la responsabilité des algorithmes telles que par exemple :
- Est ce que les algorithmes devraient être réguler et si oui de quelle manière ?
- Quelles sont les situations où la transparence est nécessaire et comment l’implémenter en pratique ?
- Comment réconcilier le besoin des entreprises de protéger leur propriété intellectuelle avec le besoin des citoyens de pouvoir comprendre la logique derrière les algorithmes qu’ils utilisent ou qui produisent un effet sur leurs vies ?
- Comment améliorer la transparence, la responsabilité ainsi que l’équité des décisions prises par des systèmes algorithmiques sans pour autant compromettre leur utilité (telles que mesurée par exemple en termes de précision ou pertinence)
Programme
8h45 – 9h15
Accueil
9h15 – 10h30
Session 1 – Propos introductifs
Présidente de session : Céline Castets-Renard
- Daniel Le Métayer – Au-delà de la transparence des algorithmes : le devoir de rendre compte
- Cynthia Chassigneux – Algorithmes et respect de la vie privée.
- Discussion, échanges avec l’auditoire.
10h30 – 11h00
Pause-café
11h00 – 12h15
Session 2 – Transparence
Président de session : Sébastien Gambs
- Vincent Gautrais – Obligation de transparence et économie de partage.
- Oana Goga – Investiguer les mécanismes de transparence pour la publicité dans les média sociaux .
- Discussion, échanges avec l’auditoire.
12h15 – 13h30
Déjeuner sur place
13h30 – 14h45
Session 3 – Loyauté, biais et discrimination
Président de session : Daniel Le Métayer
- Céline Castets-Renard – Loyauté et transparence algorithmique dans la loi française Pour une république numérique : quels contenu et effectivité ?
- Sébastien Gambs – Quantifier et mesurer la discrimination.
- Discussion, échanges avec l’auditoire.
14h45 – 16h00
Session 4 –Algorithmes et justice prédictive
Président de session : Vincent Gautrais
- Marc Clément – Les algorithmes au service du juge?
- Christelle Papineau – Le juge garant de la bonne utilisation des outils de justice prédictive : l’exemple américain
- Discussion, échanges avec l’auditoire.
16h00 – 16h30
Pause café
16h30 – 17h30
Session 5 – Table-ronde : Les algorithmes dans l’économie numérique
Président de session : Pierre Trudel
- Hugo Larochelle (Google AI)
- Nicolas Merveille (UQAM)
- Abhishek Gupta (District 3)
17h30 – 18h00
Discours de clôture : Hugo Cyr, Doyen de la faculté de science politique et de droit de l’UQAM