Avec cette approche, de grandes quantit\u00e9s de donn\u00e9es (informations) sont maintenant n\u00e9cessaires pour ajuster le syst\u00e8me de mani\u00e8re appropri\u00e9e, ou comme on l’appelle, l’entra\u00eener. Elle est donc bien adapt\u00e9e lorsque de grandes quantit\u00e9s de donn\u00e9es sont d\u00e9j\u00e0 disponibles, comme de grandes quantit\u00e9s d’images de chats sur Internet, \u00e0 condition que l’on veuille entra\u00eener le syst\u00e8me \u00e0 reconna\u00eetre les chats, ou que l’on puisse les g\u00e9n\u00e9rer, par exemple en conduisant des v\u00e9hicules de test autonomes sur des pistes d’essai ou sur des routes publiques dans un trafic r\u00e9gulier.<\/p>\n\n
Pour \u00e9valuer la qualit\u00e9 de l’entra\u00eenement du syst\u00e8me d’apprentissage automatique, on utilise, par exemple, le taux de reconnaissance des objets dans les images. Dans quel pourcentage de cas l’IA a-t-elle correctement reconnu le chat ? Et comment ce taux de reconnaissance se compare-t-il aux valeurs de comparaison humaines ? Les experts en IA doivent \u00e9viter plusieurs \u00e9cueils lors de la formation du syst\u00e8me. <\/p>\n\n
Cela commence par les donn\u00e9es, qui doivent \u00eatre s\u00e9lectionn\u00e9es et trait\u00e9es de mani\u00e8re appropri\u00e9e pour reconna\u00eetre toutes les \u00e9ventualit\u00e9s \u00e0 un taux aussi \u00e9lev\u00e9. Par exemple, s’il y a un nombre disproportionn\u00e9 de visages \u00e0 la peau claire dans les donn\u00e9es d’entra\u00eenement pour la reconnaissance des visages, le taux de reconnaissance des visages \u00e0 la peau fonc\u00e9e est g\u00e9n\u00e9ralement inf\u00e9rieur \u00e0 la moyenne. Dans le secteur, on parle de \u00ab\u00a0partialit\u00e9\u00a0\u00bb. Le terme n’est pas choisi au hasard, car il est utilis\u00e9 dans la recherche en psychologie et en comportement pour d\u00e9signer diff\u00e9rents types de biais cognitifs<\/a>. Nos propres d\u00e9fauts de pens\u00e9e, de perception, de m\u00e9moire et de jugement se retrouvent automatiquement et, pour beaucoup, inconsciemment dans les donn\u00e9es avec lesquelles les syst\u00e8mes d’IA sont form\u00e9s.<\/p>\n\n Qu’est-ce que l’intelligence au sens artificiel et humain ? <\/p>\n\n\n\n Ce livre peut \u00eatre achet\u00e9 aupr\u00e8s de l’\u00e9diteur<\/a>, d’Amazon<\/a> ou des librairies.<\/p>\n<\/div>\n<\/div>\n\n La mauvaise nouvelle<\/a> est que nous n’obtiendrons jamais de biais d’un syst\u00e8me d’IA. Nous pouvons la r\u00e9duire, mais nous courons toujours le risque de l’augmenter ailleurs.<\/p>\n\n D’autres difficult\u00e9s surgissent dans la mesure o\u00f9 le syst\u00e8me d’apprentissage automatique est autoris\u00e9 \u00e0 ajuster les param\u00e8tres de l’algorithme de chaque n\u0153ud. S’il est autoris\u00e9 \u00e0 changer trop peu, le syst\u00e8me devient rigide et peut \u00eatre d\u00e9stabilis\u00e9 par des changements m\u00eame minimes dans les informations. Le syst\u00e8me a \u00e9t\u00e9 \u00ab\u00a0surajust\u00e9\u00a0\u00bb, c’est-\u00e0-dire fortement optimis\u00e9 pour certaines donn\u00e9es. Le cas contraire se produit lorsque l’on laisse les param\u00e8tres s’ajuster trop automatiquement. La fourchette de comportement pour les m\u00eames donn\u00e9es ou des donn\u00e9es tr\u00e8s similaires peut alors \u00eatre trop large, et le syst\u00e8me ne r\u00e9agit plus de mani\u00e8re pr\u00e9visible et trop surprenante.<\/p>\n\n L’apprentissage automatique et la d\u00e9mocratie pr\u00e9sentent donc certaines similitudes. Tous deux comptent un grand nombre d’acteurs qui transmettent et influencent l’information. Les d\u00e9cisions sont prises gr\u00e2ce \u00e0 la coop\u00e9ration des nombreux participants. Dans l’apprentissage automatique, ce sont les n\u0153uds, dans la d\u00e9mocratie, les \u00e9lecteurs et les d\u00e9cideurs, mais aussi les institutions et autres organisations. Les deux syst\u00e8mes sont relativement moins hi\u00e9rarchis\u00e9s et ils souffrent des m\u00eames faiblesses. La mani\u00e8re dont l’information est transmise, et la souplesse ou la rigidit\u00e9 avec laquelle ils y r\u00e9pondent, les rendent plus ou moins efficaces. L’ajustement des param\u00e8tres dans les n\u0153uds neuronaux correspond au flux naturel de sortie et d’entr\u00e9e dans les institutions d\u00e9mocratiques. S’il n’y a pas d’\u00e9change, pas d’ajustement, le syst\u00e8me devient trop rigide et son efficacit\u00e9 est limit\u00e9e face \u00e0 des informations nouvelles et divergentes. S’il y a trop d’entr\u00e9es et de sorties, les connaissances institutionnelles et le r\u00e9seau se perdent, ce qui entra\u00eene \u00e0 nouveau des inefficacit\u00e9s.<\/p>\n\n Ce sont les aspects plus techniques dans lesquels l’apprentissage automatique et la d\u00e9mocratie sont similaires. L\u00e0 o\u00f9 ils s’affrontent, c’est au moment o\u00f9 l’intelligence artificielle interf\u00e8re avec les processus d\u00e9mocratiques. Les syst\u00e8mes d’IA pr\u00e9sentant des pr\u00e9jug\u00e9s – qui, comme mentionn\u00e9 pr\u00e9c\u00e9demment, ne pourront jamais \u00eatre compl\u00e8tement \u00e9radiqu\u00e9s – peuvent d\u00e9savantager les \u00e9lecteurs ou les emp\u00eacher de participer au processus d\u00e9mocratique. Par exemple, si les minorit\u00e9s de couleur, de sexe ou d’origine ethnique sont davantage criminalis\u00e9es ou autrement d\u00e9savantag\u00e9es par ces syst\u00e8mes, cela a un impact n\u00e9gatif sur le processus d\u00e9mocratique et sur leur repr\u00e9sentation, et donc sur le traitement de ces d\u00e9savantages syst\u00e9miques par des pr\u00e9jug\u00e9s.<\/p>\n\n Les dictatures, qui sont le plus souvent hi\u00e9rarchiques, peuvent traiter les informations et prendre des d\u00e9cisions tr\u00e8s efficacement dans des environnements stables. Tous les groupes n’ont pas besoin d’\u00eatre impliqu\u00e9s dans le processus de d\u00e9cision. Ce type correspond \u00e0 l’IA d\u00e9terministe telle qu’elle a \u00e9t\u00e9 d\u00e9velopp\u00e9e \u00e0 ses d\u00e9buts jusqu’\u00e0 il y a deux d\u00e9cennies. Mais elle a \u00e9t\u00e9 abandonn\u00e9e car les arbres de d\u00e9cision devenaient trop complexes et trop sujets aux crises. Chaque d\u00e9cision avait \u00e9t\u00e9 pr\u00e9-r\u00e9fl\u00e9chie par les experts de l’IA. Une information qui n’avait pas \u00e9t\u00e9 pens\u00e9e \u00e0 l’avance dans l’arbre a conduit \u00e0 un probl\u00e8me.<\/p>\n\n Les dictatures deviennent rapidement inefficaces lorsqu’elles sont confront\u00e9es \u00e0 l’incertitude, comme l’ont montr\u00e9, par exemple, les plans quinquennaux de l’Union sovi\u00e9tique. Les nouvelles technologies et les nouvelles demandes n’ont pas pu \u00eatre anticip\u00e9es et ont entra\u00een\u00e9 une p\u00e9nurie d’approvisionnement qui s’est r\u00e9percut\u00e9e en cascade sur tous les secteurs du syst\u00e8me. De m\u00eame, les syst\u00e8mes hi\u00e9rarchiques tels que les dictatures ont tendance \u00e0 s’int\u00e9resser de pr\u00e8s \u00e0 l’information – apr\u00e8s tout, ils espionnent d\u00e9lib\u00e9r\u00e9ment tout et tout le monde et mettent en place un \u00e9norme appareil \u00e0 cet effet – mais les informations d\u00e9sagr\u00e9ables qui ne cadrent pas avec l’id\u00e9ologie sont ignor\u00e9es ou le fournisseur de ces informations est d\u00e9truit.<\/p>\n\n L’avantage de l’IA telle que nous la connaissons aujourd’hui est aussi son plus grand inconv\u00e9nient. Dans les domaines o\u00f9 des quantit\u00e9s suffisantes de donn\u00e9es n’existent pas ou ne peuvent \u00eatre cr\u00e9\u00e9es, il fonctionne de mani\u00e8re sous-optimale. De plus, nous, les humains, avons tendance \u00e0 consid\u00e9rer les informations et les mod\u00e8les que nous reconnaissons comme \u00e9tant en dehors de nos attentes ou de nos exp\u00e9riences sous un angle diff\u00e9rent gr\u00e2ce \u00e0 de nouveaux cadres ou mod\u00e8les de pens\u00e9e. Nous interrogeons les donn\u00e9es en essayant d’identifier les causalit\u00e9s, les raisons pour lesquelles elles sont diff\u00e9rentes. L’IA d’aujourd’hui est incapable de reconna\u00eetre de telles causalit\u00e9s, de d\u00e9velopper de nouveaux mod\u00e8les de pens\u00e9e, ou m\u00eame de cr\u00e9er de telles analogies, comme m\u00eame les jeunes enfants peuvent le faire de mani\u00e8re ludique dans les jeux de r\u00f4les. Un morceau de bois devient rapidement une voiture, un ph\u00e9nom\u00e8ne c\u00e9leste un ovni avec des extraterrestres. Une IA qui ne peut reconna\u00eetre que des chats ne sait m\u00eame pas ce qu’est un chat et \u00e0 quoi il sert. Et il ne sait rien des chiens, des feuilles, du soleil ou du vent.<\/p>\n\n Les cadres de pens\u00e9e et les analogies que les syst\u00e8mes d’IA utilisent ainsi sont donn\u00e9s par les humains. Et les humains les alimentent avec des donn\u00e9es g\u00e9n\u00e9r\u00e9es et s\u00e9lectionn\u00e9es par des humains. Les syst\u00e8mes d\u00e9mocratiques, en revanche, gr\u00e2ce aux acteurs humains, peuvent pr\u00e9cis\u00e9ment proc\u00e9der \u00e0 ces ajustements des cadres et mod\u00e8les de r\u00e9flexion, et apporter de nouvelles informations lorsque les donn\u00e9es et r\u00e9sultats existants ne permettent plus de relever les d\u00e9fis.<\/p>\n\n Les d\u00e9mocraties sont particuli\u00e8rement dou\u00e9es pour cela, en tout cas mieux que les dictatures. Les opinions, les exp\u00e9riences et les informations dissidentes sont supprim\u00e9es dans les dictatures, et dans les d\u00e9mocraties, elles sont sinon encourag\u00e9es, du moins tol\u00e9r\u00e9es. Cela pr\u00e9serve des perspectives et des exp\u00e9riences importantes pour le syst\u00e8me, qui peuvent \u00eatre ramen\u00e9es des marges vers le centre en cas de changements et d’incertitudes dans les conditions environnantes, et qui, gr\u00e2ce \u00e0 leurs caract\u00e9ristiques, peuvent contenir des approches pour les nouveaux d\u00e9fis. Une d\u00e9mocratie re\u00e7oit ce type d’informations et de cadres de pens\u00e9e, m\u00eame si c’est souvent de mani\u00e8re accidentelle ; les dictatures, en revanche, cherchent activement \u00e0 les d\u00e9truire. L’IA elle-m\u00eame ne conna\u00eet m\u00eame pas ces concepts.<\/p>\n\n Aujourd’hui, les math\u00e9maticiens en particulier tentent de cr\u00e9er des approches qui, si elles n’\u00e9radiquent pas les faiblesses des syst\u00e8mes d\u00e9mocratiques gr\u00e2ce \u00e0 des algorithmes appropri\u00e9s, visent au moins \u00e0 les optimiser. \u00c0 l’universit\u00e9 de Harvard, par exemple, un tel cours<\/a> est propos\u00e9 depuis cette ann\u00e9e par la School of Engineering and Applied Sciences. Si d\u00e9j\u00e0 dans les premi\u00e8res d\u00e9mocraties \u00e0 Ath\u00e8nes, les citoyens masculins et adultes de la ville \u00e9taient admis aux \u00e9lections, qui devaient \u00e9galement \u00eatre pr\u00e9sents, et que les femmes ou les esclaves ne pouvaient pas participer \u00e0 la prise de d\u00e9cision, la d\u00e9mocratie am\u00e9ricaine \u00e9tait aussi initialement limit\u00e9e aux hommes. Et ils recevaient alors selon le nombre d’esclaves dans leur propri\u00e9t\u00e9 ou dans leur \u00e9tat, des parts \u00e9lectorales correspondantes.<\/p>\n\n La d\u00e9mocratie, cependant, n’est pas un probl\u00e8me d’optimisation comme en math\u00e9matiques. De nombreux syst\u00e8mes d\u00e9mocratiques ont \u00e9t\u00e9 d\u00e9lib\u00e9r\u00e9ment construits avec certains biais pour diverses raisons. Le syst\u00e8me du coll\u00e8ge \u00e9lectoral aux \u00c9tats-Unis, comme c’est d\u00e9j\u00e0 le cas au Royaume-Uni, donne \u00e0 un parti majoritaire une plus grande part des voix, avec la volont\u00e9 de cr\u00e9er plus rapidement un gouvernement fonctionnel. Dans chaque circonscription, les gagnants obtiennent alors tous les mandats. Dans d’autres pays, il y a une plus grande repr\u00e9sentation lors des votes, ce qui est cens\u00e9 conduire plus souvent \u00e0 des coalitions et donc \u00e0 un besoin de compromis. Ainsi. D’autres possibilit\u00e9s de biais d\u00e9mocratique sont concevables et utilis\u00e9es. Par exemple, certaines r\u00e9gions ou zones m\u00e9tropolitaines sont favoris\u00e9es plus que d’autres en raison de leur force \u00e9conomique ou de parts de population sans droit de vote, comme un grand nombre d’enfants.<\/p>\n\n Comme nous pouvons le constater, l’apprentissage automatique et l’IA nous permettent de jeter un regard neuf sur le fonctionnement des syst\u00e8mes d\u00e9mocratiques. L’interaction des acteurs d\u00e9mocratiques ressemble \u00e0 certains \u00e9gards \u00e0 celle des r\u00e9seaux neuronaux. Les m\u00e9thodes que les syst\u00e8mes ML\/AI am\u00e9liorent pourraient constituer une approche pour les d\u00e9mocraties. Et, gr\u00e2ce aux lacunes de l’IA d’aujourd’hui, ils affinent notre vision des forces r\u00e9elles des d\u00e9mocraties et, inversement, de ce que l’IA et le ML peuvent apprendre des d\u00e9mocraties.<\/p>\n\n Le physicien th\u00e9oricien Sean Carroll a abord\u00e9 ce sujet avec son invit\u00e9 Henry Farrell sur le podcast Mindscape et a inspir\u00e9 ce billet.<\/p>\n![\"Wenn](\"https:\/\/i0.wp.com\/technophilosoph.com\/wp-content\/uploads\/2019\/11\/waval.jpg?resize=314%2C500&ssl=1\")
<\/a><\/figure><\/div>\n\n\n\nWenn Affen von Affen lernen<\/h3>\n\n\n\n
Le terrain d’entente avec la d\u00e9mocratie<\/h3>\n\n
Les contrastes<\/h3>\n\n
L’optimisation de la d\u00e9mocratie<\/h3>\n\n
Conclusio<\/h3>\n\n
Recommendation podcast<\/h3>\n\n