Weapons of Math Destruction How Big Data Increases Inequality and Threatens Democracy

Le gros problème que rencontre O'Neil avec les modèles est qu'ils se retrouvent dans une boucle de rétroaction en spirale descendante. L'exemple type dont elle parle est celui des données prédisant davantage de vols de rue dans les quartiers pauvres. En conséquence, il y a plus de patrouilles là-bas, ce qui entraîne plus de personnes arrêtées. Ce qui montrerait donc que le modèle est juste, pour qu'il y ait encore plus de patrouilles ; et ainsi de suite. Le vieil adage : si vous cherchez plus, vous trouverez plus. Il est dommage que vous ayez souvent l'impression de lire la même chose. Elle le dit elle-même ("ce sont tous les mêmes oiseaux d'une plume"), mais elle ne parvient pas à rendre la même chose explicite. Elle ne parvient pas à faire abstraction des exemples concrets qu'elle donne, ce qui rend difficile d'indiquer exactement quelle est la tendance générale de ces ADM.

Message clair et souvent sombre. Un appel à un travail sérieux sur l'éthique de la profession.

C'est très intéressant et utile

Un bon livre, mais j'avais des attentes plus élevées. Ce sont beaucoup d'histoires anecdotiques et «pourraient», où je m'attendais à plus de justification mathématique d'un mathématicien avec une certaine régularité. Oui, son point central est bien sûr comme un bus. Nous devons très bien comprendre ce que les algorithmes non transparents peuvent faire et comment nous pouvons intégrer les préjugés sociaux dans des algorithmes afin que notre société ne grandisse plus. Cependant, elle regarde beaucoup les risques et ignore dans bien des cas les opportunités qu'elle offre pour bien faire les choses. Elle examine de (mauvais) exemples de recrutement au lieu des opportunités qui sont sélectionnées en fonction de l'offre de données pertinentes, en particulier pour les minorités. C'est un bon avertissement, mais pas aussi bien fondé que je m'y attendais.

Cathy O'Neil est capable de décrire clairement les conséquences des algorithmes en constante évolution qui décident de plus en plus à notre sujet. Ce livre devrait être obligatoire pour tous les cours de gestion, d'administration publique et d'informatique.

Très intéressant et pertinent