Anonymisation des données personnelles : l’arbre qui cache la forêt
BILLET : Tel un cheval de Troie, ce prétendu souci éthique des entreprises pourrait servir à renforcer encore davantage le « dataisme » , met en garde Julien de Sanctis. Les data pourraient correspondre à un élargissement du concept heideggérien d’arraisonnement de la nature et de l’homme par la technique : nous devenons peu à peu «transparents» à des dispositifs techniques qui, eux, restent plus que jamais des boites-noires.
Diplômé de l’ESSEC et de l’Université Paris Panthéon-Sorbonne, Julien De Sanctis est doctorant à l’UTC en Philosophie et Ethique appliquée à la robotique interactive. Il effectue sa thèse en CIFRE avec Spoon, une jeune start-up créée fin 2015. Chroniqueur pour iPhilo et La Pause Philo, il travaille avec l’agence Thaé qui promeut la philosophie pratique auprès d’acteurs privés comme les entreprises.
La privacy by design (protection de la vie privée dès la conception en français) est un pan de l’éthique du numérique qui semble parfois constituer son alpha et son oméga – et ce depuis bien plus longtemps que l’entrée en vigueur du RGPD (Règlement général sur la protection des données entré en vigueur en 2016 au sein de l’Union européenne). Même les GAFA, BATX et autres gloutons datavores semblent se féliciter du progrès de la cause, leur «réputation» étant bien plus précieuse que toutes les contraintes et difficultés techno-juridiques engendrées par le respect de la vie privée.
Lire aussi : Sortir les intelligences artificielles de l’ombre (Julien de Sanctis)
Loin de moi l’idée de remettre en cause l’importance de ce respect : la vie privée est et doit rester une dimension de nos vies numériques qu’il s’agit de protéger. Toutefois, je m’inquiète du poids écrasant que cette thématique prend dans le débat public. Car les questions de privacy by design ne sont que les conséquences d’une cause qui, elle, est rarement mise en question, si ce n’est par quelques penseurs peu médiatisés ou trop radicaux pour être audibles. Cette cause, c’est bien sûr l’économie des données, nouvelle vache à lait du système économique mondial, charriant, dans son institution actuelle, des valeurs d’efficacité et de rapidité mises au service d’une vision purement instrumentale du monde et de l’humain.
Je vois dans cette extension du domaine du marché, une nouvelle conquête de l’arraisonnement heideggérien. Selon Heidegger, l’arraisonnement (gestell) est le rapport au monde constitutif de la technique moderne. Il se caractérise par une forme de prédation où la nature est perçue sous l’unique angle de la ressource – ce que Heidegger nomme «fonds disponible» – extractible et cumulable indéfiniment. Le plus grand danger, selon le philosophe, est que l’humain lui-même finisse par s’intégrer à l’arraisonnement. On peut se demander si le système techno-économique n’a pas déjà réalisé cette intégration depuis longtemps en faisant de nous des «consommateurs», c’est-à-dire des apôtres inconscients de cette prédation envers la nature et envers nous-mêmes. Si l’on admet cette idée, il devient flagrant que le «dataisme» représente une nouvelle expression de l’arraisonnement, sur le mode de l’extension. Ici, le fonds disponible à l’exploitation n’est plus directement la nature, mais l’humain lui-même, dans ses divers états et comportements. L’humain vu sous l’angle exclusif de la consommation est un porte-monnaie dans lequel il est interdit de venir piocher directement et qu’il s’agit donc d’ouvrir par toutes sortes de moyens détournés (telle l’invention de «besoins» divers, faisant de nous des êtres en manque perpétuel de quelque chose). Le dataisme est le nouveau moyen privilégié d’ouverture de ce porte-monnaie, assurant ainsi l’autoperpétuation du système économique institué : les données fragmentent les individus en dividus «manipulables» à diverses fins, notamment commerciales. Dans ce cadre, nous devenons peu à peu «transparents» à des dispositifs techniques qui, eux, restent plus que jamais des boites-noires.
Lire aussi : Sommes-nous vraiment «déjà devenus des cyborgs» ? (Julien de Sanctis)
Le risque de violation de la vie n’est donc qu’un symptôme qu’il est nécessaire de traiter, mais qui ne résume absolument pas l’ensemble du défi éthique auquel nous confrontent le numérique et les intelligences artificielles. Il y a des «causes» que je refuse de servir en cédant mes données, mêmes anonymisées. Je refuse, par exemple, que cette matière première aide certaines organisations à mieux nous «profiler» pour faire de la publicité ciblée ou construire une «expérience client qui nous ressemble», autre façon de dire «nous faire légalement les poches». Luttons donc pour le respect de la vie privée, mais n’en faisons pas l’arbre qui cache la forêt. Ici, la grande question éthique est celle des intentions que nous souhaitons servir avec nos données, anonymes ou non.
Diplômé en Gestion (ESSEC Business School) et en Philosophie (Université Paris Panthéon-Sorbonne), Julien De Sanctis est doctorant à l’UTC en Philosophie et Ethique appliquée à la robotique interactive. Il effectue sa thèse en CIFRE avec Spoon, une jeune start-up créée fin 2015. Julien est également chroniqueur pour iPhilo et le blog de vulgarisation philosophique La Pause Philo. Parallèlement à ces activités académiques et d’écriture, Julien travaille avec l’agence Thaé qui promeut la philosophie pratique auprès d’acteurs privés comme les entreprises, notamment via l’organisation d’ateliers philosophiques ou l’accompagnement des comités stratégiques.
Commentaires
Excellent article qui résume très bien l’étendue des problèmes. Ça fait un peu peur… précisément car l’éthique sert de paravent à ce qu’elle doit normalement traiter. On ne parle pas suffisamment de cette question qui va au-delà des data : les entreprises font entrer l’étique dans le champ de la communication et du marketing. La morale devient alors le moteur d’une forme de propagande.
par Mme Michû - le 13 décembre, 2018
Cela m’intéresse beaucoup cet aperçu de la pensée de Heidegger, et le concept d’arraisonnement. Il semblerait que Heidegger voit dans l’instrumentalisation de toutes les dimensions de la vie par le biais de la technique une caractéristique de la modernité, si je comprends bien. Cela voudrait dire, donc, que Heidegger ferait une opposition entre… « ancien » et « moderne », et comment donc, caractérisait-il la technique dans le monde « ancien » ?
Je sais que je radote sur ce site, depuis le temps, mais je ne peux pas m’empêcher, encore une fois, de dresser les oreilles ? yeux ? en voyant le mot « prédation ».
A l’heure actuelle, je vois une… incompréhension considérable autour de ce mot, et même une torsion sémantique (perversion). Un certain sentimentalisme qui voudrait que le monde soit rose bonbon 24h/24, et que nous vivions… dans le jardin d’Eden (sans religion, bien entendu), pousse à penser que la prédation est foncièrement mauvaise, et avec la prédation, le prédateur.
Mais cette position est réductrice, et… sentimentale pour un monde complexe, comme le nôtre.
Pour le « piocher DIRECTEMENT » ou par moyens détournés, on peut y voir l’expression de ce très vieux paradoxe qui oppose l’expérience « directe » ou « indirecte » : exemples : la fourchette/couteau/cuillère pour manger la nourriture constitue une forme d’écran, donc, un moyen détourné/indirecte de satisfaire le désir de manger, alors que les doigts, tout en étant instruments, sont plus directes, mettons.
Depuis que l’Homme est l’Homme il semble dresser un écran (l’écran de la conscience ?) entre lui et son expérience, et la satisfaction de ses.. « besoins » ? « désirs » ? (On peut discuter pendant des jours sur la différence entre ces registres.)
Et cet écran est devenu symbole, et synonyme de civilisation à ses yeux maintenant.
par Debra - le 13 décembre, 2018
Bien d’accord avec vous :nous sommes de plus en plus » arraisonnés « . Souvent ça nous arrange, d’ailleurs : si un algorithme a repéré mon intérêt pour la philo et m’envoie une pub pour me signaler le prochain livre de Julien De Sanctis , qui s’en plaindra ? Pas vous, j’imagine, pas moi non plus . Mais, bien sûr, nous voyons bien le danger : si mon voisin de palier est repéré comme d’extrême-gauche ou d’extrême-droite et se trouve bombardé d’informations lui permettant de baigner quotidiennement dans son jus, donc de devenir chaque jour un peu plus fanatique, pas sûr que la collectivité y trouve son compte . C’est d’ailleurs déjà ce qui se passe dans les » groupes Facebook » : c’est confortable car on n’y rencontre que des gens du même bord…mais justement, ça tourne en rond ! Et ça finit même par ne pas tourner rond , comme on vient de le voir avec les thèses complotistes délirantes circulant sur les sites de certains Gilets Jaunes.
par Philippe Le Corroller - le 13 décembre, 2018
» les questions de privacy by design ne sont que les conséquences d’une cause qui, elle, est rarement mise en question, si ce n’est par quelques penseurs peu médiatisés ou trop radicaux pour être audibles. Cette cause, c’est bien sûr l’économie des données, nouvelle vache à lait du système économique mondial, charriant, dans son institution actuelle, des valeurs d’efficacité et de rapidité mises au service d’une vision purement instrumentale du monde et de l’humain. »
Vous soulevez bien là la problématique. Si on pose la question là où elle doit être posée on est inaudible ou traité de trop radical.
Pourtant toutes les problématiques sociétales contemporaines reposent sur un seul problème, celui du système (néo) libéral. Problème que soulèvent d’ailleurs sans le savoir les Gilets Jaunes.
Je pense que si nous changions de système, mais ce changement est déjà en cours et est inéluctable, tous ces problèmes s’éteindront de facto. A condition cependant de changer radicalement.
Bref il faut soulever les problèmes à leur racine. C’est vrai je suis trop radical…problème à la racine.
par Olivier MONTULET - le 13 décembre, 2018
Bonjour,
Anonymat dites-vous?Alors que nous sommes espionnés,spoliés,ruinés de tout part à tout instant?Ce besoin d’exister,dans un pseudo anonymat,(pour le meilleurs et le pire),aux yeux et aux oreilles du monde:que représente t’il ?
A qui profite t’il?Nous croyons être libres?Nous sommes esclaves!
Se montrer,se raconter,se mirer,s’admirer,dire tout de soi,n’importe quoi.Cette matière première qui profite aux accumulateurs avertis de données.
Nouveau lien social en l’absence d’un autre devenu obsolète,désuet.
Mais comme toujours,réguler les flux de la technique,n’atteint pas ou n’atteindra pas la sphère de la politique,puisque ces firmes surpuissantes,(financièrement)seront devenues plus efficientes,plus fortes que tous les états.
Plus nous nous livrons tels quels,moins nous nous protégeons et plus nous serons dépendants,connectés,et plus que jamais ad-dictes; esclaves sous le contrôle de froides intelligentes machines sous vide(IA.)
Les nouveaux maîtres du monde,ne pensent pas:
Ils œuvrent
A l’ouvrage
De manœuvres…
par philo'ofser - le 14 décembre, 2018
Mon approche du monde en devenir se base essentiellement sur deux ouvrages relativement célèbres qui devraient figurer en bonne place dans la culture estudiantine : « Le meilleur des mondes » anticipation prophétique d’une société « idéale »mécanicienne, et scientiste décrite par Aldous Huxley en 1932, et son pendant « 1984 » dont l’auteur Georges Orwell analyse le phénomène bureaucratique dictatorial et totalitaire communiste ( ex « URSS » mais la Corée du Nord en est la parfaite illustration, voire la Chine Communiste ) et la manipulation mentale des populations par la falsification totale de l’Information dans tous les domaines. Nous avons opté pour une dictature douce qui utilise les instruments décrits dans ces deux ouvrages, c’est à dire la dictature de la pensée à notre insu et avec notre consentement aveuglè. La pensée unique ressemble furieusement à la « Novlangue » et l’invective se substitue au débat. Le behaviorisme anglosaxon utilisera avec délice ces recueils massifs de données en élaborant des stratégies ciblées à la limite de la surveillance individuelle. Les informations médiatisées et télévisuelles sont de plus en plus restrictives et régentent nos sources supposées d’intérêt. Notre liberté d’agir et d’exister rétrécira jusqu’à disparaître avec l’informatisation totale gérée par des intelligences artificielles sans morale ni « états d’âme » en cours d’élaboration . Réfléchissons à l’usage que de futurs dictateurs pourraient faire de cette puissance numérisée du « fichage individuel » ainsi que des découvertes en biologie, génétique, et exploration du cerveau humain. Quelques signaux nous parviennent déjà de la Chine, de la Corée du nord, … sera -t-il bientôt trop tard ?
par Gerard Abate - le 17 décembre, 2018
Laissez un commentaire